本篇论文的研究分三部分： 第一部分，应用近年来出现的一种新的方法一例外簇方法，研究变分不等式和互补问题的解的存在性问题。首先，作者研究R~n空间中变分不等式解的存在性。通过提出了一个新的例外簇概念，证明了变分不等式或者有解，或者对任意的∈K，有关于的一个例外簇。借助于例外簇的这条性质，通过证明了变分不等式没有关于的一个例外簇，来说明变分不等式有解，从而得出一个变分不等式解的存在性定理。之后，作者将结果推广到Hilbert空间，比较了我们所提出的例外簇概念与其它的例外簇概念的关系，并得到了Hilbert空间中变分不等式有解的一些充分条件。最后，研究R~n空间中拟变分不等式解的存在性。作者将变分不等式的例外簇概念推广至拟变分不等式的情形，证明了拟变分不等式或者有解，或者有例外簇存在。从而，得到了拟变分不等式和拟互补问题有解的一些充分条件。 第二部分，研究非单调变分不等式的解的存在性条件。作者引入一类很广泛的非单调映射—松弛η～α伪单调映射，这类映射不同于Brezis所定义的伪单调映射，包含单调映射、p-单调映射、松弛单调映射、松弛η—α单调映射和Karamardian定义的伪单调映射为特例。作者首先在自反Banach空间中研究F是半连续的松弛η—α伪单调映射的似变分不等式的解的存在性条件，分别得到了当K为有界闭凸子集及K为无界闭凸子集时似变分不等式的解的存在性条件。之后，又在赋范空间中研究一类带有稠密半连续松弛μ伪单调映射的变分不等式解的存在性，分别得到了K有界和K无界时变分不等式的解的存在性条件。 第三部分，研究平衡约束优化问题的可行性和最优性条件。首先，作者讨论Fukushima-Pang的可行性条件和Wan的可行性条件之间的关系，给出平衡约束优化问题的两种可行性条件，讨论它们与现有的可行性条件的关系，并给出该问题的一阶最优性条件。其次，我们研究Luo的带仿射变分不等式约束优化问题，其中上水平约束Z不仅含有线性不等式约束，而且含有等式约束情形时的一阶最优性条件，同时还给出了Z的切线锥的表达式。最后，我们应用Mordukhovich广义导数方法，在较弱的约束规范性条件—静态条件下，研究当f，g，h，G，H为非光滑函数时，互补约束的优化问题(MPCC)的最优必要性条件。