20世纪60年代，在解决大规模的最优化问题和均衡问题的过程中，变分不等式被引入到运筹学这个学科中，并引起了学者的浓厚兴趣和深入研究。几十年来，变分不等式仍然活跃在运筹学的舞台上并且不断拓展它的应用领域。 变分不等式问题作为解决大规模最优化问题和均衡问题的有效工具，它的理论已趋成熟，算法日益完善，应用范围不断扩展。变分不等式问题和最优化问题、均衡问题、不动点问题、互补问题都有很好的联系。变分不等式问题的算法层出不穷，除了传统的线性迭代外，辅助函数法、割平面法等方法不断涌现。在应用方面，变分不等式问题被应用在交通问题优化、成本收益问题、工程中的最优控制等方面。变分不等式问题在研究领域日渐成熟的同时，也面临层出不穷的新挑战。变分不等式中函数的性质牵制着算法的可行性，甚至工程中出现一些不能用传统变分不等式描述，但是方程类似变分不等式的情况。 本文从传统的变分不等式理论开始，系统研究了其性质和算法。并且拓展到广义单调下面的变分不等式性质和算法研究。本文在系统定义并分析广义单调、广义伪单调、拟单调性质的基础上，主要针对割平面算法进行深入探讨，揭示了割平面算法可以用于单调性质较弱的变分不等式问题的本质，并由此引起一些启发。本文还对一类推广了的变分不等式，即η-变分不等式进行了研究。定义了一族η-单调性质，结合函数的invex性质，探讨了各个η-单调之间的关系，并举出了不少正反例子说明其性质存在的现实意义。在系统讨论η-单调的基础上，本文对刀一变分不等式的算法进行了研究，并证明了其收敛性。本文的创新之处主要包括：(1)定义了各类广义单调性质，把这些性质完善成为一个互相联系的系统，并且和函数的凸性有效地联系起来；(2)揭示了割平面算法可以运用在较弱的单调条件下的变分不等式问题的本质是割平面性质；(3)完善了η-变分不等式理论，并创造出了相应的小步长辅助函数算法。