变分不等式问题起源于数学物理问题和非线性规划。长期以来，变分不等式问题已被广泛应用于构建和研究金融学、运筹学、交通规划及区域科学等领域产生的各种均衡模型。因其在数学规划研究中的重要作用，变分不等式问题的有效求解正成为当今变分不等式问题研究的重要方面。由于对变分不等式问题直接进行求解难度很大，许多研究工作者设想了很多间接求解变分不等式问题的方法，其中最重要的分支之一是将其转化为等价的（无）约束优化问题，以便于运用成熟的最优化方法得以解决。 非线性（无）约束的最优化理论与方法的研究，由整体收敛性和局部收敛速率两部分构成，其中线搜索技术与信赖域策略是保证算法的整体收敛性的两个重要手段。同时，伴随着计算机的发展和软件的完善，最优化问题的数值求解正变得越来越实际可行。 本文主要针对有界约束、线性约束、非线性约束及一般凸约束的单调变分不等式问题，引入Fukushima及Peng介绍的各种势函数，将变分不等式问题转化为等价的（无）约束优化问题，提出了各类结合非单调线搜索技术的仿射变换内点信赖域方法。 在构造约束优化问题的信赖域子问题过程中，本文通过引入一些仿射矩阵技巧性克服了有界约束、线性等式和不等式约束带来的困难，构建了近似二次函数和具有常用的椭球约束信赖域子问题。解此子问题即得可行的迭代方向，通过非单调线搜索获得下一迭代点并可保证目标函数有足够下降量。在合理的假设条件下，所给出的这类算法具有整体收敛性和局部二次收敛速率。 最优路径法及修正梯度路径法是解无约束优化问题时的常用方法，由于具有构造简便，易于编程计算等优点，这些弧线路径法已经成为求解大规模问题的一种重要方法。在本文中，通过引入仿射变化矩阵，构造了约束优化问题的仿射变换最优路径。沿着最优路径搜索得到迭代方向，当该迭代方向步不严格可行时，利用线搜索技术得到可接受的步长因子，并且此步长因子保证了新的迭代点有足够的下降量并且位于可行域的内部。由于最优路径是通过信赖域问题得到的，因此具有非常良好的性质。文章证明了最优路径仿射内点算法具有整体收敛性和局部二次收敛速率。 另外，基于变分不等式问题的无约束优化问题（Peng）的势函数，将线性约束变分不等式问题转化为等价的约束优化问题，提供了结合非单调线搜索技术的仿射变换内点修正梯度路径方法。考虑将信赖域子问题中的信赖域约束去掉，沿着修正梯度路径搜索并结合回代线搜索技术，可以近似的求解信赖域子问题。文中证明了在合理的假设条件之下，算法具有整体收敛性。若在算法中引入线性化变分不等式问题，同样可得局部超线性收敛速率。 投影梯度法是解决凸约束最优化问题的一类有意义的方法，本文中对于凸约束的单调变分不等式问题产生的信赖域子问题，采用近似投影梯度算法对其进行求解，既避免了反复求解信赖域子问题，又保证了算法具有整体收敛性和局部二次收敛速率。算法的数值结果表明了有效性和可行性。 变分不等式问题和最优化问题与KKT系统之间具有紧密的联系，特别是一般的非线性约束变分不等式问题可以转化为KKT系统。本文一方面考虑对非线性约束变分不等式问题的KKT条件进行重构，转化为等价的约束优化问题，提供了仿射内点信赖域方法进行求解。另一方面对一般的KKT系统进行研究，给出了求解KKT系统的仿射内点Levenberg—Marquardt（L—M）方法。将KKT系统转化为等价的非负约束优化问题，然后使用L—M方法求解该约束优化问题。在合理的假设条件下，证明了这两类算法的整体收敛性及超线性收敛速率。 最后本文对所做的研究工作进行总结，特别是创新点小结，并提出了进一步的研究方向。