本文研究求解非线性约束优化问题的一类无惩罚型算法的性质、数值表现及其应用.这类算法的显著特点是不使用罚函数,从而回避了难以确定合适的罚因子的问题,同时算法也不使用比较常见的过滤技术,这就使得算法不需要额外的存储空间和计算量来存储和维护滤子,也避免了滤子对有效尝试步的阻碍作用.因此算法具有良好的性质和应用价值.算法的核心思想是对可行性的控制.在约束优化中,可行性的改善是具有一定的优先性的.在迭代过程中,算法要求尝试点的不可行度不超过一个上界.在这个上界容许的范围之内减小目标函数.通过动态地递减地调节不可行度的上界,算法得以全局收敛到一个一阶稳定点.算法的另一个重要思想是保持可行性和最优性之间的平衡.达到这一目的的方式是比较可行性度量和最优性度量或者比较目标函数和不可行性度量的预测下降量.据此,算法决定当前是以改善可行性为主还是以减小目标函数为主.除此以外,当算法的主要目标是减小目标函数时,算法要求目标函数的下降量相比可行性违反度不能太小.本文在SQP信赖域方法和内点法两大框架下研究了这类算法的性质. SQP算法和内点法是数学规划中最为成熟,应用最为广泛的两类算法.我们首先在等式约束优化问题的Byrd-Omojokun复合步信赖域算法的框架下给出算法的基本框架并给出全局收敛性分析.随后对算法进行改进并进一步进行收敛性分析.然后再将算法推广到求解等式和简单界约束优化问题和不等式约束优化问题的情形.给出解这两类问题的信赖域算法同时对算法的结构进行改进.数值试验表明,算法是比较有效的.然后本文分别在障碍函数内点法和中心邻域内点法框架下讨论了这类算法的表现.首先给出了无惩罚型障碍函数内点法的算法框架,分析了算法的全局收敛性并进行数值试验.其次,在中心邻域内点法这一部分中,考虑如何更有效地避免算法对有效尝试步的阻碍作用.这一部分给出的算法保留了前面章节的算法的基本思想同时做出了较大的改进以减小对尝试步的阻碍作用.同时这一部分分析了算法全局和局部收敛性.在最后一部分,我们给出了非线性互补问题的一种新的等价的非线性规划形式.转化后的优化问题在可行点处满足MFCQ,同时相应的LP或QP子问题总相容,因而相比原来的问题形式要容易求解.将前面给出的算法的基本思想应用于这个约束规划问题.在实际应用时,针对可能出现的算法收敛于局部最优解的问题,我们给出了一个解决的办法.数值试验表明这种解非线性互补问题的策略是比较有效的.