数学优化是运筹学与控制论学科一个非常重要的分支,其核心内容是研究最优化理论及数值算法.在过去半个多世纪,数学优化已经被广泛应用于工业设计、交通运输、军事国防、经济规划等实际领域.近年来,随着大数据、人工智能、机器学习等领域的兴起,数学优化日益发挥其重要作用.共轭梯度法是数学优化的一类重要数值方法,其算法结构简单、存储量小、收敛性好,尤其适合于求解大规模优化问题.传统的共轭梯度法侧重于求解光滑的无约束优化问题,该方面的研究已经取得了丰富的成果.本学位论文主要研究求解大规模非线性方程组和非光滑优化问题的最小二乘三项共轭梯度法.首先,基于最小二乘逼近技术,提出求解大规模非线性方程组的新型三项共轭梯度法.该方法利用最小二乘技术构建了一个新型搜索方向,旨在充分结合现有三项共轭梯度法的优点,提升计算效率.在不依赖于任何线搜索的条件下,算法产生的方向具有充分下降性.在适当的假设下,证明了算法的全局收敛性及线性收敛速度.初步的数值试验表明,该方法对于求解大规模非线性方程组是稳定、有效的.其次,针对非光滑无约束凸优化问题,提出了两个基于最小二乘的三项共轭梯度法.利用Moreau-Yosida正则化技术,将非光滑凸优化问题转化为一个光滑问题.再利用光滑问题的近似梯度及最小二乘逼近思想,构造新型三项共轭梯度方向,使其在不依赖于线搜索的情况下具有充分下降性.通过两种不同的线搜索产生步长,从而得到两个相应的算法.在适当的条件下,两个算法均具备全局收敛性.初步的数值试验亦显示了算法的有效性.最后,对论文进行总结与展望,指出今后可进一步研究的工作.