论文部分内容阅读
最近几年关于修正共轭梯度法的研究成果很多.已提出了多种形式的修正共轭梯度法,这些算法的一些共同优点是能产生不依赖于线性搜索的充分下降方向.在一定条件下,这些算法用于求解非凸光滑函数优化问题时具有收敛的性质.本文在已有工作的基础上研究求解两类非光滑最优化问题的修正共轭梯度法.
首先,对非光滑凸函数的极小化问题,利用Moreau-Yosida正则化将其转化为一个等价的光滑凸函数极小化问题.由于该问题的梯度计算量太大,我们利用一个近似梯度,提出一种求解非光滑凸函数极小化问题的修正Fletcher-Reeves(MFR)算法.注意到此MFR算法产生的方向不能保证是目标函数的下降方向,我们采用一种非单调线性搜索技术,并证明在一定的条件下,采用非单调线性搜索的MFR算法具有全局收敛性,
本文的另一项工作是研究求解L2-L1/2正则化问题的算法.我们在与问题等价的非光滑方程组的基础上提出一种MFR算法.该算法产生的点列使得相应的目标函数值序列单调递减,并在适当条件下证明这种方法的全局收敛性.