论文部分内容阅读
非线性共轭梯度法是一种重要的优化算法,其迭代过程简单,所需储存信息的空间小且具有超线性的收敛速度。由于社会和计算机技术的快速发展,求解大规模的无约束优化问题越来越普遍。共轭梯度法作为此类问题的首选方法受到学者们的广泛关注。经过多年发展得到了不同形式的共轭梯度法,例如修正共轭梯度法、比例共轭梯度法和融合共轭梯度法。论文给出了三种不同形式的融合共轭梯度法,分别是mLS-DY算法、PHS-DY算法和mHS-CD算法,并使用mHS-CD算法对ARMA模型的参数进行了估计。 首先介绍了六种经典共轭梯度法,分别是FR算法、PRP算法、HS算法、LS算法、CD算法和DY算法,接着给出了目前融合共轭梯度法的三种重要形式以及时间序列建模的基本知识。 其次给出了一种参数形式的融合共轭梯度法—mLS-DY算法。通过调节参数的取值,不仅能够扩大算法的适用范围,也可以改善算法的数值表现。加入的扰动因子简化了计算过程,提高了算法的效率。在强 Wo lfe线搜索下建立了全局收敛性,通过一系列数值实验,比较了所提算法与NLS-DY算法的数值表现。 再次将HS算法和DY算法通过凸组合的方式进行融合得到了PHS-DY共轭梯度法。该算法构造了新的搜索方向公式,迭代过程中的所有方向都是充分下降的,且不依赖于任何的线搜索。在推广的Wolfe线搜索下给出了全局收敛性的证明,数值算例验证了算法的有效性。 最后以投影的方式构建了mHS-CD融合共轭梯度法。该算法在Wolfe线搜索下是全局收敛的,产生的搜索方向满足充分下降性。使用mHS-CD法对自回归移动平均模型的参数进行估计,改善了模型的拟合效果。实例分析充分表明了所建的ARMA模型是可行的。