论文部分内容阅读
EM算法是一种求参数极大似然估计的迭代算法,在处理不完全数据中有重要应用。它的最大优点是实现简单;数值计算稳定;存储量小;特别是,每一次迭代能保证观察数据对数似然函数是单调不减的。但EM算法最大的缺点是收敛速度缓慢,只是次线性的收敛速度,妨碍了EM算法的应用。 论文使用非线性最优化中变尺度法的对称秩2校正公式对EM算法进行改进,给出了EMD、EMB、EMDB三种新的加速算法。它们都是针对EM算法的M步的,在共享EM算法单调增加似然函数值和稳定收敛的基础上提高EM算法的收敛速度并保持了EM算法的收敛性质。 论文研究了EM算法的改进和应用。 首先,概述了EM算法的研究背景、历史意义及目前国内外学术的研究动态,使读者了解到EM算法的地位和影响及论文选题的重要性,并给出了论文所涉及到的主要理论基础。 其次,介绍了EM算法的形式化定义,针对EM算法的性质(收敛性和单调性)给出推导证明,使读者清楚了EM算法所涉及的理论的简单化和普适性,这也是它应用广泛的主要原因。 最后,利用非线性最优化中变尺度法的DFP公式、BFGS公式、DFP与BFGS联合公式对EM算法的M步条件期望极大化的求解中进行公式校正,得到了EMD、EMB、EMDB三种新的加速算法,从而达到加速收敛的目的,并对三种公式的优缺点进行比较研究,查漏补缺不断优化,对其良好的性质给出了证明,同时用数值实验进行模拟,验证了加速算法的有效性和可行性。