论文部分内容阅读
近几年来,独立分量分析(Independent Component Analysis, ICA)已经成为信号处理和神经网络等领域的研究热点。由于具有优异的盲辨识、特征提取和表示能力,ICA已经日益广泛的应用于远程通信、语音提取(盲辨识)、图像增强和生理信号处理等领域。和基于非线性去相关(Nonlinear Decorrelation)原理的最大似然估计(Maximum Likelihood Estimation, MLE)、最小互信息(Minimum Mutual Information, MMI)等的多元ICA估计不同,最大非高斯估计(Maximum Nongaussianity Estimation)是典型的一元目标函数方法。其思想是通过寻找观测信号的某种线性变换,使得输出信号的非高斯性极大,从而实现潜在独立分量的提取。和非线性去相关方法比较,最大非高斯估计的原理简单、实现灵活,其中基于负熵近似的快速不动点算法(FastICA)已经成为当前最为流行的ICA算法之一。本文重点研究最大非高斯估计的相关理论问题,包括估计的唯一性,算法的收敛性,独立性约束分析和非线性激活函数,独立分量的排序和子空间的选择,具有时间结构信息的信号源的估计等。论文的主要贡献在于以下几个方面:1.最大非高斯估计的唯一性估计的唯一性是最大非高斯估计的关键,是对应算法及其应用可行性的保证。最大非高斯估计的唯一性要求在满足ICA的基本约束条件下,目标函数的极大非高斯点和独立源之间存在一一对应关系。和基于启发性分析等传统方法和结论比较,文中引入了线性化可行方向(Linear Feasible Direction, LFD)等约束优化概念和理论,首次给出了基于峭度的最大非高斯估计的唯一性证明,指出最大非高斯估计是独立源提取的充分和必要条件。研究还表明,对于多元目标函数方法中提出的核心问题——一比特匹配(“one-bit-matching”)猜想,最大非高斯估计的唯一性结论提供了一种简单而有效的分析和证明方法。2. FastICA算法的全局收敛性在解析FastICA算法基本原理的基础上,给出了算法的全局收敛性分析。其中以二维系统为例,首先给出所有的平衡点,结合收敛域和平衡点的对应关系,指出在满足ICA模型的基本假设条件下,FastICA算法不存在对应独立分量之外的伪解。研究表明,这一结论还可以直接推广到高维系统。其次,考虑实际系统并不能够严格满足ICA模型的基本约束,结合仿真实验分析,指出收敛门限设置和独立性约束对估计结果的影响。3.参数自适应FastICA算法非线性激活函数(Nonlinear Activation Function)和独立性约束密切相关,是ICA估计的关键因素之一。最大似然估计等研究表明,最好的非线性激活函数是对应源信号概率密度函数的得分函数(Score Function)。在传统FastICA算法中,要求先根据存在的先验知识选定合适的非线性激活函数,而且对于所有的甚至包含不同类型的源信号,通常采用固定的同一激活函数。为此,