论文部分内容阅读
典型相关分析(canonical correlation analysis:CCA)是有效地评估两组变量之间相关性的一种重要的工具。CCA理论与方法已经广泛应用于聚类分析、模式识别、数据分类、主分量分析及生物信息学等领域。 多组变量间的最大相关问题(MCP)作为CCA的一种重要推广在许多应用领域上起着重要作用。应用Lagrange乘子理论可知,MCP的解满足的一阶最优性条件为多元特征值问题(MEP)。Horst方法(也称为幂法)是由Horst提出的求解多元特征值问题(MEP)的一种较早的数值方法。Gauss-Seidel迭代是由Chu和Watterson提出的对 Horst方法的一种改进格式。P-SOR迭代方法是由孙继广将SOR的加速思想与Horst方法结合提出的,它是Gauss-Seidel迭代法的推广。P-SSOR方法是对P-SOR方法的改进。已有的理论表明,前述几种方法可以求得MEP的解,但不保证一定获得MCP的全局解。交替变量法(AVM)是Zhang和Liao提出的直接求解MCP的一种迭代法。虽然理论证明该方法的收敛结果受初始迭代向量选择的影响很小,但该方法不保证一定收敛,收敛时,不保证获得的是MCP的全局解。 本文研究MCP的数值解法及相关理论,主要贡献有三方面。首先,本文分析了MCP的性质,提供了MCP目标函数值的上、下界,基于此,本文给出一种有效的迭代初始策略。其次,本文对已有的几种迭代算法的单调收敛性给出了统一的、简洁的证明。最后,应用PDEs的多网格思想,设计了求解MCP的一种新的方法。同时,本文给出了 Gauss-Seidel算法的对称形式(symmetric Gauss-Seidel)。数值实验表明,相较于Horst、Gauss-Seidel和P-SOR方法,对称的Gauss-Seidel所需要的迭代步数明显减少。当然,利用初始策略使得求解MCP更加有效。而多网格算法(内部的迭代格式选择对称的Gauss-Seidel算法或者AVM)在寻找MCP全局解上更具有优势。