极限学习机（Extreme Learning Machine,ELM）是一种基于单隐含层结构的前馈神经网络学习算法,是当前机器学习领域重要研究方向之一。因具有实现简单、学习速度快和人为干预少等优点而被广泛应用于分类、回归等学习问题。近年来,受深度学习在诸多实际问题上获得成功应用的启发,学术界针对ELM的研究由单隐含层网络向多隐含层网络转变。多隐含层极限学习机（Multi-layer Extreme Learning Machine,MELM）是将深度神经网络的多隐含层特性融入极限学习机的一种新框架。如何对层数和结点数进行最佳配置来构建深度堆叠网络是研究MELM算法需要考虑的首要问题。针对多隐含层结构所带来的庞大网络规模,如何进行高效的数值计算是研究MELM算法需要关注的另一个重要问题。本文从影响极限学习机性能的关键因素出发,针对网络结构设计和网络参数优化两个维度进行探索性的改进研究。在网络结构设计上,将单隐含层扩展到多隐含层,并提出应用遗传算法、随机增强和试探剪枝等策略来优化隐含层结点数。针对网络参数优化过程中由于层数增加带来大量高维线性方程组的求解困难,以Cholesky分解为主要数学工具,提出通过强迫正定、Givens旋转变换等定制化策略来实现高阶矩阵的增量式、递减式求逆运算,以达到降低累积误差和计算复杂度、提高模型学习精度的目的。本文主要工作概括如下:（1）基于强迫正定Cholesky分解的多隐含层极限学习机算法研究。针对MELM模型参数求解过程中出现的部分矩阵,证明了其半正定性,提出强迫正定Cholesky分解策略确定隐含层参数,在强迫矩阵正定的同时改善矩阵条件数,从而加快MELM模型的收敛速度,保证建模过程的数值稳定性。为避免人工干预对模型预测精度和计算稳定性的影响,提出采用遗传算法确定最优隐含层数和相应的最优隐含层结点数目,并通过引入粒子群优化来搜索最优的输入权值和隐含层偏置,以提高其泛化能力和计算稳定性。（2）基于Cholesky分解的增量式多隐含层极限学习机算法研究。针对MELM的网络结构设计问题,提出一种基于增强型随机搜索策略的隐含层结点增量式自动确定方法,即在学习过程中根据结构风险最小化原则从随机产生的多个隐含层结点中选择最优结点逐次添加到网络中,直至预测误差满足精度要求。为有效避免网络结构增量式构造过程涉及的逆矩阵和Moore-Penrose广义逆矩阵的重复求解运算,提出应用Cholesky分解来实现连接权值矩阵的增量式更新,避免了各隐含层完全重构带来的累积误差,达到充分利用网络构造过程中历史信息来更新网络参数的目的。（3）基于Cholesky分解的剪枝型多隐含层极限学习机算法研究。针对不相关变量导致MELM网络结构冗余问题,应用Tikhonov正则化方法来测量隐含层结点数目对网络模型的学习精度与泛化能力的影响,提出在学习过程中逐步对隐含层结点进行剪枝,直至模型的经验风险与结构风险之和发生显著变化时为止。在对隐含层结点的剪枝学习过程中,基于前一代连接权值矩阵的存储信息,提出应用Givens旋转变换来计算Cholesky分解因子,从而实现当前连接权值矩阵的快速递减式更新。（4）基于Cholesky分解的在线时序多隐含层极限学习机算法研究。针对数据样本具有强时效性的在线学习问题,提出一种引入遗忘机制来削减旧训练样本的影响、突显新训练样本作用的自适应最佳网络结构和参数学习方法。此外,为确保在线学习中网络结构和参数随着不断变化的时序训练数据动态调整,提出隐含层结点自适应增减更新策略;在隐含层结点增减过程中,充分利用学习迭代中存储的历史信息,采用Cholesky分解对高阶矩阵进行自适应增量式或递减式求逆,避免了重复计算过程。针对上述所提的多个改进MELM算法,使用部分基准数据集和企业提供的实际数据进行了测试,数值计算结果表明改进MELM算法都能够比常规MELM获得更高的预测精度和更强的泛化性能,验证所提出改进策略的有效性。