超限学习机因其学习的快速性倍受青睐,但在大数据环境下仍面临计算负担过重的挑战。超限学习机的快速学习能力,来源于其对单隐层前馈神经网络(SLFN)隐层权系数及偏置的随机产生并固定不变,因此SLFN的训练可归结为最小二乘问题,其解可用矩阵逆方法解析表达。但在大数据环境下,由于训练数据的维度和体量非常大,求解高阶矩阵的逆运算使得计算机计算负担过重,因此研究快速而高效的正则化超限学习机算法成为必要。交替方向乘子法(ADMM)是解决大规模数据处理问题的有效途径。通过模型分划,ADMM算法把优化问题分解为规模相对较小且可并行执行的子问题,具有优良的并行结构。不同于矩阵逆方法的求解,ADMM算法通过应用Gauss-Seidel迭代法,随着迭代的进行逐步接近全局问题的解。将ADMM算法应用于超限学习机中最小二乘问题的求解,可减轻计算机的计算负担。本文的主要研究工作分为以下几个部分:1.研究了基于ADMM的正则化超限学习机。首先,提出了最小二乘问题的多分块ADMM算法,建立了算法收敛的充要条件和线性收敛率并给出了证明,将其应用到正则化超限学习机。通过基准数据集实验,仿真计算了最小收敛率随分块阶数的变化关系,并将不同分块情形下的算法,在收敛速度等方面与最速下降法进行了比较,不同分块阶数情形下,算法得到了比最速下降法快得多的收敛速度,并且不同分块阶数的收敛率结果与最小收敛率随分块阶数变化关系一致。2.研究松弛方法与ADMM相结合的算法。首先,在多分块ADMM算法的迭代步骤中进行改进,引入一种新颖的松弛方法,得到了多分块松弛ADMM算法。在多了一个参数(松弛因子α)的情形下,给出了算法的收敛性分析和参数选取方法。通过基准数据集实验,仿真计算了最小收敛率随分块阶数的变化关系并与非松弛ADMM进行比较,凸显出引入松弛方法的必要性。随后,将多分块松弛ADMM算法与非松弛ADMM以及最速下降法进行比较,在N-等分、N/2-等分和N/5-等分情形下,算法得到了比非松弛ADMM及最速下降法更快的收敛速度。最后,通过矩阵变换和编程技巧,得到了多分块松弛ADMM在N-等分和N/2-等分情形下的标量化实现。在MATLAB环境下,使用GPU进行加速,将N-等分和N/2-等分松弛ADMM与矩阵逆方法进行比较,得到了比矩阵逆方法更少的计算时间和更大的GPU加速比,表明所提算法具有很低的计算复杂度和很高的并行性。