极限学习机（Extreme Learning Machine,ELM）是一种训练单层前馈神经网络（Single-hidden Layer Feedforward Neural Networks,SLFNs）的机器学习方法,对于解决分类和回归问题具有明显的优势。ELM是对反向传播算法（Backward Propagation,BP）的改进,不仅有效地克服了BP算法存在的训练速度慢的缺点,而且具有很好的泛化性能。凭借这些优点,ELM被广泛应用于语音识别、故障诊断、股票价格预测、图像处理等多个实际领域。为了提高算法的预测或分类的精度,学者们在ELM的基础上对算法进行改进,提出了正则化极限学习机（Regularized Extreme Learning Machine,RELM）。然而,在实际应用时,数据中往往会掺杂噪声和异常值,使得算法的性能下降。由于RELM无法针对性地对噪声和异常值进行处理,导致模型容易出现过拟合问题,大大降低了算法的泛化性能,因此,本文在RELM相关理论的基础上,主要从损失函数和隶属度函数的角度改进RELM,工作内容如下:1、提出了基于CCCP算法的L2,1范数鲁棒正则化极限学习机(L2,1-norm Robust Regularized Extreme Learning Machine,L2,1-RRELM)。L2,1-RRELM首先考虑将平方损失函数替换为非凸损失函数,通过对噪声和异常值给予恒定惩罚,以减少其不利影响。同时,用L2,1范数代替RELM中结构风险的L2范数,根据重要程度将不同的隐含层神经元进行划分,并删除不重要的神经元,使模型稀疏化。针对L2,1-RRELM的非凸特性,采用凹凸法求解模型,并在理论上证明了算法的收敛性。将L2,1-RRELM应用于添加不同程度噪声的人工数据集和UCI数据集上进行实验验证。通过实验结果分析表明,L2,1-RRELM具有较好的泛化性能、较强的鲁棒性和抗噪声能力。2、提出了基于非对称C损失函数的L1范数鲁棒正则化极限学习机（L1-norm Robust Regularized Extreme Learning Machine with Asymmetric C-loss,L1-ACELM）。传统的RELM采用平方损失函数作为经验风险,由于它的无界性,使得模型对于噪声和异常值缺乏鲁棒性,同时,由于该损失函数是对称的,使得算法在处理非对称数据时泛化性能较低。为了解决这些问题,提出了有界、非凸、非对称C损失函数,并用其代替RELM中的平方损失,减少噪声和异常值对算法的影响,通过调整非对称参数,提高算法的泛化性能。与此同时,用L1范数代替L2范数得到稀疏化的数学模型。在求解过程中,采用半二次优化算法进行求解,并在理论上证明了算法的收敛性。将L1-ACELM应用于添加不同类型噪声的人工数据集和UCI数据集上进行实验验证。通过实验数值分析表明,在大多数情况下,L1-ACELM比原有算法具有更好的泛化能力。3、提出了模糊正则化最小二乘孪生极限学习机（Regularized Fuzzy Least Squares Twin Extreme Learning Machine,RFLSTELM）。相比于传统的ELM,RFLSTELM只需要求解两个较小规模的线性方程组,在一定程度上减少了训练时间。为了改善模型的过拟合问题,在模型中加入正则化项,同时引入隶属度函数给每个样本点分配不同的权重以削弱噪声点对模型的影响。将RFLSTELM应用于不同规模的NDC数据集和UCI数据集上进行数值实验。实验结果表明,RFLSTELM具有较好的分类性能。