论文部分内容阅读
基于数据的机器学习方法以客观存在的事物为对象,研究数据的客观规律,实现数据的分类和预测。极限学习机作为一类机器学习方法,以简单易用、有效的单隐层前馈神经网络学习算法,受到越来越多的研究者关注。传统的神经网络学习算法(如BP算法)需要人为设置大量的网络训练参数,并且容易产生局部最优解。极限学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值以及隐元的偏置,可以产生唯一的最优解,因此它具有学习速度快且泛化性能好的优点。核极限学习机是将核函数引入到极限学习机中,可以得到最小平方优化解,具有更稳定的、更好的泛化性能。本文在前人研究工作的基础上,基于核极限学习机的框架,提出了若干有效的优化算法,研究了核极限学习机在图像处理中的应用。论文的主要工作包括以下几个方面:(1)基于传统的极限学习机,提出了极限学习机快速稀疏近似算法。对于大规模数据集,极限学习机的快速稀疏算法将求解核矩阵的逆转化为迭代运算,通过求解规模相对较小的线性方程组完成对极限学习机的训练,降低了求解核矩阵逆的复杂度,提高了计算效率。仿真试验表明,该算法在大规模数据分类和回归问题表现出有效性。(2)本文提出了基于多核学习的极限学习机分类器设计的方法。单核不能满足如数据异构、数据不规则、样本不平坦等情况下的应用需求。该方法在多核框架下,将核的权系数通过特征映射到新的特征空间,并通过学习得到优化的权系数,实现了多核分类器的设计。在标准数据集中将不同优化核的算法QCQP和SILP进行比较,实验结果表明多核学习的极限学习机有更好的分类效果。(3)提出一种基于进化极限学习机的人脸性别识别算法。通过对人脸的曲波变换提取特征系数,用双向增长的主元分析方法对高维样本空间压缩降维,采用进化极限学习机进行训练和分类测试,最后得到分类结果。在标准人脸库中,相比传统的人脸性别识别方法,该算法具有运行速度快,分类精度高的优点。(4)实现了基于稀疏编码和核极限学习机的图像超分辨率复原的方法。基于核学习的图像超分辨复原包括两个阶段:训练阶段和测试阶段。在训练阶段中,通过核极限学习机将低分辨率图像映射到高分辨率图像,得到耦合字典的稀疏系数。在测试阶段中,通过耦合字典的稀疏系数,用核极限学习机对低分辨率图像进行重构,得到复原后的超分辨图像。该算法克服了稀疏字典学习的计算瓶颈问题,同时有效改进了图像复原质量。(5)将核极限学习机作为分类器应用到钢球表面缺陷检测系统。由于钢球非常小,表面光滑反光强,不容易定位,传统的采用人工检测方法其稳定性和精确性难以保证,本文采用机器视觉技术进行了钢球表面缺陷的检测研究,通过核分类器进行钢球检测测试。同时,将该算法和误差反向传播神经网络进行了比较。实验结果表明,本算法具有较高的精确性和可靠性。