超限学习机(Extreme Learning Machine,ELM)将随机高维映射与多元线性回归相结合,是现阶段比较热门的研究方向。相比于反向传播(Back Propagation,BP)神经网络,该算法具有训练快、泛化性能好、参数调节简单等优点。但是其性能往往受限于随机初始化参数,尤其是输入权值,输入权值在很大程度上决定了单隐层前馈神经网络(Single-hidden Feed Forward Networks,SLFNs)的性能上限,因此研究输入权值对分类性能的提升具有重要意义。本文结合局部感知的稀疏性和自动编码器的特征压缩能力,提出了一种初始化全连接层权值的算法,并从理论和实验两方面证明了在图像分类上的有效性。论文主要完成了以下工作:(1)将算法用于初始化ELM的输入权值,并与K最近邻、支持向量机、逻辑回归、朴素贝叶斯、随机森林等传统机器学习算法进行比较;(2)将算法用于BP神经网络的输入权值初始化,通过观察误差下降曲线、训练集错误率和测试集错误率探究该算法在过拟合和欠拟合方面的影响;(3)得益于局部自动编码器(Local Auto Encoder,LAE)之间的独立训练方式和Spark计算框架的开源,算法可以并行实现,从而加快预训练阶段的速度;(4)为了验证LAE的特征提取能力和特征逐层传递性,算法还被用于初始化深度神经网络的输入权值;(5)由于局部感知具有高度稀疏性,实验还将不同算法初始化后的输入权值保存到磁盘进行大小比较。初始化输入权值后的模型被用于分类MNIST、USPS和CIFAR-10。实验结果表明,该算法能够呈现较好的拟合程度,能够以更小的体积保存到磁盘上,能够以更少的隐层神经元数量达到更高的分类准确率。