论文部分内容阅读
神经网络在机器学习及模式识别领域占了很大的一席之地。传统的误差反向传播神经网络(Error Back Propagation,BP)存在诸如容易陷入局部最小点、收敛速度慢及过拟合等问题。而极限学习机(Extreme Learning Machine, ELM)因其高效快速并且泛化性能好的特点得到了国内外广大学者的关注、研究及应用。随着信息技术的发展,大数据已成为社会研究的热点之一。科学技术的进步使人们获取得到的这些数据呈现出结构复杂、数量庞大、维数更多的特点。并且这些数据具有时效性,需要及时地处理和分析,获取数据背后的信息和价值。因此对这些数据的处理分析充满着挑战,高维数据的可视化显得尤其重要。基于近期热门的极限学习机神经网络,分别采用多维尺度分析(Multidimensional Scaling, MDS)、Pearson相关性、Spearman相关性代替常用的均方误差OMean Square Error, MS E)改变网络的学习规则,实现高维数据投影到2-维平面的数据可视化。将所提方法与近期流行的随机邻域嵌入(Stochastic Neighbor Embedding, SNE)及其改进的t-SNE方法进行对比分析,并通过局部连续元准则(the local continuity meta-criterion, LCMC)进行质量评测,结果表明:在ELM上改进的数据可视化结果及计算性能明显优于SNE及t-SNE方法;而在提出的三种学习规则中,基于MDS的ELM可视化效果最好。在图像识别上,目前流行的算法主要采用卷积神经网络(convolutional neural networks, CNN)进行特征提取和分类,这样的方法通常在大且复杂的神经网络上取得较好的效果,并且在卷积神经网络上全连接层形成的分类器采用梯度下降法进行训练其泛化能力受到了限制。由于卷积神经网络自身有很强的识别能力,而极限学习机具有良好的泛化性能。因此,先利用卷积神经网络进行图像的特征提取,再利用极限学习机作为分类器,建立一种基于CNN-ELM图像识别模型,实验结果表明,与经典的CNN模型相比该模型识别率改进明显。