论文部分内容阅读
极端学习机(ELM)作为一种广义的单隐层前馈神经网络学习算法因其极快的收敛速度和良好的泛化性能而在分类和回归问题中得到广泛的应用。然而在传统的极端学习机算法中，隐含层节点个数的确定没有有效的方法，且隐含层节点对应的输入层权值和阈值是随机产生的，从而导致极端学习机性能不稳定。因此，如何设计极端学习机中网络结构是提高极端学习机性能的关键问题之一。为了获得一个结构紧凑、泛化性能高的单隐层前馈神经网络，本文提出运用粒子群优化算法来自适应构造极端学习机。该类极端学习机利用粒子群优化算法对极端学习机中隐含层节点对应的输入层权值和阈值进行优选，达到自适应确定最优网络结构。本文的主要工作如下: 1)针对自适应增长极端学习机(AG-ELM)中，输入权值、阂值、输出权值都是随机产生会影响算法的收敛准确性，提出一种改进的基于粒子群优化的隐含层节点自适应增长极端学习机(PSO-AG-ELM)。用粒子群优化算法来优选AG-ELM中随机产生的权值。算法中，粒子群中的每一个粒子代表一个网络中的所有参数，且粒子的维数随着训练过程而增长。通过设定期望准确率来确定网络的隐含层节点数。PSO-AG-ELM算法相比AG-ELM算法能够达到更高的收敛精度。 2)针对经典的构造性极端学习机过分依赖于网络的收敛精度而忽视了系统的稳定性，提出一种基于粒子群优化的误差最小化极端学习机(PSO-EM-ELM)。在PSO-EM-ELM中，经过粒子群优化过的隐含层节点一个一个的加入到网络中，算法除了考虑收敛精度，相应的隐含层输出矩阵的条件值也作为优化的条件之一，并能通过设置期望准确率来自适应确定网络的隐含层节点数。PSO-EM-ELM算法相比其他四种典型的构造性极端学习机能以更少的隐含层节点获得更优的泛化性能。 3)将基于粒子群优化的误差最小化极端学习机(PSO-EM-ELM)应用于基因表达谱数据的分类。在两个数据集上的实验结果表明，PSO-EM-ELM取得了优于其他构造性极端学习机的肿瘤识别率。