论文部分内容阅读
神经网络是功能强大的数据建模工具,已成功应用于求解分类问题和回归问题。结构选择是神经网络研究的热点之一,针对具体问题,选择合适的网络结构对提高网络训练的速度、增强网络的泛化能力至关重要。本文研究了单隐含层前馈神经网络的结构选择问题,提出了两种网络结构选择方法。在第一种方法中,定义了隐含层结点的敏感度概念,并用敏感度度量结点的重要性。该方法从一个隐含层结点个数较多的网络开始,首先利用结点敏感度度量隐含层结点的重要性,然后按重要性对隐含层结点由大到小排序,最后逐个剪去不重要的隐含层结点,直到满足预定义的停止条件。第二种方法和第一种方法类似,用互信息度量隐含层结点和决策属性之间的相关性,将相关性小的隐含层结点逐个剪掉。本文提出的方法不需要重复训练神经网络,得到的网络结构紧凑,具有较高的泛化能力。实验结果显示本文提出的算法是行之有效的。