论文部分内容阅读
神经网络集成技术是神经计算技术的一个研究热点,在许多领域已经有了成熟的应用。神经网络集成学习通过训练多个神经网络并将其结果进行合成,显著地提高了学习系统的泛化能力。但是如何设计出更有效的神经网络集成实现方法,以获得更好的泛化性,并将神经网络集成应用到实际问题域中取得很好的效果,仍然是神经网络集成研究的热点问题。对神经网络集成实现方法的研究主要集中在两个方面,即如何生成集成中的成员网络以及怎样将多个神经网络的结论进行结合。理论和实践都证明,通过提高个体网络的精确性和网络间的差异性,可以提高神经网络集成的泛化性。进化规划(Evolutionary programming,简称EP)具有如下特点:(1)EP是基于拉马克的进化学说,强调父代与子代之间的行为联接;(2)进化算子中仅有突变,而没有交叉,以消除互换问题;(3)突变操作中,删除总是先于添加进行,以获得最简的网络结构;进化规划的这些特点,使得使用EP进化神经网络来获取差异性大的个体网络成为可能。文化算法是一种用于解决复杂计算的新型全局优化搜索算法。该算法模拟人类社会的演化过程。在人类社会中,文化可以被看作是信息的载体,这些信息潜在地影响所有社会成员,并且有益于指导同代及其后代解决问题的实践活动。类似地,文化算法的重要思想就在于从进化的种群中获取待解决问题的知识(即信念),并反馈这些知识用于指导搜索过程。本文在分析神经网络集成方法研究现状的基础上,以进化规划、文化算法为支撑,提出了更有效的神经网络集成方法,并将其应用到个人信用评估。主要工作如下:1、在个体网络生成方面进行研究,结合进化规划,提出了基于进化规划的神经网络集成方法(EP-ANNE)。在个体网络的初步训练中,采用k-均值聚类法确定RBF网络的中心,而网络各层之间的连接权值采用标准的线性最小二乘回归算法计算。在个体网络的进一步训练中,引入了进化规划方法,具体实施如下:神经网络的隐含层中心用实矩阵表示,适应度函数选择上我们引入了负相关学习机制,采用了级别选择策略选择个体网络参与训练,根据个体网络的训练情况,即“成功”或“失败”来确定是否进行结构变异,这样就实现了对网络拓扑结构的负相关训练。通过引入进化规划,获得具有较大差异性的异构个体网络,从而提高了神经网络集成的泛化性。2、在选择用于集成的成员网络方面进行了研究,提出了一种基于文化算法的神经网络集成方法。首先使用bagging方法独立训练若干个体神经网络,然后再选择部分个体网络参与集成。本文在做选择部分个体网络参与集成上进行了研究,引入了文化算法框架。具体为,构造了适用于个体网络选择的双层空间演化的文化算法框架,底层采用遗传算法进化群体空间,上层则通过选择优秀个体模式指导种群空间的进化。如此可以充分利用优秀个体的经验知识来指导算法的搜索过程,提高了算法的搜索速度。3、最后,将所提出的神经网络集成方法应用到个人信用评估中。通过将实验结果从不同角度进行比较,证明了方法的有效性。