我们所提出的改进圆形反向传播(Improved Circular Back-Propagation - ICBP)网络拥有与标准的反向传播(Back-Propagation - BP)网络和S. Ridolla等提出的圆形反向传播(Circular Back-Propagation - CBP)网络完全相同的拓扑结构。与BP网络相比,ICBP网络的优势在于:它和CBP网络一样,都拥有一个二阶的额外输入节点。而与CBP网络相比,ICBP网络的改进之处主要有两点:首先,ICBP中额外输入节点的计算方法不同于CBP,正因为此,ICBP网络模型具有各向异性的特点,突破了CBP仅能表达各向同性的局限。其次,ICBP网络中额外输入节点至所有隐节点的连接权值的设置方法区别于CBP,即直接设置这些权值为一个常量。我们的研究证实,ICBP较之BP、CBP拥有更强的推广性和适应性,以及更强的表达能力,是一个更具一般性的神经网络模型。并且在时间序列基准数据集和某城市自来水用水量预测中的实验结果证实,ICBP在实践中的预测和逼近能力优于BP、CBP。尽管ICBP模型实现了对BP、CBP网络的多项改进,但是我们在研究中发现,它仍然不能成功地实现对高度非线性数据的分类,例如对日期数据所属星期几的分类,尽管它的表现明显优于BP、CBP网络。并且在实验中我们也发觉即使是BP-SOM也无法令人满意地解决这个难题,这些发现激发了我们进一步改造BP-SOM体系结构和ICBP网络模型的想法。本文针对BP、CBP和ICBP网络所面临的共同问题,从它们在推广性方面的局限性入手,系统深入地研究了在ICBP网络模型的基础上构建混合型神经网络体系结构和多样化神经网络集成系统的技术。本文的研究工作包含两个部分:(1)基于ICBP模型,在BP-SOM体系结构下,对混合型神经网络组合方法的研究,包括ICBP-SOM和ICBP-KSOM;(2)同样基于ICBP模型,结合动态分类器选择(Dynamic Classifier Selection - DCS)算法,构成DCS-ICBP集成系统,研究探索这种显示构造的集成系统与它的多样性之间的关系。本文的创新性成果主要包括:1、共对BP-SOM进行了两步改造,其中第一步即,用ICBP网络替换了BP-SOM体系结构中的多层前向网络(Multi-layered Feedforward Network - MFN)模块,得到了ICBP-SOM。我们提出此混合型网络的动机是:利用BP-SOM良好的知识解释能力和ICBP网络良好的推广性和自适应性构造一个新的混合型神经网络模型,使得该模型拥有良好的知识表示能力和具竞争力的推广性能。这一步改造获得了两方面的收益:即,对ICBP网络和BP-SOM二者性能的同时改善。六个基准模式分类任务上的实验结果证实,ICBP-SOM较ICBP和BP-SOM都取得了一定程度的改进,从而证实了这一步改造的合理性和有效性。2、我们把基于核的自组织映射(Kernel-based Self-Organizing Maps - KSOM)算法引入BP-SOM体系结构,用相似的组合方法将其与ICBP网络相组合,得到了一个新的混合神经网络模型ICBP-KSOM,从而实现了对BP-SOM的第二步改造。KSOM的非欧氏距离度量有利于ICBP-KSOM解决非欧氏结构的数据,并且KSOM的高鲁棒性也提升了整个ICBP-KSOM对噪声和野值的鲁棒性。从而,这种组合提升了它们两者整体的性能。基准分类实验和T测试的结果验证了这种新的组合型神经网络体系结构在分类能力和推广性能两方面的优势。3、我们选择了五个对扩展输入节点和所有隐节点之间的权值进行五种特殊赋值的ICBP网络(即:ICBPall+1, ICBPall-1, ICBP+1o-1e, ICBP+1fh-1lh, Random-ICBP),结合Didaci和Giacinto提出的基于判别式自适应最近邻(Discriminant Adaptive Nearest Neighbor - DANN)度量的DCS算法,将它们集成起来构成了一个动态的ICBP分类器选择系统(DCS-ICBP)。DCS-ICBP系统的显式直接构造多样化集成系统的方法是一种很有意义的创新。直接在模型的结构上构筑多样性,这对流行的BP网络来说是不可能的。最后,DCS-ICBP系统在实验中呈现出良好的分类性能,表现出较强的推广性。