人工神经网络是由大量神经元相互连接,通过模拟大脑神经系统处理信息的方式,进行信息并行处理的复杂非线性系统。人脑在信息处理方面有着突出的优点,其学习、感知以及在复杂环境中做出决策的能力都是现有神经网络模型一直试图实现的。大脑的结构连接是其功能连接的基础,对脑网络结构特征的探索和模拟是实现类人信息智能处理模式的前提。模块化是大脑皮层最主要的特征之一,模块化分区的结构特征形成了大脑最基本也是最重要的组织原则——“功能分离”。大脑在处理信息时,不同的区域处理不同的信息,具有“分而治之”的特性,这种局部特性是人脑处理复杂任务和应对突变环境的核心基础。因此,模块化神经网络旨在模拟大脑皮层模块化结构特征,通过实现脑网络“分而治之”的功能特性来提高人工神经网络处理复杂信息的能力。如何构建模块化分区结构,如何设计结构精简、性能稳定以及泛化性能良好的子网络都是模块化神经网络研究领域尚待解决的关键问题和难点问题。研究模块化神经网络优化设计方法,是为了获得有效的模块化分区方法和子网络自组织设计算法。文中基于神经生理学和神经心理学研究成果,归纳、概括了人脑结构连接方式与脑式信息处理机理间的关系,将脑网络的空间模态蕴含于模块化神经网络分区结构设计中;深入分析、研究了影响子网络学习能力和泛化能力的主要因素,获得了子网络自组织动态设计方法;在分区方法和子网络设计研究基础上,获得了完备的模块化神经网络优化设计算法,所设计的模块化神经网络具有典型的类脑结构特征和类脑信息处理方式。论文的主要研究工作和创新点如下:1.模块化神经网络分区方法构建分区结构是实现“分而治之”的前提。借鉴自适应共振理论(Adaptive resonance theory,ART)良好的聚类特性,文中利用任务样本集间的相似性对输入空间进行自适应划分,进而构建模块化分区结构。此外,受启发于脑网络的结构特征,又提出一种基于密度聚类的分区方法,通过寻找每个模块的核心节点来构建分区结构。由于径向基函数(Radial basis function,RBF)神经网络与模块化神经网络在结构和功能上具有一定的相似性,因此将分区问题转换为RBF神经网络的隐含层结构设计问题,进而通过RBF神经网络的性能来验证分区方法的可行性。对非线性函数逼近和非线性动态系统辨识的仿真结果显示:两种分区方法都能根据待解决任务样本集特征自适应确定子模块规模,实现任务自动分解;其中基于密度聚类的方法能通过对脑网络结构特征的模拟有效提高分区效果。2.子网络改进型二阶学习算法子网络的学习能力是模块化神经网络学习能力的保证。文中采用由二阶梯度类算法训练的RBF神经网络作为模块化神经网络的子网络,分析了影响二阶梯度类算法收敛性能的主要因素,提出了一种RBF神经网络改进型二阶学习算法。该算法通过转化海森矩阵的计算方式和寻求合适的初始参数来提高算法的收敛性能。实验结果表明所提出的改进型二阶学习算法能够在保证学习过程收敛的同时有效提高子网络的收敛速度和学习精度。3.基于任务驱动的子网络自组织设计人工神经网络的设计目标应是以最精简的结构获取最优的学习能力和泛化性能。文中提出了一种基于任务驱动的RBF神经网络自组织设计算法,针对待处理任务,该算法能基于瞬时残差和神经元显著性自适应构建网络结构;同时,结构构建过程中确定的初始参数又能有效提高网络的收敛速度和学习精度。实验结果表明所设计的RBF神经网络具有精简的结构、较快的收敛速度以及良好的泛化性能。因此,当选用该神经网络作为子网络时,所构建模块化神经网络的结构精简性和泛化能力都能得以保证。4.类脑模块化神经网络设计模块化神经网络旨在通过模拟脑网络“模块化”结构特征和“功能分离”特性来提高神经网络处理复杂问题的能力。基于人脑结构特征和认知方式,文中提出了一种类脑模块化神经网络。首先,利用类脑模块化分区方法实现子模块规模的自适应确定以及任务的自动分解;其次,结构精简和泛化性能良好的子网络保证了整个类脑模块化神经网络的性能;最后对基准实验的仿真研究结果表明,相较于单一神经网络,类脑模块化神经网络能通过“分而治之”有效提高处理复杂问题的能力。5.污水处理过程关键出水参数软测量模型城市污水处理过程关键出水参数的检测和控制一直是该领域的难题和挑战,文中提出一种基于模块化神经网络的关键出水参数软测量方法。首先,基于互信息分析和专家知识选取模型的输入变量;然后,模拟人脑并行处理复杂任务的特性,构建不同的子模型对不同水质参数进行实时软测量;利用自组织RBF神经网络构建子模型,实际应用中能根据具体需求侧重建模精度或建模速度。仿真实验结果表明,所建立的软测量模型能快速、精准地实现对出水生化需氧量和出水总磷的同步测量。