论文部分内容阅读
本课题得到国家自然科学基金项目(编号:60071026),国防科技预研跨行业基金项目(编号:OOJ1.4.4.DZ0106)资助。人工神经网络网络作为一门新兴的学科,从产生至今已经取得了长足的发展,被广泛深入地应用于模式识别、优化问题、图形图像处理、信号处理、自动控制、预测等等众多的领域,为这些领域相关问题的解决提供了新的有效的手段。作为一门新兴学科,人工神经网络自身的理论基础还不完善,如神经网络的分类能力、网络结构的选择、网络的学习算法的选择、网络的物理实现等等,使得神经网络在实际中的应用受到诸多限制,也限制了神经网络学科的进一步发展。前向人工神经网络作为其他各种神经网络的基础,一直是人们研究、应用最广的网络模型,其理论及学习算法研究有助于进一步研究其它类型神经网络,模式识别及分类又是前向神经网络最主要的应用方面,所以本文将前向人工神经网络的分类能力与训练算法作为主要研究对象。本文首先综述了人工神经网络的历史、发展及现状,讨论了人工神经网络在模式识别中应用的若干问题。然后我们从实验仿真的角度,通过构造各类常见的分类面,初步探讨前向神经网络的分类能力与网络结构,这些结论有助于进一步从理论上研究前向神经网络的分类机理,分类能力,也有助于实际应用中网络结构的选择。然后提出通过模式的线性变换将可以改变模式的分类难度,从而加快神经网络的训练;随后又提出通过神经元的适当的反转运算来对多类别分类的前向神经网络进行初始化的方法,以使神经网络训练尽量避开局部极小。之后进一步讨论了稳健分类问题,研究了大训练样本集条件下基于基集的稳健感知器的复杂度,提出了稳健感知器的续贯学习算法,最后本文结合支撑向量机和基于基集的稳健感知器提出了线性可分问题的基于支撑向量的稳健感知器的几何训练算法,实验仿真表明,该感知器有着较好的稳健性,较快的训练速度。本文所采用的关键技术有:①实验仿真;②续贯学习算法;③统计学习理论;④线性规划;⑤BP算法;⑥线性空间理论。本文采用实验仿真的方法,构造各类常见的分类面,来研究前向网络的分类能力,缺乏理论指导,构造的分类面类型不足够多,我们可以考虑构造更多类型的分类面,并结合理论推导,给出确定网络分类能力,选择网络结构的理论性的指导。本文最后提出的基于支撑向量的稳健感知器只适用于模式线性可分的情况,如何将它推广到非线性可分问题,进一步提高算法效率将也是日后的一个研究方向。