前馈神经网络在很多领域都得到了广泛的应用,反向传播算法是最常用的训练这种网络的方法。但是,反向传播算法本身也存在着一些缺陷,最主要的缺陷是处理复杂问题时收敛速度慢,以及容易陷入局部极小。为了提高算法的训练性能,人们提出了许多变种算法,并且新算法还在不断地涌现。如何对反向传播算法进行改进,一直是神经网络领域的一个重要研究课题。本文的结构及内容如下：第一章回顾了有关神经网络的一些背景知识。第二章以BP网络为例,介绍了前馈神经网络和反向传播算法,还介绍了一些对反向传播算法进行的改进工作,其中重点介绍了一种改进的反向传播算法—MBP算法。第三章提出了一种新的训练单隐层前馈神经网络的学习算法。这种算法是在文献中的算法基础上进行的改进,它对输出层和隐层分别进行训练。其中,隐层使用了新的误差函数进行训练,同时还设计了在多输出神经网络的情形下寻找每个隐单元输出的虚拟教师信号的方法。圆的点分类问题、函数逼近问题和模式识别问题这三个数值实验的结果显示了新算法的效果。