论文部分内容阅读
脉冲神经网络更接近生物神经网络,被称为第三代神经网络,受到了众多研究人员的关注。传统神经网络处理信息基于脉冲激发的频率,当考虑快速模拟计算时会使很多信息丢失,这引发了基于脉冲激发时间处理信息的脉冲神经网络的发展。脉冲神经网络将真实世界的信息编码成脉冲时间,使得它能快速解码信息,在处理实时问题时特别有优势。脉冲神经元接收脉冲时间作为输入向量,当它的状态函数在上升阶段达到预先给定的阈值时激发产生脉冲,激发时间作为它的输出。脉冲神经网络已广泛并成功的应用于各个领域。脉冲神经网络很多有潜力的优势例如计算的复杂度、学习能力、实时数据的处理已经被广泛的讨论过,但是它的计算能力很难控制,所以一些特别有效的网络模型和算法还有待开发。站在数学人的角度,本文提出了一种改进的脉冲神经元,它涉及到状态函数在激发时间点的导数,并相应的给出了它的学习算法。这种改进的脉冲神经元的优势在于单个的神经元就可以解决普通带隐层的神经网络才能解决的问题。进而提出了基于这种改进的脉冲神经元的单层网络,它与普通的带隐层的脉冲神经网络在解决多分类问题上具有可比性。另外,本文在不借助线性假设的条件下,给出了脉冲神经网络学习算法中一个关键公式在数学上严格成立的证明。具体研究内容概括如下:1.第二章提出一种改进的脉冲神经元,给出了相应的学习算法并测试其表现能力。这种改进的脉冲神经元的输出为激发时间ta和状态函数在激发时间点的导数x’(ta)的一个线性组合,它的优势在于:能解决不能被传统的脉冲感知器或者传统的感知器解决的XOR问题;在解决一些基准问题时,学习的正确率与带隐层的脉冲神经网络具有可比性。2.第三章给出以改进的脉冲神经元为构建模块的单层脉冲神经网络并测试其表现能力。数值试验结果显示在解决真实世界的分类问题时,改进的单层脉冲神经网络使用相同或较少的编码神经元与带隐层的脉冲神经网络表现得几乎一样好。3.第四章在不借助于状态函数与时间在激发时间点附近具有线性关系的假设的帮助,给出脉冲神经网络学习算法中一关键公式的证明。