论文部分内容阅读
研究表明,神经网络对于参数扰动的敏感性是衡量网络性能的一个重要尺度。参数的扰动对于网络的输出会有怎样的影响呢?如何来度量神经网络对于参数扰动的敏感程度是当前最需要解决的问题。本文着重研究和分析了一种前馈神经网络——Madaline网络对于输入扰动的敏感性。
本文介绍了Madaline网络模型和敏感性的定义,主要研究对于输入扰动的敏感性计算算法。采用自底向上的方法先通过建立一个一般化的输入扰动概率模型和一个超球面模型来研究Adaline对于输入扰动和权值扰动的敏感性计算,这两个模型结合起来很好的解决了Madaline网络层与层之间敏感性传递的问题,然后在此基础上,逐层计算Adaline的敏感性,最后输出层的Adaline的敏感性就是整个Madaline网络的敏感性。尽管算法有一定的复杂度,但是实验表明该算法得到的结果是较准确的,并且该模型对网络的结构没有任何限制,适用于各种不同结构的Madaline。为了验证文中对于Adaline和Madaline敏感性计算方法的准确性和可行性,本文给出了大量了计算机模拟实验,本文的结果与前人的结果和计算机模拟的实验结果相比较,本文的结果较前人的成果要好。另外,文中还就Madaline网络结构参数,例如网络输入维数、网络每层Adaline的个数和网络层数,对网络敏感性的影响进行了分析,这些分析的结果可以被用来指导Madaline网络的设计。
最后,对本文做了总结和对今后工作的展望,指出了敏感性在神经网络领域的应用前景。