论文部分内容阅读
随着智能计算机的发展,人工神经网络理论研究得到了极大的重视,也取得了丰硕的成果,它的应用领域也越来越广泛。人们根据应用领域的不同设计了多种网络模型和算法,对传神经网络在模式分类与识别方面具有较强的能力。本文对对传神经网络(CPN Counter Propagation Network)的研究主要有三个方面:
第一、在竞争层使用软竞争代替“胜者全得”的竞争机制。传统CPN模型采用“胜者全得”的竞争机制,竞争层中神经元每次只有1个胜出,这个获胜的神经元影响网络的输出,其它神经元不产生任何输出。这样就浪费了大量的网络信息,而且容易形成死节点。针对传统CPN存在的问题和不足,提出改进模型及竞争层的改进算法。在竞争层使用软竞争机制得到竞争层的输出,竞争层中每一个神经元都有输出,并按照相应比例组成网络的输出,克服传统CPN使用“胜者全得”竞争机制的弊病,使竞争层中每一个神经元节点能充分发挥作用,参与网络的训练和权值的调整,提高竞争层中神经元的利用率,使网络能实现运用较少的神经元,达到比较好的性能。
第二、把EM算法引入CPN的训练中。在使用基于软竞争机制的CPN模型时,增加了网络的训练复杂度,网络训练与工作时间增加,速度偏慢。为此,把EM算法引入竞争算法,把竞争层中隐单元的输出作为未观察到的缺省随机变量,在CPN中实现EM算法的应用,有效地加快了CPN的训练速度。此外,在实现EM算法的M步时,根据基于软竞争机制CPN竞争层的特点,对EM算法进行改进,没有使用常用的迭代重新加权最小二乘算法,而是利用样本加权平均求取隐层单元的权值向量,使EM算法更加简单易行,收敛速度快。
第三、使用改进的CPN对指纹进行识别。指纹识别是目前生物识别中最热门的研究之一,为此把改进网络模型和算法应用于指纹识别中。实验结果表明,基于软竞争机制的CPN具有很好的泛化性能,特别在指纹识别上具有较好的实际应用价值。使用EM算法对基于软竞争的CPN进行训练,加快了网络的收敛速度,增强了CPN的模拟精度,提高了CPN的使用效率,网络性能得到了有效的提高。