论文部分内容阅读
为了实时解决前馈神经网络学习过程中可能遇到的小残量问题和大残量问题,引入QuasiNewton优化算法,并与GaussNewton法相结合,构建基于GaussNewton-QuasiNewton法的前馈神经网络.根据每次迭代的结果判断属于大残量问题还是小残量问题,进而选择采取GaussNewton迭代步或QuasiNewton迭代步.与基于最速下降法的经典前馈神经网络以及与基于GaussNewton法的前馈神经网络的对比实验表明,所构造的基于GaussNewton-QuasiNewton法的前馈神经网络较