神经网络学习算法中的奇点及振荡算法

来源 :华中理工大学学报 | 被引量 : 0次 | 上传用户:yaoyao1021
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
以前向神经网络为基础,基于梯度下降规则,推导了OINN的学习算法,说明由梯度下降规则推导出的学习算法中存在奇点。奇点经常导致学习陷入“伪局部极小”,大大影响了学习进程,奇点产生的原因是对节点特性函数的求导,对节点特性函数的修改可使算法避免奇点,提出了一种振荡算法可有效地克服局部极小。
其他文献
提出了我国大城市发展水平综合评价决策支持系统(LCDLCEDSS)的基本模式,描述了多目标多层次模糊综合评价的数学模型,并给出了具体的应用实例。整个LCDLCEDSS的原型系统已在IBMPC及其兼容机上用TurboC,FORTRAN77和FOXBASE ̄+语言实现
研制了一种剖面形状呈鱼形,能控制与改变螺旋桨艉航方向的高性能舵,该仿生鱼形舵的流体动力特性好,装备该舵的船舶,小舵角时,升力系数高,船舶操纵性好,适用航行于险航区,大舵角时(大于
提出了一种模拟式永磁同步电动机的弱磁控制方式,建立了一个函数发生器,在实际速度高达某一数值之后,函数发生器就根据某一规律送出弱磁分量电流Id;由速度调节器根据指令速度与实际
利用X射线衍射、磁测量及透射电子显微技术研究了Fe60Ni40混合粉末的机械合金化过程中的相变行为。结果表明:球磨初期Fe和Ni原子分别向对方晶格扩散形成γ和α固溶体。球磨至30h,有部分非晶化发
提出一种基于区间估计的模糊综合评价方法并给出两种区间估计的运算规则,用以解决那些因素权系数不易精确计算但可以给出一个模糊区间估计的准则子集上的综合评价问题。将该方
构造了水库群联合高度神经网络专家系统,提出了水库群运行调度的知识表示、知识获取和自适应训练学习、知识的自适应并行推理等方法,基于确定性优化技术POA法获得专家范例(即长系列
研究不良结构冲突问题,提出了不良结构冲突问题的智能化分析方法,并讨论了智能化冲突分析方法的逻辑表示,推理等问题,给出推理的有关算法。
研究了合山煤燃烧过程中挥发分的析出机理,并与惰性气氛中煤的热解机理进行了比较,发现两者是有所不同的。计算了残焦的反应性。结果表明残焦反应性与成焦条件有关,并且在煤焦的
建立了一种基于摄动分析方法的窗口流控新算法,给出了各种负载条件下的仿真实验结果。与以前基于排队网络理论的各种窗口流控方法比较,有如下特点:不需要分析对象满足严格的假设
提出了8098单片机双机共享存储系统的设计方法,该方法全部由硬件实现,不须软件配合,且硬件结构简单,易于实现,适用于96系列的单片机,讨论了用GAL器件来实现硬件裁决的设计过程,并分析了8098单片机