【摘 要】
：
由于具有较高的模型复杂度,深层神经网络容易产生过拟合问题,为了减少该问题对网络性能的不利影响,提出一种基于改进的弹性网模型的深度学习优化方法。首先,考虑到变量之间的
【机 构】
：
大连海事大学信息科学技术学院,河北大学数学与信息科学学院
【基金项目】
：
国家自然科学基金资助项目(61672122,61402070,61602077);辽宁省自然科学基金资助项目(20170540097,2015020023);辽宁省科学事业公益研究基金资助项目(GY-2017-0005);中央高校基本科研业务费资助项目(3132019207,3132019355)~~
论文部分内容阅读
由于具有较高的模型复杂度,深层神经网络容易产生过拟合问题,为了减少该问题对网络性能的不利影响,提出一种基于改进的弹性网模型的深度学习优化方法。首先,考虑到变量之间的相关性,对弹性网模型中的L1范数的不同变量进行自适应加权,从而得到L2范数与自适应加权的L1范数的线性组合。其次,将改进的弹性网络模型与深度学习的优化模型相结合,给出在这种新正则项约束下求解神经网络参数的过程。然后,推导出改进的弹性网模型在神经网络优化中具有群组选择能力和Oracle性质,进而从理论上保证该模型是一种更加鲁棒的正则化方法。最后,
其他文献
2007年6月23～24日中国禽业发展大会期间,白羽肉鸡企业于24日下午进行分组讨论。与会众多企业家、专家学者就我国肉鸡产业发展中存在的问题进行了细致讨论,为我国肉鸡产业的长
总结苏联的历史教训,需要研究斯大林执政时期镇压的全部情况。苏联时期有意使“镇压”一词含义模糊化,要知道其准确含义需做具体研究。苏联当局不承认“政治犯”的存在,《刑
<正>公路环保工程的绿化设计是以自然环境、公路等级、公路运输状况、行车需要等为基础,通过对植物的颜色、环境作用、形态表现的利用,在公路的作用区域和道路的两旁,进行植
2013年9月26日-28日,在西安音乐厅、西安音乐学院分别举办了"韩兰魁获奖作品展演——交响乐作品音乐会"与"韩兰魁交响乐创作座谈会",两项活动把有关韩兰魁交响音乐的实际临响
<正>某产品连接环铸钢件结构如图1所示。铸件材料为ZG270—500,铸件表面全部为非加工面,铸件表面粗糙度为Ra=25μm,铸件最薄壁厚为6mm,最大壁厚为14mm,铸件重量为12kg,铸件表
海明威文学创作中一大亮点表现在其非洲狩猎作品,他以第一人称角度展现非洲大陆的真实面貌,同时以第三人称角度记述了主人公在非洲狩猎的经历和感受。通过海明威非洲狩猎作品
<正>宁波人称鼓楼一带为鼓楼沿,"沿"在宁波是指与其相邻近的区域。或许伏跗室永寿街、秀水街历史文化街区也可以称为广义的"鼓楼沿"。永寿街街区在鼓楼街区西面,秀水街街区在
技术转移是一个系统工程,转移过程是一个多因素动态复合的过程,涉及技术、商务、资金、服务、市场、转化能力等多种因素,辽宁省技术转移服务平台凝聚省内外、国内外科技成果,
南昌地铁2号线在赣江东岸某区间的上下行隧道存在超小净距段,超小净距对双线先后施工产生的影响目前还不清楚。通过3D实体弹塑性模型对两条隧道的超小净距段进行了数值仿真分