基于近似牛顿法的分布式卷积神经网络训练

来源 :计算机科学 | 被引量 : 0次 | 上传用户:skykight
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大多数机器学习问题可以最终归结为最优化问题(模型学习)。它主要运用数学方法研究各种问题的优化途径及方案,在科学计算和工程分析中起着越来越重要的作用。随着深度网络的快速发展,数据和参数规模也日益增长。尽管近些年来GPU硬件、网络架构和训练方法均取得了重大的进步,但单一计算机仍然很难在大型数据集上高效地训练深度网络模型,分布式近似牛顿法作为解决这一问题的有效方法之一被引入到分布式神经网络的研究中。分布式近似牛顿法将总体样本平均分布到多台计算机,减少了每台计算机所需处理的数据量,使计算机之间互相通信,共同协作完
其他文献
目的了解孕产妇梅毒母婴传播情况,为阻断梅毒母婴传播提供依据。方法对15792例孕产妇以及301例梅毒血清学阳性产妇所分娩的新生儿进行梅毒血清学检测。结果15792例产妇中梅毒
随着我国逐渐放松民营企业在能源市场的准入限制,有必要对民营能源企业能否兼业展开讨论。兼业规制是日本公用事业中的法律规制形式,意为限制企业向其他领域或产业上下游拓展
目的提高电弧喷涂含非晶相Fe基涂层的抗冲蚀及耐腐蚀性能。方法采用YAG脉冲激光器对电弧喷涂含非晶相Fe基涂层进行激光重熔处理。通过X-ray、SEM、冲蚀磨损和电化学等检测手
明清时期川北地区的民用陶瓷以青花、五彩为主流,器物上的装饰图案受中国传统吉祥图案的影响而有新变化.这种变化既是对人们在不同时代背景下社会观念和审美意识的反映,也是
提出电梯检验中容易被忽视的几个重要问题及其形成原因,分析了这些问题可能会造成的安全隐患,探讨了相关检验项目的测试方法和判断依据,以期为电梯检验检测人员、电梯维护保
茶圣陆羽赣境行踪南昌二中段红陆羽为了撰写《茶经》,从二十一岁开始,踏遍了当时南方三十二个州的茶区和名山大川,考察茶事,弄泉煮茗,给我们留下了许多可资纪念的遗物、遗迹,诸如“
在社会生产力不够发达的时候,人类活动对水文测验的影响比较小。随着社会的发展,人类活动对水文测验的影响越来越大。通过研究人类活动对水文测验的影响,提出了优化水文测验
政府'账本'怎么管理?权力怎么监督?法律草案是否还有需要挑的'刺'?全国人大代表刘小兵笑称他就是'来添麻烦的'。无论审议政府工作报告还是法律草案,
这场特殊之年的中日对话,为构建契合新时代要求的中日关系、促进亚洲及世界的和平与发展贡献了许多智慧与力量。  “北京-东京论坛”自2005年创办以来,已成为中日两国之间层次较高、规模较大的官民互动综合性交流平台,为促进中日关系发展、增进民众相互理解与互信发挥着重要作用。  今年,在新冠肺炎疫情特殊之时举办的第十六届“北京-东京论坛”,为构建契合新时代要求的中日关系、促进亚洲及世界的和平与发展贡献了许
蒙克是象征主义的代表画家,蒙克的绘画语言是更富有寓言性的、充满想象力与自我意识。他的艺术形式和主体情感有一定的距离.这种艺术中的寓言性与分离性也更是蒙克艺术的魅力所