【摘 要】
：
深度学习是近年来机器学习的研究热点,并已广泛应用于不同领域.但由于训练模型复杂和训练集规模庞大等原因导致的深度学习性能问题已成为其发展的一大阻碍.近年来计算机硬件
【机 构】
：
复旦大学软件学院,复旦大学上海市数据科学重点实验室,复旦大学并行处理研究所,解放军信息工程大学数学工程与先进计算国家重点实验室
【基金项目】
：
国家高技术研究发展计划(863)(2012AA010905);国家自然科学基金(61370081)
论文部分内容阅读
深度学习是近年来机器学习的研究热点,并已广泛应用于不同领域.但由于训练模型复杂和训练集规模庞大等原因导致的深度学习性能问题已成为其发展的一大阻碍.近年来计算机硬件的快速发展,尤其是处理器核数的不断增加和整体运算能力的快速提高,给深度学习加速提供了硬件基础,然而其训练算法并行度低和内存开销巨大等问题使得加速研究工作困难重重.首先介绍了深度学习的背景和训练算法,对当前主要的深度学习加速研究工作进行归纳总结.在此基础上,对经典的深度学习模型进行性能测试,分析了深度学习及并行算法的性能问题.最后,对深度学习的未来发展进行了展望.
其他文献
随着二十世纪七十年代整个西方世界的经济滞涨现象的出现,传统的凯恩斯主义既没有解释经济出现滞涨的成因,也无力拿出相应的政策措施。于是作为批判者面目出现的新古典主义主
创世神话是起源最早的一种原始神话,在神话学领域占有十分重要的地位。创世神话按内容主要可以分为天地开辟神话、人类起源神话、天象诞生神话三大类。20世纪上半叶对创世神
为调查中学生锻炼行为,了解锻炼阶段变化特点及其与决策平衡的关系,采用锻炼阶段变化量表、决策平衡量表对767名中学生进行测查。调查发现：被试锻炼行为阶段分布为：47.72%的中
初中美术教学目标主要是培养学生一些基本的美术知识及操作动手能力,实现学生基本的审美需求。除此之外,初中美术课堂教学还是学生提高自身素质的主要途径。随着新课改的不断
思维方式是连接语言和文化的中介,是语言生成的内在机制。因此,语言与文化的关系研究,需要深入研究与语言和文化均有密切关系的思维方式。中西方创世神话孕育了中西方思维方
黑木耳口感脆软、富含多种营养及生理活性成分,是国人喜爱的"药食同源"的食材。本研究着重关注近几年来近年来黑木耳在食用安全性、多糖、黑色素、胶原蛋白及深加工的研究进
<正>"小数的初步认识"是在学生已经认识了万以内的整数(非负)、初步认识了分数的基础上教学的,其是学生第一次接触小数的概念,也是学生数概念的一次扩展。初步建立小数的概念
经济以及环境都是国家发展的重要基础,伴随我国社会经济发展水平的不断加快,国际经济贸易活动日趋频繁,与此同时,贸易活动中经济利益的实现也会对自然环境产生一定程度的负面
输变电设备是电网的重要构成元件,其自身可靠性是电网安全运行的基本保证。输变电设备的智能监测与评估管理是智能电网建设的重要组成部分,通过积极地引入物联网技术,有助于
<正>说起补铁,人们想到的不是菠菜就是动物肝脏,其实,黑木耳才是珍品。每100克黑木耳含铁达到98毫克之多,比猪肝高5倍,比菠菜高30倍。更为可贵的是,黑木耳所含铁的吸收率也高