基于分布式存储的可重构神经网络系统

来源 :师兆伟 | 被引量 : 0次 | 上传用户:awards
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近十几年来,卷积神经网络得到了飞速的发展,被广泛应用于图像分类、模式识别、多目标检测等领域。随着应用的扩展,对卷积神经网络的运行速度也提出了更高的要求。硬件加速器是提高卷积神经网络运算速度的主要技术手段。面对不同应用场景,卷积神经网络的结构也不同,因此面向不同卷积神经网络结构的可重构硬件加速器相比于传统的不可重构硬件加速器更具有市场价值。卷积神经网络硬件加速的核心策略是运算并行,本文通过在层内、层间、通道间增加运算单元的方式,同时实现多种并行。大量的并行策略提升了加速器对数据传输的要求,因此外部DDR带宽以及片上存储需求便成为限制运算速度的首要因素。为解决带宽及片上存储资源问题,本文提出了分布式存储架构,对片上存储资源进行分区,设计输入缓存、临时缓存、输出缓存。其中临时缓存对卷积计算的中间数据进行分布缓存存储,避免先写入DDR后再从DDR读取数据所引起的DDR带宽不足问题,当输入、输出缓存合理配合时,可以使得DDR接口不空闲,最大程度上利用DDR带宽资源。其次提出对较大输入特征图进行分块卷积,以减少对片上缓存资源的需求。可重构硬件系统通过指令程序控制运算过程以实现重构卷积神经网络。从重构规模上看,细粒度指令集虽然能使重构过程更灵活,但会影响卷积网络的吞吐率。因此本文设计了一套粗粒度可重构指令集,用来控制硬件重构各种卷积神经网络。在加速器设计中,固化卷积核大小的方式会影响重构后网络的性能。为了便于加速器的扩展与移植,本文采用参数化的方法固化卷积核,以便系统的移植。本文应用分布式存储架构、可重构卷积网络的指令集完成了通用可重构卷积神经网络硬件加速器的设计;并通过现场可编程门阵列进行验证,基于通用可重构卷积神经网络硬件加速器,重构了 LeNet,AlexNet,VGG16,ResNet四种卷积神经网络。最终实验结果表明,本文采用的分块卷积策略,大幅减少了片上存储资源的使用;分布式存储在保证了并行性的同时,也使得网络性能得到了保证。
其他文献
我国经济快速增长,贫富差距日益扩大,这种宏观社会环境很容易导致部分群体在心理上产生主观的相对剥夺感。相对剥夺感(relative deprivation)是社会比较的结果,指个体通过与周围其他人比较而感知到自身处于不利地位。研究表明,这种对于不利地位的感知会对个体行为产生重要影响,主要包括越轨、攻击、暴力等偏差行为(Smith et al.,2012)。互联网通过扩大参照群体等方式极大扩大了青年群
学位
《立法法》第13条的立法原意是在立法信息缺乏的情况下通过暂停法律授权地方试点,从而推进国家改革。该法条可以分解为主体要件、目的要件、事项要件、时空要件和“法律的部分规定”,对于“法律的部分规定”的解释受到其余四个要件的约束。本文试图将“法律的部分规定”拆解为“法律”、“部分”和“规定”三部分,分别对应暂停法律的对象、幅度和内容,结合授权实践分析其内涵与界限。第一章从《立法法》第13条的立法背景出发
学位
科研产出是衡量文科硕士研究生培养质量的重要指标,也是文科硕士生科研学习结果最直接的体现。学术论文发表是文科硕士研究生主要的科研产出形式。当前学术界普遍认为文科硕士研究生发表的学术论文存在选题重复率高,内容创新性不足,研究方法单一等问题,甚至不少学者认为应该取消硕士生发表学术论文的要求。这些评价缺少参照标准属于唯结果论,忽略了论文发表要求下学生学术写作过程对学生能力提升带来的影响。本研究以S大学为例
学位
随着信息技术和信息系统的不断革新,现代生活的信息化程度日益提高,在此背景下,中国游戏行业发展迅猛。越来越大的在线玩家规模和越来越高的游戏画质对游戏设备配置提出了更高的要求。随着人们空余时间的逐渐碎片化,动辄数小时的沉浸式游戏成为一种奢侈,人们更希望通过便捷的移动设备体验高性能游戏的乐趣。游戏设备的便携性与高性能在传统方案下难以同时满足,为了打破这一困境,云游戏概念应运而生,并受到腾讯、微软、育碧等
学位
当下,电影在整个文化产业中被视为龙头产业,电影节又是电影产业的画龙点睛之笔,受到全世界范围的广泛关注。以欧洲三大电影节和奥斯卡金像奖为代表的国际电影节,引领着世界电影的时尚潮流。四大国际电影节各具特色,除了“艺术性”的使命,如今在电影工业化进程中,其“商业性”特点也逐渐凸显。本文首先对欧洲三大电影节和奥斯卡金像奖进行逐一介绍,并着重分析其商业属性;其次,以战略管理理论为框架,把电影节当作独立的经济
学位
目的:年龄相关性白内障(age-related cataract,ARC)是世界范围内导致老年人视力损害的最常见原因,是遗传和环境因素联合作用的结果。氧化应激和凋亡在其发生机理中起着举足轻重的作用。近年来研究证实长链非编码RNA(long non-coding RNA,lncRNA)在细胞功能和疾病进展中发挥作用,但是目前尚不确定lncRNA在ARC患者晶状体上皮细胞(lens epithelia
学位
目的:本研究旨在探讨阻塞性睡眠呼吸暂停低通气综合征(obstructive sleep apnea syndrome,OSAHS)与脑白质病变(cerebral white matter change,WMC)的相关性,以便早期识别和治疗OSAHS而减轻WMC的程度。方法:本研究是一项对照研究。收集了2016年3月—2016年10月在青岛市中心医院神经内科住院的85例患者。应用多导睡眠监测(pol
学位
津渡为江河之渡口,是人们为跨越河流障碍、方便日常出行而设的交通设施。历史时期,津渡的发展与自然环境和人类活动息息相关,是流域社会中不可或缺的人为设施。黄河流域是华夏先民生息繁衍之地,孕育了灿烂的黄河文明。黄河水系发达的干流与支流将以陕、晋、豫为主的中游地区紧密相连,虽山河阻隔,却息息相关。津渡作为自然环境与社会经济的重要连接点,在这一地区发挥着重要作用。本文在梳理明清地方志的基础上,对这一时期黄河
学位
目的以“JBI循证卫生保健模式”为理论指导,基于循证汇总糖尿病前期管理的最佳证据,借助钉钉平台,制定远程干预方案,实施干预并评价效果,以期提供科学、规范、可行的糖尿病前期人群管理模式,为糖尿病一级预防提供参考。方法本研究分为两部分。第一部分,根据“6S”证据查找金字塔原则,全面检索糖尿病前期干预相关指南、证据总结、系统评价和专家共识,评价文献质量,汇总最佳证据;采用利益相关者会议及访谈的方法,评价
学位
企业作为推动经济发展的主体,是社区治理多元主体的重要组成部分。企业与社区有着很强的共生关系,在参与社区治理的过程中,企业能够向社区提供更多的资源,能够更好地履行社会责任,能够运用市场化的创新形式帮助社区解决更多的问题。在此结合社区基金会及汇丰社区伙伴计划等案例,对企业参与社区治理的模式进行了研究,提出激发企业参与社区治理的建议,希望对推动企业参与社区治理的可持续发展有所助益。
期刊