卷积神经网络加速模块设计与FPGA实现

来源 :浙江大学 | 被引量 : 0次 | 上传用户:lxp3754
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能的发展,卷积神经网络算法在图像处理、分类识别、目标追踪等领域得到了广泛的应用。针对卷积神经网络硬件加速的研究,提出了卷积神经网络加速模块设计方案,设计了相应的数据通路与硬件架构,基于FPGA开发平台实现,加速模块具有高效率、高性能和低BRAM资源消耗的特点。首先,针对常见卷积神经网络的特性,重点对卷积层进行加速设计。在对卷积层硬件加速设计空间的探索中,对卷积运算循环展开和并行计算进行分析,总结了数据复用方式对内存访问的影响;通过分析不同分块方式对片外内存访问(EMA)数据量的影响,选择在输出高度和输出通道上进行卷积分块,提出了不同数据复用方式下EMA数据量的计算方法,为后续硬件加速结构在缓存与数据复用方式设计上提供了理论支持。其次,为了适应常见卷积神经网络中不同类型的网络层,提出了一种统一架构的卷积神经网络加速结构设计方案。在数据通路上,为优化EMA和减少片上内存资源使用,在加速结构内部进行分层次缓存和双缓冲设计,设计数据存储格式优先储存输入输出通道数据,在内部数据传输中分阶段复用输入特征图和权重。在硬件架构上,在输入输出通道上并行计算,将其映射到乘加阵列中,增强对不同卷积尺寸的适应性;在卷积加速模块中设计了融合乘加树和脉动阵列的高效率乘加阵列,引入5级流水线,提升加速性能;在池化加速模块中对池化操作进行二维分离处理,减少片上内存资源使用;利用控制模块执行卷积分块下的数据复用,调度卷积模块与池化模块共同完成加速工作。基于Xilinx VC707开发平台,实验表明,提出的加速结构对常见卷积神经网络具有一定的通用性,在运行Alex Net卷积层时相比Eyeriss有着5.3倍的性能提升,在DSP模块性能效率与BRAM资源消耗上相比其他FPGA加速方案表现优异,其中DSP模块专指FPGA上的DSP Slice计算单元。最后,提出了一种专用型卷积神经网络加速器设计方案。为优化片外访存,对具体网络选择合适的块缓存设计和数据复用策略。在优化设计上,对第一层卷积层进行数据处理,设计独立的全连接模块,提升计算效率与计算性能;将池化模块合并到卷积模块中,减少片外内存传输数据总量。基于Xilinx VC707开发板搭建加速系统,实验表明优化后性能分别提升1.56倍和2.57倍。进行了多乘加阵列加速器并行设计和流水线设计的方案对比,实验发现对VGG-16分阶段进行流水线加速运算时,在DSP模块性能效率和BRAM资源消耗上效果最佳;与嵌入式GPU TX2相比,性能与能效上提升1.7倍;与基于FPGA的加速方案相比,在DSP模块性能效率上有着1.4倍的提升,在性能BRAM比参数上有着5.5倍的提升,同时BRAM资源使用量节省了48%以上。
其他文献
村镇银行作为新型农村金融机构的代表,在我国大力支持新农村经济建设、加强普惠金融改革的大背景下应运而生。对我国农村经济发展、农村金融管理发挥着越来越重要的作用。从2006年银监政策放宽准入至今,全国各地的村镇银行展现出了迅猛的发展势头,我国大部分村镇银行管理水平逐步提高,各项金融体系也日益完善。然而,由于特殊的信贷环境、自身规模及管理水平等的限制,村镇银行在可持续发展的道路上仍存在着种种信贷风险管理
目的探讨血脂康胶囊联合氟伐他汀钠治疗高脂血症的临床疗效及安全性。方法纳入经临床诊断为高脂血症的患者124例,随机分为观察组和对照组,每组各62例。对照组患者服用氟伐他
目的观察微创经皮肾镜联合输尿管软镜治疗肾结石治疗的效果。方法 122例肾结石患者分为对照组及观察组,对照组(60例)采用微创经皮肾镜取石术治疗,观察组(62例)采用微创经皮肾镜联
随着网络的迅速普及,网络购物逐渐成为人们日常消费的主要方式,快递数量随之迅速增加。大学生作为网络购物的主力军,2019年人均快递量达到了78件,接近全国平均水平的2倍,这就
近现代科学研究证实茶叶富含多种有益的成分,具有良好的保健功能。伴随经济发展,茶叶消费日趋旺盛:在市场上,茶叶是一种快速消费品;在农业上,茶叶则是一种极宜作为产业发展的经济作
目的探讨闭孔疝的诊治方法,以降低该病的并发症和病死率。方法回顾性分析经治的3例闭孔疝患者的诊治过程,并结合文献进行分析。结果 3例中1例并发肠穿孔,均获得治愈,无一例死
儒家思想强调伦理道德,然而,儒家学说的各项道德标准以及它们的解释却五花八门。就拿“仁道”来说,在论语及其它著作里就能找到几十种不同的解释。直到新中国成立,儒家学派的学者
2001年6月6日,渭南师范学院6000余名师生欢聚一堂,隆重举行渭南师范学院成立大会。省长程安东、教育部副部长张保庆,省委副书记袁纯清,副省长陈宗兴、省政协副主席孙天义,中
我们陕西蓝海风科技股份有限公司是一个跨行业、跨所有制的多元化科技型股份制企业。在省、市领导的关怀支持下,在公司股东大会、董事会的正确领导下,公司领导班子带领全体员
目的 探讨肝细胞癌(HCC)术后总生存(OS)相关的临床病理学参数.方法 纳入HCC患者66例,随访根治性术后OS情况,平均随访时间(39.2±25.6)个月(2.6~73.3个月).临床病理学参数与OS的相