卷积神经网络压缩算法与电路设计

来源 :东南大学 | 被引量 : 0次 | 上传用户:svennis
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度卷积神经网络是目前许多现代人工智能应用的基础,在图像、语音等领域中取得了巨大成功。然而,卷积神经网络在计算及存储上的密集性直接影响了人工智能应用在移动设备的部署。因此,研究卷积神经网络压缩算法以及硬件加速电路有着重要的实用价值。本文总结了常用的神经网络压缩算法以及神经网络加速器架构。针对卷积网络计算及存储密集性带来的高带宽及高存储问题,本文首先通过通道剪枝有效地减少了参数量与计算量,同时优化了通道重建时训练损失函数,提高了特征的完整性与整体精度;接着对全连接层参数进行剪枝;最后对全体参数进行低比特量化,经过三阶段的压缩,有效地降低了权重的存储需求。在CIFAR-10数据集上,VGGNet的参数压缩率达到了18倍,Top-1错误率仅增加了2.79%。此外,本文设计了高性能的通用型卷积神经网络加速器,依据卷积计算特点优化了加速器的访存结构,同时根据数据重用性优化了加速器的数据流映射方式,提高了计算效率。本文基于Virtex-7 FPGA完成卷积神经网络加速器的FPGA验证,并以AlexNet、VGGNet为测试对象验证了加速器的整体性能以及压缩算法的加速效果。测试结果表明,在100MHz的工作频率下,以AlexNet为基准的平均性能达到了83GOPS,单个DSP性能达到了0.18GOPS。对于32×32大小的测试图片,VGGNet网络的识别速度达到47.6fps,压缩网络识别速度达到61.4fps。本文设计的加速器验证系统具有低存储要求、实时性好、可配置性强等特点,满足深度卷积神经网络在移动设备上的应用要求。
其他文献
冷库在过去10年里得到了蓬勃发展。冷库的运营成本包括土地、设备折旧、租赁等固定成本,以及人员、水、电、设备的维护、货物损耗费等变动费用。在变动费用里,制冷系统的电费占
期刊
根据索穹顶结构由拉索和压杆组成的几何拓扑关系,提出一种新的施工成形方案——由外及里逐圈按阶段分批调节压杆长度到原长的成形方案;并采用抛物线单元建立已知原长的构件变形
我科自1997年以来观察了42例肾病综合征大量蛋白尿患者,发现黄芪注射液治疗肾病综合征,调节蛋白,减少尿蛋白,提高血浆白蛋白明显优于对照组.现总结如下.
1临床资料患者男性,36岁,因转移性右下腹痛1d,诊断为急性化脓性阑尾炎入院.急诊在腰麻下行阑尾切除术,在腰2、3间隙穿刺成功给予0.5%布比卡因重比重溶液3ml,调节腰麻平面至胸
突出中心,主要体现在文章的中心要集中和鲜明。所谓集中,是指一篇文章只能有一个中心,写人叙事、抒情议论都必须围绕这一中心来进行。这就要求我们在写作之前,必须认真审题,确立中
本文从高等职业教育以培养高等技术应用性人才为根本任务出发,深入探讨了仿真模拟实训的理论意义和应用价值、特殊作用、系统构建,论证了仿真模拟实训能有效的实现高职职业能
前列腺增生症(benignprostatic hyperplasia BPH)又称前列腺肥大,是男性老年人常见的疾病,50岁以后发病率随年龄增长而增多,直到80岁以后也很多见.尿频、排尿不畅、夜尿增多
目的应用超声监视下实施纵隔子宫并单侧宫内早孕无痛人工流产手术,进一步评价其安全性及疗效。方法选择孕6周~8周行人工流产的门诊孕妇40例,采用小剂量异丙酚复合芬太尼的麻醉方
近几年来.我们运用苦黄注射液治疗急性黄疽型肝炎,取得了令人满意的效果.现报告如下.1临床资料120例急性黄疸型肝炎均为1998年1月~1999年1月的住院病人,随机分为2组,苦黄注射
本文认为,开拓旧货市场,可以调剂居民生活用品余缺,盘活企业存量资产,充分挖掘社会闲置资源,对于搞活流通,促进生产,满足消费具有重要作用。