随机计算与余数系统在卷积神经网络中的应用研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:ygyyy2012
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着卷积神经网络技术的不断发展以及在各个不同领域的应用,以其为框架所设计的算法已经遍布了目标检测、语音识别和自动驾驶等多个领域,应用场景也从服务器端逐渐走向了嵌入式移动设备端。但随着算法的发展,其从模型复杂度、计算量以及计算延时都有越来越高的要求,模型中网络层数的增加使得计算过程中关键路径的延时以及计算量的增加,从而导致了整个算法执行效率不高。余数系统是一种将二进制数用其余数表示的方法,将一个位宽较大的数采用几个位宽较小的数来进行并行运算,卷积神经网络中运算量最大的是卷积层中的乘法和加法运算,这正是余数系统的优势,并行的乘加运算能减少系统关键路径的延迟,但是在符号检测以及大小比较方面余数系统却并不能很好的胜任。随机计算是一种以概率的形式来实现电路运算单元的计算方法,与二进制相比,随机计算电路具有更低的资源占用及功耗,在大小比较、符号判断以及复杂函数的实现中都有更好的表现。本文结合了两种方法的优势将其应用于同一网络中,主要研究内容如下:首先介绍了余数的性质以及余数系统的概念,根据卷积神经网络的特点选定了余数系统的余数基,并根据该余数基完成余数系统基本单元的设计,加入了基拓展单元用于解决卷积过程中的计算溢出问题,提出了基于混合基的后向转换单元的改进电路,优化了基本方法中的乘法器单元,进而减少余数系统后向转换电路的延迟与资源占用。其次介绍了随机计算的基本概念以及基本计算单元,介绍了基于线性有限状态机的随机计算单元的方法以及利用随机均匀序列的可分割性,完成随机复杂函数电路的设计并利用其完成卷积神经网络中池化模块、激活函数以及分类函数的设计。最后完成基于余数系统的卷积单元以及基于随机计算的池化激活和分类单元,结合以上模块完成Le Net-5网络的硬件电路设计,并在PYNQ-Z2开发板上进行实验。通过对比分析卷积神经网络加速器的性能,包含检测时间、功耗和资源占用,将其结果与加权二进制下同一平台进行对比,优化后查找表资源同比减少了35.79%,触发器资源减少了5.61%,时间上也有所提升。
其他文献
预压力是超声电机性能表现的关键影响因素。本文针对行波型旋转超声电机在变工况条件下预压力无法精确调节至最优值问题,以超声电机预压力作为研究对象,提出将多属性决策下预压力优化与多连杆机构调节预压力相结合的新方案,搭建超声电机预压力测试平台与快速控制原型测试平台,验证预压力优化模型,预压力可调装置与电机运动控制策略的有效性,从而提高电机在不同应用场合下的性能表现。主要研究内容如下:(1)运用参数辨识法建
学位
由于国外战争、恐怖袭击事件频发,给建筑结构的爆炸防护能力带来了更为严峻的考验。涂层技术是提高建筑结构抗爆能力有效的方法。聚脲作为一种高性能涂层材料,目前广泛应用于耐磨、防腐、防水、抗冲击等多个领域。然而在爆炸这种苛刻的使用条件下,聚脲的性能仍需进一步提高。将玻璃纤维添加到聚脲中,可以有效改善其理化性能,对其在抗爆领域中的效应及应用的研究具有重要的意义。本文制备了玻璃纤维增强聚脲复合材料(以下简称玻
学位
图像语义分割技术是无人车自动驾驶领域使用的重要手段,但是目前无人车自动驾驶依然存在分割效果难以提升,数据集制作困难以及代价消耗过大的问题。针对上述问题,本文在语义分割结构设计上设计了一个多路卷积残差结构MCRB,两个语义分割网络MCRB-Net、AMCR-Net,并通过消融实验验证了它们在分割效果提升上的有效性。然后,本文设计了两种数据增广方法A-Pix2pix、MGrid Mask来扩增City
学位
碳纤维增强复合材料(Carbon Fibre Reinforced Plastics,CFRP)因其比强度高、比模量高、轻质、耐疲劳及可设计性强等特点而广泛应用于航空航天、船舶交通、兵器装备、建筑、风力发电等领域。CFRP层合板由于自身结构特点,其在制备、服役乃至后续检测与维修过程中均存在受冲击产生损伤的风险,受冲击的材料表面一般损伤较小,但其内部的损伤严重,特别是在低速、低能量冲击条件下产生的损
学位
近年来,随着精准湿度检测在农业种植、医疗监护、气象预报以及工业制造等诸多领域的需求日益旺盛,湿度传感器引起了国内外研究人员的广泛关注。当前市面上和研究报道的湿度传感器类型多种多样,其中小型化、可实时监测、数字传输的湿度传感器格外受人青睐。石英晶体微天平(Quartz Crystal Microbalance,QCM)是一种高灵敏质量型传感器,能够检测纳克级的表面质量变化,兼具有装置简单、易赋能、成
学位
<正>所谓"全收获"理念,就是突破种植活动单纯对植物果实的物质性收获,重视幼儿经验获得的种植新理念。把种植作为重要的劳动以及幼儿经验的来源,基于儿童的亲近大自然的需要,让幼儿在多样化、多方式的四季种植活动中,增进对植物及其生长发展过程和植物生长条件的了解,在选种、栽培、管理、收获、品尝、制作等整个过程中获得多方面的经验。
期刊
自以柯布西耶、密斯、赖特以及格罗皮乌斯等为代表建筑师的现代建筑时期(1920年代)以来,建筑内部空间就一直作为建筑设计的重要方向,并成为建筑设计的核心之一。在现代建筑早期(1920年代~1950年代),建筑师对建筑内部空间的追求常常局限于功能使用上。到了现代建筑中后期(1950年代~1980年代),建筑师对建筑内部空间的倾向发生了转变,建筑空间不仅需要满足使用,还应兼有精神需求,他们在设计中逐渐有
学位
人体动作识别一直是计算机视觉中极具挑战性的课题之一,受到了工业界和学业界的研究者广泛关注。目前它已经被广泛应用于医疗保健、监控安防、人机交互、体育竞赛、智慧课堂等众多领域。动作通常需要持续一段时间。而过去的大多数方法是基于单张图像进行动作识别,难以提取视频的时间特征信息,从而导致模型效果不理想。因此本文基于视频序列,围绕动作识别领域中的时空信息的有效提取以及提高对视频的长时序信息建模能力等关键性技
学位
逆导型IGBT,即RC-IGBT(Reverse Conducting IGBT)是在IGBT的基础上,将续流二极管(Freewheeling Diode,FWD)与IGBT集成到同一硅片上制备而成的,从而具备反向导电的能力。RC-IGBT相比传统的IGBT模块,具备尺寸小、成本低以及稳定性好等优势,但同时也存在Snapback效应以及引入更复杂的性能折衷关系等问题。本文针对RC-IGBT器件的S
学位
学位