可移植低功耗量化神经网络设计

来源 :广东工业大学 | 被引量 : 0次 | 上传用户:ourui4108432566
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,卷积神经网络的快速发展推动了人工智能领域的研究。目前卷积神经网络已经在计算机视觉、自然语言处理以及目标检测等多方面取得了很多突破性进展。由于卷积神经网络需要消耗大量的存储空间和计算资源,使得大多数硬件设备无法满足其性能需求,严重限制卷积神经网络在便携式设备中的应用。因此科研人员不断地探索加速与压缩神经网络的方法。在众多方法中,量化神经网络凭借其不俗的加速表现与压缩效果吸引了科研人员的关注。但量化神经网络存在的精度损失情况仍是亟待解决的问题。因此探索出兼具高加速比、压缩效果好并保持高精度的量化神经网络具有重大意义。本文对XNOR-Ne方法改进,提出二值输入与三值权重的量化方法,将量化神经网络移植到边缘硬件设备上,并分析了量化神经网络的真实加速与压缩效果。本文的研究内容主要包括以下工作:(1)针对目前业界常见压缩神经网络的方法,如低秩分解、参数剪枝、知识蒸馏和参数量化,比对各方法的优缺点。同时利用参数量化方法,探索把神经网络移植到低功耗边缘设备的方法。(2)对XNOR-Net量化网络进行分析,并将其移植至边缘设备上进行测试,同时记录训练数据。实验结果表明,相对于全精度网络,边缘设备使用XNOR-Net方法训练模型时,功耗至少下降了17%,最高下降了20%;训练时间至少缩短了49%,最多能达到56%;网络模型压缩比最高可达15.5倍。(3)以XNOR-Net方法为基础,提出带缩放因子的二值输入和三值权重量化方法。在理论层面,分析网络的运算效率以及压缩比。随后移植至边缘设备实验,记录识别准确率、训练时间、能耗等数据进行分析。实验测得,相对于全精度网络,边缘设备使用该量化方法训练模型时,功耗最少下降了11%,最高下降了25%。训练时间至少缩短了39%,最高缩短了45%;网络模型压缩比最高可达14.7倍。相对于XNOR-Net网络,准确率在Raspberry4B设备上提升了0.83%,在Jetson Nano设备上提升了0.65%。
其他文献
国际上对水环境的治理与改善工作开始时间较早,2013年国际最高审计机构组织发布了《水资源审计方法》,目前已广泛运用于各个国家的审计机关。在我国,党的十九大报告强调在做好重点流域生态环保规划编制的同时,建立并完善流域生态环境综合管理体系。“十四五”规划对于生态文明建设也有了更高的要求。碳达峰、碳中和目标的实现促进了再生水的循环利用,一定程度上改善了我国水资源的生态环境。目前,我国对于水环境审计的重点
学位
随着互联网等信息技术的高速发展,世界经济已进入快速变革时代,全球化、网络化以及信息技术不断扩散,企业经营环境不断变化,很容易丧失原有竞争优势或被对手超越。我国于2015年提出供给侧结构性改革,强调要大力发展实体经济。“十四五”规划进一步指出要充分发挥海量数据和丰富应用场景优势,催生新产业新业态。但目前,一方面传统企业转型升级仍受制于资源配置效率、组织惯例制度、技术的更新迭代等因素,缺少可参考的转型
学位
面对自动驾驶、自动化工厂等对可靠性和低时延有严格要求的新型通信场景,第五代(5th Generation,5G)移动通信的关键技术超可靠低时延通信(Ultra-reliable and low-latency communication,URLLC)技术应运而生。URLLC使用了短包通信技术,即通信传输使用的是包长度有限的数据块,每个数据块由有限个符号组成。与长包通信相比,短包通信具有较复杂的速率
学位
随着车联网汽车数量的飞速增长,通信业务量激增,频谱资源的稀缺问题越发突出,对车载网络通信的可靠性和实时性提出了新挑战。无人机辅助车联网利用无人机高移动性和易于部署性来卸载业务流,减少来自地面通信系统的干扰,解决基站覆盖范围外无法为用户提供无线连接的问题。它的部署提高了车载应用的质量和性能,但是这种组网方式仍然存在集中化管理的不足。为了解决该问题,本文提出一种基于区块链的无人机辅助车联网资源分配方法
学位
现阶段,企业经营的内外部环境更加复杂,这就要求企业在生产运营过程中采取更加稳妥有效的方式,有效降低企业运营风险和提高经营管理水平,对企业的人力、物力资源进行优化整合,提高资源利用率,为企业创造更多的经济效益。构建企业财务会计的内控管理机制,可以加强对企业财务会计工作的有效监管,进一步提高企业的财务数据质量,为企业运营发展提供有效的数据支持,帮助企业进行更科学的决策,助推企业可持续发展。
期刊
企业内部管理机制是加强内部治理的重要依据,对于企业实现健康运行与长远发展至关重要。从企业财务会计的角度来看,借助内部管理机制可以为企业管理层强化管理力度,便于相关人员及时、全面地了解财务会计工作情况,同时能够促使财务会计工作人员更加重视自身工作,在实际工作中更注重规范性、严谨性、可靠性,从而发挥财务会计的关键作用。基于此,该文以企业财务会计内部管理机制构建为主线,从正确认识重要性、加快信息化建设、
期刊
由于快速发展的经济和工业化,我国的工业用地面积在不断扩大,土壤污染问题也日益严重。土壤污染已经影响了上千万人的身体健康,为了确定土壤污染物的来源,减少或消除土壤污染给人们造成的健康风险,国务院在2016年颁布《土壤污染防治行动计划》,多个国家部门参与重视,负责监管石化、焦化、有色金属冶炼、电子垃圾、电镀、制革等行业的工业污染,开展土壤环境污染物调查,并进行信息化管理土壤环境,加强土壤污染防治。因此
学位
噪声源作为一种典型的测试和定标设备,通过向通信系统、待测器件输入精确已知的噪声值,从而检测通信系统传输与接收信号的能力和分析器件设备的性能,在通信、卫星、雷达、太赫兹成像、军事等领域具有重要作用。随着科学技术的快速发展,频谱资源需求不断增加,很多系统应用与器件研制都朝着大功率、高频段的方向发展。因此,可调控的高超噪比宽带毫米波噪声产生技术既是毫米波噪声源的研制关键也是现今研究的热点。目前,由于电子
学位
当今社会,人们对电子设备的需求正在日益增加,而大多数电子设备的正常工作离不开锂离子电池。同时,航空设备、电动汽车上都有锂离子电池的身影,因为其能量密度比较大,体积小巧、对环境污染较小。而电池容量不够大,寿命不够长一直是限制锂离子电池应用的主要原因。电池容量是由电极材料决定的,因此找到一款对环境友好、能量密度大、安全的电极材料成为了当前研究的热点。当前石墨为电池上主要的负极材料,它导电性强、稳定性高
学位
一直以来,股权融资都是公司重要的筹措资金的方式。但对于采用股权融资的科技创新型企业来说,由于行业的特殊性往往前期投入多,收益小,为了公司的长期发展就需要进行多轮股权融资,因此在传统的“一股一权”模式下创始团队的表决权就很可能被稀释,从而导致公司发展理念无法贯彻实施,不利于公司的长远发展。为了避免融资后带来的股权稀释问题,我国一些优质的科技创新型企业,比如阿里、京东、百度、小米等都选择去可以采用双重
学位