基于嵌入式环境的滤波器剪枝研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:gaodmljs
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年来,嵌入式凭借着其体积小、功耗低等诸多优点改变了人们生活、生产的方方面面。卷积神经网络在无人超市、人脸识别、布匹瑕疵检测、无人驾驶等场景的应用都对嵌入式设备的计算能力提出了严苛的要求。但嵌入式设备的资源有限,先进的卷积神经网络动辄包含上亿的参数,无法在嵌入式设备上部署。为了让资源受限的嵌入式设备能够良好地运行卷积神经网络,完成实时的图像识别等任务,需要对卷积神经网络模型进行轻量化处理,即模型压缩。目前对滤波器、通道执行剪枝的结构化剪枝算法效果较好,被广泛采用。结构化剪枝算法当中的Le GR全局滤波器剪枝算法在保证模型准确率的前提下,比其他剪枝算法节省至少1/2的时间。但实际环境中,需要快速地部署模型,对滤波器进行全局排序时耗时较长,将难以满足实际的需求。在保证剪枝后模型准确率的前提下,通过合理的方法对其进行改进,减少排序时间,使得卷积神经网络模型能够快速地在资源受限的嵌入式设备上部署是需要解决的问题。通过国内外研究现状的分析,现有研究成果基础之上仍然存在有所改进之处:(1)在对滤波器进行排序时采用老化进化算法通过凑试法去寻找放缩比例α和偏置κ,需要不断重复搜索、剪枝、微调、计算准确率等步骤,耗费了大量的时间。并且对于结构越复杂的卷积神经网络,需要采用更多的搜索轮数,滤波器排序耗时越长,不利于卷积神经网络在嵌入式设备上的快速部署。(2)实际开发当中,由于内存容量、存储空间大小、计算能力等限制,难以将算法部署在资源受限的嵌入式设备中。本文采用了解析的方法对Le GR全局滤波器剪枝算法进行改进,构建了滤波器权值的公平性函数,将双变量随机搜索问题转变为单变量解析问题。通过实验证明,改进算法剪枝后模型的准确率与原算法达到同等水平,并且能够大幅地减少排序所花费的时间,更利于模型的快速部署。另外,设计并开发了一个适用于无人超市的果蔬识别系统,综合考虑了嵌入式开发板的内存大小、存储空间大小、计算能力高低等因素,将改进算法与该系统部署在开发板上。通过对比实验证明,改进算法在保证模型准确率的前提下,能够采用更高的剪枝率进一步地减少约40%的图片推理耗时,达到了实时识别的要求。主要研究内容如下:(1)采用解析方法对Le GR全局滤波器剪枝算法进行改进。通过机理法构建了滤波器权值的公平性函数,然后解析求得每一层滤波器的公平性参数。该参数能够更公平地反映每一层的滤波器的参数分布,也能够更公平地对滤波器的重要性进行排名,将全局滤波器放在同一个坐标系下进行排序。基于CIFAR-10、CIFAR-100、CUB-200数据集对Res Net56、Mobile Net V2、Res Net50、VGG13预训练模型进行剪枝实验,证明改进的Le GR算法能够在保证模型准确率的前提下,大幅地减少滤波器排名所花费的时间。(2)将改进算法部署在嵌入式开发板上。设计并开发适用于无人超市的果蔬识别系统。然后根据嵌入式开发板内存大小、存储空间大小、计算能力高低等因素分析并设置合理的剪枝率,采用改进后的算法与原算法对初始模型进行剪枝。通过创建Swapfile分区、搭建Open CV环境、配置摄像头RTSP协议等方法将改进算法与果蔬识别系统部署在开发板的Cortex-A53单核1.0Ghz CPU,512MB DDR3L RAM,8GB ROM的嵌入式环境中。最后,通过对比实验证明,与原算法相比改进的Le GR剪枝算法在保证模型准确率的前提下,能够采用更高的剪枝率进一步减少图片推理耗时。
其他文献
自1984年我国建立首批14个经济技术开发区以来,各种各样的开发区在中华大地如雨后春笋般涌现,并为我国的经济腾飞贡献了重要力量。国家发改委2018年统计数据显示,我国现有各级各类开发区2543家,其中国家级开发区552家,省级开发区1991家。(1)这些开发区在设立之初,通常是以特定经济区域的形式呈现的,并形成与行政区域相辅相成的局面。其内涵指向包括如下几个要素:灵活的设立程序、特殊的财税优惠政策
学位
作为实证法学的创始人,奥斯丁提出的“法律命令说”对后世有着深远的影响。奥斯丁将法理学的研究对象限定为实际存在的由人制定的法,并且试图将法理学与其他相近的学科进行区分。哈特认为奥斯丁的法律命令说无法补足简单社会存在的不确定性、静态性、无效率性三个缺陷。他对奥斯丁的批判维度主要包括法律的多样性、主权者命令说以及法的研究方法。分析法律定义时,哈特不再以奥斯丁的逻辑实证分析法为主,而是由于受到了后期维特根
学位
目的 探讨基于结果的教育理论(OBE)教学理念在内科学理论教学改革中的效果。方法 以浙江中医药大学本科生为研究对象,分为实验组和对照组,分别采用OBE教学模式和传统教学方法。课程结束后进行成效评价问卷调查及理论考试综合评估。结果 与对照组相比,实验组学生对OBE的教学形式更为满意(t=7.94,P<0.05);并普遍认为OBE教学模式对于知识的掌握、理解和记忆更有帮助(t分别=3.13、3.71,
期刊
作为二十世纪闻名遐迩的英国现代主义女作家,弗吉尼亚·伍尔夫(Virginia Woolf,1882-1941)被誉为西方女权主义的代表、意识流叙事的先驱和“天启式的美学家”。《达洛维夫人》乃伍尔夫最杰出的意识流小说之一,国内外学者从女性主义、雌雄同体、精神分析、叙事技巧、后殖民主义和城市写作等批判视角,开展了广泛深入研究,但对文本中的声音景观(音景)及听觉叙事鲜有系统论及,由此构成了本研究的选题缘
学位
兰卡平等社会党是斯里兰卡最早成立的左翼政党。1939年末,该党公开宣称追随托洛茨基主义,成为托派政党。在发展过程中,兰卡平等社会党并未坚持革命斗争路线,反而以竞争选举为手段,走上议会道路。一个激进左翼政党缘何会选择议会斗争?对其选择议会道路的原因进行探讨,并在此基础上评估其表现与成效,进而做出评价,具有一定的学术价值。本论文首先以关键节点为依据,对兰卡平等社会党的发展历程作阶段性梳理,呈现其演变的
学位
<正>锦鲤(Cyprinus carpio L.)是一种名贵的观赏性鱼类,隶属于辐鳍鱼纲、鲤形目、鲤科、鲤属,被称为“水中活宝石”和“会游泳的艺术品”,其祖先为红色鲤,起源于我国广西、江西、浙江的龙州锦鲤、兴国红鲤、金鲤,在日本经改良培育和人工选育后,现已形成丰富的品种体系[1]。因锦鲤具有色彩鲜艳、适应性强、饲养简便、食性较杂、易于繁殖、
期刊
元代是中国古代酒文化繁荣时期,尚饮的风气遍及社会各个阶层。与前代相比,在多元文化交流和融合的时代背景下,元代酒的种类有所增加,人们的饮酒习惯亦发生了变化。元代保留了前代以劝盘、劝盏为核心的饮酒器组合,但温碗和注壶则被玉壶春瓶和匜全面取代,酒器的功能在这一时期逐渐细化,呈现出针对不同酒类使用不同酒器的趋势。
期刊
LED显示器是当前的主流显示器,文章结合LED显示器设计,提出了Mini LED背光模组亮度增强方案。根据双层增亮膜的工作原理,在金字塔微观结构设计和处理过程中控制具体参数,得出操作数值,同时明确不同增强方案下数据端处理的关键点。在对Mini LED背光模组进行处理的同时进行光线调控,实现微观结构的设计优化,并得出光组模型,实现背光组模块轴向光度和结构的控制。经过处理后,Mini LED背光模组显
期刊
一流音乐学科建设是推动高素质音乐人才培养、推动高等教育高质量发展和增进社会文明进步的应有之义。然而当前一流音乐学科建设正面临若干困境。超越困境的思路是:改变认知,摆脱指标排名锁定的束缚;转变模式,扭转建设思维的制度惯习;创新驱动,超越学科建设的输送策略;整合诉求,确立人才培育的价值准线。
期刊
基于闪存的固态硬盘凭借着优越的读写性能、巨大的存储容量和极低的功耗,广泛应用于各种电子设备中。然而随着闪存单元的发展,闪存单元之间的密度变得越来越大,这势必会给固态硬盘的数据可靠性带来负面影响,为了提高固态硬盘的数据可靠性,将RAID5技术引入固态硬盘,以条带为单位管理数据块成为了一种主流的解决方案。然而,由于固态硬盘自身的特性和RAID5的特点,条带中奇偶校验块的存在会给基于RAID5的固态硬盘
学位