资源受限环境下的深度人脸检测模型压缩研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:lwm1976
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人脸检测技术是人脸对齐、人脸识别等人脸相关任务的重要支撑,在现实生活中有广泛应用。现有人脸检测模型可以分为深度人脸检测模型和传统人脸检测模型两类,虽然前者在性能上远超后者,但它们难以在现实生活中应用。以深度人脸检测模型MTCNN和Face Box为例,虽然这两个模型能在个人计算机上实现实时检测,但嵌入式设备等资源受限设备存储空间少,所以它们难以被部署在此类设备上。因此,需要对这两个模型进行压缩以减少其计算量和参数量。然而,现有方法仅针对分类模型进行剪枝,而MTCNN和Face Box是检测模型,二者的网络结构与分类模型差异较大。直接使用现有方法对MTCNN和Face Box剪枝会导致模型性能损失严重。为此,本文根据二者的网络结构特点,分别对MTCNN和Face Box的压缩进行研究。本文主要研究内容可概括如下。首先,现有方法对级联结构的MTCNN中各模型设定相同剪枝率,导致剪枝后模型性能损失严重。针对该问题,本文首先提出一种针对性的剪枝策略,根据MTCNN中各模型关联以及冗余程度设定不同剪枝率。同时,为进一步降低MTCNN剪枝后的性能损失,本文基于知识蒸馏方法提出一种剪枝模型的微调方法,使用原始模型指导剪枝模型的微调过程。最后,我们还提出一种结合通道剪枝和模型量化的深度人脸检测模型压缩框架,利用低比特量化显著减少剪枝MTCNN的模型大小。其次,Face Box的网络结构与分类模型的网络结构差异较大,直接使用现有方法进行剪枝会导致模型性能损失严重。针对该问题,本文首先提出一种一阶段深度人脸检测模型的通道剪枝方法,利用模型输出分支筛选模型骨架网络中区分能力强的卷积层通道进行保留,降低剪枝Face Box的性能损失。然后,为进一步降低Face Box剪枝后的性能损失,本文针对此类模型的结构特点,基于知识蒸馏方法提出一种利用中间层输出信息的微调方法,结合原始模型中间层输出和原始模型输出共同指导剪枝模型的微调过程。此外,我们同样使用低比特量化以显著减少剪枝Face Box的模型大小。最后,我们通过实验验证了本文提出的压缩方案能够有效减少深度人脸模型的计算量和模型大小,并且不会造成明显的性能下降。
其他文献
分数阶微积分是整数阶微积分的推广.与整数阶微分方程相较而言,分数阶微分方程具有记忆性和局部性,能更好地描述一些具有记忆效应的过程.因此,分数阶微分方程在材料学、工程
21世纪以来,物联网技术在多个产业领域的应用得到长足进步。在现代温室环境的智能管理中,怎样把物联网技术良好地应用到其中,对设施农业的智能化水平提升,有着里程碑式的意义
随着深度学习的发展,行为识别已经成为计算机视觉领域一个十分热门且重要的分支。当前行为识别已经有了广泛的应用,包括视频理解、人机交互以及虚拟现实等等。近年来,随着图卷积网络(将卷积神经网络应用到图中)的发展,行为识别领域又获得新的突破,识别准确率进一步提升。然而,当前存在的图卷积方法感受野太小,只能学习到邻近关节点的相关信息,无法像卷积神经网络一样通过池化扩大感受野提取行为的高层次特征,例如人体五个
当代埃及海外留学生的派遣工作始于纳赛尔时期,经过近七十年的发展,已取得了诸多成就。埃及海外留学生的规模时有波动,总体上呈不断增长的趋势,尤其在2011年后,留学生数量增速明显提高。纵向上看,埃及留学生的规模持续增大,但横向对比其他中东大国仍有明显差距。当代早期,埃及海外留学生以公派为主,当前阶段,埃及学生则更依赖项目交换和国外奖学金的支持。专业方面,埃及留学生总体上更重视理工类学科。纳赛尔和萨达特
随着我国经济水平的不断发展,生态环境问题也日益凸显,且这种问题大多都是由企业一味追求自身经济利益,忽视了应承担的环境责任所导致。2010年《企业内部控制配套指引》的颁
基于2D图像的植物表型无损测量是植物表型组学当前的研究热点,为准确获得三叶草的表型特征,本研究以不同光照和土壤水分条件下的盆栽三叶草为研究对象,基于图像分析技术即在
目的:分离Brugada综合征(Brugada Syndrome,BrS)患者外周血单核细胞(Peripheral Blood Mononuclear Cell,PBMC)建立特异性诱导的多能干细胞(Induced pluripotent Stem cells,iPSC)系,为后期探讨BrS的发病机制提供疾病模型。方法:从一例明确诊断BrS的患者中收集外周静脉血,分离PBMC。将包含四个特异性因子
光纤激光器作为第三代激光器的代表,因其输出功率更高,应用领域更为广泛而迅速发展。但是随着光纤激光器的输出功率不断提高,高功率光纤激光器的发展出现了一些限制因素。其中非线性效应是限制激光器输出功率提升的主要因素,模式不稳定现象影响了激光器输出的光束质量。大模场面积光纤可以有效降低非线性效应,保持良好的单模传输可以提高光束质量,同时良好的抗弯曲特性有利于高功率光纤激光器的小型化和集成化发展。因此设计具
宏孔硅是传感器和复合材料领域的研究热点之一,具有低成本、高深宽比、良好的机械性能、较好的吸附性以及与集成电路兼容等优点,对生物医疗、疾病筛查、复合材料开发等具有重
网络中立帮助行为既诞生于网络化的大背景之下,又立足于传统中立帮助行为基础之上。《中华人民共和国刑法修正案(九)》[以下简称《刑法修正案(九)》]将拒不履行信息网络安全管理义务罪和帮助信息网络安全活动罪纳入刑法,试图从不作为和作为的两个角度全面封锁网络犯罪的出罪空间,将尚处于争议之中的网络中立帮助行为一下提升到正犯的高度,标志着我国刑法对网络中立帮助行为全面处罚的序幕正式拉开。网络服务提供者的业务行