【摘 要】
：
近年来,深度卷积神经网络在各种计算机视觉上取得了突破性的进展,其应用范围也越来越广。然而,深度卷积神经网络需要强大计算能力、高存储空间和高内存占用的特性却严重阻碍着它的应用和发展,使得这些高性能的模型难以部署在一些资源受限的设备上,也无法部署在对实时性要求极高的系统中,如智能手机、树莓派、嵌入式AI系统等。通道剪枝是一个能够减小模型尺寸的研究领域,而为了更加有效地降低神经网络模型的资源占用,更小地
论文部分内容阅读
近年来,深度卷积神经网络在各种计算机视觉上取得了突破性的进展,其应用范围也越来越广。然而,深度卷积神经网络需要强大计算能力、高存储空间和高内存占用的特性却严重阻碍着它的应用和发展,使得这些高性能的模型难以部署在一些资源受限的设备上,也无法部署在对实时性要求极高的系统中,如智能手机、树莓派、嵌入式AI系统等。通道剪枝是一个能够减小模型尺寸的研究领域,而为了更加有效地降低神经网络模型的资源占用,更小地影响模型的性能,本文分别从模型自身结构和结合数据集两个角度研究基于通道剪枝的神经网络压缩方法,并讨论这两种剪枝方法的特性。主要的研究内容和创新如下:（1）针对基于单层通道剪枝方法不足之处,提出联合多结构的通道剪枝方法（CCP）。基于单层权重参数的剪枝方法会误删除BN层中重要的缩放因子,或者当利用BN层的缩放因子评估通道重要性时,会误删除重要的卷积层通道。CCP分别对卷积层权重和BN层缩放因子进行L1正则化,联合卷积层权重和BN层缩放因子共同判断通道的重要性。在CIFAR-10数据集上,实验结果显示,CCP能够在仅仅轻微的影响精度的情况下降低VGG-19模型85.49%的FLOPs,也能够在不降低模型精度的情况下减少Res Net-50模型78.31%的FLOPs。（2）针对中间层输出特征图所携带信息量差异较大问题,提出基于特征图贡献的通道剪枝方法（FPC）。不同的输出特征图对于模型性能具有不同的贡献度,产生低贡献度输出特征图的过滤器对于模型的性能具有较低的贡献。基于此,FPC对输出特征图进行奇异值分解,并根据较大的奇异值携带更多的信息这一性质筛选出携带较多信息的输出特征图。在CIFAR-10数据集上,实验结果显示,FPC能够在减少VGG-16模型65.62%的FLOPs的情况下提升0.25%的精度,也能够在减少Res Net-110模型48.19%的FLOPs的情况下提升0.11%。
其他文献
作为一种数据预处理技术,实例选择（Instance Selection IS）旨在选择少量具有相同（甚至更高）分类能力的实例子集。由于其广泛的应用,人们提出了许多具有良好性能的IS算法。然而,大多数现有算法侧重于利用不同的优化技术来设计新的IS算法,而很少有人考虑IS的实际应用情况。例如,在多类别情况下,实例选择问题更加复杂,不同类之间的不平衡性对现有的IS算法提出了很大的挑战,目前基于进化算法的
由于视频监控和智能安防的普及,视觉跟踪的应用领域越来越广,视觉跟踪成为了计算机视觉中的一个重要研究方向。而可见光与热红外图像可以相互补充,已被证明是提高跟踪性能的有效方法。因此,结合可见光与热红外信息的RGBT视觉跟踪引起了人们的广泛关注。然而现有的RGBT视觉跟踪网络结构大多是人类手工设计的,严重依赖于专家经验和科学直觉,且无法保证结构的最优性。本文针对这个问题展开研究,分别提出两种神经结构搜索
随着全面小康社会的建成、人民的经济水平日渐提高,车辆的普及率越来越高,为城市管理、交通安防建设带来了难题。车辆重识别作为智慧城市最重要的课题之一,它的主要任务在于,给定特定的车辆图像,在复杂的监控网络拍摄得到的海量数据中检索并定位到该车辆。作为非常具有实际意义的一门课题,我们在研究中发现阻碍车辆重识别发展最主要的两个问题:（1）针对车辆重识别数据标注困难、车辆的极端视角变化导致无监督聚类算法不能很
机器异常声音检测是对现实工厂中的工业机器进行音频监控。它通过其运行时发出的声音的变化情况,从而进一步判断机器存在故障的技术。该项技术在安全监控、工业生产、故障诊断等领域都有着广阔的应用前景。近年来,随着现实工业场景中对提高安全性的需求,声音作为识别事件的关键因素之一。机器异常声音检测已经获得了越来越多的研究者关注。现阶段,机器异常声音检测的研究领域可以分为基于深度自动编码器和基于轻量化卷积神经网络
近年来互联网金融蓬勃发展,因为其具有便捷高效等诸多优势,在吸引长尾客户和发展普惠金融方面能够弥补传统金融机构的缺点与空白,对传统商业银行盈利能力造成了一定的冲击,这给商业银行带来了强烈的危机感。本文结合作者的工作实践,分析了互联网金融发展对中行秦皇岛分行盈利能力造成的正负两方面影响,得出如下结论:互联网金融严重冲击了中行秦皇岛分行的存贷款利差收入,降低了盈利水平;同时体现了“鲶鱼效应”,倒逼中行控
图像匹配作为视觉感知中的一个基础且关键的过程,一直是计算机视觉领域中的研究热点。现有的匹配算法主要围绕图像的局部特征展开,利用局部特征的可区分性和稳定性等特性建立特征匹配集合,但对于存在局部形变或视角变换的多物体图像以及具有光谱差异的异源图像,在匹配精度、鲁棒性方面仍存在一定的局限性。观察表明,针对多物体图像匹配,可通过挖掘匹配特征之间的局部一致性变换约束来确定正确匹配;而针对异源图像配准,应重在
随着集成电路制造工艺的不断进步,芯片集成度与性能都获得了提升。然而,晶体管特征尺寸的大幅缩小也给集成电路的可靠性提出了巨大挑战。对于纳米级互补金属氧化物半导体（Complementary Metal Oxide Semiconductor,CMOS）集成电路,软错误是造成其故障的重要原因。在先进工艺下,纳米级CMOS锁存器等诸多器件对软错误中的多节点翻转（Multiple-Node Upset,M
遥感场景分类（Remote Sensing Scene Classification,RSSC）是遥感图像领域的一个重要且活跃的分支。随着遥感技术和计算机科学技术的飞速发展,遥感场景分类在理论和实际应用中都取得了可喜可贺的成果。然而,由于遥感图像场景往往是由多种物体通过复杂多样的空间组合和关联形成的,所以RSSC依然面临着严峻的挑战。首先,除了全局信息外,局部特征对遥感图像的识别至关重要。由于CN
近年来随着深度学习的发展,人体三维重建工作在神经网络的支持下,成为了新的研究热门,并涌现出了许多基于深度网络的方法,但这些人体重建工作往往要求在没有遮挡物的情况下对人体进行重建。然而,在现实生活中,由于人与物体的频繁交互运动,人被各种物体遮挡的情况是随处可见且不可避免的。当人体出现被遮挡的情况时,现有的方法往往不能够得到令人满意的重建结果。针对这个问题,本文提出了针对遮挡人体重建鲁棒性较好的基于多
人脸面部表情是人类情感表达的重要方式之一。微表情是一种可以反应人内心真实情感的表情。在人们试图隐藏自己内心的真实情感时,微表情会自发的产生。微表情既无法抑制也无法模仿,可以作为判断人真实情感的重要手段。因此微表情在医疗健康,国家安全等方面具有广泛的应用前景。相比于宏表情,微表情的持续时间短,动作幅度低。这些特点导致通过人工对微表情进行检测和识别十分困难,因此对于自动微表情的分析有着紧迫的需求。微表