【摘 要】
：
在图像分类领域,深度神经网络已经取得了优异的性能,但训练过程中需要强大算力的图像处理器作为支撑,而且训练的分类模型往往占用较大的内存。随着物联网设备的蓬勃发展,深度神经网络模型越来越需要部署在计算资源有限的小型智能设备上。因此,在嵌入式设备或手机终端上部署性能优良且轻量的网络模型成为研究的热点。针对当前深度学习解决方案在图像分类上大多无法同时兼顾模型的轻量化与准确率。提出一种轻量化的卷积神经网络架
【基金项目】
：
国家自然科学基金青年基金:61806186；
论文部分内容阅读
在图像分类领域,深度神经网络已经取得了优异的性能,但训练过程中需要强大算力的图像处理器作为支撑,而且训练的分类模型往往占用较大的内存。随着物联网设备的蓬勃发展,深度神经网络模型越来越需要部署在计算资源有限的小型智能设备上。因此,在嵌入式设备或手机终端上部署性能优良且轻量的网络模型成为研究的热点。针对当前深度学习解决方案在图像分类上大多无法同时兼顾模型的轻量化与准确率。提出一种轻量化的卷积神经网络架构。该方法首先对深度可分离卷积模块进行改进,设计了一种深度可分离非对称卷积特征提取模块,主要用于降低模型的运算量,然后利用克罗内克积的矩阵分解思想,设计了一种可分离全连接层的分类器模块,主要用于降低模型的参数量,通过权衡网络深度、宽度,最后得到可用于端到端训练的网络架构,称为XSNet。实验采用MNIST、CIFAR-10、CIFAR-100、SVHN等四个图像分类数据集用于验证XSNet系列的有效性。其中,在CIFAR-10数据集上,设计的11层XSNet11在模型参数量上相比VGG19降低了96.71%,模型精度仅降低了0.23%。设计的16层XSNet16在模型参数量上相比Res Net34降低了64.37%,模型精度甚至提升了3.24%。实验结果表明,XSNet在维持模型分类准确率的基础上相比当前主流方法具有更优越的性能,训练的模型能同时具备轻量且分类识别性能高的优点,使得该模型部署在资源受限的小型设备上成为可能。该论文有图29幅,表14个,参考文献55篇。
其他文献
为了解决正负样本不均衡分布造成的分类边界偏移,训练模型对少数类样本学习不充分的问题,提出了融合条件熵和TFIDF的HTTE过采样方法（Oversampling technology based on conditional entropy and TFIDF）和基于BERT与卷积神经网络的标签文本分类算法。HTTE采用信息论的方法,计算每种特征组合情况下标签的条件熵,再融合TFIDF值,保留数据特
随着时代的进步,以电力电子技术为基础的功率型电子器件及各种非线性负载在民用和工业中的大量应用,造成对电能质量的严重影响,同时也对电网质量提出了更高的要求,如何有效地提高电能质量,愈来愈成为人们所关注的问题。有源电力滤波器（Active Power Filter,APF）实现了电网谐波的高精度动态补偿,同时又兼顾了无功补偿等优点,成为当前电网谐波治理领域的重要研究方向。本文以并联型有源电力滤波器作为
行人检测是计算机视觉和图像处理领域的研究热点,广泛应用于智能视频监控、自动驾驶和智能机器人等领域。传统行人检测方法在一定条件下可以获得较好的行人检测效果,但在分辨率低、行人尺寸较小的情境下存在检测精度低的问题。针对上述问题,本文将深度学习方法中的基于区域全卷积网络（R-FCN）的目标检测算法引入到行人检测中,在R-FCN基础上做了一些改进,提出了一种基于区域全卷积网络的行人检测研究。首先,为了使行
随着互联网技术发展和国民收入增加,外卖订单的数量在持续的增加,给外卖行业带来的前所未有的发展机遇。外卖配送作为整个外卖过程中的核心业务,在其配送的过程之中,外卖路线的规划对于外卖配送效率、外卖配送成本以及用户的满意度将会产生巨大的影响。外卖市场处于激励的竞争阶段,采用合理、科学的方法对外卖配送路线进行规划,如何在保证配送服务质量的前提下控制外卖配送成本、提高外卖配送效率是外卖平台一个需要解决的问题
针对卷积神经网络浅层提取的特征利用率低,高低层特征互补优势难以利用的问题,提出了选择性特征连接机制（Selective Feature Connection Mechanism,SFCM）融合卷积神经网络高低层特征的方法以提高图像识别精度。首先,选定卷积神经网络低层特征,通过平均池化对低层特征降维,输出携带较多细节信息的低层特征;其次,按照卷积神经网络高层特征元素值越大,它所对应的位置特征越关键的
方面级情感分析（Aspect-based Sentiment Analysis,ABSA）作为一种细粒度的情感分析方法,可以对文本特定目标进行相应的情感倾向判定。针对现有基于注意力机制的方面级情感分析方法多关注词的相对位置特征,忽略上下文绝对位置特征的问题,本文提出了一种基于门控卷积神经网络的方面级情感分析模型Pos ATT-GTRU-ABSA。首先,模型使用Laplacian核函数构建相对位置特
音乐流派分类领域中音频特征的流派性表达、特征提取的设计,严重影响分类方法的精度和泛化性,因此提出一种将双注意力融合进行特征提取的深度卷积神经网络（DCNN-AFC）模型,并对音频功率谱图中特征的流派性表达进行增强。首先,为考虑音频功率谱图中音乐流派特征的多样性,在特征提取阶段采用梅尔滤波方法,以模拟人耳听觉系统的滤波器对音频信号进行有效过滤,通过对梅尔滤波后的信号进行维度还原,确保音频信号的流派特
处于电力系统最末端的配电网络是对电能进行分配的重要环节之一,近年来,随着接入配电网的负荷不断增加,配电网结构越加复杂,对配电网络的可靠性的要求也不断提高。采用小电流接地系统的配电网络在发生单相接地故障后虽然可以带故障运行1～2小时,但若不能及时准确确定故障线路故障点,极有可能会引起相间短路,给系统运行带来了极大的安全隐患。实现配电网络快速、准确的故障定位,对整个电力系统安全稳定运行具有十分重要的意
时间序列预测应用于现实世界的方方面面,对时间序列中未来数据的准确预测需要捕获具有代表性的序列特征,而传统的时间序列预测模型对非平稳时间序列预测误差较大,机器学习相关的时间序列预测模型存在预测滞后现象。针对上述问题,提出一种基于CEEMDAN与深度学习的时间序列预测模型。首先将时间序列通过CEEMDAN算法分解为代表不同时间尺度的本征模态函数序列,然后对每一路分解结果使用同比检验策略确定最佳滑动窗口
智能优化算法是以自然界中基本理论或数学模型为基础的一类重要启发式算法,具有对初始条件不敏感、操作简单易于理解且无需限定目标函数等优势,其已成为解决复杂优化问题的有效技术手段,并在优化机器学习算法的应用中凸显高效性和优越性。但智能优化算法通常存在初始化随机性强、局部优化差、关键参数设置固化等劣势,易导致算法逃逸局部极值性能偏弱,全局探索与局部搜索能力平衡性偏差的情况发生。因此,基于最优化理论与机器学