【摘 要】
：
作为模型压缩的一个分支,网络剪枝算法通过移除深度神经网络中不重要的参数来降低计算消耗;然而,永久性的剪枝会导致模型容量不可逆转的损失。针对该问题,提出了一种联合动态剪枝的算法来综合分析卷积核与输入图像的特征。一方面,将部分卷积核置零,并允许其在训练过程中更新,直到网络收敛之后再永久性移除被置零的卷积核。另一方面,采样输入图像的特征,然后利用通道重要性预测网络对这些特征进行分析,从而确定卷积运算中可
【机 构】
：
国网江苏省电力有限公司信息通信分公司,计算机软件新技术国家重点实验室（南京大学）
【基金项目】
：
国网江苏省电力有限公司科技项目(J2020069)。
论文部分内容阅读
作为模型压缩的一个分支,网络剪枝算法通过移除深度神经网络中不重要的参数来降低计算消耗;然而,永久性的剪枝会导致模型容量不可逆转的损失。针对该问题,提出了一种联合动态剪枝的算法来综合分析卷积核与输入图像的特征。一方面,将部分卷积核置零,并允许其在训练过程中更新,直到网络收敛之后再永久性移除被置零的卷积核。另一方面,采样输入图像的特征,然后利用通道重要性预测网络对这些特征进行分析,从而确定卷积运算中可以跳过的通道。基于M-Cifar Net与VGG16的实验结果表明,联合动态剪枝分别取得了2.11和1.
其他文献
针对盲人学习或阅读盲文困难大的问题,提出一种基于指纹识别传感器盲文识别算法。首先,通过半导体指纹传感器触压盲文书获取盲文凸点图像;接着,对盲文图像进行图像处理,包括二值化分割、形态学滤波、形状识别,获得凸点位置;然后,通过坐标变换计算得到凸点的排列矩阵,并进行二进制编码得到唯一的索引号;最后利用索引号检索国家标准的盲文库,从而获得盲文地声韵母。实验结果表明,提出的指纹识别传感器盲文识别算法能准确有
针对基于编码/解码的中英文机器翻译收敛速度慢和准确率不高的问题,提出了一种改进的机器翻译模型。该模型采用长短时记忆循环神经网络实现词向量生成,然后在编码阶段利用组嵌入方法提高模型训练效率,最后在解码阶段加入权值衰减因子提高模型翻译准确性。实验结果表明,改进模型能够有效降低机器翻译训练的迭代次数,且具有较高的翻译准确率。
为了实现断裂输电导线对拟建铁路棚洞的冲击仿真,论文基于Matlab与LS-DYNA软件开发了一种计算机仿真平台。该计算机仿真平台通过Matlab特定程序指令实现输电导线特征参数的修改,并将特征参数送入LS-DYNA求解器中进行参数化建模仿真,实现了Matlab与LS-DYNA之间的数据传递及两者的嵌套运行。最后以商合杭铁路淮盱线铁路段1000kV输电导线为例,分析了输电导线断裂对拟建棚洞的冲击作用,得到了输电导线对拟建棚洞冲击作用的时程曲线及碰撞过程中的等效应力分布云图,有效地指导了拟建铁路棚洞结构的设计
机场飞行区是一个混杂的局域系统,场面运行过程中频繁出现航空器刮蹭、车辆刮蹭等不安全事件,飞行区场面混杂系统的刮蹭问题需引起重视。针对航空器地面刮蹭、保障车辆地面刮蹭、机坪车辆与停靠航空器刮蹭三种主要类型事故进行风险分析,并考虑驾驶员主观人为因素的影响,基于人为因素构建飞行区混杂系统刮蹭风险模型,量化风险以有效评估场面安全。采用AnyLogic软件建立飞行区场面刮蹭风险评估仿真系统,对刮蹭风险模型进行分析验证。
随着信息技术的不断发展,各种SQL注入攻击工具层出不穷,攻击类型多变万化,SQL注入问题一直是网络安全的主要问题。因此,针对SQL注入攻击提出一种基于N-Gram和TFIDF(term frequency inverse document frequency)的入侵检测方法。其核心思想是:首先在预处理阶段使用N-Gram技术选取特征词,再利用TFIDF技术进行SQL语句文本向量化处理,然后在此数据集基础上训练SVM分类器,最后通过与现有研究进行对比来检测分类效果。实验结果表明,与直接使用预先定义好的特征向
针对我国现有信贷风险评估体系的不完善以及银行对中小企业的信用等级评估的要求,提出了一种基于Ada⁃Boost-BOA的中小企业信用评估模型。首先确定中小企业信用评估指标,然后通过贝叶斯优化算法构建AdaBoost-BOA集成分类信用评估模型。实验结果表明,与其他传统的模型相比较,论文提出的AdaBoost-BOA模型在信用等级评估中具有更优良的评估性能,其准确率更高。
现有无线联邦学习框架缺乏对实际的分布式高速车联网(IoV)场景的有效支持。针对该场景下的分布式学习问题,提出了一种基于随机网络拓扑模型的分布式训练算法——分簇式无线联邦学习算法(C-WFLA)。首先,该算法基于高速公路场景下的车辆分布情况设计网络模型;其次,该算法考虑了用户端进行上行数据传输时的路径衰落、瑞利衰落等因素;最后,该算法设计了基于分簇式训练的无线联邦学习方法。利用所提算法对手写体识别模
由于光照、尺寸形变等因素,在自然条件下实时准确地检测和识别多尺度交通标志一直具有挑战性。针对该问题,论文提出一个面向多尺度交通标志的快速识别算法。首先,论文采用了一种基于多通道融合的输入方式,解决原始图像直接输入导致局部边缘刻画不明显的问题;同时,论文研究了一种注意力机制与多尺度特征相结合的交通标志检测算法。通过FPN网络获取多尺度特征图,同时在每个尺度的特征图中通过RPN网络定位出候选目标区域,
为提升短视频内容分发的精度,分析用户所属社交群体的兴趣倾向和对短视频内容的个性化需求,在基于主动推荐方式的短视频应用场景中,以视频内容提供商利润最大化为优化目标,设计了一种短视频内容分发策略。首先,基于联邦学习,利用用户群本地相册数据训练兴趣预测模型,提出用户群兴趣向量预测算法并得到用户群的兴趣向量表示;然后,以用户群的兴趣向量作为输入,基于组合置信上界(CUCB)算法实时设计相应的短视频内容分发
针对普适交通模式的场景感知功耗高、场景复杂的问题,提出一种融合残差网络(Res Net)和带孔卷积的交通模式识别算法。首先,使用快速傅里叶变换(FFT)将一维传感器数据转换为二维频谱图像;然后,使用主成分分析(PCA)算法对频谱图像降采样;最后,使用Res Net挖掘交通模式的局部特征,使用带孔卷积挖掘交通模式的全局特征,从而实现对八种交通模式进行识别。与决策树、随机森林、Alex Net等八种算