基于拓扑一致性对抗互学习的知识蒸馏

来源 :自动化学报 | 被引量 : 0次 | 上传用户:as16188
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对基于互学习的知识蒸馏方法中存在的不足——模型只关注教师网络和学生网络的分布差异而没有考虑其他的约束条件; 只关注了结果导向的监督, 而缺少过程导向的监督——本文提出了一种拓扑一致性指导的对抗互学习知识蒸馏方法 (Topology-guided Aadversarial Deep Mutual Learning, TADML) 该方法将教师网络和学生网络同时训练,网络之间相互指导学习,不仅采用网络输出的类分布之间的差异,还设计了网络中间特征的拓扑性差异度量. 训练过程采用对抗训练,进一步提高教师网
其他文献
为提升目标跟踪算法在复杂场景下的鲁棒性,使算法适应长时跟踪场景,提出结合多层特征融合和短时记忆机制的跟踪方法,提升目标跟踪的鲁棒性。首先,融合卷积神经网络多层特征,提升网络的特征提取能力。然后,在跟踪阶段,引入了短时记忆模块,搜索区域特征分别与初始的基准模板特征和短时记忆的动态特征进行匹配,对得到的响应图进行融合,提升目标跟踪的鲁棒性,通过视频局部信息增强算法对跟踪目标的判别性。在OTB2015和
期刊
呼吸会引起体内器官和肿瘤的运动, 这会显著影响放射治疗的过程和效果. 人体内部膈肌和胸腹部外表面是当前两种与呼吸系统高度相关的结构, 本文对其进行系统研究, 提出了一种新的分步子空间映射(TSSM)算法, 通过对体外胸腹部表面的测量, 来预测体内膈肌的运动. 本文首先采用三维图像分割技术对4D CT图像进行分割, 在不使用标记物的情况下, 准确测量体内膈肌和体外胸腹部表面的位移. 为了解决跨空间的
期刊
随着深度学习的快速发展,计算机视觉领域对图像的分类研究不仅仅局限于识别出物体的类别,更需要在传统图像分类任务的基础上进行更细致地类别划分。通过对现有细粒度图像分类算法和模型的分析研究,提出一种基于Xception模型与WSDAN(Weakly Supervised Data Augmentation Network)弱监督数据增强的方法相结合的深度学习网络应用于细粒度图像分类任务。该方法以Xcep
期刊
地表峰值加速度(peak ground-motion acceleration,PGA)是直观反映地震动强度的一个物理量,概念清晰且工程应用方便。场地条件校正的PGA及其校正方法是特定工程抗震设计需要解决的问题。为此,选取日本具有地表和井下记录KiK-net台网的32个台站及地震数据,通过对实测地震数据分析,提出了一种场地校正的PGA放大系数(f_(PGA))的简化估计方法。该方法通过数据回归给出
期刊
酸雨已成为我国长江以南和云南—贵州以东地区重要的生态环境问题之一。酸雨会给地面上植物产生“首当其冲”的影响,使其生长受阻。为全面了解酸雨对植物地上部生长产生的影响,通过文献查阅分析,详细阐述酸雨对植物地上部形态结构、物质代谢、抗氧化系统和光合作用等方面影响的研究进展,并进一步分析植物受酸雨胁迫的相关生理机制。酸雨首先会破坏植物叶绿体、线粒体等细胞结构,酸胁迫严重时会在叶上部和叶边缘产生明显的伤斑甚
期刊
为了提高煤矿井下带式输送机大块异物检测的效率和准确性,本文设计了基于机器视觉的大块异物检测系统。构建了大块异物检测系统的总体框架,并进行了硬件设计与选型;给出了大块异物检测系统的流程,设计了基于帧间差分法、阈值分级和Select-Shape算子的带式输送机大块异物识别算法,并采用卡尔曼滤波对大块异物进行追踪;最后,设计了大块异物检测系统上位机软件,搭建了大块异物检测实验台,并开展相关实验。实验结果
期刊
结直肠癌是一种致命的疾病,作为息肉的肠腺瘤被认为是结直肠癌的主要病因,因此在临床诊断中发现肠息肉是一项至关重要的任务。息肉检测通常由医生操作内窥镜来实现,由于肠道环境复杂、息肉影像数据量大、小尺度息肉不易辨识、息肉检查过程除了极其依赖医生经验之外,工作压力和强度也给医生带来了极大的负担,因此需要借助计算机辅助诊断技术来检测息肉,该技术可以有效地处理大量的息肉影像数据、发现早期息肉、提高息肉检测的准
期刊
由于成像机理不同,多源图像有本质区别,使得在融合过程中存在差异。本文在参阅了大量的中外文献的基础上,对融合方法进行分类,并重点论述了各类融合方法的融合过程和典型算法,详细阐述了其关键技术。同时,深入评述了当前的评价指标和分类。最后,结合关键技术的影响因素和技术的发展状况,从数据特征、时间效率、信息提取、评估角度和方法的普适性5个方面对融合图像领域的未来发展趋势进行了展望。
期刊
针对自然条件下人脸表情识别面临遮挡、光照、姿势变化等挑战,存在识别准确率低的问题,提出了一种新的深度学习网络模型用于人脸表情识别。以ResNet为基础网络,融合了瓶颈注意力机制以及全局二阶池化层,其中瓶颈注意力机制专注于表情重要特征的提取,全局二阶池化层度量表情特征之间的相关性,在此基础上通过联合正则化策略,平衡和改善特征数据分布情况,提高表情识别准确率。所提方法在2个公开数据集FER2013和C
期刊
深度卷积神经网络显著改进了单图像超分辨率的性能.更深的网络往往能获得更好的性能.但是,加深网络会导致参数量急剧增加,限制了它在资源受限设备上的应用,比如智能手机.本文提出了一个融合多层次特征的轻量级单图像超分辨率网络.网络构件主要是双层嵌套残差块.为了更好地提取特征,减少参数量,每个残差块采用对称结构:先两次扩张,然后两次压缩通道数.在残差块中,通过添加自相关权重单元,加权融合不同通道的特征信息.
期刊