知识蒸馏相关论文
智能设备的普及给人类带来的变化是多方面的,人类生产生活中产生的海量数据为机器学习模型的发展提供了广阔的舞台。机器学习的目......
图像字幕生成是一项连接计算机视觉和自然语言处理的跨媒体理解任务。其目标是生成给定图像的自然语言描述,在帮助视障人士感知世......
随着机器学习技术的飞速发展,数据样本的倍增成为驱动机器学习发展的重要引擎。然而,由于数据的敏感性和数据安全领域的立法内容,......
细粒度图像分类任务由于自身存在的细微的类间差别和巨大的类内差别使其极具挑战性,为了更好地学习细粒度图像的潜在特征,该算法将知......
阿尔茨海默症是一种神经系统退行性疾病,严重影响老年人群的身心健康,现代医学也无法治疗阿尔茨海默症。但早期的预防可以有效地让......
针对数控机床中主轴轴承和刀具同时出现故障或机床主轴转速改变时的故障诊断问题,提出了基于增量学习的深度卷积诊断模型。首先,将常......
针对多数人脸识别算法对于实际低清影像鲁棒性弱的问题,构建了一种融合知识蒸馏和域自适应的低清人脸识别新模型,包含教师网和学生网......
针对现有部署至移动设备或嵌入式设备的生活垃圾检测模型参数量多、计算量大,且识别种类较少等问题,对YOLOv5n目标检测算法进行了轻......
眼部肿瘤不仅影响视力和容貌、致盲致残,而且具有较高的死亡率。传统眼部肿瘤病理诊断依赖病理图片的图形图像特征,但病理图片具有......
图像超分辨率(Super Resolution,SR)是已知低分辨率(Low-resolution,LR)图像的前提下,预测出清晰纹理和锐利边缘的高分辨率(High-resolu......
随着第五代移动通信技术的发展与普及,万物智慧互联的愿景离人类的日常生活越来越近。得益于5G技术超高的速率、超低的时延、超大......
文本分类是自然语言处理的一个重要领域,随着深度网络的发展,大规模预训练模型日渐成为文本分类任务的主流模型,但大模型的推理速度慢......
在过去的几十年里,基于对人工智能(AI)的深度研究,它已经彻底改变了医疗保健、交通、制造等广泛领域。这主要归功于计算机视觉、自然......
水资源是社会经济可持续发展的重要保障,探究水文时间序列的变化规律是水资源及水文科学领域关键的科学问题,在水资源规划管理、水......
为克服联邦学习(FL)客户端数据和模型均需同构的局限性并且提高训练精度,该文提出一种基于合作博弈和知识蒸馏的个性化联邦学习(pFedCK......
随着网络规模和通信技术的不断发展,互联网已经融入社会生产生活的方方面面。与此同时,日益增多的网络攻击活动也使得网络空间面临......
中文唇语识别是富有挑战性的研究课题之一,其目标是通过观察说话者的嘴唇运动变化从而识别出相应的文本内容。由于中文具有丰富性......
遥感观测技术的高速发展提高了观测系统的信息获取能力,使得遥感图像以高分辨率的特点呈现。高分辨率遥感图像中含有更多的空间、......
深度卷积神经网络在计算机视觉的各个领域取得了突破性的进展,然而部署这些网络却需要大量的存储和计算成本,这阻碍了它们在物联网......
针对工业现场工况复杂多变,易造成样本缺失或不平衡,导致模型诊断准确率低等问题。本文提出改进知识蒸馏与迁移学习的轴承故障诊断方......
随着从经济全球化到文化全球化的发展,人们希望可以随时随地获取世界各地的信息以促进生产生活。在全球化交流中,文字是人类记录和......
SAR景象适配区选取作为无人飞行器导航规划的一项关键技术,利用保障数据选取匹配性能优的区域,对提高景象匹配成功率有重要的意义......
数据、算力和算法是人工智能技术的3个要素,对于人工智能技术的落地,这三者相辅相成,缺一不可。近年来,随着移动互联网和高性能芯片的......
由于电子信息技术和电子对抗的迅速发展,使得雷达对抗系统成为了当前信息化智能化电子战的研究热点。而雷达对抗系统最重要的功能......
目标检测是计算机视觉、人工智能等领域的重点研究方向之一。该方向的主要任务是对图像中多个感兴趣的目标进行定位和识别。目标检......
近年来,以卷积神经网络为代表的深度学习方法在医学图像的分类、分割等任务上取得了超越传统方法的成绩,得到了越来越广泛的研究和......
人体姿态估计是计算机视觉领域重要的研究方向之一,目的是从给定单张图像中检测出人体关节点的坐标位置,是行为识别、人机交互等下......
目标检测已然成为计算机视觉的基础任务,为许多下游任务的发展带来了巨大的动力,因此受到广泛的关注。随着深度学习技术的发展,基......
人物社交关系是一种抽象且非直观的心理关系,其实质是反映人类个体之间的心理距离。在判断具体的社交关系时,往往是根据人类个体的......
当下互联网信息技术的快速发展使得人们每天都会在网络中发表大量的文本信息,包括购物评论,电影评论和时事评论等,如何将这些文本......
心理压力在现代社会越来越普遍,而且对人们的生活和心理健康的影响越来越大,需要及时地发现和调整。因此,压力检测具有重要的研究......
近些年深度卷积神经网络的快速发展促使图像识别、目标检测、图像分割等领域准确率大幅提升,基于深度学习的图像技术被广泛应用于......
虽然目前基于深度学习的图像分类算法在大规模数据上取得优异的成绩,但是目前主流的深度学习算法主要基于批量训练,而批量训练算法......
在能源短缺和环境污染的背景下,为了实现节能减排,碳中和、碳达峰是当前的研究热点。负荷监测通过建立电网与用户的双向互动,让电......
近年来,越来越多的计算机视觉系统被广泛地应用于人们生活中的方方面面,从日常生活到国家安全,计算机视觉系统起着重要的作用。这......
随着我国畜牧业的发展,越来越多的养殖企业开始兴起,一些传统养殖企业如果不改变现状就面临着被淘汰的风险。近年来,作为传统产业......
随着深度学习的快速发展,大量目标检测的技术开始应用于传统领域中,如自动驾驶,人脸识别,工业瑕疵检测等。目标检测中的大模型具有......
知识蒸馏(KD)是一种基于教师-学生范式的知识迁移方法,通常应用于深度神经网络模型的压缩中,通过将教师模型学到的知识迁移到学生模......
联邦学习致力于保证用户隐私与数据安全条件下,有效地解决医疗领域数据孤岛的问题,是一个极巨潜力的发展方向。然而,现存的联邦学习在......
我国恶性肿瘤患者的数量逐年上升,恶性肿瘤已成为威胁人类生命健康的重大疾病。肿瘤放射治疗因其治愈率高、适应病症范围广等优点,......
计算机性能的提升带来了深度神经网络模型的兴起,然而随着模型规模的日益膨胀,研究者们在探索相近参数量下能达到更高性能的模型结......