基于多教师知识蒸馏改进策略的医学图像分类方法研究

来源 :天津大学 | 被引量 : 0次 | 上传用户:shalaoshi
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,以量子计算为代表的计算水平的提升和神经网络的复兴,使得医学图像分类被越来越多地应用于科研和临床实践,成为诊断疾病的重要参考。其中,深度学习是图像分类领域被应用最多且效果最好的方法。由于医学图像对诊断精度的高要求,促使深度学习网络不断从技术上突破,寻求层次更深、集成效果更强的网络模型。然而,这在一定程度上带来了模型复杂、参数冗余、计算成本高等问题,使得深度学习网络进一步在诊所、医院等众多实用场景中的应用和推广受到限制。因此,亟需对网络进行压缩和加速,优化网络性能。知识蒸馏作为一种有效的模型压缩手段,可以较好地解决上述问题。传统的知识蒸馏模型由“教师”部分和“学生”部分组成,教师部分可以由一个或多个网络组成,每一个网络称为一个“教师”,负责学习原始数据中的特征知识,然后将其传递给学生部分;学生部分的网络一般为1个,称之为“学生”,负责实际的图像分类任务。本文在传统知识蒸馏方法的基础上,提出了一种基于多教师知识蒸馏改进策略的医学图像分类方法。该方法的主体框架由教师部分和学生部分组成,其中教师部分由多个教师组成,学生部分由多个轻量级学生组成,教师和学生之间建立起一一对应关系。首先,多位教师分别从原始数据中学习以获得先验知识;然后,每一位老师使用学到的先验知识训练一个对应的学生,此过程称为知识转移,通过知识转移,实现模型压缩、降低计算成本的效果;最后,采用基于投票法的知识融合方法和基于平均值的知识融合方法对多位学生的预测结果进行融合,实现计算精度的进一步提升。将本文提出的方法在公开的鼓膜数据集上进行验证,得到了较高的分类准确率,其中模型的训练准确率达到99.02%,测试准确率达到97.38%。在灵敏度上,本模型达到98.25%,在特异性上达到96.15%。此外,在模型压缩的具体效果上,该方法降低了模型深度,明显减少了参数量和计算时间,大幅降低了计算成本。本文创造性地改变了知识转移和知识融合的顺序,使得学生能够更好地学习不同教师在特征学习方面的不同特点。同时,本文所提方法借鉴了集成学习的原理,提升了分类准确率,具有较好的应用价值,能够为临床疾病诊断提供借鉴。
其他文献
失禁相关性皮炎(incontinence-associated dermatiis,IAD)是一种由接触尿液或液体粪便引起的刺激性皮肤慢性炎症反应,IAD形成的必要条件即发生失禁。然而众所周知,失禁是重症神经外科患者的高发因素,患者会在术后及病情变化时,由意识的改变、认知能力下降、躯体活动度的改变、基础疾病、药物的应用及其他相关因素诱发失禁,当皮肤处于潮湿环境且结合摩擦力时,会出现皮肤完整性受损的
期刊
近年来,突发事件频发造成了严重的人员伤亡和经济损失。而在应急环境下,决策者由于有限理性的限制在决策中会受到各种因素的影响,从而可能做出不满意甚至错误的决策行为。因此,识别应急决策行为的关键影响因素并探究其对应急决策行为的作用机制,以提升应急决策行为,是应急管理领域亟待解决的问题。本文在对应急决策行为影响因素分析的基础上,基于关键性以及直接性识别出应急压力作为关键影响因素,并得到心理行为特征、个人特
学位
慢性萎缩性胃炎是常见的消化系统疾病,该疾病的出现与许多因素有关,在诸多关联因素中幽门螺杆菌(helicobacter pylori, Hp)占重要比重,会使患者胃部发生感染进而形成炎症疾病,对于病情严重的患者,发生胃癌的概率会大大增加,对其生命健康造成威胁。随着临床研究对该疾病治疗探索的深入,更多的方法也不断在临床投入使用。对于此类疾病患者的治疗,需要从疾病的病理与发生原因展开。
期刊
较高的金融素养是金融市场中的个人投资者能做出理性金融决策的重要保障。当前我国资本市场的投资主体是个人投资者,其金融素养处于较低水平,在投资过程中难以做出专业分析,对于财务造假或者粉饰财务报表的企业缺乏辨认能力,由此可能带来财富损失。本文试图探究投资者金融素养对企业应计盈余及其变动的影响。本文利用修正的Jones模型计算企业应计盈余以及应计盈余的变动值,并从社交媒体爬取投资者评论,通过文本分析方法构
学位
随着技术的不断革新,产品尤其是高科技产品更新换代速度不断加快,消费者偏好变化频繁。为了吸引消费者购买最新一代产品以及减缓制造商对旧一代产品的质保压力,本文提出一种包含以旧换新的新的质保策略。本研究从消费者效用出发,综合考虑旧一代产品的剩余价值以及消费者的以旧换新意愿,推导出有以旧换新和没有以旧换新两种情况下满足旧一代停产产品质保需求最终订单的期望数量以及期望总成本。验证包含以旧换新的质保策略在降低
学位
目的:解决现有充电桩现场周检时间成本高、模拟负载费钱费电、检定负载点工况少导致计量性能评估的风险增加等问题。方法:采用物联网云平台的技术,设计便携式现场智能转接计量装置与充电桩远程在线计量系统数据中心进行数据交互,实现充电桩的远程并行在线计量。结论:该在线计量方法具备省时省力省成本、大数据跟踪充电桩计量性能等优点,推动国内市场充电桩产业的良好发展。
期刊
中共十九大提出了“美丽”中国的新目标,这一目标强调“绿色属性”在我国经济发展中的重要地位。二手产品回收再利用是典型的“环保绿色”消费方式,符合绿色健康生活,可持续发展的价值观。不同于新产品,由于缺乏对二手产品历史使用情况的了解,如何准确估计二手产品的可靠性和质保成本,是经销商和消费者共同关注的问题。由于使用差异性的影响,二手产品的可靠性具有很大的不确定性。本文以二手产品为研究对象,结合产品的历史维
学位
通过对开滦矿区多年来大水工作面防排水工作的总结和研究,提出了开滦矿区大水工作面防排水工作的有效方法和工作程序,分析了影响大水工作面防排水工作的各种因素,制定了适合开滦矿区的大水工作面防排水的综合性措施,提出了开滦矿区的大水工作面防排水的工作模式,有利于矿区大水工作面防排水工作有效开展。
期刊
统计过程控制是质量管理领域的重要工具,在制造业产品和过程质量的监控和诊断中被广泛应用。生产制造过程中,产品质量特性常表现为轮廓形式,因此轮廓监控相关的研究近年来也吸引了很多学者的注意。在轮廓监控领域,现实世界轮廓的复杂度和维度较以往有所提升,被监控的轮廓更多地表现出非线性特征,同时往往也存在多个轮廓需要被同步监控。由此,多元非线性轮廓的统计过程控制方法研究应运而生。多元非线性轮廓SPC分为两阶段,
学位
近年来,随着大量电动汽车充电桩投入使用,充电事故频发,当务之急是要加强对充电桩运行状态的监控。综合运用传感器监测技术、单片机技术和LabVIEW技术,研究并设计了一套电动汽车直流充电桩监控系统。以STM32为控制核心,将传感器采集到的温度和电压电流信息传输至PC机。LabVIEW作为开发平台,通过与单片机进行串口通信,实现对温度及电压电流实时监测、显示和越限报警。同时,采集到的数据实时保存至数据库
期刊