视觉Transformer预训练模型的胸腔X线影像多标签分类

来源 :中国图象图形学报 | 被引量 : 0次 | 上传用户:chengyo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目的 基于计算机的胸腔X线影像疾病检测和分类目前存在误诊率高,准确率低的问题。本文在视觉Transformer(vision Transformer,ViT)预训练模型的基础上,通过迁移学习方法,实现胸腔X线影像辅助诊断,提高诊断准确率和效率。方法 选用带有卷积神经网络(convolutional neural network,CNN)的ViT模型,其在超大规模自然图像数据集中进行了预训练;通过微调模型结构,使用预训练的ViT模型参数初始化主干网络,并迁移至胸腔X线影像数据集中再次训练,实现疾病多标签分类。结果 在IU X-Ray数据集中对ViT迁移学习前、后模型平均AUC(area under ROC curve)得分进行对比分析实验。结果表明,预训练ViT模型平均AUC得分为0.774,与不使用迁移学习相比提升了0.208。并针对模型结构和数据预处理进行了消融实验,对ViT中的注意力机制进行可视化,进一步验证了模型有效性。最后使用Chest X-Ray14和CheXpert数据集训练微调后的ViT模型,平均AUC得分为0.839和0.806,与对比方法相比分别有0.014~0.031的提升。结论 与其他方法相比,ViT模型胸腔X线影像的多标签分类精确度更高,且迁移学习可以在降低训练成本的同时提升ViT模型的分类性能和泛化性。消融实验与模型可视化表明,包含CNN结构的ViT模型能重点关注有意义的区域,高效获取胸腔X线影像的视觉特征。
其他文献
为解决职业院校劳动教育途径单一、内涵匮乏、与企业和社会的实际需求相脱节的问题,从职业院校开展劳动教育校企共育模式的必要性出发,分析劳动教育中存在的问题,探索开展劳动教育的校企共育模式方法,丰富校企共育模式劳动教育的实践内容,进而提高劳动教育的规范性,塑造德智体美劳全面发展的综合性人才。
期刊
对职业院校学生进行规范合理的劳动教育是职业教育培育劳动技能人才的重要一环。目前,学生缺少劳动意识与劳动实践机会,以及对劳动理解的片面化和劳动价值观上的偏差都会影响着劳动教育的实施与成效。因此,职业院校要在学生劳动过程中,培养劳动意识,树立担当意识,发展探究意识,培育创新意识,分阶段、有步骤、讲策略地完成职业院校的劳动教育,以帮助学生树立正确的劳动价值取向。
期刊
折纸机构具有可重构、可伸展、负泊松比等优越的属性,并且已经广泛地应用于机器人研究领域。一般而言,在软柔性折纸机器人的研究中多采用硅胶注塑材料及气驱动方式,其形式增加了机体空间占有率、限制了环境适应性,从而限制了折纸机器人的功能性及应用领域。因此,构建折纸机构新构型方法及实现方案将为折纸机器人的发展提供新思路。本文将基于Yoshimura折纸模型构建折纸机构构型新理论及折纸机构改造新方法,并将其应用
学位
公路桥梁在长时间运营过程中,受到车辆、雨雪、风力和温度等环境因素影响,会持续累积产生一定的累计损伤,进而对桥梁的健康运行产生不良影响。本文结合桥梁健康监测技术,对预应力混凝土桥梁的健康状况进行长期数据分析和系统性研究,并以某中型预应力混凝土跨径梁桥为实验样本展开论证,进而得出一定结论,期望能够对国内相应的预应力混凝土桥梁健康监测研究和实际工程维护提供一定的建议和思考。
期刊
报纸
在当前新时代发展下,职业教育也迎来了发展机遇,为了更好地响应国家关于推进职业教育的文件要求,高职院校需要加强创新改革,重视劳动教育,将劳动教育提升到素质教育战略高度中来,鼓励高职院校根据自身实际情况做好劳动教育的创新性研究工作。在劳动教育的引导下,高职院校还需要彰显自身的本土特色,通过产教融合、校企合作等创新人才培养模式,注重对学生进行创新性的劳动教育,以此培养学生们的劳动品质,帮助学生们形成劳动
期刊
近年来,随着浙江省跨境电子商务的发展,中美经贸摩擦加剧,浙江省跨境电商的海外知识产权问题日益严峻。数据库统计结果显示,浙江省跨境电商涉美诉讼案件呈现出波及范围广、侵权领域集中、缺席败诉比例高等特点,从侧面反映出浙江省跨境电商知识产权意识薄弱、不适应美国司法体系、知识产权服务相对缺乏等问题。为了帮助浙江省跨境电商防控海外知识产权风险,本文提出了相关对策和建议。首先,提高电商知识产权意识;其次,加强纠
期刊
有劳动无教育的劳动实践不是劳动教育。职业院校丰富的劳动教育资源需要进行教育性转换和利用,否则,劳动教育的效果会大打折扣。部分毕业生“下不去”“留不住”,多数新生吃苦耐劳的精神欠缺、个别学生一般劳动素养不高,实习存在“放羊式”实习、专业不对口、在流水线上实习、指导教师疏于指导等虚化问题,实训重技能训练轻精神培育,均表明职业院校需要加强劳动教育。
期刊
<正>问题如何以习近平新时代中国特色社会主义思想为指导,深刻认识、准确把握外部环境的复杂变化和国内改革发展稳定面临的新情况新问题新挑战,防范和化解重大风险?重大风险是指能够产生系统性、全局性、颠覆性影响的风险。当前,我国发展处于并将长期处于重要战略机遇期,同时也进入重大风险的凸显期。在形势总体可控情况下,"危"与"机"并存,险难与时势交织,老问题与新情况叠加,所处的环境更加复杂,面临的挑战更加严峻
期刊
职业院校是劳动人才培养的重要基地,劳动教育是职业院校人才培养的重要范畴。志愿服务具有丰富的劳动育人价值,能够促进学生认同劳动思想、提高劳动技能、激发劳动创造潜力。在实践中,由于对志愿服务价值认知不清晰、志愿服务劳动内容挖掘不深刻以及志愿服务组织架构不科学,致使职业院校志愿服务存在劳动教育导向不足、劳动教育体验不佳和劳动教育参与动力不足等问题。需要加强宣传引导,凸显志愿服务劳动教育价值认知;深度挖掘
期刊