基于迁移学习与注意力机制的CXR图像分类研究

来源 :兰州理工大学 | 被引量 : 0次 | 上传用户:enginery_puppet
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习在目标检测、图像识别、医学影像分析和辅助分类等方面的应用已经非常广泛。二零一九年末,新冠肺炎(corona virus disease 2019,COVID-19)疫情开始蔓延。二零二零年三月,世界卫生组织将COVID-19确定为全球最大流行病,疫情的出现给世界各地医疗体系造成巨大压力。快速识别COVID-19患者是控制疫情传播和防止医疗资源枯竭的关键。将深度学习技术运用到医学影像分析与分类中可以在一定程度上缓解医疗资源紧张的问题。并且可以减少人工处理所出现的误诊漏诊等情况。但是利用深度学习技术对胸部X射线(Chest XRay,CXR)图像进行分析,并将其应用在COVID-19等分类任务的过程中,还存在几个研究难点,其中包括:(1)由于医学影像特征包含骨骼和肌肉等组织,并且与病灶区域有所重合,所以在识别图像特征方面与普通自然图像有一定区别。使得模型关注点会发生转移,导致性能下降;(2)目前一部分模型算法存在一些问题,无法很好区分COVID-19和普通肺炎;(3)公开数据集相比于其他图像资源不足,尤其是经过有效病灶标注的资源更为缺乏。医学专家对图像标注又十分耗费时间。为了更好地解决以上问题,本文的主要研究工作如下:(1)本文基于模型的迁移学习思想,对预训练网络模型得到的特征信息进行传递。但是由于传统迁移学习策略并未进一步探究特征渐变性与样本数据量、特征相似度的关系,即微调的有效深度。由于肺部病灶区域数据量小,微调层数过多可能会导致网络过度拟合、泛化性差;而自然图像与肺结节数据相似性低,浅层微调可能使网络无法准确归纳病理特征,表达性差。因此,本文利用基于网络低层次特征具有普遍性的特点,提出了一种渐进式微调策略,有效提升了卷积神经网络模型对CXR图像分类的效果。为了缓解CXR图像样本不足、类别失衡、权重过重和原始网络训练时间过长等问题,本文使用了直方图均衡化等方法对数据集进一步进行处理,用来解决胸部X射线图像CXR(Chest X-Ray)会出现的灰雾现象。同时对CXR图像使用裁剪和旋转等方法进行数据增强,并且通过对数据进行预处理和过采样平衡正负样本的方法来解决这类问题。经过实验研究后发现可以在一定程度提高网络模型的分类准确度和效率。其次基于迁移学习后的卷积神经网络模型,本文提出了新的融合网络模型DRN,将DenseNet201网络模型中的稠密层与ResNet50网络模型中的残差网络模块进行了串行连接,使用每层网络后的全连接层替换为全局平均池化层的方式,这样就获得了参量更小,但效能更高的单通道全融合网络模型DRN。可以缓解单一网络在训练时参数过度拟合的问题。实验结果表明,该网络具有良好的泛化能力,能够对CXR图像进行有效分类。(2)使用本文所提出的融合模型DRN对训练集和测试集中的CXR进行分类,对DRN进行分类时提取特征的损失与各通道、空间的相关信息进行分析。本文提出了加入注意力机制模块与DRN再进行融合,通过将SENet与CBAM两种注意力机制模块分别融合至不同网络通道中,对实验精度影响进行研究。通过实验数据可以验证添加注意力机制模块后可以在一定程度上提高网络模型对CXR图像的分类准确度和性能。
其他文献
本论文首先设计并合成了磷-硼杂化本征型阻燃水性聚氨酯(FRWPU)分散体,然后以FRWPU分散体为成膜物质和基体树脂,制备了阻燃纸张施胶剂和阻燃控温瓦楞纸箱填充剂。通过红外光谱(FTIR)、核磁共振(NMR)、X射线光电子能谱(XPS)、扫描电镜(SEM)、能谱分析(EDS)、热重分析(TGA)及接触角测定对FRWPU的化学组成、微观形貌、热稳定性和疏水性能进行了表征测试;以FTIR、XPS、SE
学位
随着我国社会由快速发展转变为高质量发展,环境污染便是人们无法避免的问题,尤其水环境的污染,不仅对生态环境造成极大的破坏,也时时刻刻威胁着人类的生命健康。而重金属离子污染又是水污染的主要污染之一,因此建立快速、灵敏、便捷、准确的重金属离子检测传感器具有重要意义。本论文以碳量子点复合物和缔合多糖建立了荧光和电化学传感器,用于对重金属离子的检测。主要研究内容如下:1、以柠檬酸为碳源,尿素为氮源,一步水热
学位
不断增长的能源消耗促使研究人员对锂离子电池进行深入研究。钒基材料因其高的钒丰度和高的锂离子存储容量作为锂离子电池的潜在负极材料被广泛研究。特别是钒酸盐,锂插入时存在多步还原和更多的电子转移,会使电化学性能更优。离子液体具有稳定的性质和高分解温度(200-300℃),在制备无机纳米材料和特殊形貌的材料方面具有良好的应用前景。本论文选用离子液体作为绿色溶剂和模板剂制备了一系列钒酸钴负极材料,并探究了酸
学位
超级电容器和锂离子电池是目前主流的两大类电化学储能器件。超级电容器具有功率密度高、循环寿命长和安全性能好等优点,在大功率充放电设备中应用广泛;而锂离子电池的高能量密度则适用于能量密度饥渴型应用场景。近年来,过渡金属磷化物因其超高的理论容量和其固有的半金属性质所导致的高导电性,成为高性能超级电容器以及锂离子电池的优异电极材料,受到研究者的广泛关注。本文通过便捷、高效的一步固相合成法制备了碳包裹磷化镍
学位
水泵作为泵站工程中的关键设备,其合理选型是关系泵站安全、稳定运行的重要环节。为了确保泵站正常运行且能发挥相应的社会效益,避免出现大马拉小车及排水能力不足等问题,本文基于水泵工况点的确定原理,对水泵选型工作中存在的一些典型问题进行探讨。结果得出:单泵设计参数位于拟选水泵性能曲线图不同位置时水泵会出现不同工作状态及出现该状态的原因,以快速判定拟选水泵是否合适。本文内容可为水泵选型工作提供一定的参考。
期刊
直接甲醇燃料电池(direct methanol fuel cell,DMFC)结构简单且直接使用甲醇水溶液或蒸汽甲醇为燃料不需要重整氢发电的独特优势,具有低温快速启动、燃料洁净无污染、体积小易携带等优点,现已被广泛应用于通讯、电动汽车和便携智能设备等。DMFC的单体由膜电极、电池的阴极和阳极三部分构成,其中电池的两极催化剂是制约其进一步发展的关键所在。目前,贵金属铂(Pt)基材料是DMFC最广泛
学位
为了更加科学、精准地评估指挥控制人员的空战控制能力,采用眼动追踪技术,基于眼动、时间、准确率等指标建立了量化评估模型,并利用熵权-逼近理想解排序(technique for order preference by similarity to an ideal solution, TOPSIS)法对空战控制能力进行了综合评估。该模型以眼动指标作为重要评估依据,将客观赋权的熵权法与多属性决策TOPSI
期刊
我国改革开放初期的现代化探索,是中国式现代化承上启下的发展实践。它一方面发展了新中国成立以来以毛泽东同志为主要代表的中国共产党人的现代化理论和实践创新,另一方面启发了此后中国式现代化理论体系的提出、发展和逐步成熟。其间,我们党提出坚持党的领导是中国式现代化的政治前提,指向政治稳定的现实考量和中央主导的发展模式;坚持社会主义现代化的内在规定性,指向小康社会的实践目标和共同富裕的本质特征;坚持解放思想
期刊
随着越来越多新兴技术的不断涌现,如数据挖掘、信息检索、人工智能等,其快速发展带动了大规模的数据收集,并实现了经济与社会效益共赢。与此同时,用户每时每刻都在接触大量的信息数据,且第三方应用软件将会产生大量与用户相关的数据记录。因此,对大规模的数据进行处理与分析,并应用机器学习挖掘有效信息,是目前研究的热点问题。但这也间接导致了大量敏感信息的泄露,保护个人隐私信息安全或将面临更大的危机与挑战。k-me
学位
随着互联网的高速发展,每时每刻都有大量非结构的文本涌现。实体关系抽取旨在从非结构化的文本抽取出实体以及实体之间的语义关系,从而将非结构化文本转化为关系三元组<主语,关系,宾语>。关系三元组是构成知识库的基本单位,因此实体关系抽取是构建知识库的基础工作,也是众多上游自然语言处理任务的重要工具。经过几十年的发展,实体关系抽取取得了长足的进步,与其相关的研究已经达到了较高的水平。然而,现有的实体关系抽取
学位