基于注意力机制结合CNN-BiLSTM模型的电子病历文本分类

来源 :科学技术与工程 | 被引量 : 0次 | 上传用户:liangchq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了解决中文电子病历文本分类的高维稀疏性、算法模型收敛速度较慢、分类效果不佳等问题,提出了一种基于注意力机制结合CNN-BiLSTM模型的病历文本分类模型.该模型首先使用word2vec工具进行词向量表示,利用多层卷积神经网络(convolutional neural networks,CNN)结构提取病历文本的局部特征,通过拼接操作丰富局部特征表示,再利用双向长短期记忆网络(bi-directional long short-term memory,BiLSTM)提取上下文的语义关联信息,获取句子级别的高层特征表达.最后通过Attention机制进行特征加权,降低噪声特征的影响,并输入softmax层进行分类.在多组对比实验的实验结果表明,该模型取得了97.85%的F1,有效地提升了文本分类的效果.
其他文献
乙苯化工过程由一系列连续搅拌釜式反应器和分离器组成的大规模非线性系统,针对这一类系统提出了一种基于分布式无迹卡尔曼滤波的状态估计方案.该方法通过将系统分解,对每个子系统设计局部无迹卡尔曼滤波,它接收局部测量值,并与其他滤波器协同计算局部状态估计值的方法完成整个系统的状态估计.给出了详细的分布式无迹卡尔曼滤波的设计方法和估计算法.在不同的噪声下对分布式和集中式无迹卡尔曼进行了比较分析.仿真结果表明,分布式无迹卡尔曼滤波可以很好地处理强噪声,正常噪声下比集中式无迹卡尔曼滤波有更稳定的性能,但在理想噪声下集中式
碳纤维增强复合材料(carbon fiber reinforced polymer,CFRP)加固混凝土技术在桥梁工程与建筑工程中有大量应用,而直接影响工程结构加固维修的关键因素是其界面粘结性能,因此开展相关试验研究对保障工程安全具有重大意义.以一种基于专门设计的试验装置进行弯曲剪切试验来研究CFRP-混凝土界面的粘结性能.利用数字图像相关(digital image corre-lation,DIC)法得到的应变场确定碳纤维布的脱粘长度,同时对碳纤维增强材料的性能进行了理论分析,探讨了试验中的力学响应.
为解决黄土地区基坑开挖对近接地铁隧道运营安全带来的影响,研究基坑工程与地铁隧道之间的相互作用机理,基于正交试验分析了水平净距,竖直净距等影响因素敏感性程度,并进一步结合西安地铁八号线幸福林带基坑工程,采用室内模型试验分析了基坑开挖对既有隧道影响的受力变形规律,结果表明:基坑与隧道的竖直净距和水平净距对隧道水平和竖直位移影响显著;在施工过程中,隧道管片的拉伸值始终大于压缩值,且拉伸方向和水平内径变化规律相反;管片拱顶和右墙处弯矩逐渐增大,而拱底和左墙则呈现先减小后增大的趋势;管片周围土压力主要集中在拱底和右
针对识别字轮式表盘数字时,出现耗时长、双半字符识别率不高、模型参数过大等问题,提出了一种改进残差网络的字轮式数字表盘识别算法.首先,对采集的表盘原始图像进行预处理操作,得到包含完整字符图像和双半字符图像的数据集;其次,对ResNet-18网络进行优化改进,引入深度可分离卷积和Dropout函数;最后,加载数据集进行训练和测试.实际验证结果表明:改进后的残差网络模型识别准确率达99.8%,模型参数大小减小到7.71 MB左右,模型平均推理时间缩短至12 ms左右.
危岩崩塌是一种常见的山区地质灾害,由于失稳机制极其复杂且难以预测,给灾害防治造成了极大困难.为了对桂林翻山危岩进行防护治理,基于离散元模拟法(3DEC)分析了桂林翻山Ⅱ区内危岩的发育特征和破坏情况,选取滑移式危岩和坠落式危岩为目标岩体,对目标岩体在重力和降雨作用下的破坏过程进行模拟并对模拟结果进行分析,结果表明:对岩块体积小的危岩采用静态爆破的方法进行清理,对于体积较大的危岩选用锚杆支护的方法进行加固.
为对预应力混凝土节段拼装桥墩抗震性能的数值分析提供依据,应用OpenSees有限元计算程序,选取非线性纤维梁柱单元配合适当的材料本构模型,对桥墩的混凝土节段、接缝及预应力筋进行模拟.首先,介绍桥墩材料所选用的本构模型;然后,介绍模型对各部件的模拟方法、纤维网格划分以及边界条件设置;其次,开展模型分析并将计算结果与拟静力试验进行对比,结果表明:试验的滞回曲线、骨架曲线特性得到较好模拟;再次,探究并得到往复荷载作用下,P-Δ效应和墩底核心区混凝土强度退化是引起桥墩承载力降低的主要原因;最后,利用模型讨论了预应
为了克服传统电机故障检测方法的准确率低、测量过程为侵入式、严重依赖先验知识的缺点,提出了一种基于卷积神经网络的非侵入式电机故障检测方法.通过将电机与其他设备共同工作时的总电源信号作为检测样本,实现检测过程的非侵入式,并基于残差优化卷积网络结构进行神经网络训练,最终实现电机超载、单相短路及相间短路故障的非侵入式检测与分类.结果表明,本文提出的方法可以使故障识别准确率达到96.79%,能够更加快速准确并稳定地实现电机的非侵入式故障诊断.
为更形象、直观地展现光栅衍射现象,了解光栅衍射条纹强度变化情况,研究了基于蒙特卡罗方法和MATLAB的光栅衍射条纹强度预测方法.依照惠更斯-菲涅耳原理获取光栅衍射强度分布,利用蒙特卡罗方法随机模拟.采用MATLAB软件仿真研究光栅衍射条纹强度变化情况,通过各参数值变化获得相应衍射光强分布情况.研究时改变光栅缝数分析光栅衍射条纹主极大强度变化情况,改变光栅常数、缝宽以及波长等参数,分析光栅衍射条纹次极大强度变化情况.研究得出:光栅缝数越多,主极大越大,光栅衍射条纹强度越强,光栅衍射主极大强度受多条单缝衍射强
堤坝的安全问题主要是由渗流破坏引起的,特别是土质堤坝,并且具有隐蔽性,有必要通过渗流计算来分析坝体稳定性.而坝基土层具有分层结构,各层的渗透系数、孔隙率等参数,都会影响堤坝的防渗效果.提出了一种基于坝基分层结构的防渗墙设计,针对不同结构的堤基型式选取不同的防渗墙类型.利用有限体积法的数值模拟软件Fluent的多孔介质模型,考虑堤坝地基分层的结构,通过设置深度参数来研究悬挂式和封闭式防渗墙防渗效果.通过压力云图、速度云图、流线图以及关系曲线图,分析坝底面扬压力和背水侧出口处渗流量与各影响因素的关系,从而对防
实际地震具有多维性,只考虑水平向往往不够真实全面,且在考虑土-结构相互作用(soil-structure interaction,SSI)中更为复杂,缺少相关的研究分析.建立层间隔震结构模型,利用点弹簧模拟土体参数实现SSI效应,进行三维地震动下动力弹塑性分析.研究三维地震激励下,考虑SSI前后的层间隔震结构的地震响应,通过改变土体性质,探讨了考虑SSI对结构的影响规律.针对三维地震动,设置了三维隔震支座,并与传统水平隔震支座结构进行了地震响应分析对比.结果表明:三维地震下,考虑SSI层间隔震结构地震响应