【摘 要】
：
宋词以其独特多变的句式结构和意境高深的用句风格成为文本自动生成研究热点.为解决Word2vec词嵌入在宋词自动生成过程中的主题发散和相邻句子间弱相关性问题,提出一种结合BERT词嵌入与Attention机制+BiLSTM的Sequence-to-Sequence宋词自动生成模型构建方法.该方法使用BERT预训练语言模型实现词嵌入,用以增强宋词词句间语义表示,并在词的生成模型中引入主题约束和Attention机制,实现对生成宋词主题一致性约束.实验结果表明:较之Word2vec词嵌入的词生成模型,BERT词
【机 构】
：
甘肃农业大学机电工程学院,甘肃兰州730070
论文部分内容阅读
宋词以其独特多变的句式结构和意境高深的用句风格成为文本自动生成研究热点.为解决Word2vec词嵌入在宋词自动生成过程中的主题发散和相邻句子间弱相关性问题,提出一种结合BERT词嵌入与Attention机制+BiLSTM的Sequence-to-Sequence宋词自动生成模型构建方法.该方法使用BERT预训练语言模型实现词嵌入,用以增强宋词词句间语义表示,并在词的生成模型中引入主题约束和Attention机制,实现对生成宋词主题一致性约束.实验结果表明:较之Word2vec词嵌入的词生成模型,BERT词嵌入模型生成宋词的BLEU测评结果提高了9％,BERT-Score和余弦相关度提高了2％.
其他文献
目的:观察西那卡塞辅助治疗慢性肾病(CKD)合并继发性甲状旁腺功能亢进症(SHPT)患者的效果.方法:选取96例CKD合并SHPT患者为研究对象,采用随机数字表法分为对照组(n=48)和观察组(n=48).对照组采用常规治疗,观察组在对照组基础上给予西那卡塞治疗,比较两组治疗前后血钙、血磷、血全段甲状旁腺激素(iPTH)水平,血钙、血磷、血iPTH同时达标率,以及不良反应发生率.结果:治疗后,观察组血钙水平高于对照组,血磷、血iPTH水平低于对照组,差异均有统计学意义(P<0.05);观察组血钙、血磷、血
目的:探讨异甘草酸镁联合门冬氨酸鸟氨酸治疗乙肝肝硬化肝性脑病患者的效果.方法:回顾性分析2019年6月至2020年12月该院收治的84例乙肝肝硬化肝性脑病患者的临床资料,按治疗方法不同分为对照组和研究组各42例.对照组采用注射用门冬氨酸鸟氨酸治疗,研究组在对照组基础上联合异甘草酸镁治疗.比较两组临床疗效、治疗前后肝功能指标水平及不良反应发生率.结果:研究组治疗总有效率为95.24％(40/42),高于对照组的76.19％(32/42),差异有统计学意义(P<0.05);治疗后,研究组血氨、总胆红素、丙氨酸
随着当前对安全管理工作的重视程度不断提升,构建内容完善、实用性强的化工安全现代化管理制度成为推动化工行业高质量发展的重要诉求.本文将结合《化工安全与环保》一书,分析化工安全现代化管理的现状及存在问题,探索构建以安全工程理论为指导的化工安全现代化管理制度的具体意义及实践策略,以期为当前全面提升化工安全管理水平提供有效参考.
良好的品牌经营策略及运行理念,不仅关系到电视媒体的转型升级,更是从受众群体全新习惯出发的客观要求.因此,对于电视媒体而言,要以新媒体时代趋势为基础,通过融入受众群体全新的观赏习惯与参与方式,全面提升电视媒体的生命力.本文将结合《电视与新媒体品牌经营》一书,分析新媒体时代对电视媒体发展的影响与冲击,积极探索新媒体时代电视媒体的品牌经营策略与塑造机制,以期为当前全面提升电视媒体的影响力提供有效参考.
目的:观察序贯性早期肠内营养在重症脑出血患者中的应用效果.方法:选取66例重症脑出血患者为研究对象,采用随机数字表法分为对照组和观察组各33例.对照组采用常规早期肠内营养治疗,观察组采用序贯性早期肠内营养治疗,比较两组治疗前后营养指标[血红蛋白(Hb)、前白蛋白(PAB)和白蛋白(Alb)]水平、神经功能缺损[美国国立卫生研究院卒中量表(NIHSS)]评分和胃肠道喂养不耐受发生率.结果:治疗后,观察组Hb、PAB和Alb水平均高于对照组,差异有统计学意义(P<0.05);观察组NIHSS评分低于对照组,差
目的:观察新辅助化疗联合腹腔镜根治术治疗子宫内膜癌患者的效果.方法:选取82例子宫内膜癌患者为研究对象,按随机数字表法分为对照组(n=41)和观察组(n=41).对照组给予腹腔镜根治术治疗,观察组在腹腔镜根治术前给予新辅助化疗,比较两组手术相关指标(手术时间、术中出血量和住院时间)水平,治疗前后肿瘤标志物[癌胚抗原(CEA)、糖类抗原125(CA125)]水平及术后2年复发率.结果:观察组手术时间和住院时间均短于对照组,术中出血量少于对照组,差异有统计学意义(P<0.05);观察组CEA和CA125水平均
针对油田三次开采技术应用越来越广泛.往地层注入大量聚合物及其他开采液,加剧了管道内腐蚀问题.基于目前存在的问题,该课题调研了管道腐蚀速率的计算方法,对管道内腐蚀存在的原因、影响因素、机理等方面进行研究,并利用现已知的理论基础,提出相应的管道内防腐措施.总结各大油田对管道内防腐问题的解决方法.针对管道内防腐问题给出了具体措施,能够提高管道的运行寿命,从而减少管道危险事故的发生.
目的:观察琥珀酸索利那新片联合盐酸坦索罗辛缓释胶囊治疗ⅢB型前列腺炎患者的效果.方法:选取104例ⅢB型前列腺炎患者为研究对象,按照随机数字表法分为研究组与对照组各52例.对照组给予盐酸坦索罗辛缓释胶囊治疗,研究组在对照组基础上给予琥珀酸索利那新片治疗,比较两组治疗前后最大尿流率、残余尿量、国际前列腺症状评分量表(IPSS)评分和不良反应发生率.结果:治疗后,两组最大尿流率均高于治疗前,且研究组明显高于对照组,两组残余尿量均低于治疗前,且研究组明显低于对照组,差异有统计学意义(P<0.05);治疗后,两组
管道在使用过程中,会发生不同程度的腐蚀损坏,工作人员需要对管道内外壁进行防腐处理,保证管道的完整性,而最为常见的技术就是阴极保护技术.本文就天然气长输管道防腐层及阴极保护技术中存在的问题及解决措施进行探讨,希望为天然气管道的正常运行提供保障.
目的:观察安罗替尼联合TP化疗方案治疗老年非小细胞肺癌(NSCLC)患者的效果.方法:选取68例老年NSCLC患者作为研究对象,应用随机数字表法分为对照组和研究组各34例.对照组予以TP化疗方案治疗,研究组在对照组基础上给予安罗替尼治疗,比较两组治疗前后糖类抗原125(CA125)水平、肺腺癌转移相关转录因子1(MALAT1)水平、临床控制率和不良反应发生率.结果:治疗后,研究组CA125和MALAT1水平均低于对照组,差异有统计学意义(P<0.05);研究组临床控制率为73.53％(25/34),高于对