【摘 要】
：
在大规模无监督语料上预训练的语言模型正逐渐受到自然语言处理领域研究者的关注。现有模型在预训练阶段主要提取文本的语义和结构特征,针对情感类任务的复杂情感特征,在最新
【基金项目】
：
国家重点研发子课题No. 2017YFC1601800;国家自然科学基金No. 61876072;中国博士后科学基金特助No. 2018T110441;江苏省六大人才高峰项目No. XYDXX-012
论文部分内容阅读
在大规模无监督语料上预训练的语言模型正逐渐受到自然语言处理领域研究者的关注。现有模型在预训练阶段主要提取文本的语义和结构特征,针对情感类任务的复杂情感特征,在最新的预训练语言模型BERT(双向transformers编码表示)的基础上,提出了一种侧重学习情感特征的预训练方法。在目标领域的预训练阶段,利用情感词典改进了BERT的预训练任务。同时,使用基于上下文的词粒度情感预测任务对掩盖词情感极性进行分类,获取偏向情感特征的文本表征。最后在少量标注的目标数据集上进行微调。实验结果表明,相较于原BERT模型,可
其他文献
关于老年口腔健康标准,国内外尚未见全面的标准提出[1]。世界卫生组织1981年制定的口腔健康的5项标准是[2]'(1)牙齿清洁(2)无龋洞、(3)无疼痛感(4)牙龈颜色正常(5)无出血
农民工子女义务教育问题是我国城镇化、工业化和城乡二元经济社会结构下,政治、经济、社会体制等多种因素的综合性产物,是与农民工现象相伴生并不断凸显的社会问题。农民工为
【正】 新莽末年,刘演刘秀兄弟怀着“复高祖之业”的雄心,纠集宗族宾客参加农民起义军。刘演遇害后,刘秀奉命到河北召集义军,在豪强地主的支持下,消灭了王朗,镇压了铜马、高
热活化延迟荧光(TADF)与室温磷光(RTP)是目前有机发光二极管(OLED)领域高效利用三重态激子的最有希望和最有效的两种方法。它们能够突破传统荧光OLED器件外量子产率的理论极限,获得更高的能量利用率。目前TADF分子主流设计思路是通过构造扭曲的给体-受体结构来缩小单重态与三重态之间的能级差,以此获得热活化延迟荧光。常规TADF分子结构扭曲,合成路线复杂,往往需要用到贵金属(如钯等)催化剂,难
脑源性神经营养因子（BDNF）广泛存在于中枢和外周神经系统,具有神经再生和修复功能。近年来研究发现,抑郁症与BDNF表达变化所致大脑结构和神经生化改变有关。抗抑郁药的作用机制
在１７世纪中叶的东亚及东南亚海域，乃至这一时期的西方殖民者在东方的扩张史上，郑成功可谓是一位叱咤国际政治经济舞台的风云人物。然而，不可思议的是，在西方语言写就的学术著作中，只
探讨定置管理在护理实训物品管理中的应用效果,选择2013年6月至2014年6月参与实训课程的护理本科学生120名,对试验前后其取用物品时间、物品准备完好率、操作考核成绩进行分
本文应用投入产出经济学的方法,通过对我国2000年投入产出调查资料中影响力系数和感应度系数的测算来对中国17个部门的产业进行关联分析,对我国的产业结构进行评价,以期有助
胆囊收缩素(Cholecytokinin,CCK)是一种多肽激素。Mutt和Jorpes(1971)首先由猪胃肠道分离出来的是含33个氨基酸,从历史看,Okada(1914—15)发现酸化狗小肠导致胆囊胆汁的排出
郭沫若的《驳〈说儒〉》原题作《借问胡适》,因两个同时涌出的写作动机而成文,文字虽都与胡适关联,但内容实相去甚远,所论涉及文化学术的不同领域。文章发表后文本曾有删削改