基于提示学习的小样本文本分类方法

来源 :计算机应用 | 被引量 : 0次 | 上传用户:wangshaohua11
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
文本分类任务通常依赖足量的标注数据,针对低资源场景下的分类模型在小样本上的过拟合问题,提出了一种基于提示学习的文本分类方法(BERT-P-Tuning)。首先,利用预训练模型BERT在标注样本上学习到最优的提示模板;然后,在每条样本中补充提示模板和空缺,将文本分类任务转化为完形填空任务;最后,通过预测空缺位置的填充词,结合填充词与标签之间的映射关系得到最终的标签。在公开数据集FewCLUE上的短文本分类任务上进行实验,实验结果表明,所提方法与基于BERT微调方法在评价指标上有显著提高,在二分类任务上,准确率与F1值分别提升了25.2和26.7个百分点,在多分类任务上分别提升了6.6和8个百分点;相较于手动构建模板的PET方法,准确率提升2.9和2.8个百分点,F1值提升了4.4和4.2个百分点;此外,利用BERT作为模板学习器的方法,相较于使用LSTM方法的F1值分别提升了1.7和2.4个百分点,验证了预训练模型应用在小样本任务的有效性。
其他文献
通过游客问卷调查获取数据,采用贝叶斯网络分析景德镇陶瓷文创产品游客购买意愿的影响因素,主要结论如下:大部分被调查游客愿意购买陶瓷文创产品,产品因素对购买意愿的影响程度最大;游客年龄是影响购买意愿的最主要因素,收入水平也有重要影响;当游客购买意愿高发生的概率为100%时,产品因素和消费情境因素对购买意愿有至关重要的影响。陶瓷文创产品的设计应考虑到审美和实用的双重需求,针对新生代群体强化文创产品的“独
目的:对基于生态环境的文创产品设计开展探讨与分析。方法:以按照天人合一、和谐共处的生态化理念,思考如何创建文创产品消费人员、旅游景区以及自然环境之间的和谐共存关系。结论:文创产品作为旅游经济与文化创意产业快速发展环境下的产物,其的特征主要包括旅游纪念品和文化创意产品,也是弘扬传统文化的主要渠道与重要载体,购买纪念品是旅游行为当中的主要部分,它是某些地方历史文化的微观表现,应与市场上其他旅游景点的产
目的:基于质量源于设计(Qb D)理念,建立栀子豉汤提取工艺的设计空间并进行验证;优化栀子豉汤颗粒成型工艺,并进行质量控制;运用网络药理学方法及分子对接技术探讨栀子豉汤颗粒治疗失眠的潜在机制;探究栀子豉汤颗粒对失眠模型大鼠的治疗作用及机制。方法:1.制备工艺研究:(1)以栀子苷、京尼平龙胆双糖苷、大豆苷元、染料木素的含量及干膏得率作为栀子豉汤提取工艺的关键质量属性(CQAs),通过单因素实验确定各
<正>荆菲(以下简称"荆"):1985年《中国美术报》创刊号的封面刊登的是您的作品,可以看出当时您就开始使用拼贴方式进行创作了。梁铨(以下简称"梁"):因为在版画里有一种技术叫"薄拼贴",留学毕业作品也是用这一方式完成的,回国后我想继续这种创作方式,但当时在国内是不可能用铜版机,我想那我为什么不能用宣纸进行拼贴创作呢。因为宣纸很柔软,所以就从版画拼贴转到了宣纸拼贴的创作方式。
期刊
小学教师不仅要重视知识传授,还应注重学生的道德品质培养,为其未来发展奠定坚实的基础。在小学生的素质教育中,道德与法治课程有着不可替代的作用。教师必须要把握好新课程改革的要求,积极引入情境体验式教学模式,体现学生在课堂中的主体性,创设真正优质高效的课堂。
目的:探讨护理硕士专业学位(MNS)研究生未来时间洞察力对择业效能感的影响,以及专业自我概念在其中的内在作用机制。方法:采用便利抽样法,便利抽取20个省份328名MNS研究生作为研究对象,采用一般资料调查问卷、未来时间洞察力量表、择业效能感量表及护理专业自我概念量表对其进行调查,采用SPSS 23.0软件分析MNS研究生未来时间洞察力、择业效能感与专业自我概念的相关性,采用AMOS 24.0软件分
中国的琉璃从西周到汉代,其功能用途主要是仿玉器。学术界一般认为西方玻璃起源于古埃及,功能主要是辟邪首饰,到古罗马时代发展为日用器皿。西方玻璃从战国早期传入中国,受西方玻璃影响,汉代也出现了西方式玻璃器皿,但却逐步衰亡,到汉末几乎被瓷器取代。本文以汉代出土玻璃为例,分析了中西方玻璃的材料配方、加工工艺和功能用途的差异,探讨古代玻璃器的特征及中西方文化的差异;最后认为,对材料的选择与运用开发,可以影响
本文基于资源保存理论探索服务员工情绪劳动对服务创新的影响机制。本文采用来自36个团队的259名服务员工样本数据进行实证检验,结果显示:员工深层扮演正向影响服务创新,情绪衰竭在表层扮演和深层扮演影响服务创新过程中均发挥了中介作用。此外,团队服务氛围增强了深层扮演与情绪衰竭的负向关系以及深层扮演通过情绪衰竭影响服务创新过程的间接关系。服务型组织有必要通过情绪管理培训、塑造积极的团队服务氛围等措施降低员
目的 通过问卷调查了解新疆乌鲁木齐市和伊犁州中学生的性健康现状及对人乳头瘤病毒(Human papilloma virus,HPV)感染的认知情况,为HPV和宫颈癌的预防及性健康现状的改善提供科学依据。方法 采用整群分层随机抽样的方法,选取2022年3月—2022年4月新疆乌鲁木齐市和伊犁州初一至高三年级中学生,以自创问卷《宫颈癌、人乳头瘤病毒及HPV疫苗认知调查表——中学生》进行调查研究。共收回
目的:缺血再灌注损伤(ischemia reperfusion injury,IRI)常发生于缺血性心脏疾病。七氟醚预处理有减轻心肌IRI的作用。保存线粒体结构和功能的完整是减轻心肌IRI的关键,线粒体内重要的信号调节分子沉默信息调节因子3(silent information regulator 3,SIRT3)是一类依赖于烟酰胺腺嘌呤二核苷酸(nicotinamide adenine dinu