基于深度预训练语言模型的文献学科自动分类研究

来源 :情报学报 | 被引量 : 0次 | 上传用户:gaolch006
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
为了支撑"一流学科"相关的情报和文献服务,本文探索利用深度预训练语言模型实现文献的教育部一级学科自动分类。通过构建基于BERT和ERNIE的文献学科分类模型,在21个人文社科一级学科近10万条期刊文献数据集上进行实验验证,并与传统机器学习方法 (朴素贝叶斯、支持向量机等)、典型深度学习方法 (卷积神经网络、循环神经网络)进行对比分析。结果显示,基于深度预训练语言模型的方法效果最好,其中ERNIE在测试集上的Top 1和Top 2准确率分别可达到75.56%、89.35%;同时使用标题、
其他文献
同塔双回输电线路雷击同时跳闸会严重影响电力系统供电安全,采用有效防雷措施防治同塔双回线路雷击同跳事件发生具有重要价值。针对雷击同时跳闸严重的110 kV和220 kV同塔双
背景牙髓炎和根尖周炎是口腔临床最常见的细菌感染性疾病,根管治疗术(root canal treatment,RCT)是其有效的治疗方法,通过RCT可以延长患牙的存留时间。临床医师对根管形态全面的掌握是顺利进行RCT的基础,而根管系统的复杂程度决定了RCT的难度。下颌第一恒磨牙根管系统复杂且牙根数目会出现变异,其中一个主要的结构变异是存在额外的第三根,称为远舌根,锥形束CT(CBCT,cone-be
为了提高岳城煤矿井下生产效率,减少井下排水系统能源损耗,结合岳城煤矿井下排水系统具体情况,改造排水系统运转方式。通过在工作面设置大型沉淀池,再排向中央水仓上井,实现
自党的十九大提出实施乡村振兴战略以来,中国大力加大了对乡村建设的扶助。陕西省作为我国西部重要省份,其乡村发展程度呈现出较大差异,陕南、陕北和关中地区表现出明显的乡
大洋勘探船是海洋固体矿产资源勘探开发和大洋科学钻探的重要装备之一。本文收集了主流勘探船钻探及岩芯采集系统的技术资料,分析系统配置特点,提出钻探及岩芯采集系统功能需
股东派生诉讼作为一把双刃剑,在利于保护小股东的同时,也容易被个别股东滥用以达到非法目的。因此必须设计出防止其被滥用的制度,前置程序就是其中之一。前置程序能够减少不
伴随我国科学技术的不断发展,新媒体也随之发展,对广播、电视、报纸等传统媒体的发展造成了巨大冲击。基于此,新闻工作者应该对编辑技巧展开进一步的研究,保障传统媒体在当下
改革开放40余年,我国农村面貌发生了巨大变化,但城乡二元结构并未根本改变,城乡差距依然明显。随着国土空间规划体系的逐渐建立,我国将深入开展城乡规划改革,借鉴西方先进经
目的探讨加强供应室消毒灭菌管理的方法,总结新型管理方法的实施经验。方法纳入该院消毒供应室2019年10月15日-2019年10月31日300件手术器械,所选器械均未进行消毒处理,随机