基于预训练模型和图神经网络的藏文文本分类研究

来源 :东北师大学报(自然科学版) | 被引量 : 0次 | 上传用户:quangang770
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在少数民族语言信息处理领域,由于文本分类标注数据的稀缺,相关研究工作进展缓慢.为了充分利用有限的标注数据,更有效地挖掘出文本之间的关系,本文对藏文提出一种基于预训练模型和图卷积神经网络的长文本分类方法CINO-GCN.首先利用在实验数据集上经过微调的少数民族多语言预训练模型(Chinese Minority Pretrained Language Model, CINO)得到藏文长文本的初始文档向量和藏文音节向量.然后根据整个数据集范围的音节共现关系与音节和文档间的TF-IDF值来对藏文文本图进行建模.最后将文本图和结点特征一同输入至图卷积神经网络(graph convolutional networks, GCN)层,得到的文档表示经过Softmax得到分类结果.将该方法在公开的TNCC藏文新闻文本分类数据集上与当前几种主流的深度学习模型进行了多组对比实验,分类准确率达到73.51%,远优于其他基线模型;同时设计了消融实验验证模型各部分对分类结果的增益.实验结果表明,该文提出的模型能够结合预训练词向量和图神经网络的优势,显著提高藏文文本分类的准确率.
其他文献
新时代我国职业教育明确了作为类型教育的定位,这要求职业教育系统应在办学模式、课程教学、师资队伍等要素上,由参照或照搬普通教育向具有自身特色、反映自我属性的方向转型。职业教育专业实践教师(包括企业师傅(教师)、实训实习教师、专业课实践教师、毕业设计指导教师等等),它作为现代职业教育教师队伍的一种符号,其质量高低直接影响着职业教育系统中的技术技能人才培养水平。进一步而言,职业教育专业实践教师制度建设直
伟大时代呼唤青年,伟大梦想期待青年。青年作为一个充满生气、创造力与生命力的群体,蕴含着推动民族复兴与国家富强的强大能量。百年中华复兴史告诉我们,只有赢得青年、凝聚青年,才能获取民族独立,推动国家事业永续发展。习近平十分重视青年、心寄青年,积极应对青年在成长成才中面临的新困难新挑战,围绕新时代青年教育发展态势,发表了一系列符合时代要求、具有中国特色的重要论述,深化了对青年教育内容、教育方法等方面的认
为提高从大连渤海海域海泥中筛选到的菌株Basidioascus sp. LG-31产低温葡萄糖氧化酶活性性,对菌株Basidioascus sp.LG-31进行了单因素发酵条件优化,结果表明,菌株Basidioascus sp.LG-31产低温葡萄糖氧化酶活性显著提高。单因素优化结果:蔗糖4%(质量分数)、酵母粉0.3%(质量分数)、NaNO3 0.4%(质量分数)、无机盐(KH2PO4 0.02
外辐射源雷达是一种利用非合作辐射源进行探测的特殊双基地雷达,具有体积小、成本低、抗干扰能力强、无需额外频谱占用等优点。目前,常用的外辐射源有调频广播,地面数字电视广播,全球数字广播(Digital Radio Mondiale,DRM)等。其中,DRM信号位于短波波段,是全球唯一短波数字声音广播制式,基于DRM的外辐射源雷达具有作用距离远、超视距、反隐身等突出优点,具有重要的研究价值。但同时,外辐
<正>感悟作为责师团队,回顾我们在崇雍大街的1000天,我们深刻感受到规划师的角色转变:从过去的“绘图匠”转变为“社会工作者”。这个过程中考验规划师的,往往不是技术问题,而是在多方反复博弈中的社会工作能力、协调能力,保护老城更是刻在我们责任规划师团队每一个人心头的温热印痕。希望在未来的日子里,通过我们持续与居民们共治、共建、共享,继续共同缔造精细化的老城环境,共享更加美好的新生活!项目概况为深入推
期刊
文章以国土空间规划中的综合整治与生态修复路径为研究对象,首先从不同角度出发,探讨了进一步强化综合整治与生态修复的必要性,随后研究了国土空间规划中的综合整治与生态修复思路,最后提出了具体的实施路径,希望能够为相关研究提供一定的参考。
国土空间规划是利用综合管理理念完成的统筹工作,因此规划环节应重视国土资源的科学利用,以生态文明重建为目标,科学落实综合整治工作,基于此,为透彻分析综合整治工作与生态修复的效果,本文率先总结核心概念,并透彻分析国土空间规划的应用的理论,并在意义探究的基础上,总结综合整治与生态修复的工作要点。
“四个自信”的提出和发展不仅具有时代价值,也具有独特的理论价值,更体现出中国特色社会主义的开放性和包容性,为理解中国特色社会主义提供了新的视角和途径。“三个自信”发展成为“四个自信”,“四个自信”的内容和意义还在进一步完善和发展,这些都建立在对时代发展趋势的正确把握上,由此展现出“四个自信”无可比拟的科学性。中国发展一路向好是外在表现形式,我们还需探寻中国发展一路向好的内在原因,“四个自信”是科学
现阶段,我国已踏上大力推进绿色节能、生态环保工作的新征程,为了切实改善部分区域的资源过度开发及生态环境污染与破坏等问题,相关部门将国土综合整治与生态修复作为国土空间规划的工作重点。基于此,文章首先从国际和国内角度出发,分析国土空间规划中综合整治与生态修复的重要性,进而梳理生态修复与国土空间规划两者之间的关系,在此基础上探索优化与强化国土空间规划中综合整治与生态修复的具体途径与有效策略,以供参考。
实现全体人民共同富裕是中国式现代化的中国特色和本质要求。“人民群众物质生活和精神生活都富裕”是习近平总书记关于共同富裕问题的重要政治判断。马克思主义关于物质资料生产和生产力、人的全面发展及社会主义本质等思想观点成为共同富裕思想的主要学理支撑。从百年党史看,为实现共同富裕,中国共产党人进行了卓有成效的理论探索和实践追求。在全面建设社会主义现代化国家的过程中,高质量发展推动、社会主义核心价值观引领和美