【摘 要】
:
维吾尔语属于低资源语言又属于黏着性语言,在很长一段时间都缺少足够的语料来训练维吾尔语预训练模型,造成维吾尔语无法像中文那样基于预训练模型提取句向量利用softmax进行句子分类。而对于以往的一些文本分类方法,如利用深度学习模型提取词向量,维吾尔语也存在特征稀疏且维度偏高的特点,使得其在文本分类上的效果没有那么理想。因此本文采用了Cino多语言预训练模型,基于提示学习的方法,构造不同的模板,利用模型
【基金项目】
:
国家自然科学基金(62161048);
论文部分内容阅读
维吾尔语属于低资源语言又属于黏着性语言,在很长一段时间都缺少足够的语料来训练维吾尔语预训练模型,造成维吾尔语无法像中文那样基于预训练模型提取句向量利用softmax进行句子分类。而对于以往的一些文本分类方法,如利用深度学习模型提取词向量,维吾尔语也存在特征稀疏且维度偏高的特点,使得其在文本分类上的效果没有那么理想。因此本文采用了Cino多语言预训练模型,基于提示学习的方法,构造不同的模板,利用模型的掩码预测能力对不同的掩码位置进行预测。为了避免掩码预测出的词汇信息的多样性,本文将模型预测出的模板掩盖掉的几个词向量来代替整体的句向量,利用掩码模型的预测能力,以有限大小的向量来表示当前句子的语义信息,将下游任务靠近模型的预训练任务,弥补在微调阶段二者不同所造成的影响。在爬取维语网站所构建的新闻数据集上进行的文本分类实验表明,存在合适的模板提升了F1值至92.53%,且精准率和召回率分别提升了1.79、1.04个百分点,在维吾尔语上获得了更好的文本分类效果。
其他文献
城市植物色彩是城市环境的重要组成,它承载了一个城市的历史文化特色,对城市的发展和人民大众的日常生活有着非常重要和深远的影响,它既是解决当代城市生态危机的关键,也是缓解人文精神危机的必要条件。以传统文人园林植物著作作为研究对象,通过分析古籍中文人士大夫的美学观念,提炼其色彩搭配的美学规律,梳理审美范式,既能传承传统园林的精神风貌,又为当代园林设计师提供植物色彩搭配的理论依据,为当代园林的意境表达提供
近些年来,国家越来越重视大班幼儿教育,也相应推出教育政策,更加重视幼儿的亲身体验感,幼儿在大班学习中表现自我,增加实践体验感,进而可以学习多元化的知识,提高动手实践能力以及丰富自身情感。因此,在大班幼儿的教学过程中,教师要重视绘本剧表演的合理开展,引导幼儿将绘本中的故事生动形象地表演出来,促进幼儿的健康成长。本文对教师如何开展大班幼儿绘本剧表演教学活动做出了进一步的分析和探索,以期为广大教师提供一
当前,市场经济发展速度越来越快,装饰装修的改革与发展也日新月异。倘若无法适应社会发展的需求,将无法在激烈的市场竞争中站稳脚跟,更不用提长期发展了。装配式装修是未来很长一段时间建筑装修市场的主要发展方向,基于此,本文重点分析装配式装修在成品住宅中的应用,探析其应用过程中存在的问题,并加以优化完善,以期为工程人员提供参考。
价值中立是社会科学研究方法的重要概念,人类学家在进行田野调查时应当对社会事实保持价值无涉,而在科学外进行价值关联,以做到科学有效地描述研究对象。民族学的田野实践涉及对弱势群体的关怀和社会问题的描述,同时为了田野调查的顺利展开,在田野实践过程中会面临与研究对象的情感偏移。价值中立和情感偏移是民族学者进行田野工作时面临的重要抉择,在民族学田野实践中保持价值中立和进行必要的情感投入,做到融进去和跳出来,
<正>党中央、国务院高度重视人民健康,特别是党的十八大以来,习近平总书记多次就卫生健康工作作出重要指示,指出“人民健康是社会文明进步的基础”“要始终把人民群众生命安全和身体健康放在第一位”。去年习近平总书记在福建考察调研时还指出,“健康是1,其他是后面的0,没有1,再多的0也没有意义”。2016年,党中央、国务院召开全国卫生与健康大会,确立新时代卫生与健康方针,印发《“健康中国2030”规划纲要》
随着我国经济发展进入“新常态”,城市建设由大规模的增量扩张转向存量提质的新转型,城市发展迈入“有机更新”阶段,城市需要有特色、有质量的公共空间。高品质不代表体量的增加,而是强调在人文、美学、特色等方面有所提升。二十四节气社区花园既是城市公共绿地的具体展现形式,亦是从空间提质视角激活我国传统文化遗产的探索,在一定程度上可以增强空间的人文、美学与主题特色,也是二十四节气传统文化进入社区文化建设的需要。
随着时代的发展,文化与文化之间的联系更加紧密,文化的碰撞与交融也更加常见。2020年上映的迪士尼真人版电影《花木兰》便是具有一定代表性的跨文化作品。本文借助霍夫斯泰德文化维度理论,通过个人主义/集体主义文化维度剖析真人版《花木兰》对中国故事的跨文化改编与挪用,以探寻中国传统文化的传播新路径,为中国文化走出去进行反思与探索。
进入新时代以来,中国特色科学家精神不断被赋予新的内涵,爱国精神和创新精神被提到前所未有的高度,形成了以科技强国为核心的新时代中国特色科学家精神。新时代中国特色科学家精神既是科学家精神中国化和时代化的优秀成果,也是全面建成创新型国家和加快建设世界科技强国的强大精神动力。传承与发展新时代中国特色科学家精神必须坚持党对科技事业的领导,坚持科技发展服务于经济民生,使广大科技工作者在新时代实现自我价值、社会
在针对长春市道路绿化带植物景观进行全面调研时发现,植物景观存在与当前城市建设交互协调性较弱,无法充分发挥绿化带植物环保降噪、美化生态的具体功能。本文运用样地调查法对长春市主干道选取合适的路段作为样带进行实地勘察。调查发现,需要对其生态功能、美学功能、安全功能进行适度改造优化,以确保长春市道路绿化带植物景观具有的现实价值可得到充分发挥,从长远来看,可提高人们对道路绿化带的重视程度,在此基础上提升城市