基于孪生神经网络的简答题自动评分算法研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:xiaoc009
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
测验为教育者提供了一个评估学生从课程中获得知识的不可或缺的方法。然而,教师人工评分是一项沉闷且费时的工作。尽管计算机辅助评估应用于高校和学院多年,主要针对客观题型,例如,选择题等。其次,有研究表明了以简答题为代表的主观题型适用于捕获学生从高等教育中获得的知识,如逻辑推理,总结概括等。基于此,研究简答题自动评分(Automated short answer grading,ASAG)不仅减轻了人工评估的负担,还帮助了学生的学习过程,提供无限制地,及时地反馈。当前,许多有关自动简答题评分的研究工作来自于工业实验室,依靠私有数据集进行了应用研究。如上所述,研究人员致力于应用自然语言处理技术于解决ASAG领域的问题。同样地,本文开展了应用自然语言处理的先进建模理论和表征学习的研究工作,建立了具有创新性的解决问题方案,使ASAG模型的泛化性和鲁棒性得到了进一步提升。本文的研究内容可详细总结为以下两个方面:第一,针对预先给定的参考答案无法覆盖具有语义多样性的学生答案的问题,本文提出了基于孪生神经网络的ASAG系统。该系统可描述为采用增加先验知识的方式,通过加入问题的信息,形成与学生答案和参考答案句子对的语义信息互补,进一步提升了ASAG系统的性能。同时,该系统的架构包括基于孪生神经网络的编码器,它由两个权重共享的子网络耦合而成,使系统能够提取(参考答案,学生答案,问题)三个训练实例的语义相关性特征。此外,本文提出了基于池化层的特征融合层,驱动ASAG系统学习有效的语义相关性特征。简而言之,这里提出的ASAG系统堆叠了基于孪生神经网络的编码器,基于池化层的特征融合层以及单个回归层。第二,针对目前大多数ASAG系统存在的缺陷,学生通过复制或稍微改写标准答案取得高分的欺骗行为,本文通过采用基于规则的数据增强方法研究了ASAG模型的鲁棒性,增加了学生作弊的难度。然而,由于自然语言存在离散性因素,导致基于规则的数据增强合成样本的多样性受到限制。基于此,本文提出了基于知识蒸馏的数据增强策略,通过并行的方式堆叠不同的单个数据增强方法,使得不同的单个数据增强形成互补,提高了增强样本的多样性。此外,相比原始样本,在训练模型的向量空间中增强样本的嵌入可能与其它类别实例的嵌入更相近,于是本文提出了基于监督对比学习的ASAG系统,通过对比学习目标函数正则化预训练模型的嵌入,缓解了嵌入空间中存在的各向异性问题,帮助模型学习到有效的句子表示。其次,本文在两个公开数据集上实验了提出的两个系统,与此同时对比了多个已公开发表的模型。实验结果显示了文本提出的两个模型的性能与基线模型相比均取得了实质性提升。此外,本文深入分析了消融实验以及其它性能实验的结果。简而言之,本文开展了基于孪生神经网络的研究,同时应用自然语言推理以及自然语言理解等领域的前沿技术和理论取得了具有创新性的研究成果。此外,本文在公开数据集上与多个已公开发表的工作对比了提出的解决方案,通过实验结果验证了本文提出的解决方案的有效性。
其他文献
随着人口老龄化的日益加剧,人们的健康意识也逐渐觉醒,政府也开始提倡“全民健身”。健身热潮虽然极大提高了人民的整体身体素质,但是也提高了脚踝、足部跟腱等腿部伤病的发病率。据查阅文献发现,大学生在篮球运动中脚踝发生损伤的概率高达54.2%。如何解决腿部伤病频发的治疗康复问题,是国内急需解决的问题之一。在患者受伤的康复期间,患者会借助各种康复器具进行康复训练和辅助日常出行。目前上市场较为普遍的器具有轮椅
学位
秦淮灯彩作为传承千年的民间综合性工艺美术,其审美价值和文化底蕴凝聚着不同时期人们的智慧和心血。伴随时代发展和国家政府对传统文化的日益重视,成为非物质文化遗产的秦淮灯彩迎来了新的发展契机。在文创产业稳步发展的时代背景下,秦淮灯彩需要突破自身受限于节令时期艺术装饰的框架,积极实现其在文化和商业上的良性循环,更大程度上彰显秦淮灯彩的艺术价值。本文以国家级非遗——秦淮灯彩为对象,在理论研究之上,着重探讨其
学位
随着时代的发展和进步,人们开始重视产品在情感层面的表现。太平泥叫叫是镇江的传统民间手工艺玩具,具有浓厚的历史文化底蕴和民间艺术价值。太平泥叫叫虽然是我国非物质文化遗产,而传统的开发模式不能与时俱进地适应人们日益增长的精神需求,面临着被时代淘汰的尴尬处境。当下最需要的就是探索出一条创新发展模式,重振传统民间手工艺。课题旨在将多感官体验理论融入江苏大运河文创产品设计中,需要运河江苏部分的文物和运河江苏
学位
从上世纪90年代开始,伴随着改革开放和城市建设进程的不断加快,我国城市居民对生活品质的追求不断攀升,以传统业态运营的百货商场已无法满足访客日益增长的需求。除零售之外增添餐饮、娱乐等服务的商业综合体逐渐在各大城市建设运营,成为居民生活的基础设施之一。同时以淘宝、京东为代表的电商平台在互联网技术的支持下,以迅猛之势抢占了中国内陆实体零售商业销售的份额,这也迫使线下商业综合体加快转型速度,创新营销模式,
学位
随着数字经济和新一代信息技术的蓬勃发展,财务行业对数字化转型和智能化升级的需求日益迫切。以ChatGPT为代表的AIGC技术的兴起,更引发了新一轮的财务变革热潮。本文从场景优化、技术革新维度探讨ChatGPT影响下智能财务体系的变革,并进一步探讨该背景下财务人员能力框架和财务部门人机协同方式该如何更新迭代,以期在AIGC技术蓬勃发展的时代背景下,为企业智能财务体系的建设和完善提供有益的参考和启示。
期刊
在储罐进出口管道上设置金属软管或金属波纹补偿器,可补偿储罐和管道由于地基沉降、安装偏差以及管系的热胀冷缩或地震等产生的位移,并能吸收振动和降低噪音,保证储罐的安全运行。本文介绍了金属软管、金属波纹补偿器的选型、设计要点以及安装使用注意事项。根据金属软管及金属波纹补偿器的特性,我们应按实际情况选用合适的金属软管或金属波纹补偿器,并做到正确安装,才能确保油库的安全正常运行。
会议
我国老龄人口的急剧增加和空巢化现象的加剧,给社会带来了新的挑战。小城镇因其经济发展相对滞后,无法吸引中青年劳动力,空巢现象比大城市更加严重。小城镇老人普遍受传统文化影响较深,不愿接受机构养老,居家养老就此成为小城镇老人主流的养老方式。卫浴的主要功能是洗漱、如厕和洗浴,有的还带有洗衣功能,是不可或缺的家庭生活功能区。针对小城镇独居老人设计适老化卫浴设施与空间布局,能够有效减少老年人使用卫浴时遇到的阻
学位
农贸市场作为传统的城市商业空间,在现代城市发展中具有举足轻重的地位。它不仅是市民日常生活服务的平台,也是良好的社区邻里交往场所。农贸市场在我国历史发展源远流长,具有继承地域文化和展示城市面貌的双重特性。从城市文化建设的宏观角度看,农贸市场不是简单的交易空间,更是塑造文化活力的重点场地。随着现代社会的发展,传统的农贸市场形式已经无法满足多元化的市场需求,人们对于市场环境的要求不断提升,互联网线上购物
学位
城市在人类文明发展史中发挥着不可替代作用。国家、政府、政治、宗教等等,无不是从人类生存的这一基本形式——城市中发展起来并附着其上的。城市不仅是物质形态分布和组合的空间场所,还是生产关系和上层建筑在特定区域内的聚集体,包含着复杂的政治经济关系。城市在恩格斯视阀中备受关注,资本主义城市化问题是贯穿恩格斯理论生涯的一个重要主题,恩格斯资本主义城市化批判思想是马克思主义思想体系中重要的理论界域。现代社会是
学位
当今社会,科技快速发展,有机发光二极管(Organic light-emitting diodes,简称OLEDs)广受各方关注。原因在于:一方面,它既可以在全彩领域发挥出高水平的性能;另一方面,OLEDs在照明行业中的工业应用有着卓越的表现,其中仅是发光效率就已经毫不逊色于普通光源。OLEDs有着十分巨大的潜力,但仍需突破重重阻碍使其在各项性能上再度提升。现如今,社会上对于近紫外光/紫光的应用已
学位