【摘 要】
：
机器阅读理解作为自然语言理解的关键任务,受到国内外学者的广泛关注。其意义在于使机器具有理解文本语义的能力。本文重点关注机器阅读理解中的多项选择题任务,即给定文章、问题和选项,要求根据文章内容回答问题,从多个选项中选择最佳选项。然而这些选项通常不是直接来自文章片段,其需要根据文章内容进行总结归纳或推理才能得出正确答案,存在更艰巨的挑战。因此,本文旨在面向高考阅读理解中的多项选择题进行研究,主要的工作
论文部分内容阅读
机器阅读理解作为自然语言理解的关键任务,受到国内外学者的广泛关注。其意义在于使机器具有理解文本语义的能力。本文重点关注机器阅读理解中的多项选择题任务,即给定文章、问题和选项,要求根据文章内容回答问题,从多个选项中选择最佳选项。然而这些选项通常不是直接来自文章片段,其需要根据文章内容进行总结归纳或推理才能得出正确答案,存在更艰巨的挑战。因此,本文旨在面向高考阅读理解中的多项选择题进行研究,主要的工作及成果如下:针对缺少中文阅读理解多项选择题数据集的问题,本文收集了2005-2020年高考语文阅读理解选择题,并人工标注部分候选句。针对阅读理解多项选择题中文章长且涉及多步推理致使候选句抽取困难的问题,本文提出一种基于多模块联合的候选句抽取模型。该模型首先融合选项与问题所涵盖的信息使其语义完整,其次针对正负样本不均衡现象在微调预训练模型中采用Focal Loss作为损失函数,在训练时推动模型更加关注于困难样本,降低简单负例的学习度;并通过TF-IDF递归式抽取多跳推理问题中的候选句;最后为避免信息冗余现象,结合无监督方式进一步筛选模型预测结果。在高考阅读理解候选句数据集上F1值提升3.44%,在下游答题任务中较全文输入时提高3.68%,验证了本文所提方法的有效性。针对阅读理解多项选择题文章中复杂的语义关系,及部分题目中的选项重点考察细节分析能力,即选项所阐述内容大部分成立,只因“修饰词”、“主客体”或“句法结构”发生了变化导致选项表述含义与候选句内容不符。为增强模型细节信息的捕捉能力,且使候选句对于选项更具有针对性,本文首先将四分类的选择题转化为二分类的判断题,其次将上述抽取出的候选句与对应选项采用Stanfordcore NLP分别进行句法解析,并构建对应的句法邻接矩阵图,最后在BERT对输入进行编码的基础上融入句法关系的表示信息,该方法在高考数据集上得到了有效提升。最后基于上述方法设计并实现了阅读理解多项选择答题系统。本文的主要贡献包括:（1）构建了高考阅读理解多项选择题数据集及候选句数据集;（2）提出了一种机器阅读理解中候选句抽取的方法,提升了候选句抽取的F1值;（3）提出了一种融入句法关系的阅读理解答题模型,提升了模型捕捉细节的能力,增强了语义表示。
其他文献
大数据时代,实际应用领域搜集到的数据往往呈现出更多复杂特性,作为一种较多见的数据形式,区间型数据在金融、气象、农业等诸多领域广泛存在。尽管对于区间型数据的表示、分析、挖掘已有一些研究,但大多数研究都是针对静态区间型数据,对于实际应用中随时间不断更新的动态区间流数据,目前的研究还相对较少。由于区间流数据所具有的时序特征,传统静态区间型数据的分析挖掘方法往往不能直接使用。针对这个问题,本文提出一种基于
随着现代信息技术和移动互联网的发展,信息量以惊人的速度产生和传播,面对数不胜数的信息量,人们难以在短时间内筛选出有用信息。为了帮助用户在节省时间的同时寻找到有用信息,推荐系统应运而生,并得到迅速发展。传统推荐算法通常认为用户兴趣随时间推移是稳定不变的,然而,在真实场景中,随着时间的变化,用户兴趣偏好不断发生改变,新产品的出现、季节的交替、流行趋势的变化等均会影响用户的选择。因此,如何从历史行为数据
随着“互联网+”在教育领域的不断渗透,在线学习平台丰富的学习资源为人们获取信息提供了新的契机。但学习资源的多样性和广泛性导致数据呈指数级增长,致使平台用户难以获取满足自身需求的资源。为了追求平台的用户访问量和学习资源点击量,个性化学习资源推荐算法应运而生。它可根据学习者的行为日志挖掘和推送满足自身需求的学习资源,从而达到“个性化推荐”的目的。然而随着在线学习平台数据海量聚集,资源过度膨胀,传统推荐
孤立点检测作为大数据研究中的一项重要技术,在网络监测、电信和信用卡欺诈、金融证券服务等各大应用领域中都发挥着巨大的作用。孤立点检测的目的在于找出一个数据集中与大多数对象行为显著不同的一部分对象。在众多的孤立点检测方法中,基于聚类的方法因其不需要预先知道数据集的分布和参数少等特点而脱颖而出。但是目前基于聚类的孤立点检测方法中,一部分方法仅通过优化聚类算法来提升孤立点检测的效果,另一部分仅聚焦于簇内孤
近年来,自然语言处理的重心已逐步从句法处理研究转移到语义分析研究中,语义知识库的构建至关重要。汉语框架语义知识库（CFN）已具有一定的规模,但词元库的低覆盖率问题比较严重。CFN现有动词6175个,与现代汉语词典中的17788个动词相差甚远。CFN词元库主要是通过翻译Frame Net已有词元构建的,不可能包含中文所有词语,故需要不断的扩充词元完善CFN词元库。当使用CFN在大规模真实文本中进行框
推荐系统在电子商务和服务型移动终端的应用越来越广泛,使得人们的生活越来越便利。在电子商务网站或论坛中,存在大量蕴含用户对项目某些方面的相关评论,若将这些评论进行细粒度情感分析,既可作为可解释推荐系统中用户对项目评分的依据,又可给出推荐结果的解释原因,从而帮助用户更好地理解推荐结果,提升用户的满意度。因此,本文以项目评论数据为研究对象,通过分析评论中多个对象的细粒度方面项情感极性,进而基于用户在方面
近年来,深度学习在机器视觉,如目标识别与检测,自然语言处理等领域取得了巨大的成功,可以说深度学习推动了人工智能的大跨步发展,解决了很多复杂的模式识别任务。然而深度学习模型常被人称为“黑箱”,即模型学到的表示很难用人类可以理解的方式来提取和呈现,这极大的限制了深度学习的发展,特别是在自动驾驶、金融和医学等领域利用深度学习进行关键决策时,我们往往需要算法具有极大的可靠性。在视觉处理居功至伟的卷积神经网
信息技术在各个领域中的重要性日益凸显出来;而教育行业也在社会的科技化变革中取得了重大的成果。“计算机触控技术+教育”的飞速发展衍生出了大量的媒体教学产品,例如:双屏电子黑板、纳米黑板和电子白板等。在黑板推广调研中发现,在课堂中老师主要采用对学生的观察和提问与学生进行交互,必然会因个人经历的不同导致获取全体学生的学习反馈以及学习状态信息也不同,最终导致无法达到预期的教学效果。针对上述问题,在双屏电子
以森林土为生长基质和开顶生长箱（Open-Top Chambers， OTCs）的近自然法，选择亚热带造林树种大叶相思（Acacia auriculiformis）、红锥（Castanopsis hystrix）、樟树（Cinnamomum camphora）、枫香（Liquidambar formosana）、海南蒲桃（Syzygium hainanense）的一年生树苗构建实验林，探讨了土壤有
数据挖掘是从大量数据或数据库中挖掘出有价值信息的学科,已经在诸多领域得到了应用。而聚类分析作为数据挖掘中一种不可替代的挖掘技术,同样得到广泛应用,聚类分析根据相似性将样本分为不同的簇或子集,使得不同簇中的样本具有很大的差异性。近年来,核方法因其在非线性模式分析任务中的优势,被广泛用于聚类任务中,但是核聚类的性能很大程度上依赖于核函数以及参数的设置上,因此产生了多核聚类方向,近几年来,基于多核聚类的