基于蜕变测试的智能问答系统质量评估方法

来源 :浙江理工大学 | 被引量 : 0次 | 上传用户:cdna3
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
智能问答是一类自然语言处理技术,旨在使机器具备通过理解文本并回答以自然语言提出的问题的能力。现阶段,智能问答技术得到了蓬勃发展,并在不同领域被广泛应用。因此,智能问答系统的质量也备受关注。然而,由于智能问答系统自身的特性,其质量评估面临着诸多挑战。一方面,现有工作主要基于数据集来评估智能问答系统的准确性。但是由于数据集规模和内容的局限性,导致其在一个数据集上的准确性很难泛化到数据集以外的数据上。此外,仅仅通过准确性评价指标无法细化地刻画系统不同方面的能力。另一方面,基于数据集的评价方法均依赖于标注的ground truth信息,因此质量评估往往需要高昂的代价。为了解决这些问题,本文提出基于蜕变测试技术的评估方法。我们的方法不依赖于ground truth信息,并且可以支持对系统不同方面特性的评估。本文聚焦于两类典型的智能问答系统:文本问答系统(Textual Question Answering,TQA)与可视化问答系统(Visual Question Answering,VQA)。结合TQA和VQA的应用场景,我们针对其三个方面进行了分析:1)TQA和VQA理解文本问题的能力,其中包括TQA理解一类特殊问题,即时序逻辑问题的能力;2)TQA分析理解文本段落的能力;3)VQA分析理解图像的能力。为了评估TQA和VQA在相应方面的能力,我们针对每一个方面定义了蜕变关系。以此为基础,构建了自动蜕变测试框架,并在主流TQA和VQA模型上开展了大量的实验。实验结果表明通过应用蜕变测试技术,TQA和VQA在不同方面的能力可以得到恰当的评估,并且整个质量评估过程不再需要ground truth信息。本文的主要贡献总结如下:(1)将蜕变测试技术应用到TQA和VQA上,针对其与问答能力相关的不同方面定义了20条蜕变关系,并构建了支持智能问答系统质量评估的自动化框架。(2)在4个主流的问答模型(2个TQA模型,2个VQA模型)上开展了大量的实验,并结合实验结果进行了实验分析。一方面,对目标TQA和VQA模型,横向的分析了每个目标模型在不同方面的表现,并进一步在同类模型进行了纵向分析,以凸出不同模型的优势和不足;另一方面,展示了如何利用评估结果来为不同的应用场景需求选择智能问答系统提供借鉴和参考。
其他文献
聚对苯二甲酸乙二醇酯聚酯(PET)具有良好的力学和物理性能,如热稳定性、耐摩擦性、尺寸稳定性等,而被应用于工程塑料、瓶材、工业丝等领域,但其较易燃,容易引发火灾。磷系阻燃剂共聚改性是提高PET聚酯阻燃性能的有效方法之一,而熔融聚合制得的阻燃共聚酯特性黏度低(0.6~0.7 d L/g)、分子量低,不能满足阻燃共聚酯工业级别应用。鉴于此,本文共聚合成侧基含磷的高阻燃性能共聚酯,并研究其熔融增黏和固相
学位
体育健身服饰产业自西方诞生起,距今已历经数百年的演变与发展。随着社会经济水平和居民消费水平的提高,人们在物质和精神上有了更高的追求,对健身服装的需求呈现出多元化发展趋势。互联网与社交媒体的兴起逐渐打破了时间和空间的壁垒,将欧美国家对于健身和户外运动的推崇与影响逐渐传播到世界各地,追求生理与心理的健康已经成为新一代年轻群体自我概念建构的重要组成部分,健身正在成为现代社会人们认知自我、构建自我、享受自
学位
当下年轻女性受民国题材影视剧的影响,呈现出对“民国少女”角色的喜爱,并逐渐引发了对“民国少女”角色的模仿现象。在这一现象下,年轻女性群体体现出对“民国少女”角色的模仿兴趣和诉求,通过参照影视剧中的角色形象进行“民国少女”角色设定与剧情演绎完成自我形象塑造与推广,表现出对“民国少女”角色形象与故事情节的追求。因此,本文以“民国少女”形象为例,通过对影视角色形象构成的分析,得到“民国少女”的形象塑造方
学位
聚己二酸/对苯二甲酸丁二酯(PBAT)具有优异的可生物降解性和可加工性,被认为是一种解决塑料“白色污染”问题的理想替代材料,但其价格昂贵、阻隔性能差、功能较为单一,制约了其在薄膜和塑料包装领域中的广泛应用。当前,纳米复合技术被认为是实现聚合物性能与功能强化的有效途径,成为当前的研究热点和难点。针对PBAT阻隔性和功能性所存在的问题,本论文采用具有二维层状结构的双金属氢氧化物(LDH)作为填料,通过
学位
本文是基于《公元1400年以来的世界经济史》(An Economic History of the World since 1400)一书的翻译实践报告。经济史属于经济学与历史结合的专业领域,经济史类的文本为经济学研究提供可靠的经济变迁史实,并总结随着历史的发展某个或不同国家(地区)的经济关系和经济制度发展的过程及规律。开展本书的翻译工作可以向中国读者介绍世界经济与世界历史的发展、实现国家之间经济
学位
学位
目前,功能纤维的应用需求已涉及到阻燃、增强、抗菌等领域。通过熔融共混法制备功能纤维是常用的方法之一,但其并未完全解决功能填料在聚合体系内分散性差的问题,而功能填料在复合纤维中的良好分散和取向排布对于提升其机械、导电等性能至关重要。因此,通过温度场、剪切场及拉伸场等外场诱导填料在复合体系中的取向构筑与分布,是提升功能纤维性能的有效方式。然而,功能填料在多重场中的整体性取向构筑机理并未得到完全研究,无
学位
“幽玄”审美起源于中国的老庄禅思,在魏晋时期与佛教融合形成独特的审美意识。后传入日本,在中世时发展至鼎盛,形成了“幽玄”美学,展现出对隐秘空间、晦暗色彩的偏好。“幽玄”审美所反映出的追求风雅、低调、余韵的民族性格,经过现代时装设计师的演绎于国际时尚风格中独树一帜。近年来,随着文化自信的理念提出,展现东方格调与隐性设计语言的中国品牌逐年增多,越来越多的中国设计师开始向中国传统文化和世界先进设计取法,
学位
辐射冷却技术具有无污染、无能耗等优点,备受研究者关注。然而由于冷却效果不理想、材料成本昂贵、制备工艺复杂等缺点,辐射制冷技术的应用受到较大的限制。本研究以涤纶织物为基材,通过调控织物涂层的组成和微观结构,制备了两种具有太阳光高反射率和大气窗口高发射率的涂层织物,实现了优异的辐射冷却效果。具体研究结果如下:1.结合模板法和蚀刻法,在聚(偏氟乙烯-六氟丙烯)(P(VDF-HFP))涂层中构筑了微纳米分
学位
球墨铸铁问世以来,因其力学性能良好、铸造性能优越且生产成本较低,被广泛应用在机械、能源、军工等领域。目前研究人员发现通过合金化和热处理等手段提高球墨铸铁的服役性能,已经难以满足某些核心部件对高强度、高韧性的要求。因此,亟需研发一种提高球墨铸铁服役性能的新方法。本文以QT450-10球墨铸铁作为研究对象,将内生法、外加法与传统铸造技术相结合,制备纳米TiC-TiB2颗粒增强球墨铸铁。研究了微量纳米T
学位