面向智能交通的检索式多轮对话系统研究

来源 :安徽大学 | 被引量 : 0次 | 上传用户:jiangyongan
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着国家经济的发展和交通基础设施的不断完善,近年来高速交通服务业迎来了巨大发展。为了满足高速交通用户的出行需求,交通服务的智能化发展是一种必然趋势。面向交通的智能对话系统应用于全终端高速交通平台,不仅能够解析客户咨询的业务意图并给出相应回复,而且能够通过一连串的对话指导用户达成某一项任务。近年来,基于深度学习的多轮对话系统快速发展,特别是研究者已经设计出了基于预训练语言模型的多样化对话系统,催生了面向交通领域的检索式多轮对话系统的研究,使得面向智能交通领域的信息化服务具有良好的应用前景。但在实际的工程应用中,大量的交通领域知识文本都是非规范形式,使得对话系统语料库的构建存在着难度。同时,对话数据中也存在着话语过长、相关领域的文本难以被理解等方面的困难,导致对话的任务需求无法得到满足。因此,本文针对智能交通领域对话系统面临的问题,研究在较大规模交通数据的场景下如何提升多轮对话模型的检索效果,主要工作如下:第一,设计了基于交通业务连贯性的多轮对话系统模型。针对检索式对话系统中目前没有可供研究的交通语料库,对CMID-Transportation数据集进行预处理,构建了多轮对话语料库,以满足多轮响应选择任务的要求。此外,设计了基于业务连贯性的对话模型,使用业务级别策略和截断法来解决对话中面临的困难。实验结果表明,在面向交通的场景下,基于业务连贯性的多轮对话模型获得了较好的性能提升。第二,设计了基于领域适应和多任务学习的多轮对话系统模型。首先对BERT模型进行后训练,以学习交通数据中更多的交通领域知识。其次,通过引入业务分类这个辅助任务,构建一个多任务学习的对话模型。最后,通过两阶段训练,该对话模型可以学习到领域相关特征,并提高其联合学习能力。实验结果证明了设计的模型获得了更好的检索性能,引入业务分类的多任务学习可以提升响应选择任务的效果。
其他文献
近年来,深度卷积神经网络在各种计算机视觉上取得了突破性的进展,其应用范围也越来越广。然而,深度卷积神经网络需要强大计算能力、高存储空间和高内存占用的特性却严重阻碍着它的应用和发展,使得这些高性能的模型难以部署在一些资源受限的设备上,也无法部署在对实时性要求极高的系统中,如智能手机、树莓派、嵌入式AI系统等。通道剪枝是一个能够减小模型尺寸的研究领域,而为了更加有效地降低神经网络模型的资源占用,更小地
学位
自然图像抠图是图像处理和计算机视觉领域中一项充满挑战又十分重要的基础研究,具有广泛的应用价值。现有的自然图像抠图算法在抠图精确度以及复杂场景中的抠图方面存在一定的局限性,同一场景中不同区域的抠图难度存在不均衡的现象。研究发现,针对精细化抠图和复杂场景的抠图,可通过注意力机制提取并增强有效特征,结合多尺度侧边监督对抠图结果进行细化;而针对抠图中的不同区域抠图难度差异性大的特点,可基于注意力机制对抠图
学位
车辆图像精细化识别能够准确判断出图像中车辆的品牌、系列、年份,是支撑智慧交通系统的重要技术之一,能够缓解车辆保有量快速增加给交通管理部门带来的压力,使得城市治理更加高效。现有算法使用完整的车辆图像进行精细化识别,已经达到了较好的效果。但在城市交通复杂场景下车辆会被其他车辆或物体遮挡,以致于精细化识别算法所处理的车辆图像是不完整的,极大限制了算法性能。此外,利用检测算法从交通卡口摄像机拍摄到的全景图
学位
聚类可以在没有监督信息的指导下,将数据划分成不同的簇,使得相似的数据尽可能在同一个簇中,而不相似的数据被划分在不同的簇中。“物以类聚,人以群分”,在模式识别、医学诊断、生物学等领域中存在着大量需要将数据按一定规则划分的场景。因此,聚类成为无监督学习中一个被广泛关注的问题,一些经典的方法如K-均值、谱聚类、子空间聚类也得到了广泛的应用。聚类方法尽管操作简单,适用性强,但是由于缺少监督信息的指导依然存
学位
随着生物医学领域研究和信息技术的发展,与生物医学研究相关的文献、数据等资料呈爆炸性增长。海量的生物医学文献报道了特定生物分子(如基因、miRNA和lncRNA等)在食管癌发生与发展中的作用,例如促进或抑制食管癌发生、作为预后因子以及生物标志物等。上述信息对于食管癌早期诊断以及药物研发具有重要意义。但是这些信息分布零散,并且食管癌文本中包含相当多的特定专有名词和术语,所以在通用语言上提出的实体识别和
学位
随着互联网技术的不断发展,越来越多的用户习惯于在各类社交平台上交流观点、分享日常,这种线上的表达方式带来了庞大的社交文本数据。作为一种流行的社交媒体表达方式,社交文本数据不规则的语言结构和语法表达方式使得针对社交文本的情感分析和观点挖掘变得十分困难,然而除纯文本外,社交文本内容还包含着情感鲜明的表情符号。表情符号作为一种特殊的符号语言包含了使用者的丰富情感,在辅助理解社交文本情感任务中起到了非常关
学位
在科学技术飞速发展的21世纪,知识产权的保护变得至关重要,专利作为首要的保护方式,其涵盖90%以上最新的技术信息,且有诸多新型技术只以专利文献的形式公开,通过对专利文献进行知识挖掘与统计分析,能够快速了解国内外相关技术的发展现状和发展趋势,进而为国家和企业制定发展战略提供可靠的依据。近年来,专利申请和授权的数量整体上呈上升趋势。由于专利数量的快速增长,面对海量的专利数据,为了快速找到相关领域的专利
学位
近年来,随着移动互联网的蓬勃发展,人们接触互联网越来越便利,网络上关于用户兴趣和偏好的短文本呈现爆炸式增长,都要求短文本清晰明确的传达语义,因而从短文本中学习有识别力和清晰的潜在主题是一项重要而有意义的研究工作,在文本分类、电子商务和推荐等领域得到广泛应用。然而,现有的短文本主题学习方法面临着捕捉语义相关共现短语不充分的挑战。因此,本文提出了一种基于异质信息网络的短文本主题建模学习的方法(HIN-
学位
在如今大数据互联网时代,网络上每天都会出现大量的短文本,对这些海量短文本信息的管理成为了一个难点。短文本分类作为自然语言处理中的一项基本任务,如何准确高效的将短文本分类,从而更好地服务自然语言其他任务,一直以来都是研究的重点方向。最近,图卷积网络技术在各领域兴起并在各领域获得了不错的效果,例如在网络分析、智能推荐和生物化学领域等。图卷积网络是一种简单且高效的模型,它能够很好地捕获节点与节点之间的结
学位
单药治疗疾病存在治疗效果差,长期服用产生耐药性和副作用等缺点,故药物组合被研究用于克服单药治疗的缺点。早期的药物组合通过医学实验技术或者临床实践获取,耗时耗力效率低,计算机技术的发展和生物信息的积累促使了计算机辅助药物研究的发展。现有研究中对药物组合的研究缺乏对关键基因的考虑且存在组合爆炸的问题,且现有疾病样本数据尤其是罕见疾病的数据不完善,面向小样本数据的疾病关键基因挖掘方法也是必要的。故本文首
学位