基于条件变分自编码器的情感对话生成研究

来源 :桂林电子科技大学 | 被引量 : 0次 | 上传用户:liyan2006
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人机对话是自然语言处理领域最具挑战性的任务之一,也是未来实现人机共融社会的基础。近年来,得益于深度学习技术的发展和大数据时代积累的海量数据,基于神经网络的对话生成方法受到了学术界和工业界越来越多的关注。目前基于深度学习的生成式对话模型大多以最大似然估计为训练目标,这种方法容易产生内容单一且不含有意义信息的通用回复。情绪的感知和表达在人与人的交流中起着重要的作用,然而现有的研究主要集中在话语的语义理解上,对情感因素的考虑还相对较少。针对现有方法的不足,本文基于条件变分自编码器技术,研究情感对话生成算法,意在改善回复信息的多样性和在生成回复中嵌入情感因素,以及提高人机对话中的用户体验。本文的具体研究工作如下:1.基于条件变分自编码器与双情绪框架的情感对话生成模型:将Seq2Seq模型与条件变分自编码器进行融合,利用条件变分自编码器的潜在变量学习文本序列中的潜在语义,以提高回复信息的多样性。此外,为了提高模型对情绪的感知能力和表达能力,设计了一个双情绪框架用于捕捉会话中的情绪反应和控制回复的外显情绪。为了识别话语序列中隐含的情绪信息,提出了一个基于Bi LSTM-AT的情绪分类模型。实验表明,本文提出的模型不仅可以产生内容信息多样的回复,还可以生成可控的情绪反应。2.基于Transformer的情感对话生成模型:采用Transformer模型提取文本序列的语义特征,以提高文本序列语义信息的利用率。为了增加回复信息的多样性,将Transformer与条件变分自编码器进行融合,在解码器中引入潜在变量,使模型在解码过程可以利用潜在的语义信息。此外,为了增强模型的共情能力,使用情绪感知编码器对用户情绪信息进行编码,并提出了一个基于BERT的预训练情绪分类模型用于对话语中隐含的情绪信息进行检测。实验表明,本文提出的模型生成能力更强,生成回复的信息更多样,共情能力更强。
其他文献
随着在线教育不断发展,提高在线教学质量是教育行业高质量发展的有效手段。本文对学习者在网络学习平台中产生的多维时序数据进行协同分析,挖掘学习者的学习模式,研究学习路径规划算法,并推荐符合学习者学习习惯和认知水平的学习路径,利用在线教育巩固线下教学,提高教学质量。本文提出了两种学习路径规划算法,主要针对两个方面的问题进行研究,内容如下:1.针对在线学习者希望利用最优的学习路径和最少的学习时间掌握更多知
短文本的语义相似度计算任务是自然语言处理中的基础任务之一,在文本匹配、推荐系统、文本生成等领域都有广泛的应用场景和技术研究需求。现有技术建模手段主要是通过基于字符匹配度的数学算子建模与基于单词向量的神经网络建模。这两种方式都是基于单一特征建模,文本相似度计算结果依赖于带标记的数据量和单一特征。单一特征的建模方法难以满足文本相似度计算对特征多样性的需求,从而导致网络模型难以进一步提升推理结果的准确性
无人物流运输车是集合了外部智能感知、自动执行等智能化技术的一种新型机器人,可以快速、高效地实现物料的无人运输、搬运等任务,是目前物流和工业自动化的重要组成部分,使用合理的调度和规划算法,能够提高物料周转率以及降低物流成本。本文以面向企业内部物流的多AGV调度为主要研究内容,通过优化任务队列,最小化运输距离,进一步减少运输成本,提升效率。同时考虑到企业内部数据安全,基于工业区块链辅助存储实现系统用户
目标检测是图像处理领域的重要一环,在生产生活中具有广泛的应用前景。目标检测的核心任务是识别图片中目标的类别和位置,但在日常的图像中,不同目标之间存在巨大的尺度差异,如何准确的将大尺度目标和小尺度目标全部识别出来是目标检测所面临的一个有挑战性的问题。基于此,本文针对目标检测中的多尺度问题进行了研究。本文的主要工作如下:(1)针对目标检测中多尺度特征信息不足的问题,使用包含多级信息的多级多尺度特征,提
图像在人们日常生活中起着举足轻重的作用,是人们获取信息的主要来源之一。当人们使用拍照机设备拍照的时候,由于场景光照亮度、拍摄设备等原因,得到的图像都会出现对比度低、能见度差和ISO噪点高等问题。这样的图像细节信息不明显,降低了图像的实用性。因此,人们提出了大量的方法改变图像的对比度,使图像的细节明显,提高图像的质量和使用价值。多数的这些方法在增强图像时,通常会出现过度增强、部分细节丢失等问题。而且
随着定位装备的广泛应用,轨迹数据量高速增长。通用伴随模式挖掘聚焦时空维度上的运动对象高相似度行为路径发现问题,基于大规模轨迹数据设计高效准确地通用伴随模式挖掘方法对发现用户偏好、构建新商业模式等具有重要意义,同时也极具挑战。一方面,海量且不断增长的轨迹数据要求通用伴随模式挖掘框架应具有良好可扩展性,单机挖掘框架并不适用。另一方面,在现有通用伴随模式的分布式挖掘框架中,存在对数据输入的质量、轨迹数据
现今,与无人机相关的技术发展十分迅速,尤其是利用无人机搭载高清摄像头获取影像数据,已被广泛应用,但是单幅无人机图像无法展示一个完整区域的具体内容。为了获取分辨率更高、视场角更大的无人机影像,本文对无人机影像拼接技术进行了研究,并利用GPU框架对拼接过程进行加速。另外,在雾天环境下进行无人机航拍会极大地影响图像的成像质量,而且会出现图像特征信息模糊的问题,这可能导致之后无法正常地进行特征点提取。本文
无线传感器网络(Wireless Sensor Networks,WSNs)得益于现代信息、计算、无线通信等技术的迅速发展,因其传感器节点微型、低功耗等优势,已成为当代人们日常生活重要的部分。然而,由于微型廉价的传感器节点在存储、通信和计算等方面资源有限,且在恶劣的环境下容易被破坏,从而导致网络通信受阻。因此,有效地延长网络的生命周期,提高节点的能量效率显得十分重要,而合理的传感器节点部署方法不仅
瞬变电磁法是一种建立在电磁感应原理基础上的有源测量方法,根据测得的瞬变电磁信号分析地电体之间的电阻率差异,进而达到探测地下地质体的目的。然而,瞬变电磁信号容易受到各种噪声的影响,尤其是在信号的晚期测道处,噪声可能会淹没有效的瞬变电磁信号,导致信号的利用受限,影响对深部目标的探测。瞬变电磁信号降噪是指利用各种方法,尽可能地压制噪声,提取有效的瞬变电磁信号,以便后续的处理。目前的瞬变电磁信号降噪方法大
移动通讯和互联网技术的不断进步,以及云计算、大数据等一系列新兴技术的蓬勃发展致使网络空间加速变革,拓扑结构愈发复杂导致网络流量持续爆炸式增长,而且,屡见不鲜的网络攻击事件使得网络安全问题首当其冲。网络安全态势感知技术能够弥补传统安全防护技术的缺陷,通过获取引发网络态势发生变化的态势要素,对其进行安全评估分析,从而及时发现网络攻击威胁与异常,并对网络变化趋势进行预测。它旨在从宏观角度出发,系统、整体