基于视听觉模态的情感语音表征机制研究

来源 :天津大学 | 被引量 : 0次 | 上传用户:lingotest
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
能够从他人的面部表情或者言语表达中准确感知所要表达的情感对于成功的社会交互非常关键。先前关于情感认知的研究大多是单模态的,与多模态情感语音感知相关的研究相对匮乏,研究结果也不具有一致性。关于多模态情感信息整合的研究由来已久,使用不同的脑活动测量方法确定了涉及情感信息视听整合的脑区位置,主要集中在双侧颞上区。然而,研究中采用的方法相对单一,并且研究内容很少包含语音信息。因此,在多模态刺激条件下,不同价态的情感语音如何被人脑感知、视听刺激如何进行整合仍然有待进一步的探索。本文采用事件相关设计进行了一项功能性磁共振成像(f MRI)研究,采用动态面部表情和情感语音刺激表达愤怒、悲伤、中性和兴奋情感,来探究人脑中视听模态语音情感的感知和整合机制。正式实验包含三个部分,第一部分采用动态面部表情(视觉)作为刺激条件,第二部分使用带有情感信息的语音刺激(听觉),第三部分是情感表达一致的视听觉刺激(视听)。被试的任务是根据所接收到的刺激,进行情感类型判断。本研究使用基于感兴趣脑区的表征相似性分析(RSA)、全脑探照灯分析、联合分析和超激活分析旨在从不同方面解释和说明结果。值得注意的是,我们创造性地使用了一种加权RSA方法,用于评估各候选模型在最佳拟合模型中的贡献。加权RSA的结果表明拟合模型优于所有的候选模型,并且各个候选模型的权重能够用来解释感兴趣脑区的表征。情绪感知的结果表明,双侧杏仁核与正性和负性情感的处理都有关系,与中性情感的表征无关;左后脑岛和左前颞上回在多模态语音情感的感知中起重要作用。视听整合的结果显示,只有左侧岛叶通过了所有方法的检验,表明左侧岛叶在情感语音的视听整合中扮演了重要的角色。探照灯分析、模态联合分析和超激活分析从另一个角度揭示了双侧颞中回、右侧顶下小叶和双侧楔前叶可能参与情感语音的视听整合。
其他文献
基于深度神经网络(DNN)模型的智能系统在无人驾驶、人脸识别等多领域不断落地,改变着我们的日常生活。然而,DNN模型的内在决策逻辑尚不明朗,可解释性和鲁棒性的相关研究仍不充分,阻碍了其在安全攸关领域的进一步应用。因此,对于DNN模型在不同场景下的鲁棒性研究就变得至关重要。本文从广泛存在的两类异常样本——对抗样本和分布外样本出发,揭示了深度神经网络模型在处理图像分类任务中存在的潜在安全风险,并对其进
学位
长久以来,制造业是我国经济社会的重要支柱性产业,是衡量国家实力的重要风向标。中国制造业面临着巨大的转型升级压力以及国际上“逆全球化”趋势的影响,企业为了追求快速增长通常会忽略风险程度,随着财务风险的不断累积,公司很有可能会陷入财务危机。因此,制造企业不论从外部环境还是本身的特征都亟需重视财务风险的控制。建立制造业上市公司财务危机预警模型有着十分重要的意义。随着国内外财务风险预警定量分析的发展,涌现
学位
污染物排放性能是燃气轮机燃烧室的关键性能指标之一。发展适用于NOx生成特性预测的数值方法是燃气轮机燃烧室设计的重要一环。本文针对某单头部中心分级模型燃烧室,从化学反应动力学模型和数值模拟计算方法两方面进行了计算和验证,发展了适用于该燃烧室的耦合化学反应机理的数值模拟计算方法;基于验证的数值模拟计算方法,对该燃烧室开展了三维数值模拟工作,建立了该燃烧室NOx生成的评估方法,明确了该燃烧室内各路径NO
学位
油膜厚度测量系统是监测机械设备润滑状态的重要工具。近年来,基于超声脉冲反射法的油膜厚度测量理论成为了国内外学者的研究热点。但针对该测量方法的系统设计相对较少。因此,本文以基于超声脉冲反射法的测量系统为研究对象,对测量系统的硬件电路设计及反射信号处理流程和方法展开研究。基于钢-油-钢三层介质模型建立了声波垂直入射时的谐振模型和弹簧模型,分析了两种模型反射系数与超声波入射频率的关系,讨论了两种模型的适
学位
为优化能源结构,新能源开发与利用迫在眉睫。但大部分可再生能源存在间歇性、易受外界干扰的缺陷,分布式发电系统稳压控制成为研究热点。利用不同能源的互补性,构建多输入源联合发电系统,可在单输入源稳压的基础上获得更稳定的输出电压。由于三输入源绕组开放式电机发电系统集成度高,本文致力于研究该系统稳压、功率分配控制策略及动态性能优化。首先基于并联式三输入源绕组开路式永磁电机发电系统,介绍了三输入源联合发电系统
学位
碳酸锂作为一种心境稳定剂,是治疗双相障碍(BD)的一线药物。由于其治疗窗窄、个体差异大,疗效易受患者生理病理状态及药物相互作用的影响,且随着治疗药物监测(TDM)、群体药动学(PPK)及药物基因组学在碳酸锂个体化用药中辅助作用的日益凸显,如何更有效地优化碳酸锂的个体化用药备受关注。本文综述了近年来碳酸锂个体化治疗中TDM、PPK和药物基因组学的相关研究进展。由于受到患者病理生理状态的影响,不同人群
期刊
蓄电池组是微电网储能系统重要的组成部分之一,对储能系统的整体技术及经济性能具有重要影响。针对蓄电池荷电状态(SOC)与健康状态(SOH)在线准确测量的难题,提出基于长短期记忆(LSTM)神经网络的蓄电池SOC与SOH联合在线估算方法。该方法利用LSTM的动态逼近与长时间记忆能力,以电池端电压、电流及温度的时间序列数据,将阶段SOH均值引入SOC的估算中实现联合估算。采用NASA开放实验数据测试,基
期刊
机载投掷式射频有源诱饵弹是对抗单脉冲主动末制导雷达寻的跟踪的有效手段之一,介绍了机载投掷式射频有源诱饵弹的外军研究情况、主要战术性能要求以及关键技术。并对涉及的关键技术进行了分析和仿真,给出了工程设计可行的结论。
期刊
近些年来,文化创意产业发展迅速,其带来的经济效益不断增加。文章以创意产业发展为研究对象,调查了德国汉堡市文化创意产业的发展现状。通过对其现状进行深刻剖析,明确文化创意产业的经济增长进程,了解该行业在德国汉堡市的产业规模,以及德国对于该行业的相关鼓励政策,阐明文化创意产业对于经济发展的意义及作用,继而探析创意产业的发展潜力,表明文化创意产业发展的重要性。为决策者制定文化创意产业发展计划提供参考,从而
期刊
城市工业化进程速度的提升改善了人们的生活质量,但是也给我们生活的环境带来了很多压力。频繁的雾霾天气给人们的生活带来了很大的影响,同时图像处理以及计算机视觉技术在智慧交通、军事安全、视频监控等领域的应用范围也逐渐扩大。因此如何利用图像去雾技术提高图片的清晰度,恢复图像细节成为近年来学术研究的热点问题。在雾霾条件下,物体表面反射的光线与空气中遇到的细颗粒物互相碰撞导致最终拍摄的图片质量下降,使得在室外
学位