基于图神经网络的情感识别研究

来源 :东南大学 | 被引量 : 0次 | 上传用户:tjh2088
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
情感识别能够帮助机器捕获人类的情感状态,是人机交互及实现人工智能不可或缺的技术。通常,人类的情感可以通过生理信号或非生理信号表达出来。非生理信号,例如表情、语音和动作,是进行人类情感识别比较常见且方便采集的信号,进而被广泛应用。生理信号,例如脑电、心电和皮肤电,更能反应人类的真实情感状态,难以进行伪装。因此,很多基于生理信号的情感识别被应用于测谎、抑郁症检测等。本文主要围绕有关生理和非生理信号的情感识别,分别开展基于图神经网络算法的脑电情感识别和人脸运动单元识别研究。针对(1)如何表示脑电通道间的内在联系并准确获取情感信息以及(2)如何表示人脸运动单元的空间语义关联及时间依赖关系,提出了一系列具有较好性能的图神经网络方法。具体来讲,本文主要创新成果包括以下四个方面:1.针对脑电通道信号之间图依赖关系难以通过现有先验知识表示的问题,提出一种基于动态图卷积神经网络(Dynamical Graph Convolutional Neural Network,DGCNN)的脑电情感识别方法。现有脑网络的研究无法准确定义各个脑电通道之间的关系,不能直接在图卷积神经网络中构建有效的图结构以表示脑电通道之间的内在关系。通过端到端(End to End)的方式,根据神经网络损失函数进行梯度优化,动态探索不同脑电通道之间的内在关系,并首次将图卷积神经网络用于脑电情感识别。实验结果表明,通过优化生成的图结构能更有效的表示脑电通道之间的关系以获得更好的识别性能。2.针对脑电信号存在的个体差异和在不同情感状态下脑网络功能连接的差异,提出了一种基于样本自适应图卷积神经网络(Instance-Adaptive Graph Convolutional Network,IAG)的脑电情感识别方法,能有效减小脑电信号差异性影响。该方法和工作1的区别在于,对于不同的样本,该方法能自适应的调整脑电通道之间的连接关系,能够更精确的考虑个体差异以及在不同情感状态下脑网络连接状态的差异。同时,为了缓解噪声对脑电信号的影响,提出变分样本自适应图卷积神经网络(Variational Instance-Adaptive Graph Convolutional Neural Network,V-IAG),用概率模型表示图的连接关系提取更加鲁棒的深度特征,提高了模型的泛化能力。3.针对人脸运动单元不同个体及不同表情下的多样性关系,提出了一种基于模型性能图结构的混合信息传播网络(Hybrid Message Passing Neural Network with Performance-Driven Structures,HMP-PS)进行人脸运动单元检测,获得更好的图结构和图节点信息以及更有效的信息传递方式来表示人脸运动单元之间的依赖关系。具体地,提出一种基于模型性能的马尔可夫链蒙特卡洛(Performance-Driven Markov Chain Monte Carlo Sampling,P-MCMC)采样方法,利用更有效的图结构表示人脸运动单元之间的关系。同时,提出了一种混合信息传播(Hybrid Message Passing,HMP)的图信息传播方式,更灵活的表示人脸运动单元之间关系的多样性,从而取得更好的人脸运动单元检测结果。4.针对人脸运动单元间的空间及时间关联表示,提出了一种基于动态概率图卷积神经网络(Dynamic Probabilistic Graph Convolutional Neural Network,DPGCN)的人脸运动单元强度估计方法。在空间上,通过引入贝叶斯网络(Bayesian Network,BN)表示人脸运动单元之间语义层面的关系,并且通过马尔可夫链蒙特卡洛(Markov Chain Monte Carlo Sampling,MCMC)采样的方式估计了表示人脸运动单元之间关系图的后验概率分布,从而实现了概率图卷积。在时间上,用长短时记忆网络表示人脸运动单元之间前后的动态关系。该模型以一种概率的结合方式更好的表示人脸运动单元的时间和空间关系,缓解了图过拟合的表示并能够取得更好的实验结果。
其他文献
近年来无人驾驶、无人机等新兴战略领域对定位与位置信息提出了更高的要求。作为智能载体的主要应用场景,城市中建筑结构、物理环境等特征复杂多样,造成卫星信号的频繁遮挡,严重干扰观测信号的质量,对定位精度、稳定性等有重要影响,成为制约城市环境高精度定位的“瓶颈”问题。本论文面向城市环境下多频宽巷GNSS/INS紧组合定位技术展开了研究。文中针对卫星观测稳定性、噪声统计信息不确定性与高精度定位可靠性之间的突
学位
量子通信是量子力学、信息理论和通信理论的交叉学科。基于量子信息学构建的量子通信网络利用量子比特作为信息传输的载体以及量子态的叠加和纠缠特性,使得基于量子信息学的量子通信过程具有安全性和高效性,其开创了有别于传统模式的信息处理和通信方式。近些年来,基于量子通信的量子网络研究在理论上和工程应用上都有着持续的突破,量子通信网络也已经逐渐成为了未来通信网络的一个重要组成部分。其中量子通信网络容量作为表征和
学位
期刊
吉林长白山地区,旅游资源丰富,有令人叹为观止的长白山天池,有以奇、特、美为特色的神话般的大峡谷,有湍流的小溪与美丽的鸭绿江,有美妙的白雪皑皑的山峰与天然壮观的滑雪场,亦有老少皆宜的温泉度假村。然而,纵观长白山旅游业多年以来的发展,却不得不为之扼腕叹息,其收入与国内其它著名景区相比要逊色很多。当下,振兴吉林经济,除了大力推进三大支柱产业外,旅游业的开发,尤其是推动长白山旅游业的发展绝对起着关键作用。
会议
车联网作为智能交通系统中不可或缺的组成部分,依靠传感器部署和无线通信技术的集成应用,成为保障道路交通安全、提升交通管理效率和优化乘客行驶体验的重要手段。然而,随着全球汽车产业的飞速发展,高密度的交通流以及道路拥堵现象变得十分常见,大量聚集的车辆间频繁竞争有限的通信资源,造成严重的时延和丢包现象,已有的车联网通信技术在这种情况下难以通过保障可靠、高效的信息传输来满足车联网中各安全类应用和非安全类应用
学位
如何应对和认识环境污染外部性和集体行动困境造成的双重“治理失灵”,是区域之间环境协同治理面临的现实难题和提出的理论命题。开展区域环境协同治理研究,既有助于丰富区域治理的理论,也对完善我国环境治理体系和治理能力现代化具有重要参考价值。本文构建了“协同起因、协同主体、协同动力、协同行动、协同结果”等五个基本因素构成的CSDAO理论框架体系,系统地回答了区域环境协同治理中的五个基本问题:因何而起、谁来协
学位
摩擦现象存在于生活的方方面面,而对于它的研究可以追溯到达芬奇时期。虽然先后提出了被大众广泛认可的阿蒙顿-库伦定律,但其背后的机理问题一直未得到根本解决。这也就使得人们对于这一现象的认识和应用无法获得进一步的突破。随着纳米时代的到来,微纳器件的出现促进了各研究和应用领域的长足发展,如何合理的设计和制造微纳器件成为了衡量一个国家科学技术水平的直观标准。微纳器件对精确性和稳定性有着极高的要求,其高比表面
学位
随着媒介融合的不断发展,技术成为日趋重要的新闻学研究对象。技术重塑了媒介生态系统并导致新闻业的主体、生产流程、分发渠道都发生了结构性的变化。诚然,技术推动了新闻业的改变,但是新闻结构的调整与行为主体有着更为重要的密切关联。应将媒介技术视作能动的影响因素,在新闻生产与传播的框架下研究新闻业的动态过程。而布尔迪厄的场域理论作为一个经验性的研究工具提供了一个关于新闻业的理论空间用以探讨新闻场域中新闻主体
学位
回顾改革开放以来中国货币政策的发展,其已经从最初的财政政策的辅助,逐渐演变为宏观经济调控的重要手段之一,在促进宏观经济增长、平抑经济波动等过程中扮演了愈发重要的角色。纵观近年中国经济增长与波动历史,均可以窥见货币政策的身影。随着货币政策调控手段在中国的频繁应用,关于货币政策的内涵与外延在“新常态”背景下有了更多发展。此时的货币政策目标不再局限于传统的经济增长、价格水平稳定、充分就业、利率稳定、汇率
学位
尾关周二是日本著名的马克思主义哲学家,是日本“生态马克思主义”研究领域的代表人物之一。其核心思想是将社会问题与环境问题相结合,从马克思主义哲学立场出发,提出吸收“农业”文明价值观精华,建设超越近现代资本主义社会的后现代多元共生型社会,以期彻底解决人与人关系的异化和人与自然关系的异化问题。他反对以竞争观念为主导的对抗型社会,而是主张建立一种以承认异质性为前提的共生型和谐社会。从尾关周二共生哲学的产生
学位