基于多模态融合的情感计算研究

来源 :西安邮电大学 | 被引量 : 10次 | 上传用户:nvllnvll
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
移动终端和智能设备目前与人类生活、学习和工作息息相关,基于智能设备的情感计算技术已成为国内外学者的研究热点。随着人口老龄化趋势加剧,老年人的家庭护理需求日益增多,通过对老年人的情感状态、行为姿态进行研究可以更好的理解和关注老年人的身心健康。利用情感计算可以建立和谐的人机环境,但是目前情感计算仍存在一些急需解决的问题,在行为姿态识别中,虽然选择手机传感器的底层统计特征对人体行为进行识别可取得较好效果,但是这些底层特征忽略了行为的高层语义表达,对训练集中有限样本行为的识别率较差。而在情感识别中,人的情感在表达时由生理、心理、表情和音调等多个模态信息共同组成,使用单模态进行情感识别时,由于情感表示信息不足容易导致一些情绪的识别率较差等问题。针对以上两种分类识别所面临的问题提出两种识别方法,主要工作包括如下两方面:(1)针对现有日常行为识别中跌倒样本采集困难,跌倒行为样本规模较少导致识别率较差的问题,提出一种基于低层特征与高层语义的人体行为识别方法。该方法引入语义属性特征以便在某些行为样本较少的情况下能够共享行为之间的低层特征信息,通过构建属性-行为矩阵,利用低层特征信息训练语义属性检测器,得到语义属性特征,对属性特征与低层特征分别进行预分类,融合两种特征的预分类结果得到最终判决的人体行为类别。实验结果表明,与过采样算法、欠采样算法和最小二乘支持向量机相比,本文所提方法获得了更好的分类结果。(2)一般多模态特征融合方法仅通过简单的拼接来组合特征,或将所有模态信息直接利用深度模型进行融合,这样会导致特征冗余和关键特征不足等问题,本文提出多模态深度信念网络对各模态特征分别进行融合,以解决所有模态直接融合后进行特征选择带来的实验成本过高的问题,并提高各情绪识别性能。通过多模深度信念网络优选生理信号和视频信号的初始特征,再利用双模深度信念网络将各模态统一结构化的特征进行融合,得到多模态高层表示特征,利用支持向量机对该特征进行分类识别。在The BioVid Emo DB数据集上对高兴、难过、生气、恐惧和厌恶这五种情绪的平均识别率是80.89%,实验表明该方法在降低融合成本的同时,对多模态情绪识别性能也有较好的改善。
其他文献
根据中国青少年研究中心发布的《"十五"期间中国青年发展状况与"十一五"期间中国青年发展趋势研究报告》,从1998年开始的高校扩招,到2002年扩招的大学生陆续毕业,毕业生人数
目的:探讨布氏杆菌性脊柱炎的计算机断层扫描(CT)及磁共振成像(MRI)表现,以提高对该病影像诊断水平。方法:对27例经临床及实验室检查确诊为布氏杆菌性脊柱炎患者的CT、MRI资
<正>好主意近日读钱学森生前最后一次系统谈话,说到他的老师冯·卡门讲的一个非常好的学术思想,叫"goodidea"。翻译过来,就是好的意见或"好主意"。钱老说:"有没有创新,首先就
比利时联邦监察专员制度被视为一剂针对行政国家"大政府"的"解毒药"。向联邦监察专员申诉作为一种便捷、可信赖的行政救济,相对于行政复议和行政诉讼是一种补充性的非正式法
一年之计在于春。春季,春暖花开,万物苏醒。对于农业生产来说,春季播下希望的种子,孕育一年的收成。对于对虾养殖业来说,做好"春耕"意味着收获一半的成功。所以,精细的"春耕"对于
筒形卣是青铜卣中形式较为特殊的种类,流行时间很短,发现数量也很少,但在周初青铜器中的地位却不容忽视。以往的学者在青铜卣的研究中对筒形卣多有涉及,重要的如陈梦家先生在上世
在全球性经济交往中 ,发展中国家的“先天不足”注定它们要比发达国家面临更多的全球化挑战和承担更大的经济风险。于中国而言 ,社会主义市场经济体制的建立和完善仍在探索之
随着Internet的发展 ,电子商务已成为中小企业提高竞争能力的重要手段 ,开展电子商务刻不容缓。中小企业要充分意识到电子商务对企业 ,特别是中小企业发展的作用 ,选择适当的
本文较为详细地论述了华裔美国文学的发展过程,并提供了美国学术界对华裔美国文学研究的最新动态
<正>针对欧姆定律实验探究的考察能综合体现学生的实验探究能力和实验操作能力,备受命题者的亲睐.近几年的试题不断创新和发展,对学生的分析、归纳和总结能力的要求越来越高.