基于异构数据与多特征融合的微表情识别

来源 :南京邮电大学 | 被引量 : 0次 | 上传用户:xianwolf
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
宏表情识别经过多年的研究已经取得了杰出的成绩,而在现实的生活中,由于人类对于自然流露的表情有隐藏其的趋向,此时情感表现往往会从宏表情收缩为微表情。微表情是面部肌肉的简短、快速、自发的姿态变化,表达个人的真实情绪,在国防安全、案件刑侦、心理病理、社会交际等各个领域具有重要的实际意义。早期的微表情识别系统一般基于手工制作的传统特征制作,近年来,深度学习在计算机视觉领域大放异彩。由于微表情持续时间短、变化微妙,在进入深度学习时代后,自动微表情识别仍然是计算机视觉领域中的一项极具挑战性的研究课题,在二维图像上提取微表情细微和短暂的肌肉运动特征对于深度学习网络来说是一个困难的任务。目前,微表情识别的研究存在如下问题:(1)即使采用联合数据库,微表情仍然面临数据缺乏导致的识别精度低或过度拟合的问题。(2)数据库样本有较明显的分布差异,少数样本分类的特征无法得到充分表征,导致模型对少数类的分类能力差,对数据库产生过拟合的问题,从而缺乏实用性。(3)微表情数据库样本之间的细微差异使得单一特征的深度网络面临表征能力不足的问题,目前微表情研究者的工作聚焦于正面人脸微表情生成的面部二维时空特征,利用面部三维时空特征的工作很少。针对上述问题,本文提出了几种针对微表情识别现有难点的方法:(1)面对微表情数据缺乏的问题,扩增了高潮帧邻域内20%序列总量的微表情图像帧充当高潮帧使用,显著增强了数据样本的多样性。(2)面对数据库样本分布差异问题,首先是采用了Focal Loss损失函数对各个类别分配适当权重,增强模型的分类效果。其次,在多流融合上使用了通道注意力分配适当权重。最后,在评估参数上采用了未加权平均召回率和未加权F1分数这两种对样本不均衡抗性较强的评估指标来评估实验结果,强化识别精度的可靠性。(3)面对微表情的细微差异所导致的深度模型表征能力差的问题,从有限的训练数据中提取了多种异构的微表情特征,包括人脸三维重建获得的三维面部空间特征以及光流特征,并利用它们之间的互补性进行融合,提升微表情识别的准确率。为了实现上述思路,本文提出了一种端到端可训练的异构深度特征提取与融合网络模型。具体来说,本文的研究内容如下:(1)调研了目前微表情识别的研究现状,介绍了基于手工特征的传统方法和基于深度神经网络这两种策略的微表情识别方法,列举了目前常用的一些微表情数据库,分析了微表情识别研究的目的与意义。(2)列举了本文运用到的人脸三维重建技术、图卷积神经网络以及光流估计技术的基本原理。调研了微表情识别领域的相关算法并与本文方法进行了对比,分析了本文方法与相关算法的区别。(3)基于异构数据的多通道深度神经网络的微表情识别方法。介绍了本文构建的基于异构数据的多通道深度神经网络模型(HDF-Net),并对各个通道的结构与基本原理做出了阐述,并采用数据扩增、通道注意力等机制加强了识别效果。(4)基于本文方法进行了实验并对实验结果作出了分析。首先,我们说明了本文的多通道深度神经网络的输入预处理以及参数选择。然后,我们对提出的HDF-Net进行了充分的消融实验,对实验的各个模块的作用进行了分析。最后,我们在CASMEⅡ、SAMM、SMIC以及三者的联合数据库上展开大量实验,验证了本文方法对比其他方法的优势。
其他文献
作物产量是作物生长发育和逆境耐性综合作用的结果。明确植物生长发育和非生物胁迫响应之间互作的分子机理,对提高作物产量具有重要的指导意义。DREB1A(DEHYDRATION-RESPONSIVE ELEMENT BINDING PROTEIN 1A)和DREB2A(DEHYDRATION-RESPONSIVE ELEMENT BINDING PROTEIN 2A)在植物非生物胁迫耐性中发挥重要作用。
近年来,随着社会节奏的加快和生活压力的增加,精神疾病患者的数量在逐年增加。精神分裂症是最常见的精神疾病之一,但是精神分裂症患者的诊断却是医学界的一个难点。目前,精神分裂症主要是依靠神经科医生的主观经验和患者的临床量表来诊断,但这给神经科医生带来了巨大的工作量,并且存在大量的漏诊和错诊。因此,本文采用磁共振图像与机器学习、深度学习相结合的方法,实现对精神分裂症患者的诊断与分类,辅助临床诊断。本文的主
少模长周期光纤光栅(FM-LPFG)是近年来广受关注的新型长周期光纤光栅结构。它既具有单模长周期光纤光栅(SM-LPFG)质量轻、体积小、不受电磁干扰等优点,又兼有少模光纤(FMF)的模式数目有限、低模间串扰和大基模模场面积等优点,因而在通信、传感和器件制造等方向都能得到良好的应用。本课题选择FM-LPFG的结构设计及其应用研究为题,重点研究了各类FM-LPFG传感器和模式过滤器与滤波器等通信器件
近年来,随着我国现代化医院的建设和医院后勤服务社会化改革步伐的加快,以及患者多样化需求的增长、周边市场的兴起,A医院自营便利店在时代的浪潮下举步维艰,亟需做出改变。中国共产党第十九届五中全会也提出,健全基本公共服务体系,不断增强人民群众获得感、幸福感、安全感,全面推进健康中国建设。在此背景下,迫切需要转型的A医院自营便利店,应适应这个时代,把握机遇,提升自己,加强满意度调查与研究,将有限资源效用最
温度和组分浓度演化过程的精准测量在热工过程中扮演着重要角色。激光吸收光谱技术是一种高灵敏度、非侵入式、高选择性的测量技术,可以快速、准确测量高温流场中温度和组分浓度演化过程。激波管可以在一段时间内(1–3 ms)营造“恒定”的高温环境,为高温测量、高温光谱学、高温反应动力学的研究提供理想环境。本文结合激光吸收光谱技术和激波管技术,测量反射激波后碳氢燃料反应过程中温度、CO和CO2浓度演化过程。主要
伴随超硬材料和轻金属及合金等新材料的大量使用,“绿色”成型和高效加工已成为制造业中常态化的应用手段。为此,防护膜在质量和性能方面的改善和提高也愈来愈受到人们的关注。过渡金属氮化物膜层因其组织结构和性能的特点,在此充当着重要角色。向以Ti N为代表的二元氮化物膜系中引入第三种或多种元素来改善其质量和性能是该领域中的研究热点之一。本项工作以Ti N为基膜通过分别加入Al、Si元素,在高速钢表面利用物理
随着云服务的流行与发展,保证云服务的稳定运行对提升用户体验起到重要作用。为此,云服务中的各个系统组件持续地采集监控指标。运维人员需要对监控指标进行异常检测以快速发现云服务的异常状态,包括单指标的分别检测和多指标的整体检测。然而,云服务经常进行软件变更,可能导致指标数据分布发生显著的变化即概念偏移。以往的异常检测方法没有处理概念偏移,因而其准确率会显著下降。另外,检测到异常后需要对监控指标进行根因诊
随着科技的发展和人工智能技术的不断进步,可拉伸和可弯折的柔性可穿戴电子器件引起了人们极大的关注。可穿戴传感器和超级电容器作为两种研究比较广泛的电子器件也逐渐朝着柔性化的方向迈进,以顺应集成器件的形变,满足实际应用需求。近年来,水凝胶由于具有柔韧性高、可拉伸、导电性能可调等优势在柔性可穿戴传感器以及超级电容器等领域被广泛应用。尽管目前水凝胶电子器件已经取得了长足的发展,但是大多数水凝胶仍然存在机械性
建筑师力图表达的设计理念与使用建筑的人所获得的真实感受之间一直存在着一种矛盾冲突。经常会发生这样一个现象,一座公认为优秀的建筑,其真实的使用效果却不尽人意,或者只满足了基本的使用需求,但无法满足使用者向往积极乐观的心理需求。因此,不禁引人深思是设计上出了问题还是使用出了问题?上世纪80年代,这个问题开始引起西方建筑师、环境行为学家、环境心理学家们的关注。使用后评估便是一个以此为背景应运而生的新兴学
单细胞的时序动态行为分析对于理解生命体系自组织的功能调控与功能实现具有重要意义。一方面,细胞的异质性及细胞-细胞相互作用的存在使得对生命过程的深入研究必须在单细胞层面上展开;另一方面单细胞在生命过程中的状态转换必须通过时序分析进行检测、追踪和研究。显微成像分析因其高通量,高时空分辨率和对样品的非破坏性等特点,成为原位检测单细胞时序动态过程的重要分析手段。但与此同时,细胞间个体差异、时间和空间这三个