基于自监督学习的真实场景人脸表情识别方法研究

来源 :江苏大学 | 被引量 : 0次 | 上传用户:zhi911
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人脸表情识别在日常生活中发挥着越来越重要的作用,人脸表情识别技术的发展,将自动驾驶、虚拟现实和各种社交机器人等应用带入到现实生活。目前,计算机视觉领域的许多任务都是基于深度学习的各种技术,而深度神经网络获得良好的性能是以存在大规模的训练数据为前提。由于情感的主观性高,对人脸表情图像的标注需要耗费大量的人力和财力,导致真实场景中带标注的人脸表情数据样本不充足,不能满足深度学习对大量标注数据的需求。此外,真实场景中的人脸图像存在各种情况的局部遮挡,如手、帽子、眼镜等。这些局部遮挡会造成面部外观的显著变化,使得模型提取到的特征包含与情感无关的冗余信息而导致判别力下降,这是造成目前真实场景人脸表情识别率不高的主要原因之一。针对上述人脸表情识别领域的相关问题,分别提出一种基于加权对比学习的真实场景人脸表情识别方法和一种基于局部全局关系约束的真实场景人脸表情识别方法,论文的主要内容和创新点如下:(1)基于加权对比学习的真实场景人脸表情识别方法。针对真实场景中带标注的人脸表情数据不足的问题,提出一种新的自监督前置任务——加权对比学习,该任务充分利用大量未标注的人脸表情数据,并以自监督的方式学习表征。具体来说,首先通过预分类模块,提前获取预训练数据的伪标签用于构建后续加权对比学习的训练批。其次,通过加权对比损失函数对中间样本进行加权,以减少类内差异,扩大不同实例之间的距离。最后,将学习到的表征迁移到目标人脸表情分类任务中,对表征参数进行选择性冻结,以监督的方式对目标人脸表情数据集进行微调。实验结果显示:在公开的基准人脸表情数据集RAF-DB和FER2013上,所提出的方法的性能分别达到86.96%和71.42%,优于目前领先的方法。(2)基于局部全局关系约束的真实场景人脸表情识别方法。针对真实场景中的面部局部遮挡给全局特征带来噪声的问题,提出基于局部全局关系约束的真实场景人脸表情识别方法,获取各局部显著情感特征并关注局部特征与全局特征之间的关系。方法主要包含两大分支:具有遮挡感知的对比学习预训练和下游人脸表情识别任务。首先利用对比学习,构建经过特定数据增强的正样本对学习具有遮挡感知的表征,再将此表征迁移到下游人脸表情识别任务,以提高局部遮挡人脸表情识别的性能。为了获得更有效的注意力,在下游任务中将每张人脸图像的表情分析问题转化为多个局部区域的情感检测问题,使用细粒度加权情感特征学习模块学习人脸不同局部区域的通道-空间注意力图及细粒度加权特征,并进行融合,削弱遮挡内容带来的噪声影响。最后提出约束损失确保融合特征识别正确类别的性能优于各个局部区域,从而优化最后用于表情分类的融合特征。实验结果表明,无论是在公开的非遮挡人脸表情数据集(RAF-DB和FER2013)还是合成的遮挡人脸表情数据集上,所提出的方法都取得了与现有方法可媲美的结果。(3)设计并实现基于自监督学习的真实场景下的人脸表情识别原型系统。原型系统采用MATLAB中的GUI模块设计图形用户界面,系统核心算法使用Python程序设计语言和Pytorch深度学习框架等完成。该原型系统主要包含三大块:图像预处理模块、人脸表情识别方法训练模块以及识别结果可视化模块。其中,原型系统均实现基于加权对比学习和局部全局关系约束的真实场景人脸表情识别方法。通过原型系统的展现,证明本文所提出方法的可行性和实用性。
其他文献
<正>鸡腺肌胃炎是由病原菌或非传染因素引起的腺胃肿大或肌胃糜烂的传染性疾病,主要临床表现为生长缓慢,均匀度差,饲料利用率下降。腺肌胃炎不同日龄、不同品种鸡只都能发病,且该病一年四季都可发生。养殖集约化程度升高、饲料质量下降及管理不合理导致腺肌胃炎疾病高发。鸡腺肌胃发病后影响鸡只消化吸收和免疫,鸡只容易继发细菌或病毒感染,抗生素治疗鸡腺肌胃炎只能控制细菌继发感染,不能是溃疡愈合,鸡只得腺肌胃炎后采食
期刊
为建立一种鸭坦布苏病毒荧光RT-PCR核酸检测方法,特针对鸭坦布苏病毒E基因的保守片段设计特异性引物和探针,在鸭坦布苏病毒核酸层面和合成基因质粒层面,经一系列优化调试完成方法初步建立。其后,对该方法的特异性、敏感性、重复性、标准曲线、扩增效率等方面进行了验证。结果显示:该方法特异性100%;敏感性为10copies/μL;重复性CV值在0.07%~0.65%区间;标准曲线相关系数为0.9995,扩
可行性研究报告是国际项目融资、合约签订、投资决策的重要前置条件。由于国际项目的特殊性,对原始资料收集、数据分析、地质风险评估、投资编制、资源配置等方面的关注度较国内更为突出。以某国际风电项目可行性研究报告编制为例,重点对相关问题及采取的措施进行了分析,采用的属地化设计方法、创新运维方案具备参考价值高、实用性强,该可研报告已顺利通过项目履约各方的检验,项目风险可控、技术可行、安全可靠、费用合理可控、
高中信息技术课程兼备理论与实践,具有工具性、多样性、时代性等特点。为了有效渗透学科核心素养,创新信息技术课程教学模式,本研究针对课程特点,结合课程现状,开展了以教科版必修一第五单元《走进数据分析》为例的PBL教学设计与实践。通过文献研究,归纳信息技术课程教学现状与PBL教学模式核心要素与流程。在新课标的背景下,进行基于“以问题为导向,以项目为路径”的PBL教学模式的教学设计。在具体实施中,设置实验
<正>引言此前写过一篇谈文学理论的理论性与实践性问题,题目叫《理论的理论品格与及地性》(1)。那篇文章试图说明,一方面,理论有着自身的延续性,从而理论的历史成为可能;另一方面,理论也是联系实际的,与文学实践,包括文学的创作、欣赏、传播、批评的实践联系在一起,因而有着两股推动理论向前发展的动力。这是对文学理论发展动力的一般性论述,涉及中国文学理论的发展,这一规律同样适用,但也有自身的独特的特点。
期刊
开发职业教育新型活页式教材是“三教”改革中的重要一环。移动互联网时代,智慧学习环境已在各职业院校普及使用,并成为教学必要支持条件之一。课题组基于智慧学习环境在职业院校的发展与应用,以《字体设计》活页式教材的设计为切入点,研究活页式教材的形态,文章从内在及外在形态的设计进行深入的分析探讨,旨在促进活页式教材的发展,为高职教材开发提供有益借鉴。
近年来,储能技术作为推动主体能源由化石能源向可再生能源更替的关键技术已被列入国家发展战略。全钒液流电池具有安全性高、循环寿命长、环境友好等优势,逐渐成为能够为电力系统提供灵活资源的新型大规模储能技术。然而,系统低能效是阻碍全钒液流电池发展的重要问题之一。全钒液流电池的系统效率受流速、电流等运行参数影响较大。优化运行参数和制定控制策略是提高全钒液流电池效率的有效途径,而寻找准确的控制模型是开展优化工
为更好地利用水引发技术提高甜菜种子的萌发效果,以甜菜种子TD802为研究材料,以蒸馏水为引发剂,通过发芽试验测得甜菜种子的发芽势、发芽率、发芽指数、活力指数和临界阈值等,筛选有利于甜菜种子快速萌发的引发方法,并进行生理指标的测定。结果表明,处理9的发芽率(91%)和发芽势(90.67%)最好,处理5的发芽指数(41.89)和临界阈值(21.39)在所有组合处理中最好,处理6的活力指数(447.4)
2022年以来,国际环境日趋复杂多变,疫情影响仍在持续,俄乌冲突导致国际农产品市场震荡加剧。山东作为农业大省,农产品进出口贸易连续23年领跑全国。《区域全面经济伙伴关系协定》(RCEP)成员国均是山东重要的农业贸易合作伙伴,协定实施近1年,山东省农产品出口面临诸多挑战和机遇。笔者从山东农产品出口现状、协定生效后面临的问题等方面开展研究,针对如何用好RCEP红利,结合山东农业发展现状,建议在政策扶持
中学地理与历史有关知识的整合能促进“综合思维”等核心素养的培养。通过对问卷调查数据进行多重响应分析以及方差分析,发现当前师生对中学地理教学中史地整合教学的认知反映出一些问题,师生认知较为同步且关系密切。从教师和学生两个角度出发,深层剖析影响认知及阻碍推进的原因,提出相应的对策和建议,推动地理中史地整合教学,逐渐培养跨学科综合性能力,真正落实核心素养。