基于迭代对齐网络和注意力机制的连续手语识别研究

来源 :河北工业大学 | 被引量 : 0次 | 上传用户:biggertree
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
手语是聋哑人与外界重要的沟通方式之一,手语识别技术是为了解决聋哑人和正常人之间的交流障碍而产生的技术,手语识别运用计算机视觉相关技术将用户执行的手势翻译成词语或句子,手语识别分为孤立词手语识别和连续手语识别,本课题针对连续手语识别进行研究,相比于孤立词手语识别,连续手语识别需要识别出手语动作中的多个手语词,更具挑战性。连续手语识别常采用链接时序分类(Connectionist Temporal Classification,CTC)方法,但是很难将弱监督手语词标签和手语视频片段进行精确定位,并且CTC解码输出的词汇序列时间关联易丢失,针对上述问题,本文结合深度学习相关技术进行了相应的研究,主要工作和创新点如下:为了对齐手语词和相应的视频片段,提出一种基于迭代对齐网络的连续手语识别方法,该方法采用时空残差网络(Spatial Temporal Residual Network,STRN)用于提取块级特征,利用时序卷积模块(Temporal Convolutional Module,TCM)进行块级特征之间的时间增强,使用双向门控循环单元(Bidirectional Gated Recurrent Unit,BGRU)和CTC生成每一个块级特征的伪标签,反过来对迭代对齐网络的STRN和TCM形成一种强监督,优化网络参数,在下一次迭代中基于优化的参数使用CTC学习新的映射关系,形成一种良性的迭代,通过生成单词级别的手语特征精确对齐手语词和相应的视频片段。为了解决CTC解码输出的词汇序列时间关联易丢失的问题,提出基于迭代对齐网络和注意力机制的连续手语识别方法,该方法将迭代对齐网络生成的单词级别的特征输入到编码器中,通过注意力机制进行解码,由于添加了注意力机制,在对齐的基础上同时充分考虑了各个块级特征之间的时间关联,加强了手语词汇之间的长时时空特征联系。本文在德国手语数据集(RWTH-Weather-Phoenix 2014 Multisigner)和中国手语数据集(CSL)上进行了评估实验,并且和当前主流的手语识别方法进行了对比,实验结果证明了本文方法的优越性。
其他文献
伴随着认罪认罚从宽制度改革的顺利推进及少捕慎押慎诉政策的大力推行,检察机关在刑事诉讼特别是认罪认罚案件办理中的主导作用得以充分凸显,检察机关的起诉裁量权得到一定程度扩展,不起诉制度的适用越来越受重视。但从实际效果上看,认罪认罚案件适用不起诉的情况并不理想,不起诉制度并未充分发挥其独特的审前分流作用。这不仅有碍新时期刑事不起诉的理念调整与制度完善,也对我国认罪认罚从宽制度的功能发挥产生较大影响。鉴此
学位
随着互联网海量评论数据越来越倾向于客观化、多角度化,准确把握用户对产品各个方面的情感极性具有重要意义。传统的句子级情感分析虽然能够针对某句话识别出其整体的情感倾向,但是当句子中存在对产品不同方面类别的评论时,句子级情感分析则不能满足识别特定方面词下的情感极性需求。方面级情感分析旨在识别出句子中针对特定方面词的情感极性,与句子级情感分析相比,方面级情感分析粒度更细,对于用户了解产品不同维度信息的应用
学位
当今社会人们工作学习压力不断增大,抑郁症成为一种最常见的精神障碍疾病之一。研究表明,在抑郁倾向阶段发现并及时治疗尤为重要,是避免抑郁病情加重的有效方式。根据抑郁症患者的临床医学表现,发现抑郁症患者与正常群体在面部表情方面存在眼神交流减少、面部动作变化较小等极为明显的差异。因此,基于面部表情进行抑郁症识别研究成为研究的热点内容。本文针对现有基于面部表情数据的抑郁症识别算法中存在提取面部表情判别性特征
学位
报纸
随着现代工程技术趋于智能化、自动化发展,传感器被大量应用于工业生产,航天航空等领域。传感器作为感应和探测外界信号的监测装置,其采集的数据可以为系统或设备的稳定运行提供依据,所以传感器数据的可靠性越来越受到重视。为了保障所监测系统或设备的安全性,保证传感器数据采集的可靠性,对传感器故障的诊断和预检测是非常重要的。本文以华北某风场风机的传感器数据为研究对象,并采用基于数据驱动的方法展开研究。首先,针对
学位
目的探讨风险意识在手术室护理管理中的应用及其临床价值。方法以100例本院住院行手术治疗的患者为研究对象,选自2017年8月~2019年7月期间,采用抽签方式将患者分为每组各50例的对照组与观察组,分别实施常规护理方式及风险意识护理方式,对比两组护理满意度调查结果及风险事件发生率。结果观察组96.00%的满意度,明显高于对照组78.00%的满意度(P<0.05);观察组2.00%的风险事件发生率明显
期刊
<正>2022年12月15日,习近平总书记在主持中央经济工作会议时指出,我们要“着力推动高质量发展……更好统筹发展和安全”。作为我国决胜全面建成小康社会三大攻坚战之首,“防范化解重大风险”是我国推进经济高质量发展的必要环节与重要保障。自党的十九大以来,我国已在防范化解重大风险攻坚战上取得了一系列重要阶段性成果。宏观杠杆的过快增长趋势显著收敛,包商银行、
期刊
许多国家为保护个人隐私、公共道德和秩序、国家安全等公共政策目标,不同程度加强了对数据的监管和限制,其中数据本地化措施的合规性引发了国际社会的巨大争议。目前从国际投资法角度对数据本地化措施合规性进行研究的文献屈指可数,而数据作为一种投资,东道国对数据采取的限制措施可能会引发其违反国际投资协定下的国民待遇义务,本文即论证东道国所采取的本地化措施是否违反国民待遇义务的问题。因此,本文将数据的国民待遇问题
学位
发现、培养、树立、宣传和推广先进典型工作,是基层单位思想政治工作中的重要任务,也是有利举措。本文从工作单位广州航标处的先进典型选树工作实践出发,探索先进典型“选、育、树”三联动工作机制主要做法及成效。
期刊
为了解决传统PERC电池局域铝背场中P+层载流子浓度不高,背面结深较浅及孔洞比例较高等问题,本文在PERC电池硅片背表面印刷一种重掺杂硼的电子硅浆料进行热扩散,并开展了基础性研究。将此工艺兼容到PERC电池产线中以制备局部硼铝背场,分析硼铝背场对电池光电性能变化的影响。本文的主要研究内容为:(1)通过对PERC电池光电特性的研究,建立了仿真所需的物理模型并确定了边界条件。通过仿真研究了背场的掺杂浓
学位