基于人体姿态序列与多模态信息挖掘的行为识别方法研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:hhlovels
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
行为识别是计算机视觉领域中一项广受关注且极具挑战的重要任务。其中,基于人体姿态序列的行为识别在近年来引起了广泛关注。与图像信息相比,人体姿态序列非常稀疏,其保留了场景中人物运动最主要的全局运动信息,剔除了图像中人物外形信息和与人体运动无关的背景信息,这使得基于人体姿态序列的行为识别方法的神经网络模型较为轻量,且占用较低的计算机运算资源。同时,因为人体姿态序列信息在一定程度上是一种脱敏的信息,不会涉及到视频中人物外形和场景的信息,因此在用户隐私方面,基于人体姿态序列的行为识别具有较好的安全性。然而,当前基于人体姿态序列的行为识别方法都有一个共同的缺陷,即输入稀疏的人体姿态关键点序列不足以完全表达人体运动。首先,人体姿态序列非常稀疏,其难以准确描述人物运动中各身体部位的局部细微运动。这一点使得当前一些基于人体姿态序列的行为识别方法,无法准确地识别出一些主要由局部细微运动所表示的行为类别。另外,当两种不同类别的行为的人体姿态非常相似的情况下,由于人体姿态序列所提供的判决性信息不足,基于人体姿态序列的识别模型很容易将它们混淆。针对上述基于人体姿态序列的行为识别方法的缺陷,本文提出一个新颖的基于多模态信息输入的行为识别方法,即基于关键点对齐的轻量化视觉信息挖掘的行为识别方法。具体地,在人体姿态序列输入的基础上,增加使用轻量的由关键点坐标定位的可视化信息,并使用双支路GCN网络综合使用上述两种不同信息。上述轻量的可视化信息,由以关键点对齐的局部块状光流图(Joint-Aligned Flow Patches,简称JFP)的形式表达,其能有效地表示人物运动过程中关键点对应部位的局部细微运动场。本文展示了在三个常用的大规模数据集(NTU RGB+D,NTU RGB+D 120和KineticsSkeleton)上所提出新方法的实验结果。与单模态输入的基于人体姿态序列的图卷积神经网络基线方法对比,本文提出的使用多模态信息输入的方法在行为识别效果上有明显提升,并且保持了模型轻量高效的优点。同时,与当前最新的基于人体姿态序列的其他方法(包括多模态信息输入的方法)比较,本文方法达到了目前最优的行为识别准确率。另外,本文还展示了大量详实的对比实验,用以深入剖析本文提出的新方法。
其他文献
天然气水合物既是一种具有潜力的新能源,也是一种高效的储气材料。其分解特性对水合物勘探开发、水合物储运天然气等过程控制有着重要的影响。目前对于水合物的快速分解研究甚少,特别是沉积物中水合物的快速分解。本文针对沉积物中水合物分解较缓的问题,首先研究了水合物分解速率强化技术,然后构建并修正了水合物快速分解动力学模型,最后根据分解强化技术和模型设计了用于勘探取样分析中的水合物饱和度快速测试系统。本文通过自
新型高碳Super304H奥氏体不锈钢具有优异的高温性能,被广泛应用于超超临界锅炉中,然而高的碳含量导致该材料在高温服役时因大量M23C6沿晶界析出产生贫铬区而带来高晶间腐蚀敏感性问题。虽然通过对Super304H钢进行表面喷丸纳米化处理,利用纳米晶组织的大量快速扩散通道可以加速贫铬区愈合,获得快速脱敏效果,但剧烈喷丸变形组织在时效过程中会触发富铬sigma相的异常析出,导致材料性能的恶化。本文通
木聚糖是半纤维素的主要类型,常被用作半纤维素的模型物,具有来源广、价格低廉、可再生、可生物降解、生物相容性好等优点。目前木聚糖基材料的研究主要集中于制备膜、水凝胶等领域,但木聚糖为杂聚多糖,分子结构复杂、糖单元种类多样、分子链较短、具有多分支性,制备的膜、水凝胶机械性能较差,其优势未得到充分发挥。与植物三大组分纤维素和木质素相比,木聚糖分子具有易于溶解、可及度高、水热碳产率高等优势。本研究充分利用
本文主要围绕两类种群扩散系数依赖信号浓度的Lotka-Volterra竞争模型在二维、三维有界域和齐次Neumann边界条件下对整体经典解的存在性和大时间行为进行研究.由于扩散系数依赖信号浓度,所研究的两类竞争扩散模型都具有交叉扩散项,以致经典的极值原理方法不再适用.通过利用加权能量估计的方法和Lotka-Volterra竞争项带来的阻尼效果克服了交叉扩散项导致的困难,得到了整体经典解的一致有界性
本文主要考虑了具有粘性热传导的反应流体力学模型,该模型可以刻画化学反应过程中反应物和生成物的流体微团的运动,它在航空航天,材料科学和物理化学工程上具有广泛的应用.关于粘性热传导反应流体力学方程组的数学理论研究在纯数学领域有重要意义,目前还有很多未解决的公开问题.在本文中,我们分别研究了粘性热传导反应流体力学方程组在三维情形下Cauchy问题在常状态附近扰动下解的存在性及最优衰减估计并得到了各阶导数
本文主要考虑了两类柱对称的可压缩Navier-Stokes方程组,即粘性依赖于温度的非等熵柱对称可压缩Navier-Stokes方程组和等熵的柱对称可压缩Navier-Stokes方程组.Navier-Stokes方程组可以描述很多科学和工程上有趣的物理现象,例如可以用来模拟天气、洋流、管道中的水流以及机翼周围的空气流动.除此以外,关于Navier-Stokes方程组的数学理论研究也是纯数学领域的
分形集是具有无限精细复杂结构的几何体,是数学、物理等领域的重要研究对象和应用模型,分形维数是研究分形集的重要工具。不同于经典的Hausdorff维数和盒维数更多地刻画集合的整体性质,Assouad维数和下Assouad维数对集合的特殊点的局部结构更加敏感,Assouad维数反映集合最“密”部分的“密集”程度,下Assouad维数反映集合最“稀”部分的“稀疏”程度,它们均在分形几何及维数理论中扮演重
Ⅰ类整合子作为与食源微生物耐药性进化紧密相关的DNA元件,能通过位点特异性重组来捕获外源耐药基因盒并使之表达,使宿主获得新的耐药性;同时Ⅰ类整合子可借助接合性质粒、转座子等可移动基因元件实现耐药基因的水平转移,造成耐药性的快速传播和扩散,甚至由此进化出了多重耐药菌,对人类健康构成了巨大威胁。迄今为止,尚未开发出有效的策略来应对由Ⅰ类整合子引发的上述问题。基于此,本研究以广宿主接合性质粒R388上的
Lorenz在1963年从天气预报中提炼简化出一个三维二次多项式系统,从中发现了一个十分有趣的混沌吸引子.此后混沌学成为非线性领域的全球研究热点.同时,具有混沌吸引子的系统在工程技术中得到广泛应用.在1979年,R¨ossler提出具有两个正Lyapunov指数的超混沌系统,这类系统具有比一般混沌系统更加复杂的动力学行为,从而引起人们广泛的研究.这不但加深了对混沌的进一步认识,也更好的找到它的现实
本文运用动力系统分支理论系统地研究了高次b方程的非线性波解与分支问题,分别获得了该方程在b=0、b>1、b<-1三种情形和特定参数条件下的分支相图,行波解的定性行为及其表达式.分析这类方程的主要难点在于方程具有高次非线性对流项,使得研究时需要更多的理论分析和数值计算,如何获得高次情形下方程的非线性波解、分支参数和分支曲线,以及如何处理方程对应行波系统中的奇性也很困难.我们利用适当的行波变换和时间尺