基于图卷积神经网络的人体骨架行为识别方法研究

来源 :江南大学 | 被引量 : 0次 | 上传用户:harryhexiaoer
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人体行为识别是计算机视觉领域一个重要且具有挑战性的问题,为人机交互、视频监控、安全驾驶等领域提供了技术支持。基于人体骨架的行为识别因其对背景、光照、视角变化具有较强的鲁棒性,更丰富的信息和更低的计算成本而获得越来越多的关注。传统基于人体骨架的行为识别方法更关注于对骨架序列进行编码,而忽略了骨架数据之间拓扑关系。图卷积神经网络的优势在于能够使用邻接矩阵模拟非欧几里得数据之间的拓扑关系,已经成为基于人体骨架行为识别的研究热点。本文基于图卷积神经网络在模拟非欧几里得数据上优越性,对基于人体骨架的行为识别展开研究,并针对现有基于图卷积神经网络的方法存在的问题进行改进。本课题共提出两种改进方案,并基于此设计出基于人体骨架的行为识别系统,主要工作如下:(1)针对骨架行为识别对时空特征提取不充分以及难以捕捉关节的全局依赖关系的问题,研究了一种将时空注意力机制和自适应图卷积网络相结合的人体骨架行为识别方案。首先,构建基于非局部操作的时空注意力模块,辅助模型关注骨架序列中最具判别性的帧和区域;其次,利用高斯嵌入函数和轻量级卷积神经网络的特征学习能力,并考虑人体先验知识在不同时期的影响,构建自适应图卷积网络;最后,将自适应图卷积网络作为基本框架,并嵌入时空注意力模块,与关节信息、骨骼信息以及各自的运动信息构建双流融合模型。(2)针对人体骨架行为识别方法如何融合时空信息的问题,以加强模型对时空信息的提取能力为出发点,研究出两种侧重点不同的时空信息提取方案:移位图卷积网络和残差图卷积网络。首先,介绍了移位卷积网络的工作原理;其次,基于在时间维度的移位操作能够实现信息在时间维度交互的特性,将移位操作代替时间卷积,实现移位卷积网络与时空图卷积网络的结合,构建出更加轻量级的移位图卷积网络;最后,将移位图卷积网络作为残差网络的一个分支,并嵌入时空图卷积神经网络中,构建残差图卷积网络,侧重于在不损失原有时空信息的前提下进一步增强网络对时空信息的提取能力。(3)为了将人体骨架行为识别算法应用到实际场景,设计并实现了一套小型的行为识别系统。首先,根据对系统需求的分析,使用摄像头采集和视频上传两种数据采集方案;其次,利用Open Pose人体姿态估计技术实现视频序列到骨架序列的转换,并将行为识别算法进行封装,实现行为的预测;再次,搭建用户管理系统记录用户信息和视频信息,进一步增强用户的体验感;最后,将行为识别的中间过程和最终预测结果进行了可视化,并结合Flask框架将可视化结构部署到网页上,完成整个系统的搭建。
其他文献
随着通信技术的发展,匮乏的无线频谱资源也限制着无线传感器网络的发展。认知技术被认为是可以解决上述问题的技术手段,因此认知传感网(Cognitive Radio Sensor Network,,CRSN)也逐渐成为了研究热点。但认知传感网中节点受限的信道选择也影响着网络的吞吐与能耗。为了满足不同的网络场景中认知传感网与主用户(Primary user,PU)网络的通信需求,应设计具有针对性的认知传感
学位
在当前序列推荐算法中,利用深度学习的方法提取用户历史序列中的相关信息已经成为了主流。但目前大多数基于深度学习方法的推荐模型都存在序列辅助信息利用不充分的问题。此外,如何从用户序列中构建用户的长期兴趣表示也是一个关键问题。因此,本文基于上述两个问题,提出了两个新的序列推荐模型,之后利用上述提出的一个模型设计了一个小型的个性化推荐系统。主要工作如下:(1)针对基于自注意力机制的序列推荐模型忽略了各类辅
学位
工业控制系统(Industrial Control System,ICS)作为工业物联网(Industrial Internet of Thing,IIo T)的重要应用形式,最初部署在智能工厂内部,因此其安全性一直没有得到重视。近年来,随着计算机网络与工业过程的快速融合,ICS越来越多地与公共网络相连接。这在提高工业生产效率的同时,也引入了大量的安全威胁。区块链具有去中心化、数据不可篡改等优势,
学位
随着汽车远程信息处理技术的快速发展,现代汽车可以通过车联网(Internet of Vehicles,Io V)技术实现互联,并与周围环境交换海量信息。车辆会通过智能传感器和高清摄像头收集大量的数据,并处理这些数据来提供车载应用服务。但是单个车辆自身的计算和存储能力是有限的,无法对如此大量的数据进行高效及时地处理。车载边缘计算(Vehicular Edge Compute,VEC)可以有效辅助车辆
学位
基于深度学习训练的推荐算法虽然为用户提供了更为精准的推荐,但是越来越多的真实数据集被用来训练。这些数据集中包含大量的个人信息,这些未经处理的个人信息在推荐训练的过程中会出现隐私泄露的情况。攻击者可以通过重复查询系统掌握模型参数并结合已掌握的背景知识推断出用户隐私。而传统差分隐私方法在解决这一问题时会采用全局敏感度计算噪声规模,导致模型训练精度不足。本文着眼于在满足差分隐私理论基础上改进对梯度矩阵注
学位
为满足目前通信业务数据量需求,传统单层蜂窝网已逐渐向多层异构蜂窝网发展。异构蜂窝网中干扰链路形式更复杂,对小区中通信与干扰链路建模分析对研究系统性能极为重要。在无线网络场景中,通信与干扰链路距离在概率意义上相互不独立,这两个链路距离的联合概率密度函数(Probability Density Function,PDF)是分析蜂窝网通信关键性能指标(Key Performance Indicators
学位
电力特种架空光缆是充分利用电力系统特有资源,与电力网架构紧密结合在一起建设,负责信号传输的一种光缆,因此保证其线路架设以及日常运行中安全问题非常重要。而架空光缆的应力与弧垂是其设计和运行的两个关键参数,所以在多变气象条件下准确计算这两个参数,是对光缆通信的支持和保障,对日后正常施工及安全使用具有十分重要的意义。本文将AFSA(人工鱼群算法)、FWA(烟花算法)与传统牛顿迭代法相结合,应用于实际气象
学位
为满足工作场景实时数据监控的要求,无线传感器网络需布撒大量节点用以提供可靠的数据监测服务,便捷且高效的随机布撒成为其最佳选择。但随机布撒会导致感知网络初始感知效能低下,叠加节点监测场景一般为视距空间与非视距空间联合作用下的多空间室外场景,障碍物与地形复杂并存,从而致使感知网络覆盖质量不佳,能耗骤增。论文针对多空间场景下感知网络的均匀优化问题,设计兼顾立体感知与遮蔽效应的多空间节点调度算法,有效降低
学位
随着通信网与电网的不断耦合,全介质自承(All-Dielectric Self Supporting,ADSS)光缆作为电力系统中信息传输的重要载体,被广泛用于电力通信系统的建设。ADSS光缆在施工过程中常与高压输电线同塔架设,而输电线附近的高压感应电场会对其造成电腐蚀影响。因此,通过计算输电线附近产生的电场,为ADSS光缆选择合适的挂点位置,成为保障电力通信系统安全运行的重要举措。综上所述,本文
学位
无线传感器网络(Wireless sensor networks,WSN)作为物联网感知层的一个核心技术,随着研究人员对物联网领域研究热度提高,WSN也得到了越来越多关注。WSN在多个领域得到了广泛应用,如精准农业、环境治理、医疗卫生等领域。大多数应用场景需要传感器或设备的位置信息。而节点定位技术可以获取传感器或设备的具体位置,因此定位技术在WSN中具有十分重要的地位。DV-Hop算法是一种普遍应
学位