基于图卷积和语义关系的人-物交互检测研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:cheng8023jiajia
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人体行为理解是服务机器人提供智能服务的基础,人体行为不仅与人体动作有关,还与人体当前所处环境以及动作所交互的物体有关,要达到行为理解的目的就要结合人体动作和交互物体,即实现人-物交互的检测。近几年来,物体检测方面的研究已取得较大突破,而动作检测研究则大多在简单的实验室环境下进行,这些研究仅对人体动作的分类进行预测,将人体动作与交互物体结合进行行为理解的研究则很少。然而简单的将现有的目标检测方法和人体动作检测方法结合在一起是无法实现真实环境下的人-物交互检测,因此本文对复杂环境下的人-物交互检测进行研究,并且考虑到真实情况下存在人体同时进行多种动作的情形,提出能够在复杂环境下有效识别多类别动作并准确识别动作所交互的物体的人-物交互检测方法。由于将图片中的人和物体的分类与位置准确检测出来是人-物交互检测的基础,因此本文首先对目标检测算法进行研究,设计了基于注意力机制的快速目标检测模型,该模型为两阶段目标检测模型,首先使用注意力机制生成区分前景和后景的热度图,并利用热度图对锚框进行快速筛选获得候选区域,然后对候选区域进行分类和边框回归。最后模型使用改良的极大抑制值算法对重叠的边框进行删减与合并,使得边框所包含的物体更加完整,有利于人-物交互检测时的空间特征提取。本文使用该模型在COCO数据集上进行了实验,模型的平均精确率的均值为38.9%,略低于Faster-RCNN模型,但检测用时与其相比减少了约24%,实时性更好。针对复杂环境下的人-物交互检测问题,本文提出了基于语义关系的人-物交互检测模型,该模型为了解决多类别动作识别问题,将所有的人和物体两两配对,对每个人-物对依次进行人-物交互检测,并且利用人体动作与背景之间的语义关联,在人-物交互检测过程中创新性地利用语义特征结合视觉特征和空间特征对人体动作进行预测,并预测该人-物对的交互得分,最终实现人-物交互检测。本文使用该模型在V-COCO数据集上进行实验,实验结果表明该模型相比仅凭视觉特征进行人-物交互检测的模型更加优秀,并且能有效的识别同一主体的多种动作。接下来本文对人-物交互检测进行进一步研究,使用图卷积对人和物体的视觉特征进行处理,提取人和物体之间的上下文信息,将基于图卷积的人-物交互检测模型在V-COCO数据集上进行实验,实验结果表明与基于语义分支的人-物交互检测模型相比,图卷积分支和语义分支在不同的动作检测上各有优势。然后本文将两个模型进行融合,提出了基于图卷积和语义关系的人-物交互检测模型,模型在V-COCO数据集上的实验结果表明该模型有效的结合了两种模型的优点,取得了更好的人-物交互检测结果。最后本文用“人-动作-物体”的三元组方式对人-物交互检测结果进行描述。
其他文献
目的:探析慢性牙周炎患者应用盐酸米诺环素软膏治疗的临床效果。方法:对我院2018年3月~2019年12月收治的慢性牙周炎患者38例进行分组研究,分组方法为随机数表法,对照组19例,实验组19例。两组均予以基础性治疗,对照组应用碘甘油治疗,实验组应用盐酸米诺环素软膏治疗,对比分析两组临床疗效、牙周情况及不良反应发生情况。结果:对于临床疗效来说,实验组总有效率为94.74%,对照组为68.42%,组间
我国对于皮革制品的使用有着十分悠久的历史。早在原始社会,人们就开始使用兽皮作为御寒的工具。随着古代社会的发展,皮革制品的应用不仅局限于服饰,还包括在生活用品、交通、军事、文化艺术等各个方面,与人类社会的发展息息相关。然而由于皮革主要的成分蛋白质极易受到光、热、酸、碱、盐等不利因素的影响而发生降解,因此皮革文物很难以留存下来。其中饱水状态是出土皮革文物常见病害之一,这类皮革文物长期处于地下水埋藏的潮
当前,我国医药卫生体制正在改革创新,公立医院现有的预算管理体系难以适应医院多元化的发展需求。在新医改环境下,全面预算管理体系,对于公立医院的预算管理工作提出了更高的要求,医院必须加强公益性、强化预算管理、加强财务监督以及运行监督。但是当前部分公立医院虽然满足国家规定,但是却并未全面实行预算管理主要存在着预算编制不合理、缺少激励作用、控制力与执行能力较弱,这些都限制着政府不能够根据医院的预算编制,进
海洋酸化是一种海水pH值降低的复杂现象,是多种因素共同作用的结果,包括持续增加的大气CO2的溶解(外源性酸化)和初级生产者与溶解有机物再矿化产生的溶解无机碳的添加(内源性酸化)。海洋酸化会对海水碳酸盐体系造成影响,改变海水CO2分压(pCO2)、溶解无机碳(DIC)、pH、总碱度(TAlk)和文石饱和度(Ωarag),引发海洋系统内一系列的化学变化,从而在不同程度上影响到各种海洋生物的生长、繁殖、
伴随着新一波科技发展浪潮而来的,是人们社会生活形态的巨大变化。在社会生产力逐渐提高的同时,人们对于生活幸福指数的提升也有了很高的期待值,其中很重要的一环便是人身与财产安全。安全防护,简称安防,作为一个被巨大的社会需求刺激下应运而生的社会供给,其产品形态也在不断地经历着革新与进步。计算机视觉,作为一种重要的信息获取方式,是一种对通过图片或视频影像等方式获取到的视觉信息进行整合并进行处理,从而达到最终
后过程考古起源于二十世纪八十年代西方考古学界对于考古学本质的争论,最初是作为对过程考古学的一种批判,随后发展成将当代社会学理论融入考古学研究之中的一种概括性的描述。近年来,我国对后过程考古学的讨论日益增多,主要集中在对西方文献的翻译和介绍,以及后过程考古学个别分支研究方法的尝试运用,研究的内容也并不很充分。本文先对后过程考古理论发展情况做了大致介绍,列举分析了西方后过程考古的运用案例。然后阐释中国
目的了解有意性急性农药中毒(APP)患者自杀意图水平,基于临床资料分析农药种类、农药危害性、服毒量、混合农药种类与有意性APP患者自杀意图的关系,全面分析有意性APP患者自杀意图的相关影响因素,为筛选强烈自杀意图患者、“二次”自杀高危人群和临床干预方案构建提供参考依据。方法2019年6月至2021年1月,采用便利抽样法,选取山东省某综合性三甲医院急诊科收治的符合纳排标准的225名有意性APP患者展
疫苗接种是当下疫情防控的重要措施。家长作为未成年人的监护人,其态度对未成年人疫苗接种有决定性影响。因此,了解家长对于未成年子女接种新冠肺炎疫苗的态度和偏好对于疫苗接种顺利推行十分重要。该文对家长为未成年子女接种新冠肺炎疫苗时疫苗犹豫的现况及影响因素进行综述,发现家长疫苗犹豫主要受家长个人因素、儿童因素、疫苗因素、信息因素四个方面的影响。未来应引导家长通过权威渠道获取信息,正确对待疫苗接种,同时发挥
本文研究了芸香( Ruta Graveolens Linn)保护酶系统、光合特性、渗透调节物质等季节性变化与抗寒性之间的关系,结果表明:随着季节变化,芸香锻炼植株和对照植株的质膜相对透性(PMP)和丙二醛(MDA)的变化趋势基本一致,6-8月份无显著变化。但9月冷锻炼期及11月冰冻期低温来袭之时,质膜相对透性和丙二醛含量总体呈明显增加趋势;过氧化氢(H2O2)含量在此季节的变化趋势与二者相似,总体
国Ⅵ排放标准对发动机活塞的材料、工艺和加工质量提出了更加苛刻的要求,42CrMo钢以其优越的综合性能被广泛应用于锻钢活塞。本文采用有限元仿真技术与切削试验相结合的方式,研究了切削参数(切削速度v、进给量f、背吃刀量ap)对锻钢活塞外圆车削和销孔镗削加工表面完整性和摩擦磨损性能的影响规律,并进行了切削参数的优化。基于ABAQUS软件建立了 42CrMo锻钢活塞外圆车削加工的二维切削仿真模型,采用单因