基于半监督联邦学习的行为识别研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:DreamerL
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着智能手机和可穿戴设备的发展,使用智能设备中传感器数据的行为识别受到了越来越多的关注,并已经应用在医疗保健、智能城市等多个领域。现有方法通常基于深度学习技术,避免了手工特征设计。然而,在广泛应用于现实场景之前仍有几个问题急需解决。首先是隐私保护问题。用户的传感器数据携带隐私信息,传统的集中式训练方式很可能导致用户的隐私数据泄露。第二是标签稀缺问题。传感器产生数据的频率通常很高,人工为这些数据打上行为标签非常困难。第三是流式数据问题。由于个体行为的特性,传感器数据流的局部分布通常只包含单个行为的信息,在训练过程中可能造成模型收敛不稳定和概念漂移问题。第四是模式异质性问题。由于个体的身体差异,不同个体的行为模式不同甚至有很大差别,通用的泛化模型难以在所有用户上都取得最好的效果。因此,本文提出了一个用于行为识别的个性化联邦学习框架(简称FedHAR)。框架使用层级注意力机制对齐不同层次的传感器数据、消除时间窗口内时序数据的长度差异,并进行多模态特征的融合。本文在统一框架内考虑了上述提到的四个问题。首先,框架使用联邦学习的方式进行分布式模型训练,允许用户将个人数据保存在本地,避免数据上传可能带来的隐私泄露问题。其次,本文提出了一种适用于行为识别的无监督梯度算法,在一致性训练命题下同时使用有标签数据集和无标签数据流进行半监督模型训练,共同提高模型性能。该算法仅使用数量有限的有标签数据,配合大量的无标签流式数据,就可以训练出性能优越的神经网络模型,解决了传感器数据标签稀缺的问题。此外,本文还设计了一种简单有效的无监督梯度聚合策略,来克服使用流式数据可能带来的模型收敛不稳定和概念漂移问题。最后,考虑到个体行为模式的差异性,本文在提出的框架基础上设计了一种在线半监督个性化算法,针对特定的个体,在泛化模型的基础上微调一个更适合的个性化模型。本文还就框架的鲁棒性进行了讨论,针对联邦学习下的投毒攻击和推断攻击提供了防御方案。本文在两个的真实的行为识别数据集上展开了大量实验,结果证明提出的方法与目前先进的基线方法相比,在所有指标上都取得了更好的表现。特别是在对每个客户端进行个性化微调后,在所有指标上可以额外再取得10%的改进。除此之外,在实验部分本文还展示了联邦框架下模型的收敛情况、通信和计算代价,并在不同的信噪比条件下测试了本算法对通信错误的容忍性。本文还就框架对投毒攻击和推断攻击的防御方案的效果和可行性进行了实验。
其他文献
近海海岸作为海陆交界处,易受到来自于海洋的石油污染,且各类石油烃进入沉积物后的降解过程尚不清楚。微生物能够有效地分解来自陆地和海洋积聚在此的有机物。好氧条件下石油烃降解菌的研究开展较早且较深入,而对于近海海岸沉积物中厌氧石油烃降解的研究,包括微生物的种类、降解机制和相关的功能基因都处于初始阶段。为了探究近海海岸沉积物中参与厌氧烃降解过程的细菌类群,从中筛选高效的烃降解菌,并对其降解特性展开研究。本
学位
浅层地热能资源丰富,具有清洁、可再生的优点,存在巨大的应用价值。能源桩在承载建筑荷载的同时可有效利用浅层地热能,满足建筑物供暖和制冷的需求,达到降低能耗和保护生态环境的目的。相比于传统钻孔埋管技术,能源桩经济实用、换热效率高,得到广泛应用。然而在能源桩的实际工程应用中,桩基内部的温度变化效应改变了桩-土界面力学特性,产生附加温度应力与变形,影响能源桩的承载特性。国内外学者针对能源桩传热模型及承载特
学位
本文以多尺度岩石图像为研究对象,针对基于图像的岩性智能识别方法开展研究。采用目标检测、图像分类、特征融合等深度学习方法,通过图像识别技术建立适用于不同应用场景的岩性智能识别模型。利用卷积神经网络自动提取岩石特征,从而实现了“宏观—介观—微观”三个层次相结合的岩性智能识别。本文的主要工作及研究成果包括:(1)在宏观尺度下提出了一种改进的基于Faster R-CNN的岩石检测模型,通过RPN预选框生成
学位
目前,我国高速公路的设计年限为15~30年,但许多高速公路在建成通车几年内就发生了结构性损坏,需要进行大中修养护。这不仅会产生大量维修费用、造成资源浪费,而且会引起交通拥堵、降低道路通行能力。因此,设计出使用年限长、维修频率低、服役性能好的路面结构,是当前我国公路建设中的重要研究内容之一。本文依据我国路面结构发展特点,结合国内外长寿命路面理论和工程实践发展成果,构建了一种由沥青混合料(AC)作为磨
学位
初级纤毛上分布着信号受体,能将细胞外信号传递至细胞内,在组织发育和信号转导中发挥重要作用,初级纤毛结构缺陷或功能缺陷可诱发严重的纤毛病。哺乳动物Hedgehog(Hh)信号通路在很大程度上依赖初级纤毛,其关键组分动态定位于初级纤毛上。因此,初级纤毛的结构缺陷常常导致Hh信号通路异常。跨膜蛋白TMEM216在初级纤毛形成中发挥作用,其基因突变引起Joubert和Meckel综合征(纤毛病),然而其作
学位
近年来,国家对医药行业的调控日趋严格,两票制、一致性评价等各项制度先后落实,让医药行业在短期内承压的同时,也获得了向更高科技水平发展的新动力和新途径。在这一大背景下,致力于在医药行业大展宏图的企业,对新药研发的渴求也愈发强烈。但是,新药研发往往意味着将大量的资金投入到漫长的研发周期中,这就对医药企业的融资能力提出了更高的要求。由于通过IPO上市存在审核严格、等待时间长等问题,许多企业往往选择借壳上
学位
随着人工智能技术的蓬勃兴起,现阶段的工业生产过程正朝着更加自动化、智能化的方向发展,这一方面提高了工业生产产品的质量、改善了原有的粗犷生产状态,另一方面显著提高了工业的实际生产效率与生产水平。在工业零部件生产作业中,产品质检与产品瑕疵检测一直是一个至关重要的环节。一些基于传统数字图像处理的方法往往需要研究者根据不同瑕疵类别设计相应特征,但此方法缺乏通用性,且成本较高。因此,为改善工业质检流程并提高
学位
对虾养殖作为沿海地区的重要支柱产业,为水产养殖业带来巨大的经济效益。但自上世纪90年代以来,白斑综合征病毒(White spot syndrome virus,WSSV)病频发,对对虾养殖业造成了重大损失。虽然针对该病毒做了大量的研究工作,但到目前为止对WSSV感染的致病机理了解的还很少。除了通过改进养殖模式控制病害传播外,对WSSV也没有有效的防控措施。腺苷酸活化蛋白激酶(Adenosine 5
学位
随着我国经济建设的高速发展、工业科技产业的进一步提升与扩大以及城镇化进程的持续深入,对民生、商业和军事领域的用电能源需求与日俱增,而国家电网工程也取得了突飞猛进的发展。防震锤作为电力系统中的重要组件,在输电线路中起到保护导线、保障输电稳定的关键作用。但由于长期暴露于室外,经常遭受风吹雨打、植物侵蚀等影响,易导致出现锈蚀现象,对输电线路的可靠性和安全性造成巨大影响。因此,防震锤的锈蚀检测是电力系统巡
学位
测地线是指限制在曲面上的最短路径,蕴含了曲面的所有内蕴属性,是形状分析的基础。测地线的计算是计算机图形学、计算几何、计算机视觉、路径规划等多个领域共同关注的研究课题。考虑到连续曲面上一般不存在测地方程的闭式解,大多数已有方法在三角网格曲面上寻求以折线作为表示的离散测地线。从目前的研究进展来看,已有研究工作尚不能满足数据多样性和算法普适性两大需求。一方面,三维模型的表达有多种形式,包括点云,网格曲面
学位