【摘 要】
:
当前,机器学习领域内的研究大多关注如何对机器学习的算法、模型进行优化,而忽略了模型的安全性问题。尽管在输入理想的样本时,这些模型有着近乎完美的表现,但在实际环境中,这些模型在训练阶段和模型推理阶段都有可能受到对抗性样本攻击。本文以机器人路径规划问题为对抗性攻击的应用场景,强化学习模型价值迭代网络(ValueIteration Network,VIN)为攻击目标,进行对抗性样本生成方法的研究。本研究
论文部分内容阅读
当前,机器学习领域内的研究大多关注如何对机器学习的算法、模型进行优化,而忽略了模型的安全性问题。尽管在输入理想的样本时,这些模型有着近乎完美的表现,但在实际环境中,这些模型在训练阶段和模型推理阶段都有可能受到对抗性样本攻击。本文以机器人路径规划问题为对抗性攻击的应用场景,强化学习模型价值迭代网络(ValueIteration Network,VIN)为攻击目标,进行对抗性样本生成方法的研究。本研究以VIN模型实现的机器人路径规划为基础,分别提出了在黑盒和白盒两种场景下的对抗性样本生成方法。基于黑盒场景,分析了 VIN模型进行路径规划的样本,提出了黑盒场景下的对抗性样本生成方法。文中提出了攻击点威胁值的定义并给出了计算规则,综合了可攻击点与原路径、终点、以及原路径拐点之间的距离三条因素量化计算规则。在仅添加一个攻击点的情况下,黑盒场景下提出的对抗性样本生成方法的准确率为34.54%。基于白盒场景,提出了单步攻击和多步攻击两种对抗性样本生成方法。在单步攻击方法中,通过分析VIN模型的价值矩阵、寻路失败样本的特征和添加攻击点前后价值矩阵的变化,得出攻击点发现方法。方法中综合了价值矩阵和原路径的双重影响,找出添加干扰后可能使模型寻路陷入困境的攻击点。在仅添加一个攻击点的情况下,单步攻击方法的准确率为65.71%。在多步攻击方法中,首先不断的输入对抗性样本,向模型发起寻路请求,推测出可攻击点与样本价值矩阵的内在关联。然后根据可攻击点的特征,将样本划分栅格并计算区域价值平滑度,缩小可攻击点选取范围。多步攻击生成对抗性样本方法的准确率可达92.53%。本研究的主要贡献为:基于黑盒和白盒两种场景,提出了针对VIN路径规划模型生成对抗性样本的方法,模拟了 VIN在模型推理阶段受到恶意攻击的情况。实验结果表明本文所生成的对抗性样本会使VIN模型出现寻路错误,这证明了 VIN确实存在着安全性的问题,并且本文所提出的对抗性样本生成方法确实有效。
其他文献
为了充分发挥高校计算机实验室作用,提高设备使用效率,增强计算机实验课教学效果,本文总结了我校计算中心实验室管理现状,指出了传统管理模式的弊端.设计了了基于独立IC卡的
目的:探讨华西法唇裂修复术治疗双侧唇裂术后鼻唇畸形的效果。方法:2007年1月~2008年5月应用华西法唇裂修复术为11例双侧唇裂术后鼻唇畸形的患儿进行了治疗,手术方法均以华西
当前陕西关中地区小麦-玉米复种中过量施肥现象较为普遍,大多数农民过于注重小麦季施氮而忽视玉米的需求,较少将小麦-玉米周年复种作为整体考量,并且氮肥种类单一,这些问题导致肥料利用率不高,还造成环境污染。为探索关中地区小麦-玉米周年生产适宜的氮肥运筹模式,本试验采用当地农民施氮方式(N1:小麦270 kg N·ha-1,玉米240 kg N·ha-1)为对照,从施肥时期、肥料种类方面设置了4个减氮优化
目的评价优质护理在翼状胬肉术前准备中的作用。方法选取我院在2017年1月至2018年11月收治的翼状胬肉切除手术患者90例,随机分组法分为对照组(n=45)、观察组(n=45),分别采取
稠油密度大、粘度高对开采和集输都带来了巨大的困难。目前主要的稠油降粘方法有掺稀降粘、加热降粘、乳化降粘、添加降凝降粘剂、减阻技术和改质降粘技术。其中改质技术可使
背景与目的妊娠滋养细胞肿瘤(Gestational Trophoblastic neoplasia,GTN)是一种罕见的起源于妊娠滋养细胞的肿瘤,即使是多发转移细胞肿瘤,其治愈率也很高。GTN包括起源于绒毛和绒毛外滋养细胞的病变,具有不同程度的增殖、侵袭和播散性。GTN包括胎盘部位滋养细胞肿瘤(placental site trophoastic tumor,PSTT)、侵蚀性葡萄胎(Invasi
《中华人民共和国仲裁法》(以下简称《仲裁法》)作为我国第一部较全面调整仲裁关系的法律,已于1995年9月1日起施行。它的颁布施行,为公正、及时地解决经济纠纷,维护社会主义
电能作为国民发展的重要动力,电能质量对于现代社会各行各业的进步发展具有重要影响。随着科技的进步与发展,电网接入的负荷也日趋多样化,新能源大规模并入电网也对配电系统电能质量造成了一定影响。对电能质量进行科学评估是解决电能质量问题的基础,不但对提高配电系统电能质量具有重要意义,同时也是健全电力市场体制的重要手段。针对现有电力参数采集系统无法满足分布式配电网多维度评价的问题,结合电能质量检测设备的相关国
微电网作为大电网的有益补充具有广泛的应用前景。微电网综合负荷预测是微电网能量调度的重要组成部分,其预测结果直接影响微电网的源荷平衡。本文针对微电网综合负荷预测问