【摘 要】
:
以机器学习、深度学习为代表的人工智能技术在不断发展且广泛服务和赋能人类生产生活方式的同时,其自身存在的技术漏洞所带来安全隐患却不容忽视。由于先天性的算法黑箱和训练过程不可解释性等自身存在的安全问题,衍生出了针对数据、模型和算法的攻击,这吸引了越来越多安全研究人员的关注,其中针对模型算法安全的对抗样本攻击成为当下人工智能安全领域最为关注的研究热点。研究表明,在各领域表现良好的机器学习模型在面对对抗样
论文部分内容阅读
以机器学习、深度学习为代表的人工智能技术在不断发展且广泛服务和赋能人类生产生活方式的同时,其自身存在的技术漏洞所带来安全隐患却不容忽视。由于先天性的算法黑箱和训练过程不可解释性等自身存在的安全问题,衍生出了针对数据、模型和算法的攻击,这吸引了越来越多安全研究人员的关注,其中针对模型算法安全的对抗样本攻击成为当下人工智能安全领域最为关注的研究热点。研究表明,在各领域表现良好的机器学习模型在面对对抗样本攻击时表现得十分脆弱,攻击者通过在原始输入数据中添加精心设计的细微扰动所形成的对抗样本,能够诱导机器学习模型以高置信度做出错误的决策。对抗样本的存在给恶意攻击者提供了强有力的攻击,使网络空间安全面临更为严峻的挑战,阻碍了机器学习、深度学习在该领域的各应用场景的深入拓展。因此,开展机器学习和深度学习算法安全性的研究,特别是对抗样本攻击和防御技术的研究具有重要的理论价值和现实意义。本文先从攻击的角度,分析了网络空间安全领域中恶意流量、恶意软件检测两个具有高对抗性攻防场景中生成对抗样本所特有的场景约束和挑战,同时利用可解释性方法“透明化”深度学习复杂推理背后的决策逻辑,为生成适合这两个场景的对抗样本提供指导依据;接着从防御的视角,在图像分类领域提出一种新的提高模型对抗鲁棒性的对抗训练方法,有效地改善了标准对抗训练方法训练耗时过长等问题。本文的主要研究内容和创新工作如下:1、基于LIME规避检测的恶意TLS对抗流量生成研究针对主流基于机器学习算法的恶意流量检测系统,在未知模型结构和参数细节的前提下,提出一种基于LIME(Local Interpretable Model-Agnostic Explanations,LIME)的对抗样本生成方法。该方法首先针对每一恶意TLS样本实例及其一组近邻训练一个简单易解释的线性模型,用于拟合黑盒分类器关于该实例决策边界局部性质,并以线性模型的权重系数表示输入向量各分量对分类结果的影响权重,从而通过简单模型解释目标模型局部特征权重。同时为降低生成实际有效对抗攻击流量的难度,将输入样本沿替代线性模型决策边界法向量方向进行扰动,并将扰动添加到样本中有利于使目标检测模型判断为良性流量的负特征上来生成对抗样本,确保生成的对抗样本保留了原始恶意样本的攻击特性。与Bot GAN相比,本文方法扰动恶意流量特征维度更少,减少了生成实际恶意对抗流量的难度。最后根据修改的对抗特征逆向构建攻击流量,生成可在真实网络环境中传输的对抗流量,实验结果表明,该方法可对主流基于机器学习算法的目标检测系统构成实际威胁。2、基于良性显著特征恶意软件对抗样本生成研究针对基于灰度图像恶意软件检测系统,提出一种保留恶意软件可用性和功能性的对抗样本生成方法。首先重点分析PE文件格式和加载对齐机制,发现PE文件各区块之间因加载机制文件对齐而存在的间隙空间和PE文件尾部空间添加或修改数据均不会破坏PE文件功能性和可用性,并将这两部分空间区域作为对抗攻击区域。在此基础上提出两种基于良性显著特征的对抗样本生成方法:BSFA和EnhancedBSFA。其中BSFA方法利用Grad-CAM可解释方法从良性样本提取具有类别区分性的良性显著特征,将其作为扰动值填充或修改恶意样本攻击区域内容,以增加恶意样本的良性判别属性,从而诱导目标检测模型将恶意PE文件误判为良性样本。EnhancedBSFA方法为在BSFA方法的基础上融合了M-FGSM方法,其攻击效果更佳。3、基于自适应噪声添加与最大化模型预测熵对抗训练算法与研究为抵御对抗样本的攻击,提出一种新的提高模型鲁棒性对抗训练方法。从分析神经网络在推理时背后的决策依据着手,探究深度神经网络在分类对抗样本时做出错误决策的原因,以透明化深度学习的“黑盒性”。在此基础上引入可解释性工作Grad-CAM,首先提出利用类激活映射指导噪声自适应添加(ANA)的对抗训练方法,该方法通过在输入图像对类别导向起关键作用的区域添加更多的噪声,以抑制神经网络对该区域像素变化的敏感程度,而在其他非关键区域添加较小的噪声,以提高模型的分类精度。相对于标准的对抗训练TRADES、Madry,ANA方法只需迭代计算一次反向梯度,有效节省了对抗训练的时间。其次,为进一步提高模型的对抗鲁棒性和泛化能力,在原有网络代价函数添加最大化模型预测熵(MME)正则项,在保证模型分类边界面不产生偏移的前提下,降低了模型受到对抗攻击的可能性,并从理论上证明了组合自适应噪声与最大化模型预测熵(ANAMPE)的对抗训练方法有严格的下确界。最后在MNIST,CIFAR-10和CIFAR-100数据集上验证了ANAMPE方法在5种主流白盒攻击下FGSM,MIM,BIM,JSMA,C&W模型防御对抗攻击的能力,实验结果表明,ANAMPE方法相比于ANA可以进一步提高模型的对抗鲁棒性。
其他文献
全局最优化算法的主要目的是:在一定约束条件下寻求优化问题的全局最优解或近似全局最优解,主要分为随机性优化方法和确定性优化方法。时移世易,当前全局优化问题更多的表现出多峰、高维和非凸等特征,这对全局优化算法提出更高的要求。鲸鱼优化算法作为一种新的随机性优化方法,采用并行搜索机制,具有较强全局搜索能力,在实际优化问题中更具灵活性,引起国内外学者的研究热潮,但是存在收敛速度慢、局部最优解停滞等缺点;填充
中国某省在盐穴储气库老腔改造领域取得一定成果,部分盐穴老腔改建后由于工作气量小、垫气成本高,不适于储存天然气用于管网调峰。然而地下盐腔仍是非常重要的战略资源,若将其建设成压缩空气储能电站,则可用于谷电阶段电力资源的储存。根据国外成功案例,结合中国某省地下盐穴老腔的具体情况,计算改建储能电站的具体参数,并对老腔改建储能电站的经济性进行分析。结果表明:X1地下老腔可储存能量3.07×10~6 kW·h
线虫病害和辣椒疫病对农业生产造成严重损失。采用物理、化学等方法来防治此类土传病害造成的弊端日益显著,因此寻找对防治植物土传病害效果较好的生防菌是当前生物防治的重要研究方向。本研究以本项目组前期筛选到的寡雄腐霉(Pythium oligandrum)GAQ1作为研究对象,对防治南方根结线虫(Meloidogyne incognita)和辣椒疫病的效果及其机理进行了研究,得出的主要结果如下:1.寡雄腐
气敏传感器在环境监测、有毒有害气体泄露检测中发挥着至关重要的作用。因此,发展和设计新型气敏传感器是当前研究的热点之一,而提高气敏传感器的气敏性能,其核心在于发展和设计新型的气敏材料。2004年,Novoselov等人成功将单层石墨从石墨中剥离出来,制成具有独特结构和电子特性的石墨烯,由于其优异的物理化学特性,使得石墨烯在能源,催化,传感器等领域具有广泛应用。如今,研究人员希望在保证石墨烯优异性能的
随着人工智能和边缘智能技术的发展,各种不同的智能感知服务正为我们的生活提供种种便捷。然而,现阶段多数的感知识别服务仍依赖大量的人工标注进行模型的训练和调优,随着感知环境的持续变化,人工智能模型的泛化性将受到显著影响。为了减少人工标注的需求,并使各种智能服务可以随着感知环境的变化自主调优,通过多智能体模型利用实时感知数据进行协同判别与知识共享,实现可自主适应数据分布变化的在线进化学习(OEL)方法将
高减比准双曲面齿轮(HRH)是螺旋锥齿轮的极致演化,在加工方法上可采用与普通螺旋锥齿轮一样的加工机床、刀具及磨齿工艺,大小轮均可以采用硬齿面设计,精度保持性较高。HRH齿轮轴向可调,对安装误差、热膨胀不敏感,采用合适的弹性支承系统甚至可以完全实现无侧隙啮合传动,因而具有良好的工作适应性。目前HRH齿轮主要局限于小模数轻载传动,在工业发达国家逐渐向精密伺服传动尤其是机器人领域发展。但关于其几何及力学
镁合金具有密度低和比强度高的优点而成为国内外研究热点,但常规镁合金力学性能较低、耐热性较差,为了拓展其应用领域,需要开发高温力学性能良好的耐热镁合金。本文采用铸造工艺制备了Mg-x Gd-4Y-1Sm-0.5Zr(x=6,8,10;wt.%)合金,系统研究了这三种合金的铸态、固溶态及500℃下热挤压态的组织以及热挤压态合金的室温拉伸性能,其中热挤压态Mg-8Gd-4Y-1Sm-0.5Zr(GWS8
高端装备核心基础零部件,如轴承、齿轮、轮轨等,均为典型的摩擦副,其摩擦磨损性能往往决定了整机装备的可靠性。利用表面织构改善材料表面的摩擦学性能是延长摩擦副服役寿命的有效技术手段,也是当前摩擦学研究热点之一。本课题以45钢和钛合金为研究对象,在乏油润滑和干摩擦条件下研究了织构参数对材料表面摩擦学性能的影响,以及乏油润滑至干摩擦过渡阶段中织构化表面与未织构表面的摩擦学行为变化,探究了摩擦表面磨损机制以
运用问题式探究展开教学,是初中数学教师激活数学课堂的有效方法。问题是能够引导学生们积极参与到探究过程的有力工具,在初中数学课堂教学中,教师需要依据所要教学的内容去设计问题,依据教学过程去提出问题,遵循趣味性原则、目的性原则和分层性原则,设计生活化的问题情境,调动学生们的探究兴趣;积极引导与启发学生,学习解决问题;结合多元化的方法,发散学生的思维;设计有目的性的指导教学,积极反思教学内容。
航空发动机主轴承配置弹性环挤压油膜阻尼器(简称阻尼器),可有效抑制转子系统的非线性振动。然而,阻尼器对轴承产生油膜反力,并使外圈进动,影响轴承的动态响应。过去研究主要聚焦挤压油膜的动力特性及阻尼器支承转子的动态响应,尚未开展阻尼器对轴承性能的影响研究。本文针对带阻尼器结构的球轴承,开展一体化动力学建模、动力学特性分析及试验研究。利用离散单元法对阻尼器引入轴承接触激励,考虑高速轴承特性和高推力载荷条