论文部分内容阅读
人工智能技术在近些年得到了长足的进步和发展,嵌入式智能应用越来越多地应用到各种安全关键场景。为了抵御攻击带来的安全威胁,传统嵌入式系统已经部署了一些安全措施,但严重忽略了安全措施失效或出错对系统造成的影响。本文针对嵌入式智能系统的计算任务、消息安全任务以及深度学习任务施加容错保护,旨在对错误进行检测和恢复,以提供容错支持。然而,容错设计在提高系统容错能力的同时也引入了额外的时间开销,从而影响到系统的实时性。因此,如何在满足实时性要求和计算资源约束的情况下,为嵌入式智能应用提供最高级别的容错设计方案是非常值得研究的问题。本文主要针对嵌入式智能应用,在确保实时性和满足计算资源约束的前提下,探讨如何为嵌入式智能应用提供最合理的容错方案。首先,考虑到安全关键的嵌入式智能应用的原有安全防护措施存在失效可能,本文提出了一种任务级容错设计方案。结合原有安全措施,针对嵌入式智能应用的计算任务部署容错服务,对任务执行过程中产生的错误进行容忍和纠正。分析了任务的容错设计对消息通信的影响,给出了容错性能的两种量化指标,将容错设计抽象为一个多目标优化问题,即在给定约束下,最小化应用程序的故障概率和安全漏洞。并提出了一种容错和安全协同优化算法,以实现对多目标优化NP难问题的求解。通过大量实验和分析,证明了本文所提算法的高效性。其次,为防范通信消息的加解密服务遭受错误注入攻击,本文提出了一种消息安全级的容错设计方案,并设计了软硬件协同优化方法。针对消息加解密服务设计了不同等级的错误检测和错误恢复方案,并从系统平均可靠性退化程度和异构程度两个方面,给出了细粒度评价方法。为了更好地满足实时性,通过软硬件协同调度,实现容错任务在FPGA上快速执行。在原有资源约束的基础上,进一步引入FPGA资源约束,并且设计了一种改进的多目标进化算法,来求解最优的容错方案。实验数据证明,相较于传统的优化算法,本文方法在多个方面都有更好的表现。最后,针对嵌入式智能应用的深度学习任务可能出错的情况,提出了一种神经网络模型级的容错设计方案。基于N版本的容错策略,结合模型多样性和输入多样性,设计了神经网络模块容错架构。给出了三种影响模型多样性的独立因素,并定义了衡量指标。将神经网络模块视为一个黑盒,使所提出的容错架构和容错方案适用于任意的智能应用。通过实验对比了各种独立因素,验证了本文方法的有效性。本文针对部署在安全关键领域的嵌入式智能应用,在不同层级上提出了多种容错方案,来容忍可能发生的错误,并设计了多种量化指标以衡量系统级方案的容错能力。同时,考虑到嵌入式设备本身资源约束,提出了改进的多目标进化算法,来找到最优的容错设计方案。相比对攻击的直接防护,本文方法深入考虑了防护措施失效或出错情况下如何对产生的错误进行容忍,从而保障了嵌入式智能应用可以继续稳定地提供服务。