【摘 要】
：
人工智能的不断发展,使得人与机器的交互变得至关重要.语音是人与智能通讯设备之间通信的重要手段,在近几年飞速发展,说话人识别、情感识别、语音识别得到广泛地普及与应用.特别的,随着深度学习的兴起,基于深度学习的语音技术使机器理解语音内容、识别说话人方面达到近似人的水平,无论是效率还是准确度都得到了前所未有的提升.例如手机语音助手、利用语音控制智能家电、银行业务,以及来远程验证用户防止诈骗等.但是正是因为语音的广泛普及,它的安全问题受到了公众的关注,研究表明,用于语音任务的深度神经网络(Deep neural
【机 构】
：
浙江工业大学网络安全研究院 杭州 310023;浙江工业大学信息工程学院 杭州 310023
论文部分内容阅读
人工智能的不断发展,使得人与机器的交互变得至关重要.语音是人与智能通讯设备之间通信的重要手段,在近几年飞速发展,说话人识别、情感识别、语音识别得到广泛地普及与应用.特别的,随着深度学习的兴起,基于深度学习的语音技术使机器理解语音内容、识别说话人方面达到近似人的水平,无论是效率还是准确度都得到了前所未有的提升.例如手机语音助手、利用语音控制智能家电、银行业务,以及来远程验证用户防止诈骗等.但是正是因为语音的广泛普及,它的安全问题受到了公众的关注,研究表明,用于语音任务的深度神经网络(Deep neural network,DNN)容易受到对抗性攻击.即攻击者可以通过向原始语音中添加难以察觉的扰动,欺骗DNN模型,生成的对抗样本人耳听不出区别,但是会被模型预测错误,这种现象最初出现在视觉领域,目前引起了音频领域的研究兴趣.基于此,本文对近年来语音领域的对抗攻击、防御方法相关的研究和文献进行了详细地总结.首先我们按照应用场景对语音任务进行了划分,介绍了主流任务及其发展背景.其次我们解释了语音对抗攻击的定义,并根据其应用场景对数字攻击与物理攻击分别进行了介绍.然后我们又按照对抗防御,对抗检测的划分总结了语音对抗样本的防御方法.最后我们对于该领域的不足、前景、以及发展方向进行了探讨.
其他文献
人们对改进气垫载具的耐波性动力学预测能力重新产生了兴趣.这导致了第一原理数值模拟模型ACVSIM(Milewski等人,2007)的发展,该模型集成了气垫和裙摆动力学模型与基于高阶样条的流体动力学边界元模型.本文概述了ACVSIM最近的改进,以及使用2007年秋季获得的基线深裙作为模型尺度的LCAC进行初始验证研究的结果.该仿真工具提供了研究设计、修改产生影响的能力,以及模型载具缩放问题与多耦合物理系统的问题.
本文主要是通过对碳纤维增强氯丁橡胶复合材料相容机理的研究,解决它们的相容性.利用丙酮对碳纤维表面进行浸泡搅拌,以除去碳纤维表面的浆膜,干燥后再加入不同的相容剂,如KH-550、Si-69等,浸泡处理以促进相容性.用碳纤维增强氯丁橡胶,通过测试邵A硬度、拉伸强度、拉断伸长率确定最佳相容剂及相容剂的含量.通过红外光谱和扫描电镜(SEM)分析推断碳纤维与氯丁橡胶交联结构和相容性,确定最佳配方和工艺参数,生产性能优异的氯丁橡胶/碳纤维复合材料.
可逆信息隐藏技术一方面能够对图像的原始性和完整性进行认证和保护,同时还能够确保无失真地恢复原始图像,近年来在公安、司法等领域受到越来越多的关注.基于可逆信息隐藏的认证方案需要同时满足可逆和认证两个方面的要求,在实际中具有较大挑战性,目前成功案例较少.在文献[1]中,Hong等人提出了一种新的基于可逆信息隐藏技术的认证方法,该方法借助IPVO(Improved pixel-value-ordering)和LSB(Least significant bit)替换等技术,可以有效地对图像进行认证.本文我们对Ho
“事件”(event)是指在特定时空发生的对人类社会和自然界产生较为明显影响的事情.社会动乱、暴恐事件、传染病大流行等例子是给国家和社会安全带来严重威胁的“事件”.如果能够提前对这些事件的发生进行有效预测,将有助于做好应对准备,大大减少不必要的损失,因此事件预测技术在实际中具有重大社会应用价值,能够在社会安全、风险感知、传染病防控等方面发挥重要作用.对事件进行科学准确的预测曾经是一个十分具有挑战性的问题,近期大数据和数据挖掘的发展为事件预测技术带来了新的机遇.本文就以数据驱动的事件预测技术最新研究进展做一
图异常检测将实体间通联关系抽象为复杂网络形式表示,旨在利用结构特征识别网络中存在的异常行为与实体,具有关系客观存在且异常可解释较强的优点.目前该类方法主要以无向网络结构为基础提取特征,以达到识别异常的目的,主要关注于连边层面异常结构,对于由集体异常行为构成的异常子图识别问题研究仍较少,缺少对行为方向异常协同关系的分析.传统方法通过提取节点邻域结构特征构建特征空间,并根据节点邻域结构在特征空间中的映射点距离发现离群点,虽可发现结构具有明显差异的异常子图,但忽略了网络结构中节点的实际物理联系,以及行为由于主客
近年来,图深度学习模型面临的安全威胁日益严重,相关研究表明,推荐系统中恶意用户可以通过诋毁、女巫攻击等攻击手段轻易地对系统进行欺骗.本文对现有基于图深度学习攻击工作进行系统分析和总结,提出了一种分析图深度学习攻击模型的通用框架,旨在帮助研究者快速梳理领域内现有的方法,进而设计新的攻击模型.该框架将攻击的过程分为预备阶段、攻击算法设计以及攻击实施三大阶段,其中预备阶段包含目标模型评估和攻击者自身评估两个步骤;攻击算法设计包含攻击算法特征设计和攻击算法建立两个步骤;攻击实施包含执行攻击和效果评估两个步骤.同时
语音是人机交互的重要载体,语音中既包含语义信息,还包含性别、年龄、情感等附属信息.深度学习的发展使得各类语音处理任务的性能得到了显著提升,智能语音处理的产品已应用于移动终端、车载设备以及智能家居等场景.语音信息被准确地识别是人与设备实现可信交互的重要基础,语音传递过程中的安全问题也受到了广泛关注.对抗样本攻击是最近几年兴起的一个研究热点,攻击者通过对样本进行微小的改动使深度学习模型预测错误,从而带来潜在的安全风险.语音识别领域同样面临着来自对抗样本的安全威胁,在对抗样本的攻击和防御方法上也与图像识别等领域
随着深度学习的兴起,深度神经网络被成功应用于多种领域,但研究表明深度神经网络容易遭到对抗样本的恶意攻击.作为深度神经网络之一的卷积神经网络(CNN)目前也被成功应用于网络流量的分类问题,因此同样会遭遇对抗样本的攻击.为提高CNN网络流量分类器防御对抗样本的攻击,本文首先提出批次对抗训练方法,利用训练过程反向传播误差的特点,在一次反向传播过程中同时完成样本梯度和参数梯度的计算,可以明显提高训练效率.同时,由于训练用的对抗样本是在目标模型上生成,因此可有效防御白盒攻击;为进一步防御黑盒攻击,克服对抗样本的可转
为了不断提升微处理器的性能,现代微处理器当中包含了越来越多用于性能优化的部件,比如高速缓存,分支预测器,数据预取器等,这些性能优化部件在给微处理器带来可观的性能提升的同时,也引入了一定的安全隐患.比如高速缓存引入的侧信道,分支预测引入的“幽灵”漏洞等等,与上述两个性能优化部件类似,数据预取也存在安全隐患,然而却未引起足够的重视.数据预取的根本目的在于提升高速缓存命中率,主要通过观察程序的访存行为规律提前将所需的数据加载到高速缓存当中,是现今高性能微处理器当中重要的微处理器性能优化技术.近来有研究表明,数据
在大国博弈的时代背景下,网络空间对抗逐步呈现战争化趋势,加强网络实战演习已成为美欧主要国家提升网络空间防御和对抗能力的重要举措.虽持续受新冠肺炎疫情影响,美欧等国仍通过各种方式开展网络演习训练和竞赛活动,逐步增强网络空间作战协同性,扩大军事演习跨域、跨国、跨部门的协同化趋势,建立在新兴作战领域的集体作战优势,全面提升网络作战能力,力图掌控未来作战主导权.