深度学习模型的脆弱性检测与加固

来源 :2018中国互联网安全大会 | 被引量 : 0次 | 上传用户:yh820927
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习自2006年被提出之后就受到科研机构、工业界的高度关注.最初,深度学习的应用主要是在图像和语音领域.从2011年开始,谷歌研究院和微软研究院的研究人员先后将深度学习应用到语音识别,使识别错误率下降20%~30%.2012年6月,谷歌首席架构师Jeff Dean和斯坦福大学教授Andrew Ng主持了著名的Google Brain项目,该项目采用16万个CPU来构建一个深层神经网络,并将其应用于图像和语音的识别,最终获得成功.
其他文献
为了与20世纪90年代的密码战争(crypto war)相区别,人们更习惯将信息时代围绕国家密码管控政策的种种争议称为密码战争2.0,或者将这些争议看作20世纪密码战争的延续.密码战争的本质是各方在密码利用过程中的博弈,其结果客观反映了国家在密码管控事项上的政策态度.
大数据的使用和流通给企业带来了巨大的商业价值,但是频发的数据泄露和滥用侵害了用户的个人权益,给企业的信息安全保护带来了极大的挑战.世界各国纷纷出台相关法律法规或规范指南来监管和指导企业加强个人信息的保护.据不完全统计,截至2017年,已经有120个国家制定了相关法规来保护个人信息安全,且这一数字仍在增长中.其中,2018年5月25日正式实施的《通用数据保护条例》(General Data Prot
人工智能时代,数据价值的最大化推动了新业务的发展,新一代手机竞争的核心将是关于“智慧”的能力.智慧手机即将成为手机行业的下一个风口,给厂商和消费者带来很多新的红利.智慧终端上存在的大量实时、场景化、个性化的数据在人工智能技术上的支撑为终端提供了更高的认知能力,使终端为用户提供个性化、直达服务成为可能.数据驱动的人工智能会渗透在生活的每一细节中,但因数据产生的问题也会随之而来.
网络安全史从某种程度上而言是一部漏洞(包括弱配置)攻防史,漏洞在网络安全史上一直处于核心地位,“黑客”和“白帽”都将漏洞挖掘和利用(检测)能力作为其技术水平的重要标签.在年复一年的攻防拉锯战中,攻防双方的水平都在不断上升.非常遗憾的是,在这个过程中,作为真实利害方(最终用户)的风险并未大幅降低,安全漏洞似乎越来越多,与安全相关的成本费用也越来越高,安全风险反而越来越大.而作为这场拉锯战的另一个主角
数字化转型是企业无法回避的命题,企业的各类业务与网络结合,衍生出了许多新鲜事物,这种企业资产数字化转变给全球经济生产模式带来了巨大的改变.一家企业绝大部分的业务开展离不开网络和数字化,企业面临的安全风险也和整个互联网的安全发展紧密相关.企业将越来越难以区分业务安全与网络安全的界限,所以需要寻找有效的方法来保护数字化资产.
近年来,国内威胁情报相关技术、产品和市场有了快速的发展,不同组织利用威胁情报解决了过去难以解决的一些问题,如失陷主机检测等.威胁情报的价值得到了客户的普遍认可,同时也看到威胁情报领域一些深层次的应用场景,尤其是在事件响应环节的威胁情报使用上,需要更积极地投入进行技术创新.
现如今,第三方SDK(软件开发包)已经成为移动应用生态系统中的重要组成部分,许多移动平台的开发人员为了缩短应用开发周期,选择在其应用程序中内置第三方SDK以直接使用其提供的丰富功能.在安全研究人员看来,虽然应用程序开发效率提高了,但是SDK中存在的安全漏洞将会导致所有包含该SDK的应用程序变得易受攻击,很可能会严重影响移动应用生态系统的安全性.
随着时代的发展以及技术的演进,逐步迈向万物互联时代.作为重要信息载体的互联网、物联网归根结底都是由硬件组成、软件驱动的.代码安全是其他安全方案的底层支撑,然而由于黑、灰产的存在,“裸奔”的代码将会给我们的生活带来各种安全隐患和危险.面对芯片架构繁多、运行环境复杂的嵌入式物联网设备,传统的代码安全方案将会过时,而LLVM(Low Level Virtual Machine,底层虚拟机)编译器代码安全
人工智能作为当前最具有前景的研究方向之一,为各领域带来新机遇的同时,也带来了相关的安全问题.目前,研究人员普遍关心的关于人工智能的安全问题有:利用人工智能技术解决相关的安全问题,例如通过智能化方法对漏洞进行分析并利用;尝试发现人工智能本身存在的安全问题,包括人工智能算法本身的脆弱性等,例如智能语音系统中深度学习算法的脆弱性.在实际应用中,无论是利用智能化技术解决相关安全问题,还是尝试发现智能系统中
如今,人们的衣、食、住、行都能通过手机App完成,人们对手机的依赖越来越强,手机也存储了工作、生活、学习等重要的隐私信息.移动端存储信息的重要程度使移动端成为新的攻击目标,而黑客组织针对移动端的APT攻击也越发频繁.