社交网络的迅速发展导致信息的爆炸式增长,亟需性能强大的模型来处理以图像、文本、视频等为载体的信息流,而在各方面表现极佳的深度神经网络在社交网络中得到越来越广泛的应用。除了常见的图像、文本分类、物品推荐等应用外,在一些安全敏感应用中,深度神经网络模型也占据重要地位。因此,深度神经网络也成为攻击者实施攻击时无法回避的关键点,面临着严重的安全威胁。研究人员发现,深度神经网络模型存在固有的安全隐患,其在面临对抗样本的攻击时表现出明显的脆弱性。对抗样本,即攻击者向正常样本中添加不可察觉的对抗扰动而生成的,可以使深度神经网络模型产生异常输出的样本。目前,对抗攻击已出现在社交网络的各种应用中,这意味着社交网络内基于深度神经网络模型的应用其安全性没有得到有效的保障,存在极大的安全隐患。尽管对抗攻击和防御方面的研究已有较大的进展,但是仍存在许多问题。（1）文本中研究相对匮乏。由于文本的离散性以及添加扰动的易感知性,图像中的方法并不能直接应用于文本中。此外,现有对抗文本的研究工作往往基于英文数据,而中英文语言和处理的差异性导致基于英文的方法不能直接应用于中文的研究中。（2）对抗文本不可察觉性特征研究的欠缺。对抗文本具备三种重要属性:攻击性、可转移性以及不可察觉性。前两者均有较详细的研究,但后者的工作有所欠缺。现有的对抗文本生成工作为了保证添加扰动的不可察觉性,仅采用了一系列语义相似性度量方法,但在特定情景下度量方法的适用性、面对不同类型攻击时的表现等问题并未得到有效的解决,且从视觉相似性方面保证不可察觉性的工作被忽视。（3）面对未知攻击时防御方法的表现不佳。现有的防御方法针对特定攻击或者数据集,缺乏对未知攻击的处理能力,且缺少一个可适用于多种攻击的相对普适的防御方法。（4）新兴的伪造信息检测模型的安全性缺乏探索。深度伪造技术的兴起致使高质量图像、视频的合成更加容易,但这些伪造信息在社交网络上的恶意传播会带来极大的危害。而当前的伪造信息检测模型的安全性不能得到有效保障,需要构建面向对抗攻击的安全机制,保证检测模型的鲁棒性。本文主要针对社交网络中深度神经网络模型面临对抗样本攻击时的安全威胁,以构建相应的安全体系,防御多样化对抗攻击为目标,通过对数据重要特征的感知发掘,重点研究中文类型对抗样本的生成、对抗文本度量方法的比较及相似性约束、普适性的对抗样本防御方法,以及新兴的伪造信息检测模型的安全性探索等四个方面内容,具体工作包括:（1）提出了一种面向中文的黑盒对抗攻击方法,克服了中英文语言和处理的差异性导致基于英文对抗攻击方法在中文上的不适用问题,依据文本中的每个单词对模型决策的影响力并不相同这一特征,设计了一种单词的影响力量化方法,通过对高影响力的词进行同音词替换生成可使深度神经网络模型产生异常输出的中文对抗样本。（2）研究对抗文本度量方法对其不可察觉性特征的影响,比较了现有工作中使用的语义相似性度量方法,探究在特定情景下度量方法的适用性、面对不同类型攻击时的表现等问题,达到在不同场景下正确的选用合适的度量方法的目的,从而保证添加对抗扰动的不可察觉性。提出了一种基于语言规则的约束方法,保证生成的单词级对抗样本和正常样本的视觉相似性,能够生成更加自然的对抗样本。（3）提出了一种适用于情感分类任务,可检测不同类型已知和未知攻击的对抗文本防御方法。利用输入文本中单词对最终分类决策的影响力不尽相同这一特征,对输入文本中各个词的影响力进行量化,通过词的影响力推断整个输入的情感倾向,然后与目标模型的输出进行对比,通过比较两者的一致性来识别输入中的对抗文本。（4）提出了一种新的黑盒条件下的对抗攻击方法,探索伪造信息检测模型在对抗环境下的安全性问题,通过修改伪造图像、视频的亮度和对比度这些与视觉明暗相关特征生成对抗样本,发掘检测模型的薄弱之处,为构建更加鲁棒的检测模型奠定基础。与现有的基于噪声的攻击方法比,本文基于视觉明暗特征的方法在一定防御条件下具有更强的抵抗能力,且更易于实现。