社交网络已经与人们生活密不可分,在人们享受着社交网络带来的便利的同时,也面临着来自社交网络的安全威胁。通过社交网络,攻击者可以更迅速,更广泛地传播恶意链接。为了给用户提供一个安全的社交网络环境,研究人员主要从三个方向提出解决方案,包括恶意用户检测,恶意消息检测以及社交网络攻击预防。现有工作主要集中于恶意用户和恶意消息检测,主要的检测技术包括基于社交图结构的检测算法和基于机器学习算法的分类模型。大多数基于社交图结构的检测算法计算开销巨大,只能在线下环境运行。因此,为了尽可能实现实时检测,需要设计出一些适用于在线环境的轻量级检测算法。基于机器学习算法的分类模型需要寻找攻击者难以改变的特征,否则一旦攻击者调整攻击策略,检测方法就会失效。此外,社交网络攻击预防也逐渐受到研究人员的重视,由于正常用户的行为模式相对稳定,可以通过对正常用户进行风险评估在攻击者发起攻击之前进行预防工作。本文从以下三个方向出发检测和预防社交网络攻击。针对恶意用户检测的方向,本文基于用户好友关系建立了一个图结构,通过分析用户在图中的位置特征设计了一个检测算法用来区分正常用户和恶意用户。为了尽可能广泛的传播恶意消息,攻击者采取与正常用户不同的好友策略与大量用户建立好友关系。本文在新浪微博数据集上对检测算法进行了评估,并计算出了一个阈值用来区分正常用户和恶意用户。实验结果显示,检测算法准确率为86.27%,误报率为8.54%。针对恶意消息检测的方向,本文建立了一个基于深度学习的文本分类模型对正常消息和恶意消息进行分类。该模型的准确率为91.36%,误报率为8.82%。此外,为了尽可能地提高检测效率实现实时检测,本文提出了一个多级检测框架。通过在网络边缘设备部署轻量级检测模型对用户发送的文本信息进行预标记,服务器端在服务器计算资源有限的情况下优先检测被标记的可疑样本,提高服务器端的计算资源利用率。针对社交网络攻击预防的方向,本文提出了一个用户分析模型。首先从用户的社交信息中提取了三类特征:统计特征,社交图特征和语义特征。这些特征将作为用户分析模型的输入,然后为每个用户计算出一个安全风险值。通过对高风险用户的安全培训和重点监测,进而降低攻击者利用社交网络渗入公司的内部网络的风险。实验结果证明,用户分析模型能够有效地对用户在社交网络中的活动进行安全评估。本文从以上三个方向进行研究并提出了新的解决方案,在检测恶意消息和恶意用户的同时对正常用户进行风险评估,为用户有一个安全的社交网络环境做出努力。通过实验,我们证明了这些工作均是有效的,对同类工作具有一定的借鉴意义。