云计算是通过Internet以服务的方式提供动态可伸缩的虚拟化资源的计算模式。它同时也是一种按使用量付费的模式,能够让云租户得到按需的、可用的和便捷的网络访问。云计算按照所提供服务的层次、侧重点及对象不同可以分为三层：IaaS(基础设施作为一种服务)、PaaS(平台作为一种服务)和SaaS(软件作为一种服务)。云计算所提供的服务是基于现有标准化的网络协议,具有特定的格式及标准。然而现有技术和标准协议所存在的安全隐患和脆弱性为非法分子敞开了入侵的大门。传统的网络入侵和云计算特有的入侵使得云计算安全问题日益成为一个很重要的研究方向。作为能够检测未知入侵行为的异常检测通常是被当作云环境中入侵检测的手段和方法。为了检测云环境中的异常,需要对云平台的运行状况进行监控,并且能够搜集运行时性能数据。搜集到的性能数据通常都是无标记的,因此如何从这些无标记的性能数据中获取关于云服务器的健康指标是本文所关心的问题。采集到的性能数据有很多属性是不需要关心的,需要对真正关乎云服务器的数据维度进行简化。在维度简化之前通常会对数据进行预处理,找出具有不同特征的维度。信息论中的互信息概念可以很好地找出具有最小相关性并且对目标分类参数具有很大贡献的数据维度。在得到这些敏感的数据维度后,可以利用PCA (Principal Component Analysis,主成分分析方法)对有效的高维数据进一步降维,得到具有很强特征体现的维度,作为后续异常检测的度量及评判标准。云环境中的异常检测需要快速和准确,基于分类的异常检测方法可以作为云环境中异常检测方法。SVM (Support Vector Machine,支持向量机)可以对表征云服务器性能的数据实例进行分类,通过对分类检测出的疑似异常数据实例提交给云安全管理员进行确认,根据确认结果对SVM分类器逐步迭代,从而不断完善异常检测分类模型,达到自适应的目的。本文设计自适应异常检测模型CAPS (Cloud Adaptive PCA-SVM),从数据获取及预处理,到高维数据维度约简,最终能够完成对云环境中的异常进行标记和上报告警等功能。本文后续利用CAPS,从主机、网络、Hypervisor和分布式等几方面考虑,研究云环境中特定情形下安全防护部署策略。最后在OpenStack上利用真实的云环境数据,对所构建的CAPS进行性能分析,实验结果表明,本文提出的CAPS在云环境中检测率较高,误报率较低,速度较快。