云计算已经成为下一代互联网发展的趋势，广泛部署在各种应用系统中。然而对于云计算的安全研究不是很多。本文首先对云计算进行简要介绍，然后针对当前云计算安全性存在的关键技术及研究热点，如信任机制、虚拟化、通信协议以及它们带来的威胁进行分析。针对其中的信任机制问题，本文提出一种改进的哈希树认证算法，该算法可以有效对抗重放攻击和哈希树还原攻击；针对虚拟化问题，本文提出一种虚拟化环境下基于内存的操作系统识别方法，该方法可以作为云攻击的踩点环节，为云安全测试人员提供依据。信任机制是云计算推广的最大难题，用户将数据上传到云端首先要保证数据不会被窃取，不会被泄露，云端如何向用户证明自身的安全性非常重要。同时受带宽的限制，用户与云端的认证信息不能太长、太复杂。因此，采用哈希树成为云端对用户认证的有效方法，然后受限于哈希树的树高，针对该方法存在哈希树还原攻击的方法，同时与其它认证方法一样，也存在被重放攻击的可能性。虚拟化技术是云计算基础设施即服务的核心技术，可以说没有虚拟化就没有云计算，虚拟化实现了在一台物理主机上同时执行多台虚拟机的功能。并且在云计算中用户虚拟机是可配置的，用户可以选择使用多大的内存、缓存、主频等，也可以选择在其上运行的操作系统的类型及版本，而且一个用户可以启动的虚拟机的数目是没有限制的，并且虚拟机很好地实现了数据的隔离，也有效地保证了用户数据的安全性。但是，虚拟化也带来了一系列问题，如云计算下的补丁问题，共享主机问题，旁道攻击等问题。　　本研究主要内容包括：⑴提出了一种针对云存储环境下认证机制的攻击及防御方法----EPOWS算法，该方法可以有效对抗重放攻击以及Hash树的还原攻击。⑵提出了一种基于内存的云环境下操作系统的识别方法----从内存镜像中计算唯一的内核核心代码的哈希值作为签名的算法，该方法可以对复杂云环境下操作系统类别进行准确识别，为进一步攻击和防御提供依据。