由于Hadoop高可扩展、低成本、高效等优点,目前已广泛应用到海量数据处理、分析中。随着Hadoop的广泛应用,其安全问题日益凸显。Hadoop大规模、分布式的特性,使得恶意用户无需攻击整个Hadoop集群,仅需攻陷单个或部分节点,便可达到延长任务执行时间、篡改数据等目的。因此,面向Hadoop的攻击模型和检测技术是目前急需研究的问题。本文以大数据平台Hadoop为研究对象,重点研究面向Hadoop的内部攻击模型,并提出相应的攻击检测算法。本文的主要研究工作及创新点如下:（1）现有工作未对Hadoop的攻击进行系统研究和实验定量分析,本文提出了四种新的Hadoop攻击模型,通过调整心跳时间、篡改中间数据、阻塞网络等方式,延长集群中作业的执行时间或者破坏作业执行结果的正确性。在Hadoop集群中实现了这些攻击,并通过实验对其效果进行了评估。实验结果表明,这些攻击模型是有效的,且会对Hadoop集群的性能产生较大的影响。（2）针对Hadoop数据攻击,由于其隐蔽性强,目前没有一种高效的检测方案。本文提出了一种基于对比验证的Hadoop数据攻击检测方案。为了减少攻击检测带来的性能开销,在数据输入阶段对数据按照设定的比例做抽样,并根据抽样的数据大小启动一定数量的集群节点执行map任务,然后在reduce阶段将抽样数据的中间结果和正常数据的中间结果进行对比以检测集群中是否发生数据攻击。实验结果表明,该方案具有较高的检测率。（3）针对心跳、MR调度、Shuffle等攻击,提出了一种基于机器学习、通用的Hadoop内部攻击检测方法。为了提高检测结果的准确性,提取了DFS、YARN、Map Reduce、RPC、IO及CPU、磁盘等与任务执行相关的46种特征,采用“重要性”筛选训练过程中的关键特性,然后利用支持向量机、K近邻、随机森林、逻辑回归、决策树等机器学习算法对Word Count、Tera Sort、Word Mean等任务提取到的不同攻击数据进行实验,实验结果表明,该方法针对心跳、MR调度、Shuffle等攻击检测的成功率达到了85%以上。