随着移动产业的发展和人们对移动设备依赖的加深,近年来Android恶意应用滋生迅速,对更加高效的应用性质检测技术的需求也越来越迫切。因此利用机器学习结合传统检测技术进行恶意应用检测,来降低人工成本、提高效率变成了一种热点研究方向。本文在现有研究的基础上,提出了一个新型的Android恶意应用检测算法模型。模型使用本研究改进后的应用行为监控技术获取应用运行时的API调用序列,从中提取出与恶意性质检测相关度高、相互之间冗余度小的特征,并注意到恶意应用运行时可能存在的非恶意行为产生的API子序列对检测器训练的干扰,利用vsm、k-means配合梯度提升树算法消除这种干扰,提高检测的准确率。本文的主要研究成果有以下几点:1)对Android安全相关的技术、理论和算法做了分析。2)在深入研究Android系统机制的基础上,对各种应用行为监控方法的原理进行了分析,对现有研究中存在的影响监控平台效率的因素作了研究,针对应用行为信息的记录导致受测应用运行卡顿的问题,设计实现了一个应用运行时信息记录缓存机制,利用mmap机制的高效读写能力解决了卡顿问题。3)为了提高应用运行时信息收集的效率,设计实现了一个自动化运行应用的框架,可以自动化运行应用,节约时间和人力成本。4)本文分析现有特征选择算法存在的问题,在现有研究的基础上,对算法进行调整和扩展,得到了一个可以获得对检测贡献大、相互之间冗余度小的特征集的算法—MD_MR。5)针对现有研究中,无法有效处理恶意应用的正常行为产生的干扰API序列对检测准确度的影响的问题,提出一种使用向量空间模型和提升树算法进行应用性质判别的算法模型—EIA_GDBT。6)对应用行为监控技术、恶意应用检测算法模型改进后的效果进行了验证,并结合前人研究成果和本文所作创新设计实现了一个Android恶意应用检测系统。