近年来,随着移动互联网的发展,Android系统逐渐成为最流行的智能手机操作系统之一。在Android系统用户规模和应用软件数量增长迅猛的同时,恶意软件的数量也开始日益剧增。而现有的移动应用安全防护软件对手机恶意软件的防护措施不足,检测未知的手机恶意软件的能力有待提高,因此,未知恶意软件检测系统的研发也更显得刻不容缓。本文主要研究内容和成果如下：(1) Android理论分析。对Android平台的系统结构及其安全机制作了深入的研究和分析,比较了几种当前流行的Android平台动态分析安全检测技术,为下文提出动态沙箱以及动态检测系统提供扎实的理论基础。(2)研发基于行为检测的动态检测沙箱。该动态沙箱的结构上包括黑白名单匹配模块、模拟器动态检测模块、检测结果反馈模块,其主要功能是利用Android虚拟机来模拟智能终端运行可疑程序,通过监控敏感API方式来分析程序运行的行为,并以XML格式生成恶意行为的日志,最终完成对网络连接、短信收发、隐私泄露等行为的监控和检测。另外,针对一些传统动态检测技术难于检测的新型恶意行为,本文在模拟器动态检测中提出一种特殊场景模拟的方法,有效提高这类行为的检出率。(3)基于动态检测沙箱提出一个自动化动态检测系统。该系统包括样本处理模块、样本检测模块、检测结果反馈模块。其中,为有效提高系统的检测效率和检测准确率,本文在样本检测模块预留了与其他检测技术配合的空间,也提出了具体的检测性能提高方法。本文基于动态检测沙箱提出的动态检测系统采用行为检测的方法对应用软件的行为进行分析和检测,对未知的恶意软件的检测和防护有很好的效果。该动态检测系统在Android恶意软件日益肆虐的情况下,具有极其重要的应用价值和实际意义。