随着科技的不断进步和智能手机的不断发展，以及智能操作系统在智能移动终端上的不断发展和应用，智能手机已经成为人们获取价值信息的重要手段。并已逐渐影响人们的日常生活方式与习惯。智能手机上可以运行各类应用程式，极大的丰富了人们的娱乐和生活，与此同时也给智能手机用户带来了潜在的安全风险。Google自发布Android智能操作系统以来，Android手机的市场份额不断扩大，目前已经占据了智能手机市场绝对的份额。在经济利益的驱使下，恶意攻击者也开始对Android操作系统发起攻击以牟取利益。Android操作系统虽然基于Linux系统，继承了许多Linux系统优良的安全特性，以及Linux系统的安全框架，但也存在着一些安全漏洞。Android应用程式运行在嵌入式Linux内核的Dalvik虚拟机（Dalvik Virtual Machine）中。为了保证Android应用程式的安全性，Android操作系统限制每个应用程式只能运行在唯一的用户标识符下（UID），不同的应用程式的进程空间是相互独立和透明的。此外，Android应用程式使用了一种简单的权限标签分配模型，可以通过编辑AndroidManifest.xml文件将相应访问权限暴露给其他应用程式，以便应用程式之间的数据访问和消息通信。Rootkit是众多攻击方式中最隐秘最致命的，因为它能隐秘篡改操作系统的核心数据，让计算机系统和用户面临严重威胁。基于Linux内核的Android系统为Rootkit的研究提供了良好的平台。本文以Android智能手机系统为出发点，对基于Android系统的Rootkit技术的实现原理进行了分析，以检测Android恶意程式（主要针对rootkit程式），主要研究成果如下：提出基于模糊模式识别的rootkit检测算法。检测算法提取Android程式的系统调用函数信息组成特征域上的模糊集来区别良性程式和恶性程式，然后对其进行模式分类，以达到检测rootkit程式的目的。