移动互联网的蓬勃发展不仅方便了人们的现实生活和通讯,同时也极大引发了恶意软件在移动系统的泛滥。恶意软件利用Android系统的设计缺陷和漏洞,以及恶意代码复用技术,能够短时间内生成海量恶意样本,而已有的检测技术大多存在分析时间长、特征提取单一以及无法对混淆应用保持弹性的缺点。为了可以更加高效准确的检测恶意应用,本文结合图像纹理特征、Dalvik指令序列特征以及机器学习多种方法,提出了基于图像模式的恶意应用检测技术。本文主要工作如下:(1)提出了一种基于AndroidManifest.xml清单文件和DEX字节码文件的灰度图像生成算法检测Android恶意应用。针对传统检测方案特征提取粗略单一、特征处理效率较低的问题,本文结合清单文件和字节码文件来生成灰度图像,然后通过多种纹理特征提取算法提取图像纹理局部和全局特征,并采用直方图均衡化等算法优化图像。实验证明,该方法能够有效全面的提取应用特征,并提高特征提取速度。(2)提出一种简化分类Dalvik指令集并且使用形式化指令符号替代Dalvik指令,以及使用SimHash算法生成Dalvik指令符号序列特征向量的特征提取方案。通过结合纹理特征和文本特征,能够精确的匹配恶意应用的行为模式和空间排列模式,有效提高检测方案的检测能力。(3)设计并实现了Android恶意应用检测系统,并使用多种技术比如消息中间件技术、大数据技术等提高系统的计算和存储能力。该系统以在线APK检测平台为场景需求,分为用户交互层、Web Server层、Redis集群层和分布式集群层,能够成功实现在线分析应用的功能。最后对该系统进行了一定的系统测试,以此验证系统的有效性、健壮性和安全性。