随着Android系统的广泛使用,众多基于Android系统的智能设备也逐渐成为了恶意软件滋生的温床,恶意软件通过偷窃用户财产和私人信息等不正当行为持续损害着用户的利益。针对安全机制存在的问题,结合已有的研究工作,本文提出了一种Android系统恶意软件混合检测框架,将静态和动态检测相结合,在静态检测部分提出了一种基于深度学习的广义权限序列挖掘的多标签家族分类方法,而在动态检测部分,改进了前人工作,并行动态检测算法,解决了检测模拟时间过长的问题。本文通过该混合检测框架来检测目标应用是否属于某个恶意家族。本文先介绍了Android系统的相关架构,安全机制,并分析了恶意软件在该平台上传播的方式。然后介绍了深度学习的一些基本知识。接着基于Android系统的最小权限机制,将自然语言处理的多标签分类问题迁移到病毒检测中,提出了一种基于广义权限序列挖掘的静态检测方法。本方法旨在通过挖掘应用申请的权限来推断该应用的用途,从而进行所属家族推断。本文使用深度学习进行静态检测,因而需要大量的标签样本,在样本标签方面,本文将众多检测引擎对于同类病毒的不同命名进行了汇总,解决了家族命名混乱的现状。并提出了一种根据检测引擎投票结果的多标签标记方法。在分类问题上,本文所使用的多标签分类模型解决了现如今检测引擎无法解决的单一病毒的多家族行为无法检测完全的问题,并在半公开数据集上,与一些流行的机器学习方法相比,已经达到了相对比较高的准确率,同时该方法也适用于黑白样本分类问题。实验表明,这种方法在黑白分类方面比当今大部分检测引擎更准确。本文的动态检测部分在工程上优化了对象引用图同构匹配算法,分割了匹配状态空间,并行化动态检测,从而减少了检测时间。本文提出的混合检测框架能够有效地解决现存的一些不足,如无法解决代码混淆,检测时间较长,检测准确率较低等问题。本文最终将该混合检测框架落地,整个混合检测框架能够在较短的检测时间内获得较高的准确率。