伴随移动网络的迅速发展,手机已经成为人们上网的主要设备,其中安卓操作系统占比超过80%,安卓应用数量已经突破300万。各类安卓应用不断增加的同时,恶意软件规模也逐渐扩大,对用户个人隐私和财产造成极大威胁。研究安卓恶意软件分类能够帮助安全人员针对各类恶意软件提出更有针对性的防御手段,对于保障用户财产安全,构建移动端生态安全有着积极的作用。与传统基于特征分析的恶意软件分类方法不同,基于图像化的恶意软件分类是将恶意软件以二进制形式转换为像素点并构成图像,使用深度学习模型实现恶意软件的图像分类,在提高分类精度的同时免去了复杂的特征选择步骤。将图像与深度学习相结合进行安卓恶意软件分类,相关人员已经开展了一系列研究,但现有方案仍然存在两方面不足:一是恶意软件图像化方案没有充分表征恶意软件行为特征,影响分类精度;二是深度学习算法的高分类精度往往依赖于大量有标注样本,但恶意软件的标注需要专业人员进行长时间分析,标注成本很高。本文围绕提高安卓恶意软件分类精度和减少人工标注成本两个方面,提出了新的恶意软件图像化方案与分类方法。针对现有安卓恶意软件图像化方案未能充分表征恶意软件行为特征,提出了多文件灰度图合成的安卓恶意软件RGB图像生成方法。考虑到生成的RGB图像可能存在大量与恶意行为无关的噪声,以及恶意软件分布不均衡从而影响分类精度的问题,引入深度残差收缩网络作为分类器模型,通过软阈值函数抑制无关噪声,设计了类平衡损失函数缓解恶意软件分布不均衡带来的影响。通过对比实验表明本文提出的安卓恶意软件分类方法可以有效提高分类精度。基于深度学习的分类方法往往需要大量标注数据,而安卓恶意样本标注成本高,标签难以获取。针对这一问题,本文提出了基于深度主动学习的安卓恶意软件分类方法。通过计算未标注样本的不确定度和去除冗余样本来选择高价值样本,只需对选择的高价值样本进行标注,将标注样本加入原训练集后通过微调的形式对模型不断更新,提高模型分类准确率。实验结果表明,相较于基于深度学习的分类方法,该方法能有效降低标注成本,只需要标注部分样本就能取得良好的分类效果。基于上述安卓恶意软件图像化方案和深度主动学习分类方法,设计并实现了安卓恶意软件检测系统,实现了文件处理、软件检测、样本标注和统计分析等模块,通过功能测试验证了系统的可用性。