移动互联网的快速发展促进了智能手机用户的高速增长,智能手机应用涌现而出,为用户提供了丰富的功能,为个人生活提供了便利。与此同时,大量恶意智能手机应用出现,严重威胁着手机用户的安全。其中,安卓操作系统由于其开源性和流行性成为了恶意应用开发者的主要目标,研究安卓应用检测技术对于提高用户的安全性具有重要价值。随着安卓恶意应用检测技术的不断发展,越来越多的恶意应用采用混淆技术来逃避检测,这致使现有的检测技术效果正不断下降,这要求我们利用新的特征,提出新的方法以应对这些变化。函数调用图作为安卓应用的细粒度特征,蕴含了应用权限、API调用和结构语义等丰富信息,利用函数调用图对安卓应用程序进行检测具有很大的潜力。本文以函数调用图为主要特征实现了安卓恶意应用的检测,主要工作内容如下:（1）动静态分析结合的函数调用图生成技术。为应对代码加固技术对现有基于静态分析的函数调用图提取技术的阻碍,本文提出动静态分析结合的函数调用图生成方式,综合利用静态分析和动态分析获取安卓应用的静态调用信息与动态调用信息,生成更为完整的函数调用图。（2）基于深度学习的安卓应用函数调用图表示技术。由于安卓应用内部的函数名称易被混淆且数量庞大,对函数调用图的直接比较是困难的,面对挑战,本文提出了属性函数调用图的生成技术以及基于属性函数调用图的图表示技术。属性函数调用图重新组织了函数调用图的信息,在缩减图规模的同时保留了原始图数据的拓扑结构特征。基于属性函数调用图的图表示技术利用深度学习技术通过神经网络实现了图数据到低维特征向量的转化。（3）基于图表示学习的安卓应用检测技术及原型系统实现。本文提出了以函数调用图为主要特征的基于图表示学习的安卓恶意应用检测技术并实现了原型系统。通过实验调优模型的超参数,对检测时间以及检测效果进行了评估。实验结果显示,基于图表示学习的安卓恶意应用检测技术在以Virusshare样本为基础的数据集中恶意良性应用分类任务中达到96.3%的准确率,在Drebin数据集中恶意应用家族分类任务中达到了95.1%的总体准确率,验证了技术的有效性。