随着信息技术的发展,图作为一种便捷且有效的建模方式,被广泛用于表示复杂的结构化数据。异常节点检测是图分析领域中的重要课题,在诸如社交网络的恶意账户检测,金融网络的欺诈检测等现实生活中有着广泛的应用。图异常节点检测场景的数据往往具有复杂的拓扑结构关系,传统领域的异常检测方法难以处理复杂的关系,此外,信息多元,标签不平衡等特点也造成现有的异常节点检测算法在性能上不尽如意,影响异常检测任务的表现。为了高效的处理图场景的异常检测问题,提高异常节点检测的性能,本文分别从同构图异常节点检测、异构图表示学习技术和异构图异常节点检测三个不同的方面进行了技术研究,主要贡献如下:（1）针对现有的同构图异常节点检测技术目标驱动性不足,以及任务无关的噪声边混合到邻域聚合过程中带来的性能不佳问题,提出了一个融合属性信息的同构图异常检测技术。该技术首先设计了一个基于图神经网络的面向异常检测任务的半监督损失函数直接用于检测节点的结构异常从而充分利用无标签以及有标签数据;同时,本文构建了一个对称的深度神经网络检测属性异常作为节点结构异常的补充,缓解图神经网络聚合过程中的噪声边。此外,本文在五个数据集上验证了模型异常检测效果。（2）针对异构图场景中的多视角图表示学习技术如何提取单个视角的独特信息,提取视角间的一致性信息,以及衡量不同视角重要性的问题,设计了一个基于对比学习的无监督异构图表示学习技术。首先,模型在每个视角下利用对比学习技术无监督的帮助编码器提取具有强判别力的节点特征;其次,模型在不同视角间利用对比学习技术学习不同视角间的一致性;最后,提出了一种基于互信息的视角重要性衡量方法生成节点表示。本文在多个数据集上验证了学习的节点表示在节点分类,聚类,相似性搜索以及欺诈检测等图分析任务上的有效性。（3）针对异构图欺诈检测场景存在着的伪装问题、数据稀疏问题以及类别不平衡问题,提出了基于增强图学习的异常节点检测框架。在该框架中,首先利用参数化的神经网络得到节点间的相似性以缓解特征伪装问题;紧接着,以相似性为中心节点筛选噪音邻居和添加更多的邻居,增加同类节点的边以及减少不同类节点间的边,从而缓解关系伪装和数据稀疏问题;同时,该框架通过互信息学习的方式增强节点表示质量;最后,考虑到真实场景下类别不平衡问题,设计了一个类别感知的损失函数进一步提高模型的异常检测效果。该框架在几个公开数据集上优于近期异常检测算法,消融实验和参数实验也验证了各个模块的作用。