图数据作为非欧几里得结构数据的典型代表,能够很好地反映现实世界的抽象。图数据的相关研究已成为近年来的热门领域,例如链接预测、多跳推理和社区检测等任务已广泛应用于现实场景。其中社区检测任务作为图数据分析的典型应用,旨在从复杂的图结构网络中挖掘节点和边之间的隐藏关系,例如在社交网络中寻找具有相似爱好的人群或是在军事知识图谱中划分具有相似属性的军事要素。但是,由于图数据的表示形式愈趋复杂以及数据规模愈趋庞大,传统的社区检测算法在性能和效率上都有所不足。受深度学习在计算机视觉和自然语言处理领域成功应用的启发,学者们致力于将深度学习与图表示学习相结合,进而提出了图神经网络（GNNs）。图神经网络具有强大的图表示学习能力,其已经在社区检测等图数据分析任务上取得优越的性能,但目前仍存在一些不足:1)由于构建图数据的复杂性,部分图数据缺乏足够的被标记数据,这使得图神经网络只能使用少部分标记数据而忽略了大部分未标记数据。2)大部分图神经网络只从单一视角学习图数据,未考虑图数据的局部和全局信息。尤其是在社区检测任务中,社区中的节点和社区的整体分布都扮演了重要角色。3)当前部分图神经网络对以社区检测为导向的目标函数缺乏合理性解释。在无监督场景下缺乏标记数据,使得图神经网络的目标函数与社区检测无关。为解决上述问题,本文分别针对半监督场景和无监督场景下的社区检测设计了新型的图神经网络模型。具体来说,在半监督场景下,提出了一种新型的端对端的迭代特征聚类图卷积网络（IFC-GCN）。IFC-GCN利用迭代特征聚类（IFC）模块增强了经典图卷积网络（GCN）的图表示学习能力。在IFC模块中,利用GCN预训练得到的伪标签和对节点隐藏层特征聚类得到的聚类标签构造判别矩阵,通过判别矩阵可以识别节点对之间的相似关系,然后构造优化模型对节点向量表示进行迭代地优化。除此之外,为IFC-GCN设计了一种类似最大期望（EM-like）的模型训练框架,在该训练框架中通过交替校正伪标签和节点向量表示来进一步提高图网络模型的性能。在无监督场景下,提出了一种基于多粒度特征交互的对比学习框架（CL-MGI）。在CL-MGI中,首先引入对比学习损失函数Info NCE,并理论分析其对社区检测任务的适用性。然后,分别从节点级和图级角度构造两个独立的对比学习模块。节点级模块学习细粒度的节点特征信息,图级模块学习粗粒度的社区分布信息。同时,在节点级模块中提出了一种整合图拓扑信息和节点特征信息的自适应特征融合方法来选择对比样本对。该方法可以选择无偏的正负样本对进而防止节点特征的局部过度拟合。更进一步,引入基于时序熵的度量指标来评估样本质量,并以协同训练的方式实现节点级模块和图级模块的信息交互,进而实现多粒度特征信息的融合。本文针对半监督场景和无监督场景设计的图神经网络模型本质上都属于自监督学习的算法,它们充分利用数据自身的信息来学习良好的节点表征。在半监督场景和无监督场景的公开数据集下都进行了充分实验,实验结果表明本文所提出的方法无论是在社区检测任务的准确率还是模型泛化性上都具有优越的性能。