近年来,随着互联网技术的飞速发展,不断产生具有相互关系的海量数据。作为对现实复杂系统的抽象,复杂网络利用网络科学来分析个体之间的关联及系统结构。社团结构作为复杂网络的重要特征之一,旨在发现网络中连接紧密的节点集合,从而更加清楚地了解网络中存在的拓扑结构。基于网络嵌入方法可以获得节点的低维向量表示,能够降低算法的空间代价。在此基础上引入网络的高阶信息或社团嵌入,则可以进一步提高社团检测算法的性能。现有检测算法中,在使用网络的多阶信息时,存在着各阶关系重要性的量化问题;将社团嵌入作为“监督信息”指导节点嵌入时,未使用网络的同质性。本文针对这些问题,围绕各阶关系重要性量化、网络同质性的使用展开了研究,主要研究内容与成果如下:针对网络中多阶信息重要性的量化问题,引入注意力机制学习各阶信息的权重,设计了基于网络高阶关系矩阵的社团检测算法。利用不同路径长度节点间的路径数量,设计了网络的各阶关系矩阵;基于注意力机制学习与网络拓扑结构相符的上下文分布作为权重组合,使用加权求和构建出网络的高阶关系矩阵;在目标函数中引入社团嵌入和模块度,使用乘法更新规则,交替迭代更新参数。通过三个数据集获得最优参数组合后,该算法比基础算法最优的Deep Walk性能提高了5.51%。针对未使用网络同质性情况,在节点嵌入与社团嵌入联合优化中引入同质性,设计了基于节点嵌入与社团嵌入的自聚类算法。将社团看作潜在变量引入节点-社团分布和社团-节点分布,采用变分界限与Monte Carlo优化得到节点在社团上的分布关系,从而基于Gumbel Softmax得到节点的具体分区;为了满足网络的同质性,采用链路预测中度量节点的相似度关系作为连边权重,加入以平滑网络中存在连边节点之间嵌入表达的正则项;基于节点嵌入聚类得到社团中心,引入节点与对应类别中心距离均值的Center Loss,以实现算法的自聚类过程。经过计算对比,该算法比基础算法最优的Deep Walk性能提高了3.21%。为了验证上述算法在网络中社团检测的能力,本文分别选取六个数据集和八个基础算法进行评估。基于模块度定义了指标Louvain’s Rate,并使用Deep Walk算法验证使用网络高阶信息对检测性能的必要性。实验结果表明,基于网络高阶关系矩阵的社团检测算法和基于节点嵌入和社团嵌入的自聚类算法在数据集上相对于基础算法整体都有着显著优势。