时变复杂网络中社团结构的检测和演化分析建模,可以有效的探索复杂网络的结构和功能关联,服务于推荐系统、突发事件检测、恐怖组织识别等重要问题。以进化聚类为代表的时变复杂网络演化社团检测方法得到了广泛的研究和应用,但其方法主要是基于网络的拓扑结构进行启发式优化,不仅缺少理论解释、不易扩展,而且忽略了节点的低阶信息和社团演化。本文在进化聚类框架的基础上,融合时变复杂网络中节点的低阶结构信息,研究基于随机模型的时变复杂网络演化社团挖掘（检测、演化和模型选择）问题。其主要内容和创新性成果包括:第一,依托进化聚类提出了基于对称非负矩阵分解的时变复杂网络社团检测模型。利用随机模型定义时变复杂网络每个快照上节点的社团归属矩阵,基于高斯过程构建了动态对称非负矩阵分解的演化社团检测模型,通过扩展可处理时变网络的社团数目变化和节点变化问题,进而提出了有效的优化算法求解模型。第二,针对进化聚类中样本独立同分布假设的局限,本文融合复杂网络低阶结构信息,提出基于共同类别结构和基于图正则的进化聚类模型。前者假设时变复杂网络的每个快照上存在共同类结构,后者将节点的低阶信息转化为带图正则的非负矩阵分解模型,进而分析时变网络中节点的重要性和演化社团结构并提出了有效、收敛的优化算法。第三,提出了建模节点-社团的时变复杂网络社团演化模型。考虑到目前的社团检测模型不能直接建模社团的动态演化,本文定义社团的概率转移矩阵,进一步融合节点低阶信息建模时变网络的演化,提出了自动进行社团检测和追踪社团演化的生成模型,进而提出有效的模型优化算法并证明其收敛性。第四,针对模型选择问题提出了基于贝叶斯方法的自动演化社团检测模型。针对时变网络中社团个数的动态变化问题,本文基于贝叶斯方法进一步提出了面向节点社团归属矩阵的时变网络社团检测模型来自动地确定网络中每个快照上的社团个数,分析了模型的有效性和可扩展性,进一步提出了有效的优化算法。本课题提出的时变复杂网络社团挖掘方法融合了进化聚类和网络生成模型的优点,扩展了随机模型、进化聚类和贝叶斯模型在时变复杂网络研究中的应用。