复杂网络是研究复杂系统的重要模型和工具之一,随着对复杂网络的研究,人们发现了复杂网络的许多重要的性质,其中社团结构是复杂网络最普遍最重要的拓扑性质之一,自动发现复杂网络中的社团结构对分析复杂网络的拓扑结构、功能和隐含模式,预测复杂网络的行为都具有重要的意义,在万维网、社会网、和生物网具有广泛的应用。本文在把握复杂网络中社团结构的研究动态,分析研究现行社团发现算法的基础上,主要就使用聚类技术发现复杂网络中的社团结构进行研究。而网络中结点之间的相似性度量方法在很大程度上影响着聚类算法的效果,因此,本文首先研究了网络中结点之间相似性度量方法,提出了把网络中的结点转化成向量的算法-MVV算法,通过此算法把网络中的结点转化成适合聚类算法的数据结构;对不同聚类算法和不同相似性度量方法发现网络中社团结构的性能进行了比较分析;对使用模糊聚类算法发现网络中重叠社团的方法进行了研究,提出了结点共享程度的度量标准——结点共享度;对原有的谱方法进行了改进,提出了一种基于结点相似性的谱方法,实验结果表明这种方法划分社团的效果与传统谱方法相比得到了提高,并且适合发现规模较大的网络中的社团。最后本文分析了复杂网络中的社团研究和社团发现算法的发展方向。