复杂网络遍布人类生活的各个领域，其理论引起了广泛的关注。复杂网络的一个显著特征就是存在社团结构，社团挖掘逐渐成为一个新兴的研究课题。具有社团结构的复杂网络，社团内部节点之间联系紧密，而社团之间的联系相对稀疏。本文介绍了课题的研究背景及现状，具体分析了各算法的优缺点以及适用范围；分别提出了应用于无向无权网络以及有向赋权网络的重叠社团发现算法，主要研究内容如下：(1)提出了基于三角形的重叠社团发现算法TROC，本算法的研究对象是无向无权网络。通过判断两个相邻节点与其共享邻居节点是否能够构成三角形来判断这两个节点是否归属于同一社团。在计算机生成网络及空手道网络和海豚关系网络两个真实网络上进行了实验，都正确的识别出了社团结构以及重叠节点，表明了此算法对于发现重叠社团结构的可行性和有效性。(2)在有向赋权的电子邮件网络中，研究了网络所表现出来的各种特性，如中心性、小社团稳定性、小世界性质等，给出了边权的创新性定义、判断节点之间联系紧密程度的权重系数的定义以及边的重要性评估方法。(3)提出了基于种子边的重叠社团发现算法LELFM，在此算法中把边作为研究对象。首先，利用EdgeSort算法给出了边的重要性排序，选出其中的种子边作为初始社团并对其进行扩展；在社团扩展的过程中，提出了边社团适应度以及边适应度的概念；并在Enron数据集上对LELFM算法进行了验证，同时与LFM算法和改进的加权G-N算法进行了比较，证明了LELFM算法在有向赋权网络中的有效性。