现实社会中存在着各种具有特定功能的系统,例如电子商务系统、科学著作系统、在线社交系统等,这些系统可被抽象为具有复杂内部结构的网络,称为复杂网络。很多研究表明,复杂网络具有一个非常重要的特性——社区结构。社区结构可理解为网络中相似元素的集合,挖掘社区结构有利于理解复杂网络的结构与功能。社区结构往往具有层次性,例如地域关系网络中,如果以居民聚集地为标准划分社区,那么这些社区是由小到大层层嵌套的,因为村包含于镇,镇包含于县,县包含于市等等。为了挖掘复杂网络社区结构的层次性,本文从层次聚类的角度研究复杂网络中的社区发现问题,主要包括以下内容:(1)提出一种基于节点相似度的层次化社区发现算法。传统Louvain算法虽然速度极快,但其模块度函数只考虑节点间的链接信息,而忽略周围邻居节点的影响,导致同一社区节点之间的紧密程度下降,从而影响最终社区划分结果的准确性。针对此问题,本文引进节点相似度并加以适当改进,然后重新定义模块度函数,提出基于节点相似度的层次化社区发现算法。在真实网络和LFR人工网络上的实验表明,该算法明显提高了层次化社区发现的准确性。(2)提出一种基于最大团的层次化重叠社区发现算法。研究表明,很多真实网络具有重叠结构,为了能够同时发现层次结构和重叠结构,将传统层次聚类算法的扩展对象由节点换为最大团,并定义最大团扩展的策略,提出一种基于最大团的层次化重叠社区发现算法。该算法利用最大团扩展策略生成层次结构树状图,然后采用重叠模块度函数选择最优结果。在真实网络和LFR人工网络上的实验表明,该算法能很好地实现层次化社区发现,并能准确地识别出重叠节点。