现实生活中存在着大量的复杂系统,将它们抽象成复杂网络进行研究分析已成为一种有效的研究手段。在网络科学中,簇结构已被证明是复杂网络上一种普遍存在的结构特征。挖掘网络的簇结构既对揭示复杂系统中隐藏的各种信息、功能以及变化特征具有重要作用,也对理解现实世界中的各种交互行为具有一定的指导意义,例如,针对社交关系的个性化推荐、预测不同蛋白质之间的互动关系以及挖掘社会媒体的传播行为等。网络聚类算法是识别复杂网络簇结构的有效方法之一,如何设计高效的聚类算法挖掘网络簇结构已成为当今网络科学研究的热点之一。在真实世界中,部分复杂系统的实体之间关系较单一,可以通过构建单层网络进行研究分析。而大多数复杂系统随着时代的发展,实体之间的关系逐渐多元化,不再只是通过单一的关系进行连接,通过构建多层网络对其进行研究分析已成为一种有效手段。因此,针对现实世界种类繁多的复杂系统,本文构建了多种具有不同网络结构特征的单层网络和多层网络。在构建的网络基础上开发聚类算法挖掘它们的簇结构成为本文研究的主要内容。（1）针对多目标聚类方法在单层网络聚类时探索和开发过程不均衡引发的聚类质量欠佳问题,提出了一种基于l2范数约束的多目标离散飞蛾扑火优化算法（DMFO）,有效平衡了种群寻解时的探索和开发过程,提升了解的质量,获取了更优的网络簇结构。首先,开发的DMFO算法将单层网络聚类问题抽象成多目标优化问题,并采用经典的Kernel K means（KKM）和Ratio Cut（RC）作为一对互相矛盾的目标函数进行优化,并利用模块度作为选择后代种群评价指标。其次,为了保证种群在解空间寻解时探索和开发过程的平衡,DMFO算法重新设计了飞蛾扑火优化中的SFG和SFS过程,分别用于保证局部搜索能力和全局搜索能力。最后,一种在方向向量上基于l2范数约束的切比雪夫方法（2 Tch）用来将多目标优化问题分解成一组标量优化子问题进行求解,其可以获得相较于传统切比雪夫方法更优的帕累托集合。在大量的基准网络和真实网络数据集上,从鲁棒性、有效性、准确性等方面验证了DMFO算法的聚类性能。（2）针对传统网络聚类方法在网络结构极其复杂的多层网络上无法准确聚类的问题,提出了一种基于共识子空间图正则化的半监督方法（S MCGR）,实现了共识先验信息对公共低维表示矩阵优化时的充分监督,解决了当前聚类算法在具有大量噪音的多层网络上聚类效果较差的问题。首先,通过非重叠的贪婪搜索方法得到网络的共识先验信息并构建共识先验矩阵。然后,通过构建编码共识先验信息的图正则化项监督多层网络的共识子空间融合。最后,使用构建的共识先验矩阵预处理修改每一个网络层的邻接矩阵,以得到每一层更优的低维表示用于共识子空间融合。通过以上策略,S MCGR方法可以充分利用获取的共识先验信息监督网络聚类,提升网络聚类性能。在人工和真实世界多层数据集上的大量实验表明,提出的方法在挖掘多层网络公共簇结构时具有更优的准确性、适用性、鲁棒性和较低的时间复杂性。综上,本文着眼于求解单层网络和多层网络聚类问题,分别开发了一种基于方向向量上约束的多目标自然启发式算法和一种基于共识子空间图正则化的半监督方法进行求解。同时,通过大量的仿真实验验证了提出的两种算法具有强大的网络聚类性能。