耦合系统的同步问题近年来随着在神经网络、信息处理、编队控制等众多领域的广泛应用而成为研究热点。目前关于耦合系统同步的问题研究通常只考虑个体之间是合作的关系。然而,在实际系统与工程问题中个体间也普遍存在竞争关系。此外,当系统的拓扑结构能够划为多个集群（类）时,集群同步（聚类同步）只要求每集群内部的个体达到相同的状态轨迹。本文着力于研究具有竞争关系与多层拓扑的耦合非线性系统集群同步问题,假设每个集群内部的节点之间只存在合作关系,而不同集群节点之间可能存在竞争关系且非线性动力学不同,主要完成以下工作:1)在无领导框架下,设计了一阶线性耦合非线性网络的集群同步协议。首先,假设不同集群之间的耦合拓扑满足集群输入等价条件。然后,分别针对每个集群内部耦合拓扑图是强连通和包含一个有向生成树的两种情况,利用李雅普诺夫方法证明了只要每个集群内部的耦合强度足够大,系统就可以实现无领导集群同步,并给出了易于求解耦合强度下界的代数条件。此外,还考虑了耦合拓扑图是切换拓扑的情况,证明出当每个可能的耦合拓扑图包含一个有向生成树且平均驻留时间大于某个阈值时,耦合系统便能实现集群同步。进一步,通过神经网络系统的仿真验证了所得结果的有效性。2)在领导者-跟随者框架下,通过为每个集群配备一个虚拟的领导者,设计了一种集群同步牵引控制协议。在牵引控制协议下,每个集群内部和不同集群之间的耦合拓扑不再有限制条件。通过选择适当的节点进行牵引,且每个集群内部的耦合强度足够大,耦合非线性系统就能够实现集群同步。此外,还考虑了切换拓扑的情况。最后,给出了仿真实例验证了牵引控制协议和理论分析的有效性。3)基于无向拓扑图研究了一阶非线性耦合非线性系统的无领导集群同步问题,假设节点间的耦合方式是非线性的且满足一定条件。证明了当每个集群内部的耦合拓扑图是连通的且耦合强度足够大时,非线性耦合系统就能够实现无领导集群同步。4)研究了具有位置与速度状态信息的二阶耦合非线性系统的无领导集群同步问题。当每个集群内部与不同集群之间的通信拓扑满足一定条件时,通过设计二阶无领导集群同步协议,实现了二阶耦合非线性系统位置与速度状态的集群同步,并基于理论分析给出了控制协议参数所需满足的条件。最后,给出了两个仿真实例验证了控制算法设计与理论分析的有效性。