近年来,群集的研究已成为国际上系统和控制领域富有挑战性的前沿方向之一。群集是一个复杂系统,具有自组织涌现、非集中式控制和局部相互作用等特征。群集的研究受到社会性生物集体行为的启发。一方面,它是理解生物复杂性的一个可能的途径;另一方面旨在由分布式方式发展人工群集系统,如多自主移动机器人系统。群集的研究在控制理论和工程应用上都具有重要意义,相关的研究工作和新的理论不断出现,新的更深入的问题也被不断提出,亟待解决。在此背景下,本论文介绍了相关的研究现状,深入研究了群集系统的动态特征、稳定性和群集建模问题,主要分为以下三个方面:一、对由拉格朗日方程组描述的一阶连续群集系统,个体之间具有吸引和排斥作用,其互相作用形成了群集系统的耦合拓扑。我们研究了群集在一般有向有权耦合情况下的动态特征、稳定条件与系统耦合拓扑的关系,给出了由系统耦合矩阵的特征量表征的稳定边界。在n维欧几里得空间中,当群集的耦合拓扑是任意强连通的,不论该权重中心运动与否,我们证明了群集将会在一个有限的过程内,全局指数收敛到一个以群集权重中心为中心的超球中,深入揭示了群集的动态特征和耦合拓扑之间的定量关系。二、对由拉格朗日方程组描述的二阶连续群集系统,系统个体之间除了具有位置项的耦合外,还具有速度项的耦合。和一阶系统不同,二阶系统的稳定性和运动特征除了和系统的耦合拓扑有关外,还和系统的速度项增益与位置项增益有很大关系。我们研究了群集在一般耦合拓扑下的稳定性,其速度耦合拓扑与位置耦合拓扑可以是不同的,且都不必是平衡耦合的。我们在系统的速度耦合拓扑或者位置耦合拓扑之一是强连通的情形下,给出了系统的稳定性判据及其证明。相关的定理可以作为设计系统的速度项增益与位置项增益的方法。我们还证明了,当速度耦合与位置耦合相同且是平衡耦合的情形下,现有结论是我们结论的特例。三、在对离散群集系统的研究上,我们提出了群集的自适应速度模型。尽管当前离散群集的研究引起了很大关注,但是大部分的研究工作是基于常速率模型的,即模型中的所有个体的运动速率是常数。自适应速度包括自适应速率和自适应方向两个方面,具体为:群集中的每一个个体不仅调整其运动方向,而且根据其邻居的运动方向的一致性程度来调整其自身速率。该模型的一个重要特征是,经过一个短暂的暂态过程,所有个体的速率自适应地演化到同一个最大速率值。我们研究了该模型的涌现行为,比较了自适应速度模型和经典的常速率模型的差别。群集的自适应速度策略可以大幅度提高系统的涌现行为和收敛概率,为研究生物群集和技术群集系统提供新的有力的机制。