自然界中很多种类的生物中都存在着复杂的群体行为,生物学家曾对此作了大量研究,也取得了很多重要的研究成果,一般来说,这些群体行为有着各种不同的产生机制,例如:某些菌类或昆虫类的生物个体直接受食物源或其它个体遗留的生物信息素的影响而产生群体行为;某些鱼类、鸟类或其它哺乳类生物直接与其它个体发生交互作用而导致群体行为等等。如何对这种群体行为进行数学建模,并将其应用于人工世界,如一组机器人的协作编队控制等,是目前复杂性科学的前沿课题。生物群体动态行为的进化过程可以看作是一种算法的设计过程,该算法就是要设计生物的行为使之最适合它们所处的环境,而这个过程已经历了百万年的发展,因此通过研究生物群体的动态行为可以揭示控制这些生物系统运作的优化规则,而这些规则对发展类似的工程群体系统有着极为重要的作用。本学位论文主要研究了大规模群体系统的集结行为和迁徙行为的可扩展建模与稳定性问题。首先介绍了群体系统的定义及该领域所研究的主要问题;生物学领域群体集结行为和群体迁徙行为的研究现状;工程领域机器人群体集结和迁徙行为的相关研究以及受生物学群体行为中的粒子交互思想的启发而建立的粒子群优化算法。然后针对大规模群体系统集结行为的研究,我们提出了一种基于最小外接圆方法的群体集结模型,并分析了其可扩展性和稳定性,该模型中每个个体的运动由两个作用力决定:(1)趋向包含个体邻域内所有个体的最小外接圆圆心的吸引力作用;(2)逃避排斥域内距其最近的个体的排斥力作用。结果表明所有个体能在有限时间内形成一个集中的群体,而且我们得出了关于个体之间的稳定距离以及收敛时间的结论。随后我们将基于最小外接圆的收敛原则推广到群体迁徙行为的研究中,提出了一类改进的基于领导者-跟随者模式的协调跟踪模型,其中领导者引导群体其它成员完成趋向目标、避开障碍物的路径规划任务,而跟随者个体跟踪的是面向全局目标的正半区域内的个体组成的最小外接圆圆心位置。另外,我们分析了自由空间和障碍物空间中群体迁徙行为的可扩展性和稳定性,同时提出了一类适合于群体避障的进化规划算法。在研究了群体规模的可扩展性之后,我们进一步研究了个体邻域规模的可扩展性,通过对个体不同的吸引源集合切换不同的控制作用,能够保证个体之间可观测性的延续,在提高整个群体规模的扩展性的同时也提高了个体邻域规模的可扩展性。通过将个体趋向其邻域最小外接圆圆心的行为理解为个体与其邻域内几个最远的个体之间交互作用的涌现结果,我们提出了一种适合于理解大规模群体系统集结和迁徙行为的两层涌现结构。另外,我们提出了一类模糊隶属度函数来描述个体运动的不确定位置信息,分析了不确定环境中群体行为的动态特性。群体模型确立以后,需要设计实际的机器人使之动态特征方程与预先设定的理论群体动态性能相符合。我们采取基于滑模控制理论的到达律控制方法设计个体跟踪理想群体动态性能的动态方程,介绍了群体行为研究在机器人群体柔性编队任务中的应用。总之,对群体系统中交互智能个体之间的协调机制与群体所涌现出来的协调行为的内在关联的研究无论是对生物群体涌现行为的理解还是对工程群体的应用都具有重大意义,因此全面综合多学科的工作成果而发展综合性的方法来理解群体行为的研究势在必行。