像鸟类的季节性群体迁徙、海洋鱼类群聚行为、非洲动物的集体迁徙等生物行为在自然界中是非常普遍的,它们具有一个共同的特征—集群行为.近年来随着学者们对人工智能、股票市场、无人机自动编队、航母战斗群联合作战、深水潜艇鱼雷联系防御与攻击等复杂系统研究的深入,多智能复杂系统的集群性(同步性)显得尤为重要.因此,越来越多的学者开始关注生物的这种群体集群行为,希望从仿生学角度来研究它们形成的内在机理,最终达到实现多智能体复杂系统集群控制的目的.从匈牙利杰出教授Vicsek于1995年在著名杂志PRL上提出了的个极具代表性的多智能复杂系统的集群模型开始,越来越多的学者开始对复杂系统的集群行为进行研究.2007年Feilds奖和Wolf奖的双料得主Smale教授和他的同事Cucker教授简化了 Vicsek提出来的集群模型.基于Smale的模型中建立的智能体间信息传递交换机制,本文对多智能体复杂系统的集群行为进行一些研究.论文的主要工作有:在第二章,对Motsch和Tadmor提出的一个公开问题进行研究.从全新的角度研究一个具视觉角度智能体复杂系统模型,主要贡献是给出该系统集群控制的初始条件,并对它进行说明.该模型是由Motsch和Tadmor在2010年提出来的.这个模型的一个显著特点是在智能体"j"的可视角度之外的其它智能体"i"的行为并不能对该智能体"j"的行为产生影响(模型中这些智能体"V"对应的影响函数值变为零).这一现象的存在大大增加了数学研究的难度,Motsch和Tadmor没有对这一模型进行理论分析和证明.本章中我们在理论上对这个极具现实意义的模型进行理论分析,同时给出该系统满足集群性的初始值条件.为了解决这个问题,我们考虑个体之间速度角度的变化规律(比如鸟类飞行是速度角度的变化),发现在一定的初始值条件下,个体之间的运动方向的最大夹角存在单调递减性质,并且随着时间的推移速度方向最终趋于一个方向.运用这个最大夹角的单调性我们证明在一定的初始条件下它们能够形成群集行为.通过我们的研究表明,只需要调节系统的初始条件,就可以实现对该类系统的集群性进行控制.在第三章,我们建立一个新颖的具有多领导机制且智能体之间的影响具对称性或无对称性的多智能体复杂系统(RH模型),并研究了该系统的集群行为.建模的过程中我们受到以下工作的启发:Vicsek发现在动物的集群行为中(比如鸽子的结队迁徙)存在等级关系以保证更高效的集群行为,这一结论发表在著名杂志《Nature》上.Shen教授和李祝春教授各自建立的具单领导和等级制度的复杂系统模型.区别于Shen教授和李祝春教授各自建立的模型,我们建立的RH模型可以含有多个决策者,这些决策者可以是具有经验的,或者是智能系统中由操作人员控制的那部分个体.此外,在RH模型中假定存在若干个等级,上一级直接给下级传达指令,信息只在同级或者上下级之间传递.我们通过对RH模型的研究发现在一定条件下该模型最终会具有集群性.另一方面,在本章中,基于生物学家Scaruffi、Gallad和Hawary的研究工作—任何系统集群行为的智能体中存在自由意志(区别于来自其他个体的影响),我们建立一个具自由意志的连续复杂系统模型.系统中的自由意志要么是来自于个体主观的跟系统状态无关的意识,要么是外界对复杂系统中智能体持续的或间断性的干扰.同时,我们证明了在适当的条件下该复杂系统同样能维持集群性,所给出的自由意志条件比之前文献中的条件更加一般.此外,该章中也给出了在自由意志函数条件不满足定理条件的情况下,系统集群性质消失的例子.在第四章,我们从数学的角度提出弱集群的概念,即多智能复杂系统中个体之间的速度并不要求最终一致,只需要距离始终有界.这个概念能更好地与实际相吻合,因为从生物学意义上说,集群性并不要求个体的速度时刻保持一致,只要求它们的距离始终有界.此外,之前关于多智能体复杂系统集群性的数学定义要求速度保持最终一致性,虽然这种定义方式能够使得从理论上对集群性的研究变得更加简便,但是跟实际情况的拟合不是很完美.例如,具有集群行为的系统中生物个体有时存在速度同步的滞后性,但它们的距离始终是有界的.基于Smale提出来的模型中智能体信息传递机制,在本章中,我们主要建立两类具有弱集群性质的模型,一类是由两个个体组成的具有弱集群性质的模型,另一类是由N个智能体构成的具弱连通性质的模型.一方面,我们在建模过程中对智能体引入自由意志函数.另一方面,我们给出这两类模型的保持弱集群行为所需的条件,并从数学上进行理论性证明.最后,通过数值模拟对得到的结果加以验证和说明,并且发现当系统个体之间的自由意志函数不满足我们的条件时候,弱集群性就可能被打破.在第五章,我们对未来的研究工作进行展望.一方面,考虑到当多智能体复杂系统中的自由意志函数条件稍微弱化时,Smale的模型及本论文第三章建立的RH模型中都可能会出现有趣的弱集群现象,而目前还没有从理论上给予证明,未来可针对这个问题进行研究.另一方面,我们给出一类新颖的多智能体复杂竞争模型,接下来的工作中我们将从理论上对这类模型进行研究.