伴随着无线通信技术的快速发展以及人工智能技术的迅猛兴起,智能体的概念逐渐出现在现代生活和先进的生产活动当中。智能体是指具有感知、学习、决策和行动等基本能力的独立工作单元,能够依据周围环境中的感知信息进行自主的学习和决策,并根据决策结果采取相应的行动。由多个智能体以特定的形式耦合在一起构成的系统称为多智能体系统,高效的多智能体系统可以弥补单个智能体在感知、学习、决策和行动等方面的局限性,从而提升完成目标任务的效果和效率。本文的主要研究目的是探究有效的群体协作机制的构建方法,研究内容包括群体智能、强化学习、多智能体强化学习以及联邦学习。在研究方法上,本文分别从群体智能和强化学习两个不同的领域出发,探究两者在多智能体系统中结合的可行性和有效性。首先,在群体协作算法方面,本文以朴素的共识主动性原理为基础,结合有关星形胶质细胞在神经传递过程中新的作用机理的研究和发现,提出了一种脑启发的共识主动性协作算法。本文发现朴素的共识主动性作用原理和神经突触借助于星形胶质细胞的动态特性进行相互协作的过程之间存在许多相似之处。因此,本文对神经突触之间的这种影响过程进行了数学分析和建模,同时将这种影响定义为智能体间的横向调节作用,并引入到所提出的协作算法中。通过最终的仿真实验过程,本文分别在两个不同的仿真场景中验证了脑启发的共识主动性协作算法的优越性。其次,为了引入单个智能体的学习和进化能力从而进一步提升群体协作水平,本文将上述基于共识主动性的群体协作算法和多智能体强化学习进行了结合,提出了一种基于共识主动性的非依赖性强化学习算法。在该算法中,每个智能体可以通过独立的强化学习过程来改进自身的行动策略,同时通过共识主动性机制来协作完成目标任务。与此同时,为了在协作过程中减少多个智能体的行为可能产生的冲突和矛盾,本文提出了一种基于强化学习的冲突避免机制,同时针对智能体的决策模型以及训练方法进行了相应设计,目的是保证智能群体可以获得较大的全局收益。此外,为了提升算法的可扩展性,本文还利用参数共享技术提出了一种联邦训练算法,目的是同步地快速提升多个智能体模型的训练效果。通过最终的仿真实验过程,本文验证了基于共识主动性的非依赖性强化学习算法的可行性和优越性。进一步,为了分析和优化多智能体强化学习系统在联邦学习中的模型训练效果,本文借助与随机梯度下降过程有关的分析方法,推导出了训练模型在联邦学习中异步周期平均方法下的理论误差收敛上界。进一步,为了在模型训练阶段平衡系统的通信和计算开销以及模型的收敛性能,本文分别提出了基于衰减方法和基于共识方法的优化方案,并给出了模型在两种优化方案下的理论误差收敛上界。通过理论分析和仿真实验过程,本文分别验证了提出的优化方案对模型的收敛性能以及系统效用值的提升效果。最后,为了分析学习模型在训练阶段采用模型参数混合方法对策略性能的影响,本文从一般性的模型参数混合方法出发,利用与信任域有关的分析方法,探究了参数混合方法中混合度量对策略性能的影响。进一步,为了保证参数混合方法对模型的策略提升效果,本文以共识主动性的概念为核心,提出了一种基于智能体模型参数的、可信任群体策略协作算法。本文分别从理论分析和仿真实验两个方面验证了该算法的优越性,在多智能体强化学习的训练阶段,该算法可以进一步提升联邦学习和完全分布式训练算法的收敛性能。