合作行为在自然界和人类社会中是普遍存在的。然而,选择合作的个体需要牺牲自己的利益使其他个体受益,因此理性个体不倾向于选择合作。如何理解个体间合作行为的出现和维持已然成为最具挑战性的科学问题之一,这引起了来自数学、生物学、经济学、控制科学、计算机科学等相关领域研究学者的关注。近年来,激励策略作为一种促进群体合作的有效手段引起了广泛的关注与研究。本文运用演化博弈理论从以下四个方面深入地探究了激励策略在群体合作中的演化动力学。本文的主要内容如下:首先,研究了集体排斥策略的演化动力学。亲社会排斥策略通常被认为是一种能够有效促进合作涌现的控制策略。然而,当考虑反社会排斥策略时,亲社会排斥策略是否还能促进合作的涌现尚不清楚。本文在公共品博弈的框架下,提出了两种控制策略,即亲社会集体排斥策略和反社会集体排斥策略,并研究了这两种策略的演化动力学。在无限群体中,发现亲社会排斥策略的引入能够促进合作的涌现,而反社会集体排斥策略的加入能够使系统产成动态振荡。在有限群体中发现反社会排斥策略的引入会抑制合作,但不会降低亲社会排斥策略的演化优势。其次,在重复小组相互作用的框架下研究了排斥策略的演化动力学。在此框架下,排斥者需要付出观察成本来鉴别小组中的背叛者,并决定在博弈的某一轮对背叛者实施排斥,被排斥的个体仅仅能获取被排斥前的公共品收益。在无限群体中,发现当背叛者能够在博弈的早期阶段被排斥时,合作、背叛、排斥这三种策略能够形成动态振荡。在有限群体中,发现在及时实施排斥的情况下,合作行为能够得以维持。研究结果表明排斥策略的尽早实施能够更好地解决合作难题。再次,研究了排斥策略和惩罚策略的共演化动力学。虽然之前的研究发现了惩罚和排斥策略均能促进合作的演化,但当这两种激励策略共同在群体中起作用时,哪种策略更具有演化优势尚不清楚。基于此,本文在有限群体中研究了不同类型的排斥策略与惩罚策略的共演化情况,发现不管是在自愿参与还是强制参与的公共品博弈中,当不考虑二阶监控时,个体排斥优于其它策略,而当考虑二阶监控时,集体排斥是最优的激励策略。研究结果表明在解决社会困境问题上,排斥是一种比惩罚更有效的激励策略。最后,研究了腐败博弈交互中激励策略的演化动力学。考虑到激励机构容易受到腐败的侵蚀,因此当执法者陷入腐败时,激励策略是否仍能够有效地促进合作行为的涌现尚未可知。基于此,本文研究了当惩罚者和背叛者概率性地陷入腐败时合作的演化动力学。当不存在反腐控制措施时,研究发现合作行为能够以两种方式在腐败的环境中持续下去,其一是与背叛者和惩罚者在群体中稳定地共存;其二是与背叛者和惩罚者形成类似于“石头-剪刀-布”或者异宿环形式的循环占优动态。而当考虑反腐控制时,发现既排斥腐败的惩罚者又排斥腐败的背叛者能够更好地促进合作的涌现。研究结果揭示了腐败博弈交互中合作得以维持的机理,可以为设计反腐控制措施提供一些理论依据。