合作对人类社会至关重要，它是人类文明的基础。社会合作指在一个由大量个体构成的社会中，个体愿意牺牲个人利益以达到更高的社会整体利益。随着生活范围不断扩大和社会分工日益精细化，人们与陌生人交往的机会越来越多。大规模社会中个体在一次性交互中的合作行为称为间接互惠。如何才能在自私个体中促成间接互惠型社会合作？近来对有成本惩罚——即惩罚者花费一定成本给被惩罚者带来一定损失——的研究受到广泛关注，但有成本惩罚在促进社会合作中的作用存在较大争议，例如Ohtsuki等认为有成本惩罚通常会降低社会整体效益。本文综合运用种群动力学、真人互动实验和多主体仿真三种方法研究有成本惩罚在促进间接互惠型社会合作中的作用。社会主体可能采用不同的策略，这些策略可能是合作的或者是不合作的，惩罚的或者是不惩罚的。采用不同策略的主体可以类比于生态系统中的不同种群，策略的预期收益就是种群的适应度。利用种群动力学刻画社会上策略比例的演化，而策略比例决定了社会的合作程度和惩罚倾向。真人互动实验可以基于计算机网络构建虚拟社会，招募受试者在其中彼此交互，提供真实、直接的主体行为模式和社会演化路径。多主体仿真可以针对个体建模，考察个体交互如何形成整体现象，提供社会合作演化的基层运行机制，并能分析更多影响因素对社会合作演化的影响。首先，研究了有成本惩罚在社会合作演化路径中的作用。Ohtsuki等的工作仅仅关注合作演化稳定状态，从而认为有成本惩罚会降低社会整体效益。我们在Ohtsuki等的模型基础上提出社会合作演化模型，利用种群动力学的方法具体刻画了主体策略的演化过程，探讨惩罚在社会从较少合作到完全合作演化过程中的作用。我们发现，惩罚一方面可以扩大合作性社会状态的吸引域范围，即当社会上存在较多不合作参与者时只有惩罚才能使社会摆脱都不合作的恶性循环，另一方面可以提高社会向合作状态演化的速度，即当社会不够耐心时惩罚可以使社会更快到达更为合作的状态。基于此模型的真人互动实验在一定程度上证实了理论分析的结论，当初始社会状态中不合作比例较高时，在鼓励惩罚的社会中，合作比例迅速提高，而在不鼓励惩罚的社会中，不合作参与者不断增加。多主体仿真再现了理论分析的结果，提供了社会合作演化的基层运行机制，还分析了社会人口规模、社会主体学习适应速度和历史记忆长度对社会合作演化的影响。其次，研究了有成本惩罚在具有生死机制的社会中的作用。在上述模型中，惩罚的作用只体现在合作演化的路径上，在社会的演化稳定状态上惩罚会降低社会整体效益。那为什么经过如此漫长的演化后人类社会仍然需要惩罚呢？本文引入生死机制，假设社会中不断有老的个体退出、新的个体进入。退出的个体在社会中学习适应较长时间，可能将接受社会规范并采用合作策略，而新生个体天生自私并采用不合作策略。利用种群动力学对该社会的策略演化动态进行建模和分析，发现有成本惩罚在具有生死机制的社会中对促进社会合作的作用更为明显，即使在社会的演化稳定均衡状态有成本惩罚仍然能够提供最大的社会整体收益。最后，研究了有成本惩罚在无信誉机制的社会中的作用。前面的模型都是基于完美信誉机制的，一个主体的行为可以被其他所有主体知晓并赋予统一的信誉评价，对不同信誉的主体的区别对待成就间接互惠型社会合作。而在无信誉机制情况下，社会如何达成间接互惠型社会合作呢？我们发现，如果有成本惩罚与权力不对称配合，在只有局域信息的情形下社会仍可以达成一定程度的合作。社会主体可以选择作为警察或平民，警察承担遇到不合作对手时必须采用惩罚行动的责任，同时享有在自己不合作时受到的惩罚强度较小的特权。特权可以给一部人愿意承担惩罚责任的动机，而惩罚使得多数人合作并维持社会整体的合作，形成由不合作的警察和合作平民构成的腐败型社会合作状态。同时我们也发现，有成本惩罚和权力不对称的作用在社会上存在较多不合作主体时最为明显，而当社会已经比较合作时，特权过大会导致腐败严重从而降低社会整体收益。