演化博弈论是研究策略演化的数学工具。它与统计物理中的粒子系统有深刻的联系,是研究生物学、经济学、社会学和心理学的重要手段。该理论已被成功应用于研究合作行为的产生、生物多样性的维持、艾滋病和癌症等疾病的出现及发展、语言的形成和传播。以往的研究大多假设种群混合均匀、人口数目无穷大,此时描述策略演化的经典方法是一组被称为复制动力学的微分方程。最近,无限种群的假设逐渐被有限种群取代。这主要由于新假设更符合实际。但描述有限种群上策略演化需要随机过程,因此不能直接利用复制动力学的经典结果预测演化趋势,所以提出有效预测策略演化趋势的方法成为研究有限种群上演化博弈的核心任务。　　本文基于演化博弈论的框架,应用随机过程系统研究了:(I)有限混合均匀种群上的演化博弈,(1)提出广义对比较过程和广义Moran过程,利用固定概率和条件固定时间研究弱选择下两个过程的差异性。(2)引入全变差距离衡量嵌入链方法的有效性。针对2×2博弈和广义对比较过程,对使得嵌入链方法成立的临界变异率进行估计。(Ⅱ)有限动态结构种群上的演化博弈,其中包括(1)提出对称边更新规则,对n×n博弈,导出策略演化方程;(2)提出非对称边更新规则,对2×2和3×3博弈,导出策略演化方程;(3)基于导出的演化方程对合作、生物多样性在动态结构种群上的涌现和维持问题进行研究,并导出相应判据。本文的主要内容和创新之处概括如下:　　第一,提出广义对比较过程和广义Moran过程。研究了两个对比较过程在弱选择下的差别。发现对固定概率,如果两个对比较过程的一阶Taylor展开相同则二阶Taylor展开也相同,不同一般从三阶开始出现;对固定时间,如果一阶Taylor展开项不消失,则两个对比较过程在选择强度重置的意义下一阶Taylor展开相同,不同一般从二阶开始出现。对任意两个Moran过程,发现对固定概率,两个Moran过程的一阶Taylor展开在选择强度重置意义下相同,不同一般从二阶开始出现;对固定时间,如果一阶Taylor展开项不消失,则两个Moran过程在选择强度重置的意义下一阶相同,不同从二阶Taylor展开出现。一般地,弱选择的广泛性从二阶开始消失。　　第二,理论上给出嵌入链有效性范围。引入全变差距离定量衡量两个不变分布的差别;利用扰动分析证明对非共存2×2博弈,(NlnN)-1阶次的变异率可充分保证嵌入链方法的有效性,对共存2×2博弈,要使得嵌入链方法有效至少需要变异率的阶次是N-1/2 exp[-N],其中N是种群规模。进一步,指出该结论对一般的广义对比较过程成立。　　第三,提出对称边更新规则,对n×n博弈发现对称边动力学满足细致平衡条件,得到策略演化可用复制动力学方程逼近,其中复制动力学方程的博弈矩阵中每一项为原来项乘相应边的平均交互时间。应用上述结果,建立囚徒困境中合作可以涌现的判据、“以眼还眼,以牙还牙”在“总合作”和“总背叛”同时存在时可成为演化稳定策略的判据。进一步,提出非对称边更新规则,对2×2和3×3博弈导出策略演化方程。应用上述结果表明长久的合作者与背叛者的交互可促进合作。