从自然生物种群到人类社交网络,个体交互中产生的大规模的合作行为是社会发展的基石。因此,探索合作行为的涌现机制及其演化机理是信息、经济、生物和社会科学等领域所关注的重要问题,博弈论为其提供了一个可以广泛应用的理论框架。在博弈论中抽象化描述了个体之间的竞争性现象,其中个体的行为可以通过策略来刻画。经典的记忆性策略（例如一报还一报策略、宽容的一报还一报策略与赢定输移策略）虽然都是通过理论获得,但是大量研究表明它们在自然界中都存在实例。在经典的博弈论研究中认为,重复博弈的个体之间的收益由博弈参与者们的行为共同决定。然而在2012年,通过马尔可夫随机过程理论得到的零行列式策略,可以使它的使用者单方面地限制博弈参与者们的期望收益满足线性关系。特别是其中的两个策略子集:剥削策略与顺从策略,其中剥削策略能够获得不低于对手的收益,而顺从策略包含了合作策略、宽容策略与一报还一报策略,并且可以与合作策略达到共同合作的状态。这种通过收益关系刻画策略行为的方式为重复博弈模型中的策略研究提供了新的视角。真实世界中的复杂系统可以抽象为相互作用的个体所形成的复杂网络,如生物界中的蛋白质网络与脑神经网络、社会生活中的万维网和无线通讯网络以及人类社会行为中所构建的社交网络和科学家合作网络,这些复杂网络通常具有复杂的拓扑结构特性和动力学特性。网络演化博弈正是研究复杂网络上理性个体之间交互行为,探索网络拓扑结构和策略演化对网络上合作行为影响的理论工具。因此本文基于网络演化博弈论,分别从网络拓扑结构和策略演化规则两个方面,对零行列式策略在复杂网络上的演化动力学展开研究。主要包括以下内容:首先,本文探索了零行列式策略在规则网络上的演化动力学,研究了正则网络中不同微观结构对于策略演化动力学的影响。通过探索合作、背叛和剥削策略在相同度分布的正则网络上的演化动力学,研究不同微观结构对于策略演化的影响。并通过策略派系的方式来分析不同策略在网络演化中的动态变化,展示了剥削策略能够通过三角形结构促进合作在网络中占优。进一步地,当方格网络中的个体交互基于雪堆博弈与费米函数规则时,研究表明顺从策略可以通过形成策略簇的形式在方格网络上涌现。其次,本文基于重复囚徒困境博弈,从累积收益框架和平均收益框架两个方面探索了无标度网络的拓扑特性对于顺从策略演化动力学的影响。首先研究了无标度网络中节点的度相关性对于顺从策略演化的影响。当个体更新策略时采用累积收益时,中心节点之间的紧密连接会使顺从策略难以蔓延到小度节点上,从而抑制了同配网络中顺从策略的扩散;而当个体采用平均收益更新策略时,小度节点的高影响力反而促使顺从策略在同配网络中涌现。接下来本文研究了无标度网络中聚类特性对顺从策略演化的影响。通过研究可调高聚类网络中顺从策略的演化,高聚类网络的中心节点在累积收益框架下更容易形成顺从策略簇从而抵抗背叛者入侵。然而,当个体更新策略依靠平均收益时,那么无标度网络中的聚类性难以维系顺从策略簇,从而使得高聚类网络中顺从策略容易被背叛者入侵。最后,本文研究了在混合演化规则下,零行列式策略在方格网络上的演化动力学。当个体可以概率性的选择期望驱动演化规则或者是复制动力学规则更新策略,相较于单一演化规则,混合演化规则能够更加有效得促进合作策略与剥削策略形成联盟,令个体的内驱动力可以促使背叛策略与剥削策略转为合作策略,使得合作行为在网络中维持。