在电子商务或网络应用环境中,参与者具有理性特征(称为理性参与者)。通过在传统的交换协议中引入理性参与者,理性交换协议已经引起过内外学者的关注,是密码学和博弈论两大学科交叉形成的研究热点。考虑参与者的自利性,在博弈论基础上建立公平交换协议的理性模型,约束参与者选择预定的行为,设计理性公平交换协议,具有重要研究意义。形式化分析方法是分析密码协议较为有效的一种方法,对所设计的理性公平交换协议进行形式化分析,显得尤为必要。本文主要研究内容有:(1)应用扩展式博弈混合策略理论对交换协议进行建模,并引入熵函数对交换协议的过程公平性进行描述;在保证过程公平性原则下运用混合策略纳什均衡概念形式化定义理性公平性,在此模型基础上构造一个新的理性交换协议。(2)将参与者的信誉作为其长远利益,并构造恰当的效用函数去描述参与者的收益;基于重复博弈建立信誉机制下的理性交换协议模型,运用重复博弈的纳什均衡理论给出了理性公平性的定义;并基于此模型对Syverson协议进行改进。(3)在并行认知博弈结构(CEGS)的基础上引入混合策略、期望效用和偏好,得到新的并行认知博弈结构mCEGS,提出可以描述混合策略下的理性交换协议的博弈逻辑mATEL;运用mATEL形式化定义混合策略理性交换协议;基于mCEGS的等价扩展式博弈,对混合策略下的理性交换协议进行形式化分析。