近年来，无线合作通信技术以其能提高无线通信系统的数据吞吐量，服务质量，覆盖范围，谱效率和功率效率等优势，得到了广泛的关注。合作不仅表现在通信技术层面，也表现在通信网络中通信个体之间和不同通信群体之间，甚至不同网络之间。合作行为可以使得有限的通信资源有序合理地被利用，最大程度地被共享。合作的双方或多方能共赢以获得好处。合作通信已成为当今通信界的研究热点之一。其领地不断地向广度和深度发展。例如，认知无线电网络中的频谱共享和接入也可以认为是频谱拥有者和频谱使用者之间的合作。合作通信系统是由自治实体组成。但是对于这些实体来说，合作并不是纯粹的利他主义，因为这会使得实体容易受到自私行为的利用。合作传输策略或资源共享策略可以看做是特定合作行为的激励策略。合作策略的分析是合作通信中的基本问题，并且应当在每个特定的环境中进行评估和设计。本文引入博弈理论分析新型无线合作网络中合作传输与资源共享策略的设计问题。论文的主要工作概括如下：　　 针对多源、多中继无线合作网络，本文基于双边市场联盟博弈模型，设计一种基于分布式协作节点选择和虚拟支付的合作传输策略；定义该模型下联盟博弈解的结构；给出稳定最优解存在的充分条件；研究使用多中继传输协议的场景中，此条件的成立性。在此条件下，提出一种能够逼近稳定最优解的动态中继选择算法。该算法一方面能够解决为多个源节点分布式选择中继节点的问题，另一方面能够使中继节点得到合理的合作支付。　　 针对无线TDMA网络中的合作传输，本文利用交换市场博弈和重复博弈理论，设计一种合作节点选择和合作维持机制。首先，基于交换市场博弈模型，提出一种合作圈形成算法，以获得到稳定、Pareto最优的合作关系；交换市场博弈模型有一个基本假设，即所有的节点遵守合作预定，当合作关系形成后，博弈随即结束。但是，在无线网络中数据往往被划分为多个数据包传送，一些节点可能背离合作约定，贪婪地获得背离增益，使群体利益受损。因此，基于所建立的合作圈和重复博弈理论，设计一种对背离合作的节点实施分布式惩罚并维持节点间的合作关系的合作维持机制。　　 当今，因特网上的文件共享应用程序风靡全球，人们很容易想到，文件共享技术也将成为民用无线Ad Hoc网络中的一个重要应用。在节点能量受限的Ad Hoc网络中实现文件共享，设计高效的数据传输方案是十分重要的问题。本文针对无线Ad Hoc网络中的文件共享场景，提出基于合作分集的数据文件共享机制；利用重复博弈理论，设计共享协同传输激励策略。所提方案能利用无线场景中多个文件源节点的特性有效提高数据传输的效率。　　 针对认知无线网络中的频谱共享技术，提出了一种新的合作传输与频谱接入模型。该模型中多个频谱拥有者可以使用二级用户做为中继节点，为主用户提供协同传输服务；同时，多个二级用户可以使用频谱拥有者的空闲频谱接入。因此，主用户的频谱效率可以得到提高，空闲频谱资源也得到了有效的利用。基于联盟博弈理论，我们分析当系统中存在支付机制和不存在支付机制时，该模型中运营商和二级用户理性合作策略。分析结果为认知无线网络中多个运营商和多个二级用户之间的合作提供了理论基础；为认知无线网络中的频谱共享提供了新的视角。