近年来无线协作中继技术已经被应用到无线移动通信中，用来扩大网络的覆盖范围，提高传输链路的可靠性和数据吞吐率，减少无线终端的传输功率消耗以及降低数据传输的误码率。许多新的协作中继技术已经开始深入工业和学术界，引起了高度关注。在未来的无线通信网络中，协作通信的性能很大程度上依赖于通信资源的优化分配，比如：频带、功率分配和中继选择等。MIMO中继信道因为其融合了中继与多天线系统而能够有效提高协作中继网络的频谱效率，这使其成为协作中继技术的一个研究热点。本文主要着眼于无线协作中继网络中的协作中继传输策略、中继伙伴选择和资源分配等主题的研究。本文的主要工作如下：第一，从时分的角度，研究了瑞利衰落环境下由一个源节点、一个目的节点和一个中继节点组成的三节点无线中继信道。这一部分首先详细讨论了全双工中继在中继目的之间信道容量比源中继之间信道容量更大的时候进行中继传输需要消耗的能量和时间的关系。研究结果表明中继所需占用的传输时间可通过增加能量的消耗而减少，反之亦然。接着，探讨了在源节点仅能够在中继接收期间发送信息的情况下，中继节点以半双工方式工作时的中继信道容量上下限及其时间分配策略。第二，研究了分布式无线协作网络中基于买者卖者博弈的功率分配策略。提出了一个分布式的基于买者卖者博弈理论的资源分配框架，以满足用户链路质量需求为基础，为解决多用户无线协作通信中中继选择和最优化功率分配为目标。联合地研究了源节点和中继节点的功率分配，并且优化了源节点和每个参与协作中继节点的收益。该方法不仅有利于源节点优化选择中继节点和联合地在源与中继之间进行功率最优化分配，以便源节点的总支付最小，而且有利于为互为竞争关系的中继节点选定优化的功率价格，以使它们各自的收益最大化。仿真结果表明在保证用户信噪比需求得到满足的条件下，随着获得的中继节点总数增加，整个网络传输同样数据量的能量消耗会更低。第三，研究了无线协作通信网络中自私节点之间基于Nash讨价还价博弈的资源分配和协作伙伴选择的问题。系统中每一个参与协作的节点既是源节点又潜在地可能作为中继节点。参与协作的两个自私节点由于都能够从相互帮助中获得额外的速率增益而都乐意分享自己的功率和频带帮助协作伙伴进行中继。首先，提出了一个搜索算法以解决两个相互协作用户之间进行带宽和功率联合分配的讨价还价问题。接着，基于Hungarian方法提出了一种针对多用户情况下如何进行协作伙伴选择的算法。基于Nash讨价还价解的资源分配本身具有公平性，同时，基于Hungarian方法的协作伙伴选择算法是以整个网络速率增益为目标的。仿真结果表明协作伙伴之间的资源分配保证了公平性，同时能优化整个网络的速率增益。第四，探讨了在协作网络中利用无线节点的协作改善物理层保密通信性能的问题。这一部分提出了一种新的协作策略：联合解码转发和协作干扰（DFCJ）。基于DFCJ协作策略，研究了一对源节点和目的节点，在一个恶意窃听节点存在的情况下，通过多个协作中继节点的帮助，来提升无线保密通信的性能。在这个新的协作方案中，中继节点在转发来自源节点信号的同时也附加发送干扰信号来迷惑窃听节点。该方案的系统设计目标就是要确定各个协作节点的信号权重和传输功率的分配。对于DFCJ，在迫使协作干扰信号在目的处全为零的条件下，首先给出了在保密速率受限的条件下最小化总传输功率问题的一个闭形式解，接着，通过递归算法获得了在总传输功率受限的条件下最大化保密速率问题的最优化功率分配。通过对传输功率和保密速率分别进行仿真的结果分析，说明了所提出的协作方案相比解码转发和协作干扰能够扩大协作中继节点的选择范围，使更多的协作节点参与协作，从而进一步提升物理层无线保密通信的性能。