协作通信是一种新型传输技术，是MIMO技术实用化的重要途径。其融合分集与中继传输优势，可将传统的集中式竞争关系向分布式协作关系转变，通过协作方式来提升通信的容量与品质，在不改变基础设施前提下实现发送端多天线的技术难题，所以备受学术界和运营商广泛关注。协作通信关键技术包括：中继节点的选择、编码协作、能量消耗与最优功率分配、多小区协作以及跨层协作等。其中，前三项是基础性理论问题，本文对其进行了深入研究，具体如下：在无线网络系统中选择一个或多个节点作为协作节点，是协作通信研究的基础性问题。首先，从增加系统可靠性和降低复杂度两方面考虑，提出了一种中继节点选择策略，根据信噪比门限方法得到可靠节点，由选择因子来确定最优节点。该策略有较低的误码率和复杂度。其次，研究了Two_way中继系统中继节点选择问题。提出了放大转发和网络编码的双向中继节点选择（TWRS-AF、TWRS-NC）策略，两策略均可实现全分集，并比较了两策略的误码性能和分集增益。最后，在多S-R-D节点网络环境中，使用穷举算法可获得最优解。为降低其计算复杂度，提出了改进选择策略，该策略除了能达到与最优算法类似吞吐量，而且复杂度也大大降低。编码协作是将成熟的信道编码技术应用于协作分集系统中，可以提供分集和编码增益。首先，为解决中继端解码错误而得不到分集增益的问题，提出了一种LDPC编码混合转发协作模型（HF-LDPC）。通过不同的用户发送码字的不同部分，来获得分集增益和编码增益。研究表明：混合转发协作模型性能优于传统LDPC编码协作模型。其次，喷泉码具有编码冗余度低，发端无需考虑信道状态的优点。将LT码运用到协作通信中。讨论了两种传输模式，并说明LT喷泉编码能够降低误比特率，并加快译码速度。在传感器网等功率受限的无线网络中，节点能量消耗和功率分配同样是协作系统考虑的关键问题。首先，分析了影响协作节点能量消耗的因素，并对几种协作模式能耗进行比较。其次，提出一种能量效率的传输算法(EET)，该算法先计算出关键的路径比阈值，之后根据几何关系式来判断节点是否协作传输。最后，研究了协作方式最优功率分配问题，从中断概率角度给出最优功率分配算法并进行了仿真，讨论了最优功率分配和等功率分配所得到的协作增益，并分析了各参数间的关系。