协作通信作为一种新型的传输技术，是利用无线通信系统中随机分布的用户天线，构成虚拟MIMO系统。在不增加硬件复杂度的前提下可获得空间分集增益、提高信道容量和无线链路的传输可靠性，能有效扩大无线传输的覆盖范围，备受学术界和工业界的广泛关注。因此，本文对协作通信中物理层的若干关键技术进行了研究。根据协作节点的信号处理方式，协作通信协议可分为三种：放大转发、解码转发、编码协作。将这三种基本协作机制应用于不同的中继选择策略中，又形成了自适应(选择性)协作和机会协作机制。本文对这些协作机制的基本原理和容量性能进行了研究。在此基础上，研究了OFDM/OFDMA与协作通信技术的中断概率，分析了二者所获得的分集增益与协作节点的个数之间的关系。在无线通信系统中，如何高效、合理地使用有限的功率、频率等资源是一个非常重要的问题。根据不同的优化目标，本文对无线通信系统的信道和功率分配技术的研究现状和研究热点进行详细阐述，对OFDM系统的无线资源优化目标进行了规划，并分析了它们之间的相互转化关系。以此为基础，对OFDM/OFDMA协作通信系统中的子信道和功率分配技术进行了深入研究。通过引入等效信道增益的概念，以maxmin准则作为优化准则，提出了一种兼顾用户的速率公平性和系统容量的子信道和功率联合分配算法。理论研究表明，该联合算法使得所有用户获得相同的传输速率的同时，获得较高的系统容量。为了降低计算复杂度，本文还提出了一种次优的子信道和功率分配算法。该算法将子信道和功率分配问题分成两个子问题，首先假设总功率在所有的子载波上平均分配，以此为前提在每个分配周期内将最好的子信道分配给速率最小的用户。在确定子信道分配之后，利用多水平注水算法将总功率在所有的等效中继信道中进行最优分配。计算机仿真表明，该次优算法的性能接近最优算法的性能，而计算复杂度大大降低。无线协作通信系统中的协作节点是随机分布的，如何从众多的备选协作节点中选择一个或多个合适的节点作为协作伙伴，是用户之间建立协作关系的前提。本文对协作通信系统的中继节点选择算法进行了深入研究。根据不同的通信目标和优化准则，中继节点选择算法可分为基于信道状态信息的中继选择算法、基于效用函数的中继选择算法、基于协作区域的中继选择算法等。与无线资源分配相似，选择协作节点的目标是提高系统容量、降低差错概率以及降低发射功率。因此，本文将功率分配、子信道分配和中继节点选择进行综合考虑，从最优化的角度对OFDMA协作中继系统中的中继节点选择问题进行了研究。以用户之间占用的子信道数为约束条件、以最大化系统的总吞吐量为目标，本文提出了一种基于即时信道增益的机会中继选择算法。仿真结果表明，该算法所获得的吞吐量接近无子载波限制时的系统吞吐量，同时用户占用子信道的公平性最大。因此，该算法对吞吐量和子载波公平性进行了很好的折衷。在多小区OFDMA系统中，小区内的子载波是相互正交的，因此小区内的干扰较小，影响系统性能、尤其是小区边缘用户性能的关键因素是小区间干扰。为了降低小区间干扰，提高小区边缘用户的传输速率，3GPP LTE中提出了很多降低小区间干扰的技术，如部分频率复用、软频率复用、干扰协调、干扰随机化、干扰删除等。另一个备受关注的研究热点是多点协作技术。本文以部分频率复用为基础，研究了OFDMA系统中的多小区协作传输技术。该算法将每个小区分成内部和外部两个区域，同时将外部区域分成三个扇区。内部区域的频率复用系数为1，外部区域的频率复用系数为3。将相邻三个小区的三个扇区组成一个虚拟小区，以每个用户占用的子信道数量为约束条件，由基站控制器对三个扇区天线进行协调调度，共同对虚拟小区内的用户传输数据。理论研究表明，该算法通过增加每个扇区天线的有效用户数量，提高了每个天线的多用户分集增益。仿真结果表明，该算法有效地提高了小区边缘用户的吞吐量和占用子信道的公平性。