近年来提出的多天线/空时编码、自适应编码调制以及先进的信道编码等一系列技术使得单用户的点对点的信道容量获得大幅提高。然而，如何在多用户、多小区、多天线环境下将高信道容量转换成高的系统频谱效率成为新一代无线通信系统亟需解决的问题。本论文研究工作正是针对此问题而展开的。论文的研究工作以OFDM系统和蜂窝小区为背景、以交织多址为主线，整个工作包括以下四个部分： 1：关于交织多址(IDMA)：从高斯多址信道下获得的容量域和衰落信道下获得的时/频分集角度证明共享时频资源的多址方式比TDMA/FDMA性能更优。比较了CDMA和IDMA的性能，从迭代检测和系统实现复杂度两方面证明IDMA比CDMA具有更好的性能。分析了IDMA-OFDM系统的容量的累积概率分布，在接收天线较多的情况下，以大系统机制(LargeSystemRegime)假设为前提，推导出一个闭合的IDMA-OFDM系统频谱效率的表达式。 2：B3G/4G的多址方案：以TDMA-OFDM为基本多址方案。在上行方向上，通过IDMA使多个用户共享同一时频资源，从而获得多用户容量。在下行方向上无法获得多用户容量，但引入IDMA的好处是可以将当前用户和它的强干扰用户信号联合起来检测。进而，我们提出了四种小区结构，在这些新小区结构中，有利于集中强干扰，而减少弱干扰源，从而提高多小区系统的容量。 3：关于迭代检测算法：建立了IDMA-OFDM系统的单/多接收天线的系统分析模型，在此基础上用密度演进分析方法分析系统的阈值行为。提出了一种推广的最小互熵检测算法(GMCE)，并为GMCE算法提出了一种快速算法使之具有很强的可实用性。提出了一种自适应最小均方误差检测算法(AMMSE)，使得该算法能够充分利用先验信息，其性能在各种条件下均优于MMSE和MRC。 4：关于发送方案：提出了一种基于子带的自适应Turbo编码调制方案，该方案能够以少量的反馈信息为代价，获得接近时变信道容量的性能。与信道容量相比，性能损失小于4dB。提出了一种基于子带的相位预旋转的邻小区/天线联合发送方案，能够获得比直接宏分集或基于SFBC的联合发送方案更高的吞吐量。将这两种技术相结合可大大提高用户在小区边界的容量。 5：其他方面：将IDMA应用到ALOHA中，可将系统吞吐量提高2-3倍，并改善系统的时延性能。