未来高速的无线通信需要能满足一定性能要求的高频谱效率的传输技术,本文以单载波和多载波码分多址(CDMA)信号为背景研究了无线通信中的这个基本问题。本文首先着眼于探索新的多用户检测方法或信号发送方案,然后从理论上进一步研究采用多用户检测方法时提高频谱效率的系统优化设计。本文首先提出了一种用于单载波长码CDMA系统的分组单次干扰抵消多用户检测方法,它与传统的干扰抵消方法相比在相同速率下可支持的用户数要多1/4,大大提高了频谱效率。然后分析了多载波系统的误码率,指出了卷积编码自由距离与误码率的关系,也就明确了自由距离与频谱效率的关系。为了提高频谱效率,本论文基于空时分组码,提出一种逐载波天线选择信号发送方案,使系统获得了超过2dB的信噪比增益。为了对CDMA系统的设计提供高屋建瓴的理论指导,本文还提炼出前面所考虑的系统的数学模型,应用随机矩阵理论分析了采用匹配滤波器(MF)和线性最小均方误差(MMSE)检测子的系统的频谱效率。给出了采用多发送多接收天线的多载波系统的频谱效率的闭式表达,明确了频谱效率与负载系数、信噪比、发送接收天线数的关系,并比较了多载波CDMA与单载波CDMA以及正交系统的频谱效率,发现多载波系统能达到大约两倍于单载波的频谱效率,并当接收天线数很多时,其频谱效率往往超过正交系统。同时还提出一种分布式天线结构,在达到相同频谱效率的情况下能减少天线的摆放数目。本文接着通过一个例子说明了采用接收微分集的单载波多小区CDMA系统的频谱效率优化方法,并研究了影响频谱效率的三个因素,即编码与扩频的关系、导频方式以及调制方式。其重要结论是,当比特信噪比较高并采用线性MMSE检测子,为达到更高的频谱效率,扩频应比编码分得更多的带宽扩展;采用符号导频方式的系统的频谱效率要高于采用连续导频方式的系统;不编码系统达到最大频谱效率的调制方式不是阶数最高的调制方式。