为了提高无线通信系统的传信率,频谱利用率,以及功率效率,本论文引入重叠复用理论和技术,提出了相应的创新性解决方案,具体包括时间域、编码域等多种实现方式,包括对系统结构的改进,复用波形的选择,最佳接收机,与多载波、多天线技术的结合,采用空间零相关窗连续导频方案进行信道估计,与LTE/LTE-A参考信号方案的对比等方面,并通过理论分析和计算机仿真,证明了所提出的技术和方案,对系统性能,以及频谱利用率有明显提升。针对时间域重叠复用(OVTDM)系统,研究发现,OVTDM技术采用波形分割的思想,通过缩小波形信号的时间间隔,引入不同波形的重叠复用,从而获得编码约束关系,并有效提高系统频谱效率。相比传统的高阶调制技术,具有更好的误码性能,更少的输出电平数,以及更高的频谱利用率；在高频谱效率下,一定的观察误码率下(如￡=10-),OVTDM技术的谱效率与归一化信噪比门限,大致呈线性关系。编码的OVTDM系统,其性能超过传统二元域编码配合高阶调制的方案,且性能增益随着采用的前向纠错码的码率的增加而增大。引入采用Turbo码并行级联结构的Turbo-OVTDM技术,相比单路传输的OVTDM技术,系统的抗噪声能力得到增强。在高频谱效率的OVTDM系统设计中,引入没有移位叠加的纯OVTDM技术(重叠重数K,),即POVTDM,将POVTDM与移位OVTDM技术(重叠重数K2)采用串行级联结构,并在同相、正交支路并行复用传输,实现的总谱效率为2K1K2。接收端先分离并行支路的数据,然后分别检测。相比同谱效率的编码调制技术,其性能增益能进一步提高,且译码复杂度从22K1k2降为2×2K1K2。当POVTDM技术与Turbo-OVTDM技术串行级联传输时,接收端引入迭代译码,典型参数下,迭代性能在4次迭代后基本收敛,同样的谱效率下,在观察的误码率内,该系统对应的门限信噪比更低。为将OVTDM技术进一步推向实用化,研究了限带条件下的OVTDM系统,即对OVTDM输出信号进行滤波。重点研究了采用不同的复用波形,如矩形波,具有根升余弦频谱的波形(即工程中常用的RRC滤波器),升余弦波形的OVTDM技术,在AWGN信道的理论性能,以及在时变信道中对抗随机衰落的性能。通过理论推导,OVTDM技术采用波形分割的编码方式,其信道容量超过奈奎斯特准则下的香农容量。传统的对抗衰落的分集技术,需要额外的收发设备,或占用额外的时频资源,而OVTDM技术能够获得一定的隐分集增益,在时变信道中能获得良好的分集性能。针对限带的OVTDM系统,采用升余弦复用波形时,可以实现良好的限带性能,观察滤波器的功率谱和相位谱。信号频谱的第一旁瓣,相比频谱主瓣的峰值,约降低了-35dB,第二旁瓣相比主瓣,降低了-45dB。当时域波形的冲激相应范围为{0,2T}时,主瓣所占的带宽范围为{-1/T,1/T},对应的相位特性在该区间内呈线性分布。观察滤波器的噪声功率谱密度,可知,此时的噪声已是非白的,其功率谱包络基本与采用的复用波形的频谱一致,讨论了OVTDM系统的最佳接收机结构,接收端对接收到的符号序列,先匹配滤波,然后将输出波形白化,再进行最大似然序列检测。通过计算机仿真,验证了这种结构的合理性。由于OFDM/OFDMA技术应用的广泛性,考虑将重叠复用技术与多载波技术结合,对于OVTDM技术,因为其输出的信号包络是非平坦的,用于多载波系统中会引入子载波间干扰,设计了一种联合检测的多载波OVTDM系统,结果表明,子载波数目增加时,该系统能够获得一定的编码增益；采用Turbo码并行级联结构的OVTDM技术,应用在多载波系统中,能够进一步的降低归一化信噪比门限。对于编码域重叠复用(OVCDM)技术,可以灵活地设计OVCDM编码矩阵,从而获得更好的误码性能。着重研究了OVCDM技术构建的系统,与LTE标准中物理层相关技术的对比,并将OVCDM和OFDM技术结合,引入多天线技术,进一步提高系统容量。实际的通信系统中,信号经过无线信道传输时,会发生一定的时间,频率,空间扩散现象,导致接收端信号特性产生变化,信道估计是通信系统设计的一个重要方面。本文中,研究了一种新型的应用在OFDM-MIMO系统的,空间零相关窗连续导频方案,该方案采用具有良好相关特性的互补码组,作为基本的导频序列。同时,采用四色原理组网,在19小区组网的环境下,只需要4组互补码组,艮『J可规避小区内的同色干扰。设计的导频方案能够适用于LTE/LTE-A的资源块中传输,通过调整导频占用的时域OFDM符号长度,以及插入密度,可实现各种场景下的应用。相比LTE/LTE-A系统的参考信号方案,该方案能够获得更高的估计精度,且能有效的对抗同色干扰,且高信噪比下的估计性能基本不受天线数目和小区数目的影响。为进一步研究连续导频方案的理论性能,推导了该方案,与常用的频域估计方法,如LS估计,LMMSE估计的性能对比,连续导频方案采用线性相关器,获得信道冲击响应的时域估值,在一般车速下,估计精度较高；相比LS估计器,该方案能获得较大的信噪比增益,.特定参数下,该增益能达到13.8dB；在高信噪比区域,该方案能逼近LMMSE估计的性能,且只需要信道长度这一先验信息,不需要矩阵求逆和协方差矩阵等外信息,能够实现信道估计复杂度和性能的折中。