随着无线通信系统的高速发展,对数据传输速率,可靠性以及频谱利用率的要求越来越高。正交频分复用(Orthogonal Frequency Division Multiplex-ing, OFDM)有较强的抵抗频率选择性衰落的能力,与多天线技术相结合后,通过在不同天线上传输不同的数据,可以进一步提高系统容量,而多节点协作被证明是以分布的形式获得空间分集的有效实现方式。本文针对OFDM,多输入多输出(Multiple Input Multiple Output, MIMO)以及协作通信中信道估计,干扰消除和预编码技术做了深入研究,主要研究工作总结如下：1.提出了一种适用于有虚载波的正交频分复用系统的改进信道估计算法。由于传统的信道估计器无法估计虚载波处的信道传输函数,从而逆离散傅立叶变换导致信道能量泄漏,使得时域滤波方法不能够直接应用。为了解决这个问题,利用信道冲激响应的有限性,推导了以最小二乘(Least Squares, LS)法来估计虚载波处的信道传输函数。进一步观察信号子空间和噪声子空间中噪声的相关性,使用最大后验概率准则估计出信号子空间的噪声并消除其带来的估计误差,该过程不需要信道统计信息。不仅在训练模式下,该算法也可以推广应用于基于判决反馈的跟踪模式下。仿真结果表明,改进算法无误符号率平台效应且其误符号率较传统LS算法有2dB的信噪比增益。2.提出了一种混合导频辅助的适用于MIMO-OFDM系统在低信噪比任意多普勒扩展环境下的信道估计算法。针对在快衰落信道下将最优导频(Optimal Pilots, OP)分散在多个OFDM符号内导致信道估计性能较差的缺点,该算法首先假设在一个OFDM符号内未传送OP的子载波上发送相应的虚拟OP,然后利用时变选择信道频域响应的时频相关性及导频子载波处的接收信号可估计出其虚拟接收信号,最后联合真实和虚拟导频接收信号在一个OFDM符号内使用LS准则可以获得信道冲激响应的估计值。仿真结果表明该算法对多普勒扩展不敏感,能有效改善由于信道时变带来的信道估计均方误差平台,且其性能在低信噪比区域好于静态信道下OP的估计性能。3.给出了三种抑制子载波间干扰(InterCarrier Interference, ICI)的算法。(1)提出一种频域迭代ICI消除算法。通过将信道传输矩阵分离为数据部分和ICI部分,首先利用迫零算法获得发送信号的初始估计值,由信道的ICI矩阵生成干扰信号,从接收信号中减去干扰,之后利用数据矩阵和并行干扰抵消算法来消除不同发送天线上相同子载波的多流干扰。仅考虑邻近18个子载波带来的干扰,在其性能与原算法几乎相同的条件下,可以极大的降低计算复杂度。仿真结果表明该算法在不同的多普勒频移条件下能有效的消除子载波间干扰,并且在低信噪比下逼近准静态信道下系统的性能。(2)采用最优频域部分响应编码来消除ICI,主要推导了载噪比的闭式表达式,并以此来定量分析时变信道对MIMO-OFDM系统性能带来的影响以及部分响应编码带来的增益。数值结果表明最优频域部分响应编码能有效的改善载噪比和误码率,且这一增益是与子载波个数和编码深度成正比的。(3)采用MIMO波束成型技术来抑制因循环前缀长度小于信道冲激响应长度时带来的ICI。推导了一种基于单音处理的ICI消除算法,因此实现复杂度较低,同时符号间干扰(InterSymbol Interference, ISI)可以通过简单的判决反馈均衡器来消除。使用最大化信干噪比的准则,给出了发端最优导向矢量和收端最优合并矢量。仿真结果表明,该算法不仅能获得波束成型带来的增益,而且能较好的抑制ICI,改善系统误码率性能,使得在多径时延扩展较大的场景下依然有很好的性能。4.提出了一种正交频分多址(Orthogonal Frequency Division Multiple Ac-cess, OFDMA)系统在时间和频率选择信道下的子载波间干扰消除算法。首先给出了OFDMA系统在该信道条件下的信号模型。通过对接收信号做预处理,使得子载波κ仅对相邻的2τ+1个子载波产生干扰,从而生成了带状结构的干扰矩阵。具体来说,丁的值主要取决于载波频率偏移,进而确定压缩深度,影响接收机的实现复杂度。该算法利用了干扰的带状结构,设计了一种低复杂度具有迭代软干扰消除功能的最小均方误差(Minimum Mean Square Error, MMSE)均衡器。仿真结果表明,在所有信噪比区域,提出算法的误比特率性能在极大降低计算复杂度的前提下,能逼近已有的全长MMSE均衡器的性能。5.研究了放大转发MIMO中继系统中的预编码优化问题。大部分关于这一问题的工作主要考虑了如何设计中继的预编码器,且在系统建模场景中常常忽略源的目的节点间的直达链路。提出了一种同时考虑直达和协作链路的源和中继预编码联合优化策略。设计准则为在源和中继有限发送功率约束的前提下,使得整个系统的互信息量最大。首先构造了一个约束优化问题,为了易于处理和求解,对原代价函数进行松弛并推导了互信息量下界,该下界以迭代的方式渐进的逼近原代价函数的解析式。不同于以往的设计方法,即假设预编码器呈波束成型结构,进而简化和求解该优化问题,我们证明了预编码器的最优结构能将MIMO中继链路转化成并行的单输入单输出(Single Input Single Output, SISO)中继链路。具体来说,该线性预编码设计退化为在多个SISO中继链路中的功率分配问题。应用标准拉格郎日乘子法,可以将原问题化简为标量形式的凸优化问题,通过迭代注水方法能得到其闭式解。仿真结果表明该策略不论利用部分或全部信道信息,性能均极大地优于现存的算法。