下一代移动通信系统(Beyond 3G／4G)可以提供数据传输速率高达100Mb／s甚至更高的通信业务。实现这样高速率和大容量的通信需要频谱效率极高的传输技术。多输入多输出(MIMO)技术充分开发空间资源，利用多个天线实现多发多收，在不需要增加频谱资源和天线发送功率的情况下，可以成倍地提高信道容量。正交频分复用(OFDM)技术是一种多载波传输技术，其多载波之间相互正交，可以高效地利用频谱资源。MIMO技术实质上是为系统提供空间复用增益和空间分集增益。空间复用技术可以大大提高信道容量，而空间分集则可以提高信道的可靠性。典型的空间复用技术是贝尔实验室的空时分层结构(BLAST)，BLAST的编码很简单，对BLAST的研究主要集中在其检测算法上。空间分集技术可以分为接收分集和发射分集两类。采用发射分集技术，发射机不需要知道信道状态信息(CSI)，如果发射机能利用信道状态信息进行信号处理，系统性能能得到提高。MIMO对于频率选择性衰落无法避免，而解决频率选择性衰落问题恰恰正是OFDM的一个长处。另一方面MIMO-OFDM系统可以根据各个子信道的实际传输情况自适应地分配发送功率和信息比特，以最大限度地提高系统容量。基于以上的分析，本文对下一代移动通信中MIMO-OFDM若干关键技术，包括BLAST检测技术、闭环发射分集技术、和MIMO-OFDM系统天线和载波间自适应地分配发送功率做了详细的研究，主要研究内容如下：[1]提出一种高效的最大似然(ML)检测算法，这种算法由于减小了ML算法的候选待检测向量的个数，因此减小了算法的复杂度。[2]提出一种新的低运算复杂度的迭代V-BLAST检测算法。仿真研究证明，文中算法尽管性能要略差于迭代V-BLAST检测算法但其实现复杂度要远小于前者。[3]提出一种高效V-BLAST迭代译码算法，仿真分析显示，此算法与迭代V-BLAST检测算法有相同的检测性能，但其实现复杂度要有很大的减小。[4]提出一种高效的部分闭环发射分集方案，仿真结果显示，在系统信噪比较高时，使用本发射分集方案只利用10％左右的反馈信道占用率就能达到与闭环发射分集方案相近的下行链路性能。[5]提出了一种将自适应功率分配技术应用于OFDM-STBC系统的新的方案。用数学方法证明了此方案是使总误码率最小的最佳方案，为了降低实现复杂度进一步给出了简化的实现算法，给出了仿真结果。