多天线预编码是新一代无线通信的核心技术之一。基于多天线的开环MIMO技术能够利用空间自由度获得复用和分集增益,以此提高无线通信的频谱效率和功率效率。多天线预编码在此基础上利用系统后端传递到前端的辅助信息对待发送的源信号进行针对性预处理,则可以进一步提高系统综合性能,并且为降低系统接收机的设计复杂度提供了可能。本论文围绕着多天线预编码技术领域中的核心热点问题,在物理层层面上,从信号传输角度出发,对点对点多天线系统的线性预编码设计,多天线预编码系统中的反馈数据压缩策略,多用户多天线系统的优化预编码设计,以及预编码在MIMO-OFDM系统中对峰均功率比的抑制等问题进行了深入的创新性研究。这些研究力求探索信号传输本质,发掘系统性能潜力。鉴于工程可行性要求,性能和复杂度的折中优化亦是本论文的考虑方面。全文主要内容归纳如下。第一章介绍了多天线预编码技术的研究背景,包括和本文工作密切相关的技术定义,分类,历史以及该领域研究的特点。特别总结了部分经典技术以备后文参考。第二章提出两种创新的点对点多天线线性预编码优化设计。第一种是基于螺纹代数空时(TAST)码的线性预编码方案。针对该空时码的内在结构特点,优化了预编码码字选择方法,提出一种称之为奇异值之积选择准则(PS-SC)。数学分析和仿真结果均表明其性能和复杂度的折中比既有方案更理想。第二种是基于正交空时分组码(OSTBC)的非酉的线性预编码设计。根据OSTBC的独特结构,在信号总发射功率不变且不增加系统实时处理复杂度的前提下,利用非酉结构的预编码设计使得理论优化和对应的码本量化的系统综合性能都比传统方案有显著提高。同时,给出并论证了该方法保证系统满分集时对码本大小的约束条件。在此基础上,针对天线空间相关的情况,提出一种改善性能的融合“注水”的预编码码本生成解决方案。多载波技术(比如OFDM)的引入使得预编码的反馈数据量可能随着载波数线性增加,而在实际中未必能够容忍。第三章针对该情况,从预编码码字跟踪的策略角度,根据系统性能界的优化,提出一种新的测度。在保持较低反馈信息量的前提下,该测度能够进一步改善系统性能,并且同时适用于频域相关和时域相关信道。由于该测度方案算法复杂度较低,所以具有工程实用价值。利用发射空间自由度进行用户间数据分离的多用户多天线预编码技术是当前的一个热门研究方向。第四章提出了一种改进的基于信漏噪比(SLNR)的预编码方案。它包括分别侧重不同信噪比(SNR)区域优化的两种迭代算法。该方案深入发掘系统设计中的预编码矩阵和接收合并矩阵之间的内在联系,利用新提出的迭代算法解决其本质上存在的嵌套关系完成求解,从而实现性能优化。数字仿真从平均误符号率(SER)与系统和速率(sum rate)两个角度进行验证。结果表明,新方案相较于原始基于SLNR的方案以及其它经典方案具有综合性能优势。而且,由于迭代算法收敛迅速,因此有利于工程实现。第五章讨论了利用预编码来解决基于空时码的MIMO-OFDM系统的PAPR抑制问题。通过利用频率自由度进行信号变换,提出一种跨频率置换和求反(CFPI)的预编码技术。分析表明其对PAPR抑制效果明显。另外,由于该技术对空时和空频结构的MIMO-OFDM系统均兼容,因此相比既有方案具有更广泛的适用性。最后,第六章对全文进行总结,并根据目前的研究工作对未来研究方向予以展望。