多天线技术是无线通信领域过去几十年取得的重要成果之一,在多天线技术的研究中,预编码设计是一个重要方向。根据发送端获取的用户信道信息进行预编码设计,多天线传输可以显著提高用户的信噪比、降低用户间干扰。另一方面,协作通信也是近年来无线通信领域的研究热点,通过基站与基站、基站与用户、用户与用户间的相互协作,可以提高网络的频谱效率,减小网络功率消耗。本论文旨在研究多天线协作网络的预编码设计及性能分析,深入研究无线网络预编码算法的设计,分析多天线技术及协作通信技术给网络带来的增益。本论文主要成果包括:首先,本论文考虑多小区多播网络的预编码设计,分别基于用户服务质量及用户公平性提出预编码算法。在基于用户服务质量的预编码设计中,从用户信道矩阵相关性角度分析了该问题的可解性,并提出分布式预编码算法。对于基于用户公平性的预编码优化问题,在满足各基站单独功率约束的条件下,最大化整个网络中所有用户的最小信干噪比。通过挖掘该优化问题与加权峰值功率最小化问题的对偶特性,提出能获得近似最优解的迭代预编码算法。第二,本论文研究了大规模天线下多小区的多播传输。首先,推导了完美信道信息条件下各基站预编码向量的渐近最优结构。接着,考虑非完美信道信息的情形并推导了在有导频污染的情形下用户的渐近信干噪比。进而,基于预编码向量的渐近最优结构提出全新的导频传输模式来消除导频污染对系统的影响。同时,进一步在用户端引入导频功率控制并推导出导频功率控制的闭式最优解。第三,在非完美信道信息情形下,本论文研究了无线信息-能量传输系统的鲁棒性多播预编码设计。设计目标是在有界信道误差条件下,最大化能量汲取用户接收到的能量同时保证信息接收用户的速率达到事先设定的目标值。基于半正定松弛方法提出高效预编码算法,并证明所提算法总能得到原问题的最优解。第四,本论文研究多天线X型双向中继信道的预编码设计及性能分析。首先推导系统自由度上界。然后,基于信号对齐及联合干扰消除,提出了协作传输模式并且给出了所提传输模式能达到自由度上界的充要条件。接着,考虑广义多天线X型双向中继信道并分析该信道的分集增益。基于信号对齐技术和中继干扰消除技术,提出高效的传输模式,分析了该传输模式下系统的分集增益。接着,通过对用户信道矩阵零空间的可用维度进行深入挖掘,提出了增强型信号对齐预编码算法,证明了该算法下系统的分集增益可以得到进一步提高。