针对LTE系统中小区间干扰比较严重，已有的干扰协调技术不能很好的解决边缘用户频谱效率低的问题，在LTE-Advanced系统中引入了协同多点传输和接收(CoMP)技术。该技术通过各个小区之间的联合调度或协作传输，降低邻区干扰，提高用户接收信号质量，从而有效增加系统容量和边缘用户频谱效率。本质上来说，CoMP是多输入多输出技术(MIMO)在多小区下的应用。本文主要研究了基于CoMP的SU-MIMO和NU-MIMO的协作传输方案。　　 首先研究了LTE-Advanced系统的物理层关键技术、参考信号和物理信道处理过程等基础理论，搭建LTE-Advanced仿真链路。其次分析了基于SFBC协作、PSD协作、SFN协作的三种CoMP-SU-MIMO协作传输方案。其结果是SFBC方案性能最优，PSD方案扩展性最强，SFN协作方案复杂度低但性能最差。在主基站和协作基站缺乏正交参考信号端口的时候，可以采取SFN的协作方案，针对SFN对组合信道进行估计，协作基站和主基站延时会影响组合信道估计问题，给出一种在发射端预编码进行线性相位补偿组合信道延时的方案。有效的消除了CP范围内基站之间的延时对SFN协作性能的影响。然后，提出了一种结合SFBC和PSD优势的适合于CoMP系统的改进CoMP-SU-MIMO协作方案。使得接收端在获得频率选择性分集增益的同时，又获得SFBC正交增益，提高了协作性能。　　 最后针对基于CoMP的多用户(MU-MIMO)协作传输，重点研究了消除多用户间共道干扰的BD和SLNR预编码算法。同时由于采用了多用户预编码算法，如果基站间采取联合处理会使得主基站和协作基站之间需要交互大量的瞬时信道信息，为了克服该问题，采用基站内单独进行MU-MIMO，基站间协作的方案，同时为了使接收端获得相干增益，在发送端对发送信号利用等效信道矩阵进行预处理，并对基于ZF和QR的线性相位调整的两种预处理方案进行了分析比较，通过仿真，表明基于QR线性相位调整的预编码方案性能更优。