在LTE系统中小区间存在着严重的干扰，这将严重影响系统性能。然而已有的协调干扰技术并不能够很好的解决小区边缘用户的频谱效率低得问题。LTE-Advanced技术能够满足IMT-Advanced系统中提出的性能指标。通过在LTE-Advanced中引入了协同多点传输和接收（Coordinated Multi-Pointtransmission/reception,CoMP）技术来改善已有的问题。CoMP技术能够有效降低小区间的干扰（inter-cell interference,ICI），增强数据率和覆盖范围，并且能够明显的增加小区边缘用户的吞吐率。本论文的主要工作是研究通过在协作基站之间共享必要的信息，如信道状态信息，调度信息和数据信息等，通过不同的共享信息来通过不同的预编码技术来对小区间干扰进行有效抑制。根据不同的共享信息本文主要研究了CoMP下行传输系统中的两类方式：联合处理或传输（joint processing/transmission,CoMP-JP）模式和协同波束成型（coordinated scheduling/beamforming,CoMP-CBF）。在移动通信中分布式多天线协同传输时，目前在此领域中大部分研究都是基于基站不仅要共享发送给所有用户的数据信息，而且需要共享全部的信道状态信息。本文在每个基站只知道本地的CSI情况下，提出了基于虚拟SINR最大化(VSINR)和基于分层的虚拟SINR(LVSINR)最大化的预编码方案。这种次优化但是有效的分布式预编码方法是通过虚拟的信号干扰噪声比（VSINR）的叠加最大化的方式实现的。这种分布式预编码方案能够在一定程度上实现公平的最优化。同时本文还对这种分布式预编码中的功率分配方案进行了改进。本文最后在基于FPGA-DSP架构的硬件上实现算法功能。