LTE-Advanced系统是为了满足IMT-Advanced系统的需求在LTE系统上的平滑演进。作为LTE系统的演进，LTE-Advanced系统在峰值速率、平均频谱效率及小区边缘频谱效率等方面做了很大的提升。同频组网的方式因频谱利用率高而得到广泛的应用，但同时也带来了强烈的同频干扰。相邻小区间的同频干扰，会极大地降低各个小区边缘用户的吞吐量。因此，为了保证边缘用户的通信质量，LTE-Advanced系统下行链路同频干扰抑制技术的研究具有重要的现实意义。　　 针对LTE系统中小区边缘用户频谱效率低的问题，LTE-Advanced系统引入了协同多点传输和接收(CoMP)技术。该技术通过小区间的联合调度和传输，将原来的干扰信号转换成有用信号，降低了相邻小区间的干扰。因此，本文主要从手机接收端的信号检测和发送端的CoMP两个方面入手研究同频干扰抑制技术。一方面，在接收端的信号检测中，本文针对最大比合并(MRC)算法不能克服较强同频干扰的问题，引入了基于最小均方误差(MMSE)准则的干扰抑制比合并（IRC）算法。理想的IRC算法在保证信道矩阵和干扰信号的协方差矩阵估计的准确性的情况下能够得到很好的性能增益，但实现复杂度高。因此，为了在降低实现复杂度的基础上提升性能，本文对IRC算法进行了改进，提出了一种基于DM-RS的方法。仿真结果表明，改进的算法优于已有的算法。　　 另一方面，CoMP技术可以有效地降低相邻小区间的干扰，提高小区边缘用户的通信质量，因此，本文除了研究接收端IRC干扰消除算法之外，还研究了对系统性能提升最大的CoMP-JP技术。重点研究了迫零(ZF)、块对角化(BD)及信泄噪比(SLNR)预编码算法，并在比较三种算法性能的基础上，提出了结合ZF和SLNR算法优势的改进算法。仿真结果表明，改进的预编码算法性能优于已有的算法。最后，本文还从易于实现的角度，提出了易于LTE-A终端实现的接收算法方案设计。该方案能够根据不同的信道环境灵活地选取样本点，仿真结果表明，该方案能在降低复杂度的基础上获得更好的性能。