随着LTE标准化工作的基本完成,在满足4G性能指标的基础上,第三代伙伴项目(3rd Generation Partnership Project,3GPP)展开了对LTE-A(LTE-Advanced)系统关键技术的研究。由低功率节点与传统宏基站共同部署形成的异构网络(Heterogeneous Networks,HetNet)系统,在一定程度上能够很好地提高系统容量、增加网络的覆盖范围,但是随着多站点的加入,小区边缘数目增加,将会使更多的用户处于小区边缘,造成较为严重的小区间干扰(Inter-cell Interference,ICI)和更频繁的小区间切换。协作多点(Coordinated Multiple Point,CoMP)传输技术通过将干扰信号转变为有用信号的方式,可以有效的消除/抑制小区间干扰,提高边缘用户和整个系统的性能。多输入多输出(Multiple Input Multiple output,MIMO)技术是一种多天线技术,能够在不增加发射功率和系统带宽的前提下使系统的信道容量获得成倍增加。这里将异构网络部署下的整个基站-用户网络视为广义的MIMO系统,借助MIMO技术进行研究。本文针对无线异构网络多小区多用户的下行传输系统进行研究,建立了异构网络仿真模型,并在该模型的基础上提出了基于路径损耗的基站分簇方法和用户基站联合阈值的基站分簇方法,通过分簇选择到目标用户路径损耗小的基站或者对用户接收有用信号造成较强干扰的基站,再将选出的基站与主服务基站通过协作的方式共同为用户传输有用信号。基于路径损耗的基站分簇方法综合考虑用户与基站之间的距离、目标用户接收的有用信号强度、多用户干扰以及周围小区中基站对目标用户的干扰情况等因素,通过设置路径损耗门限值来选择可以协作的基站。用户基站联合阈值法考虑发射天线数与用户数之间的关系,以负载最大化为原则,利用最大化信道增益范数的方法选出信道条件好的用户,并与基站组成用户基站对,同时确定加入该用户基站对的用户;然后通过设置信号强度阈值,选择出符合要求的基站加入用户基站对中形成待协作基站集合;最后通过调整集合中基站的个数与规定参与协作的基站个数之间的关系,确定最终参与协作的基站集合。仿真结果表明,在无线异构网络的组网模式下,利用本文提出的基站分簇方法对优化边缘用户的传输性能、最大化接收端的传输速率方面具有一定的优势。