随着无线通信的发展和用户业务量的迅猛增长，以及频率资源的重复利用，未来无线蜂窝网络通信面临许多挑战，小区间干扰便是主要问题之一。为了提升系统的频谱利用率，未来的通信系统趋向采用多小区全网同频的架构，这给系统小区间带来较大的同频干扰。这一小区间干扰影响用户尤其是小区间边界用户的服务质量。以OFDM技术为物理层关键技术的下一代移动通信能够有效对抗小区内用户之间的干扰，但仍无法对抗来自小区外的同频干扰。MIMO技术正是在这种情况下发展起来。MIMO技术能提升系统的吞吐量，扩大小区覆盖，改善小区边缘用户性能。MIMO技术已在3GPP LTE标准中采用，主要应用有发射分集，空间复用，波束成形以及多用户MIMO(MU-MIMO)。本文讨论的便是其中的波束成形技术。非协作单小区情形下的波束成形能使该小区用户获得较好的信号功率和信噪比，但这同时也对相邻小区的其他用户产生较大干扰。在多小区基站协作条件下的有效的波束成形技术，能够在保证本小区用户服务质量的前提下，减小对其他小区用户的干扰，还可以降低发射功率，提高系统电源效率，从而提升系统性能。本论文分为两大部分，分别从不同角度研究了协作条件下波束成形算法。第一部分首先介绍了工程中经常碰到的凸优化规划理论及其简单应用。然后介绍多小区多用户下行链路情形下利用协作波束成形减小小区干扰的求解问题。核心准则是在远端用户SINR约束限制条件下，求解最优波束向量以使小区总发射功率最小。从网络运营者的角度出发，这个准则能有效减小小区间干扰，还能提高系统的电源效率。通过推导和转化，这个问题可以表达成SOCP或者SDP问题。通过现有的工具不难解决这样的标准化问题。这部分还推导出多小区上下行链路对偶性并以此为基础推导出一个简化算法，即求最优波束向量的迭代估计函数算法。它可以减少运算复杂度并且自然导出了TDD系统中分布式实现。仿真结果表明它比传统非协作下的波束成形算法有较好的性能改进。第二部分是从另一个角度出发而推导的协作波束成形算法。在一定发射功率条件下，尽量提高用户的服务质量，也即是最大化用户SINR。文中指出，这个问题求解是一个耦合问题，计算复杂度相对很高，于是我们退而求其次，探索一个性能相当，计算相对简单的算法。这一算法和以SLNR为准则的算法类似，其意义是使问题解耦合，从而可以在系统中分布式实现。仿真中比较了其他相应的算法和性能。本论文还将这个算法与第一部分提出的算法性能进行了比较。