近些年来,随着研究的深入进行,全双工中继通信系统不仅可以扩大通信服务的覆盖范围,而且还可以进一步提升系统的频谱利用效率和通信的数据传输速率,受到了全世界研究学者的广泛关注。全双工中继通信系统能够在相同频率和时间内,同时发送信号和接收信号,因此与半双工中继通信系统相比能够成倍地提高频谱效率。但是全双工中继通信系统的中继收发端之间存在着信号泄漏,这会导致自干扰的产生,自干扰使得中继通信系统的性能严重恶化,因此,实现全双工技术的挑战在于如何有效消除全双工带来的自干扰。本文主要围绕全双工双向中继系统展开,重点对基于加权最小均方误差（WMMSE）算法的中继发射波束形成器进行了研究,主要研究工作如下:（1）考虑了单对信息源的全双工双向中继（FD TWR）系统中继处的发射波束形成器的设计问题。首先,建立了一个单对信息源的FD TWR系统的模型。该系统的两个源结点均配备多根天线,附近的每个中继节点配备两根天线,一根用于传输,另一根用于接收。接着,设计了一种基于WMMSE算法的迭代线性中继发射波束成形器。在中继处发射功率有限和ZF归零的约束下,采用最大化加权信息和传输速率的准则,建立了中继处发射波束成形器的起始设计模型。该设计问题等价于矩阵加权和MSE最小化问题,应用WMMSE算法求解。为了便于比较还设计了基于最大化源节点较小的信噪比算法以及基于最小化均方误差算法的迭代线性中继波束成形器。最后,通过对加权和速率和平均运行时间的仿真,评估了WMMSE波束形成器的有效性和高效性。（2）在单对信息源的FD TWR系统模型的基础下考虑了多对信息源的全双工双向中继系统中继处的发射波束形成器的设计问题。对多对信息源的FD TWR系统进行分布式的实现,提出了三种算法,分别是分布式WMMSE算法,分布式SNR-MAXMIN算法以及分布式MMSE算法,并讨论了这三种分布式算法的计算复杂度。最后,通过加权平均和速率和CPU运行时间验证了分布式算法的有效性和效率。