在无线通信系统中,MIMO中继作为一项关键技术,可以有效的增加系统容量和小区覆盖能力。MIMO中继根据转发协议不同可以分为放大转发,译码转发,编码协作,压缩转发等。其中,放大转发中继由于其较低的复杂度和成本,被认为是最具潜力的中继转发方式之一,近年来受到了广泛的关注和研究。现有的对于放大转发中继的研究主要是基于单向通信系统,即信号从一端通过中继转发到另一端,而实际的多天线中继在多数情况下要应用在双向通信的场景中,也就是中继需要同时接收基站和移动台的信号然后进行转发。所以基于该实际应用场景,我们建立了双向链路模型。另一方面,我们发现现有的文献大多以功率作为约束条件,然后基于不同的准则优化,比如最小化均方误差准则,最大互信息准则等,很少有将QoS作为约束考虑在内的,由于QoS和用户体验的直接相关性,本文将QoS作为约束条件,以MSE作为衡量QoS的标准。本文建立了QoS约束下求最小系统发射功率的双向链路模型,提出了一种三步迭代算法,将有五个矩阵变量的优化问题分解为三个凸的子问题分别进行求解,然后进行循环迭代直至达到收敛。具体方法为第一步选择合适的初始点,根据该点优化两个接收矩阵为维纳矩阵。第二步优化转发矩阵,但由于该问题不是凸问题所以很难进行求解,我们提出了一种方法通过利用克罗内克积和舒尔补充(Schur complement)将其转化为SDP问题,然后利用CVX工具包求解。第三步通过推导变换将原问题转化为可以使用拉格朗日乘子法进行求解的形式,再利用二分法解出两个发送矩阵。通过以上步骤我们将原问题分解为了三个凸的子问题从而对五个矩阵进行了一次迭代优化,然后我们可以对以上步骤进行多次迭代直至得到收敛解,由于每次迭代只会使目标函数值保持或者减小而不会使该值增大,所以目标函数最终必会达到收敛。在仿真结果中可以看到,本算法具有很快的收敛速度,因此在实际应用中只需要很少的迭代次数就可以获得良好的性能,这也意味着本文所提的算法具有很低的复杂度和处理时延,这对于双向链路MIMO中继系统的实际应用是很重要的。另一方面我们对比了所提迭代算法和直接放大转发算法、基于奇异值分解算法的性能,结果表明本文所提迭代算法的性能远远优于奇异值分解算法和直接放大转发算法。并且我们还对比了不同中继天线数量和不同发送／接收天线数量下的系统性能,结果表明当天线数越多时,收敛后所需的系统发送功率越低,也即性能就越好,这正体现了性能和算法复杂度之间的权衡,并且由于发送／接收天线对整体系统复杂度影响不大,一种较好的方法是可以简单的通过提高发送／接收天线个数来提高系统性能。