随着用户日益增长的通信需求,为用户提供更高的通信速率和更大的小区覆盖范围成为下一代蜂窝小区系统面临的巨大挑战。适用于蜂窝通信网络的中继传输技术已被IMT-Advanced通信标准组织采纳为下一代移动通信系统的关键技术之一。LTE-Advanced、IEEE802.16j、IEEE802.16m等4G移动通信标准都对各自无线中继及其相关技术进行了定义与预研,在中继的配置方式、中继系统的频率规划以及无线帧结构等方面达成了诸多共识。蜂窝网络中的中继是一种无线新型节点,在下行链路中,能把从基站接收到的信息存储起来,经一定处理后转发给用户。在上行链路中,中继把用户的信息经过处理后转发给基站。中继的成本大大低于基站基础设施。中继节点应用于蜂窝网络中可以提高小区边缘用户或者小区内信号盲区用户的通信质量,具有扩大小区覆盖范围、提高蜂窝网络频谱利用效率、改善信道质量等优势。利用信道信息,类似于分布式天线系统采用波束成形技术,多个中继节点可以协同工作,为目标用户提供虚拟波束,从而提高目标用户的接收信号质量,降低对其他用户的干扰,使有限资源得到充分的利用。因此,在蜂窝网络中继系统中应用分布式波束成形技术,对于改善通信质量,提高下一代移动通信的通信速率和小区覆盖范围具有非常重要的意义。本文采用两跳放大转发中继传输策略,中继两跳链路是通过时分或者频分方式实现的,避免了中继内部的收发自激现象。本研究主要内容包括：　　⑴在单小区下行通信系统中,存在一个基站,多个中继以及多个两跳用户,论文考虑下行使用正交频分复用(Orthogonal Frequency Division Multiplex-ing,OFDM)技术,每一个用户占用其中一个OFDM子载波,即每个用户信道相互正交的场景。在系统下行信号传输第一跳中,中继接收到基站发送的所有用户的信息;在第二跳中,多个中继对每个用户采用波束成形技术转发基站信号。论文设计了两种中继系统波束成形优化传输策略：在用户接收信噪比限制下的最小化中继总功率策略；在中继总功率约束或单独功率约束条件下的最大化最差用户接收信噪比策略。分别利用两种凸优化方法,半正定规划和二阶锥规划,解决了上述两种优化问题,并证明了提出的中继波束成形策略的最优性。分析了提出的波束成形优化算法的复杂度,提出了其相应的简化算法。使得用户获得较高的接收信号增益,同时降低了中继的资源消耗。　　⑵在单小区下行通信系统中,论文研究了多个两跳用户占用同一个OFDM子载波在同一频带内接收信号的场景,每个用户会受到中继转发其他用户信号的干扰。在系统下行信号传输第一跳中,多天线基站为每个用户选择一根天线发送其信号;在第二跳中,多个中继采用虚拟波束成形技术为用户转发基站信号。论文给出了多天线基站的两种天线选择算法,同时基于用户接收的信干噪比,设计了两种中继系统波束成形优化传输策略,并利用半正定放松技术解决了上述优化问题。最后论文提出了两种联合优化基站天线选择矩阵和中继波束成形权重的迭代优化传输策略,分析了迭代优化算法的复杂度,并验证了算法经过3次迭代就可以达到近似最优的性能,利用空间分集可以进一步提高OFDM的频谱利用率,降低了用户间干扰,从而提高用户接收信号质量。　　⑶在多小区下行通信系统中,每个小区存在一个多天线基站和多个转发中继。假设每个小区边缘只存在一个受干扰的两跳用户,此用户通过本小区中继接收本小区基站的发送信号,但同时会受到来自相邻小区中继转发信号的干扰。论文在相邻小区共享用户链路信道信息的情形下,研究了多小区中继协作波束成形技术。在系统下行信号传输第一跳中,多天线基站利用波束成形技术发送本小区内用户的信号;在第二跳中,多个中继通过小区间协作利用波束成形技术为本小区用户转发基站信号,同时减少对邻小区用户的干扰。论文分别设计了基站和中继的协作波束成形优化策略,并利用半正定放松技术解决了上述优化问题。最后论文提出了多小区基站和中继波束成形权重的两种联合迭代优化策略：在用户接收信干噪比限制下的最小化总功率联合迭代优化策略；在总功率约束或单独功率约束条件下的最大化最差用户接收信干噪比联合迭代优化策略。改善了用户的正常通信质量,降低了对邻小区用户的干扰。验证了算法的收敛性,经过3到4次迭代就可以达到近似最优的性能,并分析了迭代优化算法的复杂度。　　⑷在多小区每个小区存在一个受干扰的两跳用户的研究基础上,论文研究了多小区内多用户的中继波束成形问题,即每个小区边缘存在多个受干扰的两跳用户,这些用户通过本小区中继接收本小区基站的发送信号,在受到来自相邻小区中继转发信号干扰的同时,也会受到来自本小区中继转发其他用户信号的干扰。论文设计了联合优化多小区多用户基站波束成形权重和中继波束成形权重的两种迭代优化策略。利用半正定放松技术解决了上述优化问题,并分析了迭代优化算法的复杂度。达到最小化系统总功率或最大化最差用户信干噪比的目标,降低了对相邻小区用户的干扰,同时减少了本小区内中继转发多用户信号的干扰,改善了用户的通信性能。验证了算法经过3到4次迭代就可以收敛到近似最优的性能。