由于在改善网络性能方面的巨大优势,长期演进(Long Term Evolution, LTE)系统迅猛发展,成为下一代无线通信的领先研究方向。同时中继技术是现在无线通信中提高小区覆盖率和传输速率的有效方法,因此在LTE无线中继网络中进一步改善网络性能的研究成为通信领域的热门方向之一。采用正交频分复用技术的蜂窝中继网络在小区覆盖范围和传输速率上具有独特的优势。为了提高小区边缘用户的性能,尤其是为了避免小区间和小区内的干扰,本文采用了一种软频率复用方式的优化机制来保证小区间的干扰协调。该算法是干扰回避和负载自适应的,负载变化时,在用户间动态地分配可用频率资源,并利用干扰指数提供的信息降低干扰。本算法可以提高用户在子载波上的信干噪比,从而使系统达到更高的吞吐量,降低阻塞率。仿真结果表明,本算法在负载变化的条件下,能够取得较好的吞吐量、阻塞率和频谱利用率性能。为了解决在LTE蜂窝中继网络中,优化切换目的小区选择和切换性能的问题,本文提出了一种基于代价函数的切换测量和判决机制。与传统切换算法相比,本算法在测量阶段采用了参考信号接收质量,同时提出了一个改进型兼顾切换信号开销和长期吞吐量期望的代价函数。另外用户公平性和资源利用率也得到了考虑。理论分析和仿真结果表明该算法可以提高小区吞吐量、减少切换时延和开销,并提高了用户公平性。本文还搭建了LTE中继组播广播NS2仿真平台,为进一步的理论研究与算法设计提供平台支持。在仿真平台中,优化了协议栈的管理与建立,实现了中继选择算法、包括小区间干扰协调和切换的无线资源管理功能,同时完成了单播业务的建立和发起,网络编码和累积广播等创新算法。