中继技术可以提高无线链路传输的可靠性和鲁棒性,赢得了工业界和学术界的高度关注,是未来无线通信的核心技术之一。为此,论文以无线中继系统作为研究对象,采用最优化理论、图论和概率论等多种手段,深入探讨了无线中继系统物理层的若干关键技术,完善了相应的理论研究,主要内容与贡献包括：1.在基于OFDM (orthogonal frequency division multiplexing)的AF (amplify and forward)双向中继系统中,考虑了主用户对和次用户对共存的情况。为了合理利用资源,论文采用对偶法设计了功率分配、子载波分配和子载波配对的联合优化算法来满足主用户对的速率需求,同时最大化次用户对的和速率。2.针对基于OFDM的多个AF中继场景,在总功率约束以及源节点和中继节点受到不同功率约束两种情况下,建立以降低系统BER (bit error rate)为目标的数学模型,提出了功率分配、中继选择和子载波配对的联合优化算法。与现有算法相比较,提出算法能显著降低系统的BER。3.研究了Rayleigh衰落信道下OFDM中继通信系统的容量和信噪比各阶矩。论文讨论了两种常见的中继协议：DF (decode and forward)协议和AF协议。借助次序统计理论,获得了两种协议容量和信噪比各阶矩在三种子载波配对情况下的闭式解。这三种子载波配对方法分别是顺序子载波配对、逆序子载波配对和子载波不配对。仿真结果证实了理论公式的正确性和准确性。4.论文最后分析了AF中继系统在Nakagami-m衰落信道下的统计性能,推导出固定功率分配和注水功率分配时,该系统中断概率、信噪比各阶矩、容量和平均误符号率SER (symbol error rate)的理论闭合解。同样,仿真结果与理论分析的数值解精确吻合,为评价AF中继系统的实际性能提供了重要的理论依据。