协作中继技术在提高无线通信覆盖范围和系统有效性、可靠性方面已显示出强大的威力,成为21世纪以来无线通信领域的热点技术之一。然而,由于实际中继通信系统的半双工限制,使得传统的单向协作中继在提高无线通信性能的同时也带来了频谱效率的损失。为此,研究人员提出了双向中继技术来进一步提高系统吞吐量,弥补传统单向协作中继频谱利用率低下的缺点。目前,双向中继技术已受到国内外科研人员的广泛关注,成为无线通信领域的研究热点之一。本文考虑双向中继系统传输问题,对双向中继系统中的功率分配和控制以及中继选择问题做了深入研究。主要工作和贡献如下：(1)理论分析了多址接入广播(MABC)协议在放大转发(AF)、解码转发(DF)[包括解码再叠加编码转发(DF-SC)和解码再网络编码转发(DF-NC)两种]和去噪转发(DNF)机制下的系统中断性能。通过理论推导给出了上述中继机制在瑞利衰落信道下的中断概率解析式。仿真实验验证了理论分析的正确性。另外,数值仿真结果表明：在源节点中、小目标速率下,DNF机制在任何信道情况下均有较好的中断性能；DF-NC中继在链路不对称或小目标速率情况下具有较好性能,且随着信道不对称度的增加或目标速率的下降,性能逼近于DNF中继；在大目标速率情况下,DF中继的中断性能将极度的恶化；AF中继与DNF中继相似,对系统目标速率和信道特性不太敏感,适用于大速率和大信噪比情况；相对于DNF、DF-NC和AF中继,DF-SC中继性能较差,但在强不对称信道下,性能与AF中继接近,在大速率情况下与DF-NC中继相同。(2)针对基于放大转发中继的多址接入广播(AF-MABC)协议提出一种基于业务知识的功率分配算法和两种节点发射功率受限情况下的功率控制算法。考虑一种具有不对称业务和链路特性的网络模型,理论分析了不对称AF-MABC协议在瑞利衰落信道下的中断性能,给出了系统中断概率的渐进闭合表达式。理论分析发现,节点发射功率和源节点目标速率共同决定系统中断概率,并且在大多数业务下系统中断性能仅取决于单向链路,而与另一链路无关。基于此,利用系统业务知识和信道状态信息(CSI),以优化系统中断性能为目标,研究网络发射功率一定下的最佳功率分配(基于瞬时CSI)和节点发射功率受限情况下的功率控制(基于瞬时或统计CSI)。结果表明,通过功率分配能够实现任意业务类型和链路特性下的系统中断性能优化；相比于最大功率发送,通过功率控制系统中断性能得到有效提升；基于瞬时CSI信息的功率控制算法性能要优于基于统计CSI信息的控制算法性能。(3)针对AF-MABC协议提出一种基于业务知识的中继选择算法和中继位置选择算法。同样,考虑一种具有不对称业务和链路特性的网络模型,利用系统业务知识和瞬时CSI信息,研究最佳中继选择,以实现任意业务和链路条件下的系统中断性能优化。通过理论分析,给出所提算法在瑞利信道中不同业务情况下的系统中断概率闭合解析式或中断概率上界。数值仿真结果表明：相比于传统的max-min准则,在强不对称业务情况下,所提中继选择算法的性能优势明显。此外,利用系统业务知识和统计CSI信息,研究中继节点最佳位置选择,以优化系统中断性能。仿真结果表明：通过中继位置的选择能够有效提升系统中断性能；当源节点目标速率固定时,最佳中继位置应靠近发射功率较小的节点；当节点发射功率固定时,在强不对称业务情况下,最佳中继位置不变；在中等不对称和对称业务情况下,最佳中继位置随着节点目标速率的变化而更加靠近具有较大速率的源节点。(4)针对DF-NC系统提出一种单一准则的中继选择算法。首先,分析了DF-NC系统的可达速率域。然后,理论分析了max-min和max-sum准则在瑞利衰落信道条件下的系统中断性能,给出了max-min准则下的系统中断概率闭合解析式和max-sum准则下的系统中断概率上、下界。研究发现：在大信噪比情况下,max-min准则具有性能优势,而在小信噪比情况下,max-sum准则优于max-min准则。基于此,在不增加中继选择算法复杂度的基础上,合并nax-min和max-sum准则的优势,提出一种最大调和均值准则算法。数值仿真结果表明：所提中继选择算法能够获得满分集增益；相比于max-min准则,所提算法始终具有性能优势；相比于nax-sum准则,仅在低信噪比和对称信道条件下,所提算法性能略差。(5)针对DF-SC系统,利用系统业务知识,提出两种中继选择算法：基于max-min准则的改进型中继选择算法和基于平衡技术(balance technique)的联合中继选择算法。首先,理论分析了DF-SC系统的可达速率域。接着,利用源节点目标速率的不对称性,提出一种改进型的max-min准则,并通过理论分析给出了所提算法在瑞利衰落信道下的中断概率闭合解析式。此外,利用平衡技术,考虑中继选择和中继端叠加信号功率分配的联合进行,提出一种联合选择算法。数值仿真结果表明：所提算法能够显著提升网络的中断性能；由于联合选择算法综合考虑了中继选择和叠加信号功率分配,因此,联合选择算法具有性能优势。(6)针对DNF系统提出一种基于最大和容量准则的中继选择算法。首先,理论分析了DNF系统的可达速率域,给出最大和容量准则的两种等价形式。在此基础上,提出了一种基于最大和容量准则的中继选择算法,并对所提算法进行了理论分析,给出瑞利衰落信道条件下的系统中断概率闭合解析式。数值仿真结果表明：通过中继选择能够显著提升系统中断性能；与采用max-min准则的AF-MABC系统相比,所提算法在低信噪比情况下具有明显的性能优势。