将新兴的空间分集技术——协作通信(Cooperative Communication)用于现有蜂窝系统能够扩大通信覆盖范围、改善链路质量、提高频谱效率。尽管理论研究和实现方面都有待业内人士付出更多的精力,但它在无线通信领域已经也将继续发挥无可替代的作用。在无线中继协作系统中,通常可以用来进行信息转发的中继节点(Relay Node)不止一个。如果处于空闲状态的全部中继都同时加入通信转发中,则会造成很大的浪费。而如何从这些节点中选择若干个来参与通信,使协作分集增益最大化,就是中继选择需要完成的任务。中继选择方法决定了哪些中继参与协作,而选择好的中继节点可以保证系统通信的可靠性和有效性,所以中继选择策略对协作中继系统来说是非常重要的方面。在当前的中继相关研究方向,通常假设信道状态信息(Channel State Information,CSI)对于中继节点和信宿是已知的和确定的。而在实际的通信环境中,CSI的瞬时值通常是随时间变化的,而且很多环境因素也会影响到CSI,如节点移动等,从而引起CSI的改变,不能用固定的值来表述。因此从通信可靠性的角度考虑,只有当通信系统中的相应节点掌握了实时的CSI以后,才可以通过该参数恢复出来信源发送的信息。这就需要对信道参数进行估计,它是无线中继协作系统的一个重要研究方向。本文对无线中继网络中的关键技术做了研究,在此基础上提出应用于Nakagami-m衰落信道中的双向中继网络(Two-Way Relay Network,TWRN)的中继选择策略和两种单向中继网络(One-Way Relay Network,OWRN)信道估计器。论文的主要成果如下:1.针对双向机会中继网络,选择最优中继是利用空间分集的一种最有效的方案。然而,在实际的系统中,可能由于多种原因无法得到最优中继,如负载均衡和调度问题,因此很有必要进行其他中继的选择来保证网络的运行。另外在协作分集网络中选用最优中继时,如果源节点或目的节点产生误差,则在评估由此产生的系统性能损失时需要用到第N中继的性能。本文研究了独立平坦Nakagami-m衰落信道下选择双向AF中继系统的第N中继参与协作的通信方式。给出了信噪比的概率密度函数的闭式解析式,并根据该解析式推导出了中断概率和SER的闭式表达式。仿真结果证明了理论推导的正确性,说明了系统不能选择最优中继而选用第N中继方案来完成协作通信时,该方法与最优中继选择策略在中断概率和误码性能方面之间的差别,并研究了中继节点数量和中继序号等参数对系统性能的影响。从仿真结果可以看出,中继选择策略可以很大程度改进系统的误码率和分集性能。2.针对三时隙双向AF中继系统,提出一种双向中继选择机制,并研究了所提系统在独立平坦Nakagami-m中的性能。首先,描述了三时隙双向AF中继系统的信号传输过程,然后,根据系统模型的特征,给出一种不同于最优单节点选择准则的中继选择方法。随后,为了验证该方法的有效性,根据定义描述了该系统的中断概率,并进行缩放推导出其下界闭合式;在信噪比趋于无穷时,求解了它的近似解析式;分析了系统的误码性能;为了更进一步了解系统各参数之间的关系,推导了分集复用折中。最后,通过Monte-Carlo仿真来证明理论分析结果的准确性,并证实了渐近结果可以达到的分集阶数,仿真说明所提方法的性能比最优单节点选择准则性能更好。3.对一个经典分布式OWRN进行信道估计,它由信源信宿和N个中继节点组成,该网络采用分布式空时编码(Distributed Space Time Coding,DSTC)技术来传输数据。采用叠加导频结构,为单跳信道分别设计最大似然(Maximum Likelihood,ML)估计器和最大后验概率(Maximum A Posteriori,MAP)估计器,提出了在封闭式正交导频中用到ML估计器。由于MAP的构造复杂,在单跳信道估计器中,设计了低复杂度的迭代梯度下降估计器。然后,通过Monte-Carlos数值仿真证明了理论分析的准确性。最后,通过分析两跳信道参数估计的标准均方误差(Normalized Mean Squared Error,NMSE),检验了本文设计的估计器的估计精度。