近年来无线通信趋向于更快的传输速率,更大的传输范围,更高的频谱利用效率,而将协作中继技术和全双工技术相结合的全双工协作中继网络因具有上述优点而成为无线通信领域的研究热点之一。全双工中继系统弥补了半双工中继系统对频谱资源利用效率低的缺点,可实现频谱效率倍增,达到更高的系统容量。已有研究证明,将分布式空时编码应用于半双工中继系统可取得满协作分集增益,然而全双工技术中的自干扰问题限制了分布式空时编码直接应用于全双工中继系统。本文针对双向全双工中继系统中的剩余自干扰问题,展开基于干扰“自编码特征”的分布式空时编码研究,并结合功率分配进一步提升系统性能。本文主要工作如下:研究了基于干扰自编码的分布式空时编码方案。针对双向全双工中继系统,重点分析中继节点收发信号规律,通过对剩余环路干扰信号的解耦得到了环路干扰信号的自卷积特性。在研究异步线性卷积空时编码的基础上,结合直达链路,设计基于干扰自编码的异步协作空时编码方案。并基于最大化较小接收信干噪比准则,通过选择合适的中继放大因子,减小剩余环路信号拖尾的影响,进一步提高双向全双工空时编码方案的性能。仿真结果表明,与现有的空时编码方案相比,该方案在获得满分集增益的同时对中继节点的剩余环路干扰具有较好的鲁棒性。对采用基于干扰自编码的空时编码方案的双向全双工中继系统进行优化功率分配。在分析双向半双工和双向全双工中继系统信道容量的基础上,研究基于信道容量最大化的优化功率分配方案,通过仿真分析功率分配对半双工和存在自干扰条件下的全双工中继系统信道容量的影响。并采用最大化较小接收信干噪比和最大化信道容量的准则,联合优化中继放大因子和终端节点的功率分配,得到基于干扰自编码的双向全双工空时编码方案的优化功率分配方法。仿真结果表明,通过功率分配可进一步降低空时编码方案的误码率,提升系统性能。