在无线通信中，分集技术是一种能有效对抗衰落、提高传输可靠性的技术。作为一种以分布式的方式来获得协作分集的技术，协作通信已经成为了研究的热点与重点。随着移动通信系统中用户数量的增长，宽带资源日益紧张，经典协作方案已不能满足需求。网络编码技术可以使节点的处理能力提高，提高宽带利用率。通过网络编码技术与协作技术的有效结合，可进一步提高通信系统性能。因此，本文旨在通过对网络编码技术充分利用，设计出更高效的协作通信方案。　　此外，随着频谱资源的日益紧缺，作为一种智能频谱共享的新兴技术，认知无线电已经成为无线通信系统的研究重点。通过将协作技术运用到认知无线电系统中，可以有效地改善系统性能。然而，目前的研究主要集中于次用户间的协作传输，主用户与次用户之间的协作传输研究较少，并且一般研究都只针对主用户系统或者次用户系统，没有同时考虑两个系统。针对这种情况，本文研究了认知无线电系统中主用户与次用户间的协作传输，设计出能同时兼顾主用户系统与次用户系统性能的新型协作传输方案。　　本文的主要工作和创新点如下:　　首先，针对双用户与单中继系统，提出了一种基于动态bit-xor的协作传输方案，从理论分析与计算机仿真证明了与增量中继方案相比所提方案的优越性。将此方案推广，针对多用户多中继系统，提出了一种基于动态bit-xor和机会中继的协作通信方案。在广播阶段，所有用户轮询传输，保证了用户间的公平性。在中继阶段，选择出最优中继，针对直传链路质量差且最优中继能正确解码的用户信号进行网络编码，使得中继在一个时隙能同时服务多个用户，达到中继共享。通过理论分析与计算机仿真证明了与对比方案相比，所提方案能在获得满协作分集的同时获得更低的中断概率，保证了通信的可靠性。　　其次，针对多用户多中继系统，提出了一种基于线性网络编码的协作通信方案。与现有方案相比，本方案加入了用户选择，并充分利用了多用户这一特性，在中断性能和遍历容量上获得了显著的性能提升。　　最后，将网络编码技术与协作技术引入认知无线电系统，提出了一种基于bit-xor的主次用户协作通信方案。所提方案充分利用了主用户与次用户之间的协作，根据主用户与次用户间的信道状态来决定次用户是否作为主用户的中继来协助主用户进行通信。在协作模式下，次用户利用网络编码技术将接收到的主用户信号与自身信号编码后转发出去，在接入主用户频谱时还能服务于主用户，保证了主用户系统的性能。同时，通过认知中继的协作传输，提高了次用户系统的中断性能。通过理论分析与仿真证明了所提方案的主用户系统性能实现了一阶的分集增益，所提方案次用户系统的中断性能远远优于现有方案。