近年来,无线通信技术不断发展,给人们的工作生活带来了极大的便利。但由于无线信道的开放性,信息在传输过程中易受到非法用户的窃听及干扰。通常,信息安全是通过高层加密体制加以保障的,但随着计算机运算能力的日益强大,传统加密体制已经不能满足当前无线通信网络的安全需求。近年来,物理层安全技术通过利用无线信道本身的特性使窃听者无法正确解码,从而保证信息的安全传输,被认为是一种很有潜力的安全技术。在物理层安全领域常采用协作中继技术,它不仅可以扩大网络覆盖范围和提高数据传输速率,还可以提高无线通信网络的安全性能,成为当前无线通信技术的研究热点之一。因此,本文从协作中继网络的通信安全问题入手,对其安全传输方案进行了研究,主要工作如下:研究了中继节点不可信时,协作中继网络的安全传输方案。针对协作中继网络中同时存在不可信中继与窃听者的场景,分别研究了三种物理层安全传输方案,即协作干扰方案、双向中继方案与轮流中继方案。首先建立协作干扰方案的网络模型,通过设置干扰节点发送人工干扰信号降低不可信中继与窃听者的信噪比,推导得到了系统安全中断概率的闭式表达式,并进行仿真分析。仿真结果表明,相比于无干扰方案,协作干扰方案可有效提高系统的安全性能。其次给出双向中继方案的网络模型,利用两个源节点同时向中继发送信息,使双方信号在窃听者处互为干扰,以此提高安全性能。理论分析及仿真结果表明双向中继方案的安全性能要优于协作干扰方案。最后对轮流中继方案进行建模,通过两个不可信中继轮流转发源节点信息,产生中继间干扰,以降低不可信中继的信噪比。在此基础上进行理论分析及仿真验证,将三种方案对系统性能的影响进行了对比,结果表明轮流中继方案在三种方案中安全性能最优。研究了中继节点可信时,协作中继网络的安全传输方案。针对含有多个窃听者、多个中继的轮流中继网络,提出了一种新的物理层安全传输方案。首先,在轮流中继方案的设计中,利用中继转发信号干扰窃听者对本时隙保密信号的窃听,与此同时在目的节点处进行中继间干扰消除,从而提高了整个系统的安全性能。其次,在中继选择的过程中以最小化T个传输时隙内系统的平均安全中断概率为目标,给出了最佳中继节点的选择方法。最后,推导得到了该安全传输方案所能获得的系统平均安全中断概率的闭式表达式。仿真结果验证了安全中断概率闭式表达式的正确性,并表明与传统中继协作方案以及仅进行一次中继选择的方法相比,所提方案可显著降低系统的安全中断概率。