无线ad-hoc网络是一种多跳、对等网络,与传统通信网络不同,该网络的组建具有灵活、快捷的优点,但是容易受到窃听威胁。传统的密钥机制在无线ad-hoc网络中的应用面临很多困难,阻碍了无线ad-hoc网络的广泛应用。物理层安全相关技术为解决无线ad-hoc网络的安全问题提供了一种新的思路。另外,协作干扰能较好地提升无线通信系统物理层安全性能。在瑞利衰落信道条件下,本文以协作干扰为主要研究内容,分析协作干扰中继系统的安全性能,并提出提升系统安全性能的方法。首先,针对中继节点不可信,给出了外部节点协作干扰和目的节点协作干扰中继系统的拦截概率闭合表达式,仿真验证了这两种系统的拦截概率表达式,并从拦截概率、保密遍历容量和干扰发送的路径等几个方面对比了这两种中继系统的安全性能。其次,针对中继节点可信,给出了有协作干扰的中继系统的保密中断概率闭合表达式。仿真验证了表达式的正确性,并将其与传统的无协作干扰中继系统进行了对比。仿真结果表明:在较低信噪比区域,放大转发中继系统的安全性能优于译码转发中继系统,在较高信噪比区域,结果反之;在一些场景下,协作干扰能够较好地提升中继系统的安全性能。最后,为进一步提升系统性能,当协作中继网络中有多个中继节点存在时,假定中继节点-窃听者链路信道状态信息未知,提出了利用发送端-中继节点链路和中继节点-目的端链路信道状态信息,使得保密中断概率最小化的中继选择方法,并分析了进行中继选择后,无协作干扰放大转发、无协作干扰译码转发、有协作干扰放大转发和有协作干扰译码转发四种中继系统的保密中断概率的闭合表达式。仿真验证了表达式的正确性,同时对比了四种中继系统的保密中断概率性能和保密遍历容量性能。仿真结果表明,协作干扰能够较好的改善中继系统的安全性能,并且即使当窃听者靠近中继节点集合时,采用协作干扰的中继系统的安全性能仍然保持在较好水平。