由于无线通信的广播特性,信号在传输的过程中容易被窃听。传统的基于密码学的高层加密技术需要用到各种密钥和复杂的算法,同时随着窃听者计算能力的发展容易被暴力破解,其保密性能受到限制。与传统的高层加密技术相比,利用无线信道特性来提升保密性能的物理层安全需要更少的计算量以及更低的复杂度,因此得到了广泛关注。然而大部分关于物理层安全的研究中,合法用户和窃听者的相对位置未得到考虑,同时大规模的路径损耗也被忽略了。主要的原因在于窃听者的具体位置难以确定。在随机几何理论的帮助下,大规模无线网络下的物理层安全得到了广泛的关注。空间泊送点过程可用来表征无线网络中各个节点尤其是窃听者的空间随机分布,得到了广泛的应用。在窃听者空间随机分布的无线网络中如何实现安全传输,是值得考虑的一个问题。针对以上问题,本论文在两种不同的无线网络中用泊松点过程来表征窃听者的空间随机分布,引入协作干扰技术改善系统的保密性能,结合泊松点过程理论及最优化方法对系统性能进行了研究和分析,主要研究成果如下:第一,本文研究了当窃听者空间泊松分布时直传网络中的物理层安全问题。假设源节点使用窃密链路码字速率对来传输信号,且其在发送信号时可以分配一部分功率进行协作干扰,目的节点能消除干扰。文章分别用用传输中断概率和安全中断概率来表征系统的可靠性及安全性,运用泊松点过程理论推导出了两种中断概率的闭式表达式,并用蒙特卡罗仿真进行了验证。理论推导和仿真结果都表明,增大发射信噪比或降低码字传输速率将减小系统的传输中断概率,增大发射信噪比或降低码字冗余速率将增大系统的安全中断概率。综合考虑可靠性和安全性,文章用安全吞吐量来表征系统的整体性能,并在满足保密门限的条件下确定了系统的码字速率对和功率分配因子使得系统的安全吞吐量最大。第二,本文考虑了窃听者空间泊松分布时认知无线网络中的物理层安全问题。假设认知网络的主系统和次级系统使用Underlay方式进行频谱共享,次级系统在满足干扰门限的条件下使用协作干扰技术来改善保密性能。论文用传输中断概率来表征次级系统的可靠性,推导出了传输中断概率的闭式表达式。同时用安全中断概率来表征次级系统的可靠性,运用泊松点过程理论推导出了易于计算安全中断概率的表达式。研究结果表明,增大次级系统的源节点与主用户的距离将提高次级系统的可靠性,同时其安全性会降低。增大码字冗余速率将提升次级系统的安全性,而增大码字冗余速率的同时会增大码字传输速率,将削弱次级系统的可靠性。为了兼顾可靠性和安全性,文章用安全吞吐量作为次级系统的整体性能指标,在满足安全中断概率约束及次级系统对主用户的干扰门限的条件下确定了使得次级系统安全吞吐量最大的码字速率对和功率分配因子。