由于无线信道的开放性,信息在无线传输过程中极易受到非法用户的恶意窃听或干扰,随着移动通信数据量飞速增长,保障无线通信安全日益举足轻重。物理层安全技术不依赖于密钥管理和算法,且具有较好的抗截获性能。其中,基于叠加调制的物理层安全手段实用性强且复杂度低,是重要研究方向之一。叠加调制(Superposition Modulation,SM)将发送信息分散,利用电磁波在接收端的自然叠加生成最终的信息符号,可以利用无线信道差异来增加非法用户接受信号的星座畸变,但其安全价值尚未得到充分重视,本文将研究基于叠加调制的物理层安全技术,主要工作如下:(1)针对无线通信中的被动窃听问题,提出一种基于相位叠加调制的物理层安全技术,利用相位叠加原理对两路发送信号进行相位调整,使其符合目标接收机信道的传播特性,而窃听者接收信号的星座相位则会发生严重畸变。通过推导目标节点与窃听者相干解调结果的表达式,分析了相位估计误差的影响。仿真表明,与不使用叠加调制的方案相比,所提方案可以保证目标节点的误比特率不受影响,而窃听者的误比特率提升一倍。(2)为进一步提升抗窃听性能,在上述相位叠加的基础上增加幅度叠加,提出基于双叠加调制的物理层安全方案,并研究功率分配对安全性能的影响。推导了目标节点与窃听者最大似然解调结果的表达式,并分析了信道估计误差的影响。仿真发现,与上述相位叠加方案相比,所提双叠加方案可使窃听者的误符号率提升25%,并且,在较大信道误差下,仍能达到较好的安全性能。(3)进一步研究上述技术的抗主动攻击性能,提出了针对叠加调制通信系统的欺骗攻击模型,分别针对相位叠加与双叠加两种调制方式,推导了目标节点解调错误率的表达式,并分析了不同叠加类型对其性能的影响。仿真发现,与传统调制相比,叠加调制方案具有较好的抗欺骗攻击性能,可使目标节点的误比特率降低一倍。