无线通信技术打破了时间和空间上的限制,使得高速的无线连接随时随地可接入,例如,在线支付、在线办公、掌上银行等,为人们的工作和生活带来了极大的便利。但由于无线信道的广播性和空中接口的开放性,使得无线通信易受到恶意攻击,同时也极易被可疑用户滥用进而以先进的无线收发设备进行非法信息交互。针对这一问题,从国家安全的角度出发,政府部门需要借助有效的监听方法对无线通信网络中潜在的可疑通信进行监听和干涉。为此,论文围绕基于物理层安全技术的合法监听策略展开,重点研究针对友好中继辅助合法监听者和可疑中继辅助潜在可疑用户的主动窃听策略。具体研究内容如下:（1）回顾了瑞利衰落信道的基本理论和数学模型,研究了无线协作通信系统中的中继协议,重点介绍了两种协议的模式和信号收发方式,并针对其特点进行了对比分析,同时介绍了主动窃听技术和全双工（Full-Duplex,FD）技术的基础理论知识。（2）针对监听者为避免被检测到而距离可疑用户较远导致窃听性能较差的问题,提出了基于FD中继的主动窃听方案。考虑中继采用译码转发协议,一方面将窃听到的可疑信息译码转发给中心监听者,另一方面对可疑接收机造成同信道干扰,从而降低可疑链路的通信速率以提升监听性能。首先,推导了可疑链路的连接中断概率和窃听链路的窃听中断概率的闭式表达式,从而获得了平均窃听速率的解析式。其次,为了最大化平均窃听速率,改善合法监听性能,分别设计了窃听中继的干扰功率和位置部署优化方案。针对功率优化问题,在固定中继位置的条件下,通过理论推导得出了近似的最佳中继干扰功率,并提出了基于二分法的平均窃听速率最大化算法验证近似值的精确性。针对位置优化问题,中继采用最佳干扰功率,通过数值分析评估了固定功率下的最佳中继位置部署。最后,仿真结果表明与未进行优化的方案相比,所提方案改善了系统的窃听性能,可用于指导主动窃听场景中窃听中继节点的参数设计。（3）针对可疑用户借助中继节点扩展其通信范围改善传输质量的场景,设计了根据窃听性能自适应地选择最优工作模式的主动监听机制。研究一个双跳的可疑通信网络,可疑中继采用放大转发协议以辅助可疑通信。在此过程中,合法监听者根据信道条件自适应地选择三种窃听模式:先窃听后干扰、两个时隙一直窃听、先干扰后窃听。首先,推导了三种窃听模式下的可疑连接中断概率和窃听中断概率的闭式表达式,包含精确值和近似值,从而得到了相应的窃听非中断概率。其次,针对单一窃听方案应用场景受限问题,在三种窃听模式的基础上,提出了一种基于最大化窃听非中断概率的最优窃听工作模式选择方法。最后,仿真结果表明与已有的先窃听后干扰方案相比,先干扰后窃听方案具有更好的窃听性能;此外,最优窃听工作模式选择方法显著改善了监听性能,并提高了窃听非中断概率,使监听者在不同的信噪比区域均能选择合适的工作模式实现最佳的窃听性能。