物理层安全技术直接从物理信号本质特征入手,可提供不依赖于计算复杂度的“绝对安全”,为安全通信提供了新的解决思路。目前,消极窃听场景下的物理层安全问题已被广泛研究,而主动窃听方式对于通信安全带来更大的威胁和挑战。目前的研究缺乏对主动窃听场景下物理层安全传输性能的分析与优化、主动窃听者和合法节点之间的博弈分析。针对上述问题,本论文通过理论推导探索利用人工噪声保障用户在主动窃听场景中的安全通信方案,揭示合法方与非法方相互作用对安全性能的影响。论文的主要研究内容归纳如下:(1)针对全双工主动窃听场景下的保密传输问题,建立人工噪声辅助多输入单输出单窃听(Multi-Input Single-Output Single-Eavesdropper,MISOSE)下行传输模型,利用杰森不等式推导了系统可达遍历保密速率的闭合表达式,并以此为目标函数,优化了人工噪声和有用信号间的功率分配策略,得到最优功率分配的闭式解。该结果揭示了系统参数与源节点最优传输方式之间的联系,给出了系统可达保密速率的上限,降低了系统设计复杂度,可指导合法节点确定最优的功率发射方式实现最优的保密传输性能。(2)针对实际应用中全双工窃听者与合法节点之间面向安全的联合功率分配问题,建立合法节点与窃听节点相互作用的博弈模型,推导得到满足双方平衡状态的纳什均衡解,该结果揭示了主动窃听者和合法节点相互作用的内在联系,给出了合法节点的最小功率分配方案和窃听节点的最优干扰功率发射方案,以及平衡状态下系统实际可达的安全传输速率。对比主动窃听和被动窃听下的安全性能,分析窃听者的行为对安全性能的影响。(3)针对随机协作窃听场景下的保密传输问题,建立人工噪声辅助多输入单输出单窃听多协作(Multi-Input Single-Output Single-Eavesdropper Multi-Jammer,MISOSEMJ)下行传输模型,推导了系统可达的闭式保密容量表达式,利用博弈理论分析源节点的功率分配方案和窃听节点的协作选择方案,证明了博弈模型的纳什均衡解存在,并提出一个迭代算法快速求得平衡解,该结果揭示了窃听者选取协作干扰者对系统安全性能的影响,从理论角度为抵抗协作干扰窃听者提供指导。