随着第五代移动通信技术（the Fifth Generation,5G）的迅速发展,越来越多的信息需要通过自由空间进行传播,而无线信道的广播特性给恶意攻击带来了可趁之机。接入认证作为保障数据安全传输的第一步,是保证通信网络安全的重要手段。急剧增加的终端设备和资源受限的应用场景使得传统密码学认证机制暴露出密钥管理复杂、计算开销大等诸多不足。物理层认证利用接收信号强度（RSS）、射频指纹（RF）、信道状态信息（CSI）等物理层属性的不可模仿性,可为无线网络提供有效的的认证手段。同时,机器学习算法可以很好地分析物理层属性规律,提高物理层认证的准确性,极大推动了物理层认证在实际场景中的应用。然而,目前的研究主要基于准静态通信场景并且对攻击模型的假设相对理想,缺乏实际应用中的普适性,在动态通信场景、与合法用户物理层特征相近的攻击者识别等方面存在认证准确率低的问题,无法满足实际应用中对认证准确率的需求。针对这些问题,本文主要完成以下研究内容:（1）面向动态场景的轻量级跨层认证技术研究针对动态通信场景中由物理层属性快速变化导致的认证性能下降问题,通过将物理层认证与上层认证相结合,提出一种轻量级跨层认证方案。首先,基于人工神经网络提出一种可快速更新模型参数的轻量级物理层认证方案;进一步,为提高认证性能的稳定性,提出一种高效的跨层认证机制,通过引入上层认证实时监督和指导物理层认证模型参数更新,可实现认证效率与可靠性的合理均衡。仿真发现,该方案可以显著提升动态通信场景的认证性能及其稳定性,与传统物理层认证方案相比,时延开销可降低约25%。（2）基于深度学习的近距离攻击者检测技术研究针对近距离攻击者与合法用户物理层属性难以区分导致的检测精度低的问题,通过无人机灵活采样实现虚拟多点认证,提出了一种基于深度学习的近距离攻击者检测机制。进一步,为确定攻击者的地理位置,提出了一种攻击者数据定位算法,可以准确定位攻击者样本数据进而确定其地理位置,为对攻击者的人为干预提供有效指导。仿真发现,该方案可以显著提升近距离攻击者的检测精度,当选取恰当的飞行高度和飞行轨迹时,可以实现99.99%以上的检测率。（3）基于时序模型的物理层双重认证技术研究针对因攻击者与合法用户物理层属性难以区分导致的检测精度低的问题,通过充分挖掘物理层属性变化的高阶特征,将低阶特征与高阶特征相结合,提出了基于时序模型的物理层双重认证机制。具体的,该双重认证机制由轻量级认证模块和基于时序模型的认证模块构成,轻量级认证模块用于对多数普通攻击者的快速检测并确定攻击者的攻击目标,基于时序模型的认证模块用于实现对近距离攻击者的精确识别。仿真发现,该方案可以显著提升物理层属性值仍在合法阈值范围内但变化趋势异常的近距离攻击者的检测精度,实现了 98%以上的检测率。