随着通信网络技术的发展,第五代移动通信网络(5th Generation Mobile Networks,5G)已经进入我们的日常生活。为了满足移动用户日益多元化、个性化的服务需求,5G网络将是多种无线接入技术融合共存的网络,异构融合接入将成为5G主要特征之一,5G网络的应用场景也变得更加复杂和多样化。但随之而来是5G异构网络面临了更加复杂的隐私安全问题,如窃听、干扰攻击、拒绝服务攻击和分布式拒绝服务攻击、中间人攻击和跟踪攻击等。为解决上述问题,5G网络需要设计一个通用的认证机制,实现对不同应用场景、不同接入设备的安全保障,以构建起安全的运营网络。本文针对5G网络与无线局域网(Wireless Local Area Network,WLAN)等无线通信技术异构融合的趋势,设计了融合异构网络中基于用户终端(User Equipment,UE)的物理层密钥与高层认证与密钥协商协议(Authentication and Key Agreement,AKA)的跨层认证方案,以增强异构网络中的无线通信设备的安全性。本论文的主要工作包括以下三个方面的内容:首先,针对合法UE和非法UE的识别问题,考虑到路径损耗、信道衰落等因素的存在,两个通信节点之间的无线信道天然地具有独特性和不可复制性,本文通过提取UE物理信号的相位偏移信息作为UE的物理层密钥,使用极限梯度提升树(eXtreme Gradient Boosting,XGBoost)模型训练UE在室内环境的物理层密钥识别模型。其次,在上述基础上,本文将物理层密钥识别模型融合进5G网络的高层AKA认证协议,设计了融合UE物理层密钥和传统高层AKA认证方案的跨层认证方案。最后,为验证上述方案的有效性,本文基于开源软件无线电(Radio Defined Radio,SDR)平台开放空中接口系统(OpenAirInterface,OAI)开发了搭载此跨层认证方案的长期演进(Long Term Evolution,LTE)/WLAN异构网络实验平台,在这个实验平台上验证了本文设计的跨层认证方案的可行性,测试了跨层认证方案的性能。实验结果表明物理层密钥识别模型的识别准确度达到了99.83%,实验平台的认证成功率为99.69%,虚警率为0.31%,并通过了中国信息通信研究院第三方测试验收。