随着社会的发展,通信早已同国计民生的方方面面紧密联系起来,而通信安全则是保证相关应用能够正常运转的基本要素,特别是涉及到利用无线通信对机密信息进行传送的情况下,由于无线信道的广播特性,使其更加容易遭受到层出不穷的恶意攻击。在5G到来之前,普遍采用的安全认证方案大多是构筑于物理层之上的加密技术。随着网络接入设备的爆发式增长和计算能力的不断提升,传统的安全认证方案逐渐显露出种种不足,各种相关算法的设计也日趋复杂。构筑于物理层的安全认证方案可以利用无线信道的诸多优良特性,具有原理简单且性能可靠的优势。机器学习算法可以高效实现对海量数据的规律分析和特征攫取,而通过通信过程中的信道估计,可以轻松获得足够的信道数据,因此将机器学习应用到物理层安全认证中在理论层面上具备可行性。为了高效识别并提取信道物理信息的特征,本文着重研究了基于机器学习的物理层安全认证方案设计,主要的研究工作分列如下:(1)本文针对如今通信场景的变化以及计算能力的提升等诸多因素引起的传统通信安全解决方案逐渐力有不逮的情况,指出基于物理层的安全方案是一个极具潜力的研究方向。文中简要概述和总结了现阶段已经存在的物理层安全方案,针对已有研究工作的不足和局限,提出了结合机器学习算法的物理层安全认证方案。该方案不需要对信道模型或者信道变化做出特别地假设,也不需要事先知道关于通信系统的任何先验知识,完全是构筑在信道观测数据上的自适应安全认证方案。(2)在众多在机器学习算法中,本文针对kNN算法,Logistic回归算法,SVM以及CNN与物理层安全认证的结合进行了算法方案设计。文中建立了物理层安全认证的系统模型,对认证流程进行了简要论述,接着通过对无线信道的分析,提出了利用无线信道CSI进行物理层安全认证的方案。为了实现机器学习算法对CSI数据的有效利用,针对不同机器学习算法的特点,分别对仿真得到的CSI数据进行了特殊的预处理。在不同的参数设置下,仿真证明了将机器学习算法和物理层安全认证进行结合的有效性。经过对比分析,发现基于机器学习算法的安全认证方案的性能相比传统的基于NP测试的物理层安全认证方案有巨大的提升,在基于机器学习算法的物理层安全认证方案中,基于kNN的物理层安全认证方案时间复杂度最低,基于CNN的物理层安全认证方案效果最佳。(3)考虑到机器学习算法特别是深度学习算法的训练往往需要大量的标注样本,而当攻击者采取一些伪装手段时,对这些样本进行标注将消耗大量的资源。为了实现对信道样本的充分利用,本文还提出了基于半监督学习的物理层安全认证算法。通过利用K-means聚类和少量已标注信道样本,对收集到的其它未标注样本进行聚类,通过标注伪标签的形式实现了CNN训练数据集的极大拓展。经过蒙特卡洛仿真,证明了基于半监督学习算法的物理层安全认证方案在标注样本受限情况下的卓越性能。