近年来,随着移动互联网、物联网、智能设备等的个性化发展,对机器间(Machine-to-Machine,M2M)通信模式需求的增加,海量的终端连接和数据传输使得5G所要求的快速、高安全接入变得非常具有挑战。由于基于运算不可破的传统接入认证方式计算复杂度高,终端难以承受,同时,传统的安全机制在计算性能逐步提高的情况下需要更长的密钥,一旦密钥泄露后果不堪设想。一些基于无线本质特征的认证方式成为了未来网络海量终端和数据接入认证的增强解决方案。基于硬件特征的射频指纹可以唯一表征无线发射设备,并且具有难以克隆的特性,因此可以用其实现对无线设备的认证,其不对称的认证方式,是可能满足5G网络高速率,终端低功耗、高安全的需求。目前关于射频指纹认证的研究,其认证率都不高,限制了其应用。从提高认证率为出发点,本文对基于机器学习的射频指纹识别算法、射频指纹瞬态信号特征提取方法、射频指纹特征降维方法进行了研究,主要完成了以下五个方面的工作:1.将类别可分性度量作为评估射频指纹性能的新方法,并对其进行实验仿真验证其可行性。2.提出一种新的射频指纹瞬态信号特征提取方法——双极大值特征提取算法。通过实验仿真验证,针对含噪信号,双极大值特征提取算法的分类性能优于小波变换。3.探讨了基于机器学习的射频指纹识别方法,搭建了三种基于机器学习算法的射频指纹识别模型,对机器学习算法参数对识别性能的影响进行了分析,并验证了基于支持向量机的射频指纹识别的优良性能。4.针对射频指纹识别特征维数较高的问题,提出了一种结合多分辨率分析和ReliefF的主成分分析算法,解决了计算复杂度高和时间消耗大的问题,实验表明,该方案可以实现较低复杂度下的更好识别性能。5.针对射频指纹识别在低信噪比条件下识别性能较差的情况,提出了一种特征变换方法——符号特征提取算法,并基于此算法提出了一种基于符号特征的ReliefF和样本筛选的主成分降维算法,实现较高的样本简化程度和低信噪比情况下的高识别率,适用于轻量级识别和认证的终端环境。