非正交多址接入(Non-Orthogonal Multiple Access,NOMA)技术可提高下一代移动网络的频谱资源利用率,而移动群智感知系统结合了云计算与物联网实现社会感知应用服务。然而,智能干扰攻击导致NOMA系统面临通信失败的风险,虚假感知攻击会降低移动群智感知应用的可靠性。因此,论文将从这两个应用研究下一代移动网络的安全机制。首先,论文研究对抗智能干扰机的NOMA无线网络传输机制,建立NOMA抗干扰分层Stackelberg博弈模型,并提出基于强化学习技术的基站抗干扰功率分配策略。揭示NOMA抗干扰攻防博弈的均衡策略,表明收发天线个数、基站发射功率等对NOMA抗干扰传输性能的影响。构建非对称信息的动态攻防博弈,提出基于Q学习的NOMA功率分配策略,无需预知干扰模型参数,并进一步结合基于模型的规划方法与迁移学习,提升最优策略的收敛速度。例如,在3个移动用户的NOMA无线网络中,相比基于Q学习的算法,所提算法将用户的信干噪比与系统传输容量分别提升了 16.1%和25.4%。随后,建立移动群智感知系统对抗虚假感知攻击的博弈模型,并构建基于深度强化学习的服务器支付激励机制,抑制自私用户的攻击动机;揭示该博弈的均衡机理,表明用户数量等参数对感知性能的影响。在动态博弈中,提出基于Q学习算法的服务器支付策略,保护移动用户的感知损耗参数等隐私信息不被泄露。针对大规模移动网络,提出基于深度强化学习的服务器支付策略,采用深度卷积网络框架提取特征,加速学习速率并因此提升服务器效益。结果表明,在用户移动概率为0.1的多质量分类感知场景下,相比随机支付策略,基于深度强化学习的MCS支付策略在200个时隙内将虚假感知攻击率降低30.2%。