随着工业化和信息化融合不断加深,无线电供需矛盾日益凸显。造成频谱资源匮乏的原因主要有两个,一是新型通信业务随着第五代移动通信的到来迅猛增加,涉及的领域更加宽泛;二是电网、水利等行业的授权频谱利用率低下,据统计授权频谱的利用率不足20%。因此,使用认知无线电技术和NOMA（Non Othogonal Multiple Access,NOMA）技术提高频谱资源利用率是非常有必要的。与此同时,根据用户业务的不同,划分网络切片,将网络功能虚拟化,从而可以针对需求动态、高效地配置切片资源,不仅可以为租户降低成本,而且还能提高通信性能。然而,在复杂的认知无线网络资源分配模型中,环境错综复杂,往往建立的问题是非凸的无法得到解析解。然而,强化学习可以使得智能体在动态变化的环境下,进行自主探索和学习训练,从而生成较优的策略,对资源进行合理分配。本文针对不同的资源分配场景提出多种深度强化学习算法,从而合理分配资源,降低网络复杂度。本文的主要研究成果和贡献如下:（1）基于DQN（Deep Q-Learning）的认知无线网络动态资源分配算法针对主用户忍受干扰能力不同分为三类主用户,目标为最大化系统次用户的频谱效率。对此,提出一种基于DQN的认知无线网络动态资源分配算法,将所有次用户看为一个智能体,根据场景设计动作、状态和奖励函数,精准建立与认知无线网络的映射关系,依据仿真场景设计深度神经网络模型,引入奖励标准化和正则化技术,在超参数选择和网络设计上进行了多次实验,模型收敛速度快,证明算法的优越性。（2）基于Actor-Critic的认知无线网络切片资源分配算法考虑到认知场景中,主用户的业务需求主要是高速率和低时延,将所有主用户划分为两类切片用户分别为eMBB（Enhanced Mobile Broadband,eMBB）和 URLLC（Ultra-reliable and Low Latency Communications,URLLC）两个网络切片,提出最大化次用户吞吐量目标。为此,提出一种基于Actor-Critic的认知无线网络切片资源分配算法,可以处理连续动作空间,在次用户选择信道、功率等动作时,考虑长期回报最大。实验证明该算法可以使多业务场景下的资源分配性能更优。（3）基于认知NOMA网络切片资源分配场景的多智能体强化学习算法为进一步提高频谱资源利用率,引入NOMA技术,多个用户可以在同一信道进行功率叠加传送信号。针对NOMA用户串行干扰消除时的复杂度问题,设计优化目标时不仅考虑当前系统所有次用户的吞吐量,而且考虑设计NOMA最大用户叠加数限制。对此,结合图卷积神经网络和DQN算法,提出了一种适用于认知NOMA网络切片资源分配场景的多智能体强化学习算法。该算法经实验证明可以提高模型的性能。