随着5G的快速发展,无线设备数量日益增加,射频频谱变得越来越拥挤。这给无线系统的设计带来了巨大的挑战,如频谱感知、频谱效率、低延迟传输、计算能力和高吞吐量。因此,这就要求智能无线通信网络具有自组织、自配置和自恢复功能等特点。认知无线电（Cognitive Radio,CR）、边缘计算（Edge Computing,EC）是5G中很有前途的技术。针对CR和EC我们分别要解决调制识别（Modulation Recognation,MR）、计算卸载的问题。在大多数非合作通信系统中,MR是一项基础而关键的技术,其目的是识别被噪声污染的接收信号的调制制式,在无线电的监测中起着重要作用。但面对日益复杂的无线电磁环境,一般信号检测方法和传统信号识别技术并不能为无线电监测带来优异准确性、抗干扰性和鲁棒性的频谱感知以及分析能力。针对这一问题,本文旨在利用深度学习（Deep Learning,DL）的方法去解决复杂无线电磁环境下的调制信号识别问题。传统的MR方法可分为基于似然比的算法和基于特征的模式识别算法。然而,这些方法具有很高的复杂度,或者需要额外的数据预处理。近年来,神经网络算法在MR方面显示出巨大的潜力。本文提出了一种基于注意力机制和残差结构的卷积神经网络（Convolutional Neural Network,CNN）的MR方法。首先,介绍了我们考虑的两种调制信号数据集中包含的无线信道模型,为本文仿真实验提供丰富的对比条件,接着详细介绍了两种数据集的相关参数以及生成方法,然后使用SENet网络从富含不同信道信息的IQ信号中学习调制制式的高维度表征,以此来验证网络的识别性能和鲁棒性。仿真结果表示:与基线方法相比基于SENet的方法具有优异的识别准确性、抗干扰性以及较强的鲁棒性。针对从IQ两路信号学习的统计特征对无线调制信号表征不够完备和表征差异化不足的问题,我们设计了一种基于高阶累积量与T2T的无线信号MR方法。首先,分析与介绍了传统特征高阶累积量及其数学模型和经典ViT的结构;然后,利用高阶累积量拓展数据集维度并构建T2T分类器;接着,对模型进行训练,利用得到的模型对无线调制信号进行分类。仿真结果表明:引入高阶累积量特征在分类时可以提高信号的抗干扰性并且具有较好的鲁棒性;选用的模型跟基线方法相比获得了让人满意的性能增益,在识别阶段的计算复杂度更低。通过对本文所提到的两种无线信号MR方法进行了比较分析,基于T2T的MR不仅在高SNR下保持优异的识别性能,而且相比较SENet和CNN2来说有更高的执行效率;但是它们都存在整体计算量、参数量大需要较高的计算资源以及大量的存储资源,并且将该任务上传到云时也会导致高带宽消耗和意外延迟等问题。针对以上问题,我们提出了基于深度Q网络（Deep Q Network,DQN）的面向MR服务的EC智能化计算卸载方法。首先,基于EC的特点,将终端设备的卸载比例、卸载决策和信道分配决策作为决策变量,将最小化系统处理时延作为目标,移动终端的需求为约束条件,我们设计了面向保障用户服务质量（Quality of Service,QoS）的计算卸载模型。在这些基础上,提出基于DRLO的EC计算卸载优化框架,该算法利用DQN算法进行迭代,寻找最佳计算卸载决策变量。最后进行了实验仿真和性能分析,通过结果表示,相比于现有的算法,所设计算法的计算卸载方法收敛速度更快,在同等条件下可以有效减少系统的处理总时延,能够得到最低的平均时延值,同时随着本地UE计算资源的变化,DRLO算法依旧可以使系统总时延保持在比较低的水平。