调制识别技术是指在非合作通信场景下,以识别目标信号的调制类型为目标的一种技术。调制识别技术广泛应用于民用无线电监测以及军用电子对抗等领域,是通信领域一个重要的研究分支。传统识别器识别效果依赖于决策理论、信号特征和分类器的选择,识别精度也受限于复杂电磁环境。然而深度学习方法能够针对原始数据充分发挥特征提取能力,避免了人工特征提取,其识别准确度也比经典算法高。本文对基于深度学习的通信信号调制识别技术进行深入研究,主要工作内容如下:（1）针对模拟数字混合调制信号的调制识别,提出了一种多任务网络融合注意力机制的深度学习网络。首先,设计了一种主任务与辅助任务相结合的辅助学习模型,使用调制信号的时域信息与频域信息分别作为主网络与辅助网络信号输入,充分利用了辅助任务的潜在信息调整主网络的特征结构,增加网络的泛化能力。其次,在辅助网络中引入卷积注意力机制模块,对卷积层所提取的特征图在空间维度与通道维度进行自适应特征细化,实现局部时空特征抽取的同时增强了特征表征能力。此外,针对上述多任务学习模型,设计了一种二次训练方案,有效降低了模型训练复杂度。基于RML2016.10a数据集的仿真结果证明,辅助网络能有效提高主网络在PSK类调制信号中的识别精度。同时,与现有经典网络对比,所提出网络有效地改善了低信噪比下的识别精度,并且具有较强的鲁棒性。（2）针对数字调制信号的调制识别,提出了一种基于多通道可分离复数结构的深度学习网络。首先,使用多通道网络结构作为基础架构,充分利用数字调制信号不同通道的调制特征信息。其次,在多通道架构基础上,提出复值卷积层结构实现二维特征提取,有效利用了数字信号的二维特征信息。此外,在一维通道网络设计中,利用深度可分离结构降低多通道结构复杂度,实现了多维度特征的有效提取与融合。最后,通过融合特征提取模块实现了多维度特征的降维处理,并利用长短时记忆网络实现时序特征处理,进一步实现分类识别。仿真结果表明,复数网络结构与深度可分离模型有效提高了数字调制信号的识别精度,高信噪比下识别精度可以达到97.5%。相比于基础多通道模型,本文方法在提高网络识别精度的同时,实现了模型轻量化处理。同时,与现有经典网络对比表明,所提出网络在识别精度与鲁棒性方面都具有突出优势。