自动调制识别是认知无线电系统中的一个关键技术手段,其目的是检测并分析得出信号的调制类型以用于解调等操作。随着无线通信系统的不断发展,信号的调制方式变得越来越多样化;传统的自动调制识别技术已难以适用于复杂多样的调制信号,也难以处理复杂的信道环境所带来的影响。基于深度学习的自动调制识别方法可以从信号中学习特征并进行自动调制识别,已成为一个重要的研究方向。本文基于CLDNN（Convolution LSTM Deep Neural Network）,开展了深度学习在通信信号调制识别领域的应用研究,主要工作如下:在CLDNN的基础上,本文提出了一种灵活可变的网络结构:Dense-Mix CLDNN（Dense-Mix Convolution LSTM Deep Neural Network）,通过引入密集连接（Dense）解决了CLDNN不能充分提取IQ信号中I分量和Q分量之间相关性特征的缺点,同时引入混合卷积（Mix）使Dense-Mix CLDNN能够提取多尺度特征。将数据增强技术应用到基于深度学习的调制识别研究领域,并设计四种用于通信信号的数据增强算法:随机擦除、下采样与上采样、随机平移、时域反转。本文采用Tensor Flow深度学习框架搭建Dense-Mix CLDNN,选取数据集RML2016.10a中70%的数据作为训练集,30%的数据作为测试集进行仿真实验。在对20个不同信噪比条件下11种调制信号的识别实验中,Dense-Mix CLDNN能够达到良好的识别效果,并且网络结构具有很好的设计灵活性。与CLDNN、两层LSTM相比,在识别准确率上有一定的提升。用数据增强算法增强后的数据训练Dense-Mix CLDNN,可进一步提升其识别效果。