5G如今已经正式进入商用阶段,其高速率、低时延的性能指标也促使着基带通信技术的发展。极化码作为华为公司主推入选的5G控制信道编码方案,在理论上证明了可以达到香农限,具有优异的误码性能。传统的极化码译码算法伴有复杂的节点计算和高延时的译码结构,虽然在短码的控制信道上还可接受,但也制约了极化码向长码的数据信道上的进一步发展,因此如何改进极化码的译码方法是一个亟待解决的问题。此外5G应用场景的多样化也使得信道的噪声模型愈加复杂,在译码环节仅仅考虑白噪声的译码设计会带来很大的性能损失,而传统的白化滤波器的处理方法不仅结构复杂,且性能与参数的估计精度有关,不够稳定。本文结合时下热门的深度学习技术,将神经网络引入了信道译码环节,针对上述的两个问题进行了研究,取得了一定的研究成果。首先,本文研究了白噪声下基于神经网络的极化码译码方法,对于一般的的神经网络译码器设计,虽然其具有一次性译码（one shot decoding）的低延时特性和接近最大后延概率（Maximum A Posteriori Probability,MAP）的译码性能,但它的网络设计受到维度限制,即网络训练复杂度随信息位的长度指数增长。为此本文提出了一种基于分块的BP-NN（Belief Propagation-Neural Network）译码算法。算法根据极化码递归的结构,将译码过程划分为几个子块,对于每个子块设计相应的神经网络译码器,随后利用BP算法迭代实现子块间的信息交互,同时算法中还设计了一种权值函数来衡量交互时各子块信息的可靠性。仿真结果表明,相比于一般的神经网络译码器,所提方案有效降低了网络的参数量和训练难度,同时误码率（Bit Error Rate,BER）性能基本与BP算法保持一致。在译码延时方面,延时开销随译码器中神经网络部分的大小变化,当子块大小为32时,译码延时相比传统BP下降了50%左右。此外,本文还提出了一种提前迭代终止的BP-NN改进算法,在高信噪比下进一步降低了方案的迭代次数。随后本文研究了相关噪声环境下的译码结构优化方法。方案借鉴了前馈去噪卷积神经网络DnCNN在图像去噪领域的成功应用,将其引入了信号处理环节;提出了一种基于DnCNN噪声处理的译码结构。方案将译码过程分为了两步:第一步进行相关噪声的估计,利用第一个译码器的译码结果对相关噪声n进行估计,获取估计值?n,随后利用DnCNN网络对估计值中不符合相关性约束的估计误差进行剔除,得到精确的估计值?n;第二步利用?n对原始信号进行去噪后再进行最终的译码。在DnCNN网络的损失函数的设计上,本文在传统的均方误差函数基础上引入了Jarque-Bera检测,使得残余噪声更符合高斯分布。本文对方案在标准相关噪声模型和色噪声模型下的性能进行了仿真,结果表明其能取得明显的性能增益,,方案在不同噪声模型下,当误码率为10-3下可以取得0.8-1.5d B的增益,同时相比于传统的白化滤波器的方案,方案在中低信噪比时的优势明显,虽然在高信噪比略显不足,但相比于白化滤波器方案,本文所提的方案不需要在发送端进行参数估计和信号预色化等操作,系统的结构更加简明,额外计算开销更少。最后,本文对上述的工作内容进行了总结,并对现阶段成果中的不足进行了分析以及对以后的研究方向进行了展望。