传统通信理论认为当信号传输速率超过奈奎斯特速率时,引起的码间干扰会导致通信性能下降,因此在现实中常常采用正交调制。Mazo在1975年发现当发送脉冲为理想sinc脉冲,在码元速率不超过奈奎斯特速率25%的前提下,归一化信号最小距离不变,因此在高信噪比下可以获得相近的性能,并将此技术称为FTN(FasterThanNyquist)传输技术。当使用非sinc脉冲调制时,FTN传输可以比奈奎斯特速率传输提供更高的系统容量,并且可以根据实际情况调整速率,表现出很大的潜力。本文主要研究FTN传输理论,并重点研究了基于递归神经网络的FTN解调技术。FTN传输人为引入了码间干扰,需要使用MLSE解调才能获得理论最优的性能,但需要知道等效信道的精确信息且复杂度很高。而基于神经网络的FTN解调可以直接根据训练数据和接收信号进行训练。传统的解调需要进行匹配滤波、白化、均衡、判决等步骤,而神经网络可以直接实现对输入信号的判决,在实际系统中可以更加充分地利用真实环境的信息,具有性能潜力。本文通过仿真验证了递归神经网络用于FTN解调的可行性,并且对不同参数下神经网络的性能做了较为详细的仿真研究。首先,对FTN传输的原理做了详细的分析研究。介绍了 FTN传输的概念,分析了其Mazo限,介绍了其限制信道容量;建立了 FTN传输的离散模型,分析了离散模型中观测矩阵的性质;讨论了 FTN传输的MLSE检测以及两种简单的线性均衡算法,并对不同的算法性能进行了仿真分析。其次,对神经网络模型进行了分析研究。介绍了前向神经网络与递归神经网络的模型结构,分析推导了神经网络BP算法的矩阵形式,详细介绍了神经网络训练中常用的算法,并使用Softmax回归对奈奎斯特速率下BPSK调制信号进行了训练与解调。最后,研究了利用前向神经网络与递归神经网络解调FTN传输信号。将Softmax回归与线性均衡进行了对比,验证了采用线性均衡对FTN传输引入的码间干扰消除的局限性;用MLP模型和RNN模型对FTN的解调进行了详细的仿真分析,发现在训练数据足够的情况下,两者均能逼近MLSE的解调性能,且RNN可以在参数非常少的情况下达到接近理想的误码率性能,验证了 RNN在FTN传输中实现解调的可行性。