当今无线通信领域关注和研究的核心问题为利用有限的频率资源实现高速数据传输。然而，在固定的通信频带资源条件下，系统的带限特性很大程度上影响并制约了符号传输速率的提高。上世纪70年代，Bell实验室研究结果表明:二进制通信系统，在加性高斯白噪声信道且高信噪比的条件下，以超过Nyquist速率进行符号传输时，可保持信号最小欧氏距离保持不变，从而提升系统Nyquist限。这种特殊的传输模式称为超奈奎斯特传输（Faster-than-Nyquist,FTN）。相较于传统正交传输，FTN技术提供更高效的传输，然而，由于超越了Nyquist限，时域或频域FTN传输时受到时域符号间干扰（Inter-symbol-interference，ISI）及频域载波间干扰（Inter-carrier-interference，ICI），这增加了接收器解调的复杂度。近年来，得益于半导体技术的快速发展，FTN传输技术成为一种新的可实施方案，被列入未来5G的备选方案之一。　　本文主要针对超奈奎斯特基带调制技术进行研究，首先，回顾了传统正交传输，进而引出FTN传输的概念，并介绍了FTN技术的关键因素，如Mazo限（码间欧德几里距离）、FTN容量、传输系统模型，最后总结了目前时域FTN、频域FTN和多载波FTN的研究现状并分析了目前FTN技术的优劣势。　　为了克服时域FTN引入的ISI干扰，本文针对FTN发送机设计了适用于时域FTN传输环境的脉冲成形滤波器，将滤波器拟和为二阶多项式函数（Second Order PolynomialFunction，SOPF），以接收机信干比（Signal-to-interference ratio，SIR）为目标函数，优化SOPF参数，合理设置波形的滚降因子，获得最优SOPF参数。相较传统正交传输的经典滤波器，所提SOPF滤波器设计方案具有明显的优越性。　　在此基础上，本文提出了一种适用于时域FTN传输环境的导频设计方案，通过将接受数据进行近似截断，结合矩阵分解，最小化信道估计均方误差分析，获得最优导频的设计准则。实验证明，相较于传统正交传输的导频设计方案，所提方案更适用于FTN传输的非正交环境。