随着通信技术的快速发展，频谱资源变得越来越紧张，由此，提高频带利用率成为了一个重要的研究方向，于是各种具有高效频谱效率的调制方式被不断提出；而同时，在许多通信场合下，比如在卫星通信系统和深空通信系统中，由于通信信道的非线性，因而又要求已调信号具有恒包络或准恒包络的特性，以减少频谱扩展这一不良后果。所以，人们又提出多种具有（准）恒包络特性的高频谱利用率的调制方式，如最小移频键控（MSK）、高斯最小移频键控（GMSK）及FQPSK等等。而本文是基于泛函数建模，提出了一种最优化高效谱信号，并且以该信号作为基带码元信号，实现了正交调制过程，已调信号具有带外频谱滚降速度快、准恒包络的特性，与传统信号相比，极大地缩窄了信号的占用带宽，减小了信号对邻信道的干扰，相应地，提高了通信信号的频带利用率。在本文中，首先应用最小带外能量辐射准则，建立最优化基带码元信号的数学泛函数模型，并对泛函数附加了限制条件。在数学泛函数模型的建立过程中分成未引入码间干扰和引入码间干扰两种情况，然后引入了傅立叶级数并通过求解该泛函数的最小值得到了最优化高效谱基带码元信号，接下来分析了所得信号的频谱及峰均功率比特性，并与MSK和QPSK信号进行了比较。针对未引入码间干扰和引入码间干扰两种情况，分别建立了全响应正交调制系统和部分响应正交调制系统以及对应的相干解调方案，并用MATLAB实现了正交调制及相干解调的仿真，其结果验证了该方法的可行性。