随着现代社会飞速发展,通信领域的频谱资源变得越来越稀缺,如何提高频带资源利用率逐渐成为人们研究的重点。同时,在卫星通信和深空通信等通信系统中,一般要求发射机功率放大器需要工作在全饱和模式的状态,以此来产生足够的发射功率,确保信号能够准确地传送到接收端。然而工作在此状态下的功率放大器具有非线性特性,因而又要求已调信号具有恒包络或准恒包络的特性,以减少频谱扩展现象的发生。在通信系统中,已调信号的带宽以及带外能量辐射等频谱特性主要取决于基带码元信号的形式。然而基于数学模型对基带码元信号的形式进行优化的研究方法比较少,本文则从提高频带利用率和已调信号具有恒包络或者准恒包络特性的两个角度出发,建立数学模型对全响应和部分响应正交调制系统中基带码元信号进行了优化,目的使求得的最优化基带码元信号对应的频谱具有良好的频谱特性以及经过调制后的已调信号具有恒包络或者准恒包络的特性。根据最优化理论,通过引入最小带外能量辐射准则,建立起最优化数学泛函数模型,并对泛函数模型添加了单个码元信号的能量限制条件、码元的边界限制条件以及调制后已调信号具有恒包络特性的限制条件。提出使用切比雪夫多项式来表示最优化基带码元信号,应用MATLAB实现最优化基带码元信号的数值求解。根据求得的最优化基带信号,绘出了时频特性曲线并验证其已调信号具有恒包络或准恒包络的特性。同时,在频域方面,还与MSK信号和QPSK信号进行了具体的数值比较。除此以外,还根据具体数值,定量地对影响最优化基带码元所对应频域特性的因素进行了讨论。针对全响应系统和部分响应系统,提出了相对应的正交调制和相干解调方案。并通过MATLAB完成了各自系统正交调制及相干解调具体过程的仿真,验证了已调信号具有恒包络或者准恒包络的特性,并且可知只要选择合适的采样时刻与判决门限就可以从接收信号中解调出有用信息。同时,还对各自系统的误码率性能进行了分析,通过与MSK信号误码率的比较,可知系统的误码率性能是可以满足要求的,从而验证了所提出方案的可行性。