高阶QAM(正交幅度调制)信号优势在于具有比较高的频率利用率,但提高调制的阶数后,越高阶的QAM信号会变得对相位噪声也越发地敏感,而采用单一的相位噪声抑制算法,在中等相噪强度下,错误基底将会很高。因此,在设计系统时,必须将相位噪声对系统性能的影响考虑在内,同时,还应考虑采用多组合的算法联合的方案,从而在中等相噪强度下,提升系统性能。　　本文开始给出了相位噪声常见的基本模型,分别是高斯白相位噪声模型和维纳相位噪声模型,至今大多数文献仿真都是基于高斯白相噪模型,然而建模为维纳相噪后的数据结果更符合实际工程,给出了不同算法基于两种模型的仿真结果。在随后的三至五章分别介绍了通信系统中不同模块中的相位噪声抑制和补偿的方法,第三章分别分析了解调模块中的传统解调算法和抗相位解调算法,并对多种高阶QAM信号结合这两种解调算法,在加入LDPC信道编码后的软解调译码性能进行了仿真对比与性能分析;接着研究了同步模块,对相位噪声进行抑制与补偿的数据辅助和非数据辅助算法,并对两类算法进行了性能验证和分析。重点介绍了数据辅助算法类的线性拟合算法,并将线性拟合算法在未编码以及编码下联合前面两种解调算法进行了性能仿真和对比分析;最后分析了调制模块中的两种优化的星座图:圆形对称星座图和Spiral QAM星座图,并将两种优化星座图和传统的方形星座图,分别在两种相位噪声模型下,使用不同噪声强度进行了仿真对比和性能分析,然后在未编码和编码两种状态下,用优化的星座图联合两种解调算法与传统的星座图联合两种解调算法进行了仿真对比,证明在相位噪声存在的系统中,优化QAM星座图可以与优化的软解调译码算法相结合,并带来很大的正增益。本文给出了多种组合的优化算法联合的性能增益,证明了算法联合方案,可以有效地缓解中等相位噪声下的单一优化算法的性能瓶颈问题,这对于存在相位噪声的系统在不同强度相位噪声下的设计,有一定的参考价值。