近年来,随着移动互联网、大数据、云计算、物联网等新兴技术的迅猛发展,网络流量高速增长,人们对带宽的需求越来越大,如何进一步提升通信系统的传输容量成为了研究热点,由于频谱资源的有限性,提高频谱效率成为了提高通信系统传输容量的有效方法。高阶正交振幅调制(M-QAM)由于具有多阶和多维调制和编码特性而成为提高系统传输容量的最具吸引力的调制方式。然而随着调制阶数的增加,星座图中的点将会变得更加密集,这时除了加性白噪声之外,相位噪声也将明显影响系统的性能。本文主要对高阶QAM通信系统中的相位噪声抑制算法进行了研究,主要研究工作和成果如下:1.对通信系统中相位噪声的来源及表示方法进行了详细的理论分析,并对常用的相位噪声模型进行了分类,使用Matlab对高阶QAM通信系统中相位噪声的影响进行了仿真分析。2.重点研究了通信系统中不同模块的相位噪声抑制算法并将其分为三类,分析了各类算法中几种典型算法的原理以及流程并归纳了各自的优缺点,搭建Matlab平台仿真对比了各类算法中几种典型算法的误码率性能,结果表明,在发送端通过对星座图进行优化的算法中,圆形对称的QAM星座图结构有最好的误码率性能;在载波恢复模块对相位噪声进行抑制的算法中,基于数据辅助的维纳内插算法的误码率性能要大大优于非数据辅助算法中的幂律算法;在改进的硬判决算法中,算法的误码性能与相位噪声对系统的影响因子α有着重要关系;在改进的软判决算法中,改进后的算法的误码性能要优于标准软判决算法。3.针对现代通信系统中智能化这一趋势,本文提出了一种基于改进的引力搜索算法的相位噪声抑制算法,并用Matlab软件对它仿真,从迭代次数和惯性因子两个角度对算法进行了详细分析,结果表明迭代次数越高时,该算法的精度越高;在惯性因子k取值为动态调整时算法可获得最快的收敛速度,符号群能在最短时间内找到各自的最优位置。