随着日益复杂的电磁频谱环境带来的严峻的干扰问题,干扰处理技术越来越受到重视。机器学习作为当下的潮流之一,正带动着通信抗干扰技术向智能化方向发展。干扰识别是抗干扰的前提和基础,也是其关键技术之一。将机器学习算法应用到干扰识别技术中,可以使得干扰类型及其相关参数的识别更加准确高效。成功识别出干扰信号之后,利用链路自适应技术,根据不同的信道质量指标对发送功率、调制编码方案及信号波束方向等参数进行实时更改,在一定程度上能够缓解和抑制干扰。本文将机器学习中的支持向量机（Support Vector Machine,SVM）算法及卷积神经网络（Convolutional Neural Network,CNN）与卫星通信系统、无线局域网物理层通信链路相结合,完成了基于机器学习的干扰特征辨识分类及干扰抑制,并在通用软件无线电外设平台（Universal Software Radio Peripheral,USRP）进行了实际仿真验证。首先,本文总结了机器学习在干扰检测与识别领域的研究现状,同时对链路自适应相关技术的研究现状进行了概述,并简述了本文的研究内容和大致安排。其次,研究和讨论了本文后续仿真所使用的支持向量机算法原理,给出了该算法应用于特征提取及特征分类领域的流程图。紧接着,针对本文图像分类问题,概述了卷积神经网络分类原理,构建了本文的卷积神经网络,并给出了相关参数设置。第三章以星地通信为背景,参照第三代合作伙伴计划（3rd Generation Partnership Project,3GPP）标准及提案设计搭建了低轨卫星下行通信链路,仿真对比了在不同最大多普勒频移、不同干扰类型及不同干扰强度下的链路误码率及误块率性能。进一步,将机器学习中的SVM算法与星地通信链路相结合,对接收端信号功率谱提取峰度、偏度系数、频谱平坦系数及频域峰均比四类特征值,利用四维特征联合对干扰进行分类辨识,仿真得到了不同干信比（Jamming-to-Signal power Ratio,JSR）下单音干扰、多音干扰、扫频干扰、窄带干扰四种干扰类型的分类正确率。然后利用CNN图像识别算法,构建卷积神经网络,对不同干扰类型、不同干扰强度的接收端时频图进行处理及分类,得到了不同JSR下的分类正确率,并对两种算法的分类性能进行了对比。实验结果表明,SVM算法在JSR达到-1d B时,能实现整体100%的识别成功率,其中单音、多音、窄带三种类型干扰分别在干信比为-16d B、-13d B及-6d B时达到100%识别成功率。在CNN分类结果中,单音、多音、扫频、窄带四类干扰分别在干信比为-22d B、-18d B、-12d B、-12d B时达到100%识别成功率。相对于SVM算法,CNN分类性能更优。第四章基于IEEE 802.11a物理层通信标准,搭建了干扰自适应链路。通过划分信噪比区间及接收端估计出的实时信噪比,在不同干扰类型及干扰强度下实现了调制编码策略的实时切换。并结合机器学习中的SVM算法实时检测干扰类型,再根据不同干扰类型采用N-sigma算法计算干扰抑制门限,对超过门限的谱线采用干扰置零法,得到了在不同JSR下干扰抑制前后的链路传输速率及误码率变化曲线。实验结果表明,相对于干扰抑制前,单音干扰和多音干扰抑制后链路传输速率和误码率性能都得到了较大提升。当JSR大于-14d B时,干扰抑制后传输速率稳定在54Mbps,且误码率维持在8×10-5左右。多音干扰抑制后,当JSR大于-6d B时,传输速率稳定在24Mbps,且误码率维持在1×10-3左右。扫频干扰抑制后,在一定的JSR范围内,传输速率得到了提升且误码率被控制在6×10-3左右,随着JSR的增大,误码率有所上升,但一直低于干扰抑制前。窄带干扰由于干扰频谱范围较宽,干扰置零会损失部分有用信号信息,干扰抑制效果最差。干扰抑制无法提升传输速率,但在误码率超过0.1时可将误码率降低至0.1附近。最后,设计了单载波通信软硬件测试平台与方案,在Matlab Simulink?平台搭建通信链路,利用搭载AD9363射频收发芯片的Pluto SDR作为射频收发端,利用GNU Radio平台控制USRP产生不同类型的干扰。然后对接收端粗频率估计、符号同步、载波同步、相偏补偿等算法进行了详细理论分析。进一步,利用SVM算法对接收端功率谱进行特征提取并对特征进行分类,仿真得到了不同干信比下的分类正确率曲线。在JSR达到2d B时,实现了单音、多音、扫频、窄带四种干扰100%的分类正确率,验证了所用分类算法的有效性。