随着人们对光接入网容量的需求日益增长,接入网的速率快速提升。而早期铺设的光接入网以10G以太无源光网络（EPON）为主,带宽已无法满足需求,因此采用高阶调制技术在现有网络上传输更高速率的信号从而实现网络升级成为合理选择。然而,由于受到系统带宽、光纤色散和光学器件非线性的影响,高速信号的传输存在严重的码间干扰（ISI）,在接收端采用数字均衡技术是解决这一问题的有效途径。本文基于机器学习算法研究在强度调制直接检测（IM/DD）的10G-PON系统上传输更高速率信号时的均衡问题,实现了更精确的信道估计和补偿。主要内容如下:首先,介绍了IM/DD PON系统的结构原理与关键技术,在Optisystem平台上搭建了50 Gbit/s PAM4 IM/DD PON系统,对其传输特性与采用传统自适应均衡方法时的系统性能进行了仿真分析。结果表明传统自适应均衡器对改善系统性能有一定作用,但在传输更高速率信号的情况下,无法满足系统要求。其次,对基于机器学习算法的IM/DD PON系统均衡技术进行了研究,提出了将分类回归树（CART）、支持向量机（SVM）和K最近邻（KNN）算法用于10G级IM/DD PON网络传输50 Gbit/s PAM4信号的均衡方法,利用机器学习算法的非线性分类特性,实现对多电平PAM4信号的有效分类。其中,CART算法利用相应的分类原则构造最优二叉树,具有简单直观的优点;KNN算法利用待测样本周围K个相邻样本的分类概率来判断其类别,具有较高的准确性和稳定性;SVM算法通过核函数将样本数据映射到高维空间,然后寻找最优分类超平面隔离不同类别的样本数据,具有泛化能力强的优势。仿真结果表明机器学习均衡器具有更好的均衡效果并对色散具有抑制作用。在25 km标准单模光纤（SSMF）上传输50 Gbit/s PAM4信号后,当输入功率为10 d Bm时,三种机器学习均衡器在无前置放大器时的链路损耗预算分别达到32.7 d B、35.1 d B和36 d B。此外,针对KNN算法中不同样本的欧式距离权重相同导致分类结果不准确的问题,提出了将加权KNN（W-KNN）算法用于10G级IM/DD PON的均衡方法。该方法对每一个相邻样本到中心待测样本的距离进行加权,使得距离近的具有更高的权重,从而进一步提高了分类结果的准确性。最后,对全文工作进行总结与展望。研究表明,机器学习均衡器能够克服传统自适应均衡器的不足,并将“均衡”和“判决”功能结合在一起,具有更好的均衡效果。