现阶段,数据中心光通信主要以中短距离传输为主,随着网络流量的爆发式增长,对数据中心光互连传输速率提出了更高的要求。在高速率、强度调制/直接检测(IM/DD)系统中低成本器件的双重影响下,数据中心光互连系统内的传输信号将会严重受损,而传统的单一功能静态均衡技术已不能满足对通信系统内的多损伤动态补偿需求。在光通信领域已有利用神经网络技术实现信号均衡的研究,然而神经网络在系统复杂度方面还差强人意,是一种用高复杂度换取高准确率的算法。作为机器学习算法族群中的另一大类重要分支,集成树模型在处理较小数据集的应用场景中不但具备良好的性能,并且具有较低的复杂度。本论文围绕集成树算法提出了一种自编码方案,并对中短距离光通信中存在的信号受损问题提出并验证了相应的均衡方案,本文的主要研究工作和创新点包括:第一,针对现有光通信网络中的主流机器学习技术仍为神经网络,而以XGBoost为代表的集成树模型在最近的数据挖掘相关比赛中得到了广泛关注的问题,分析并总结了 XGBoost算法相较于神经网络的技术特性并在数据中心光通信场景中进行了验证。实验结果表明,XGBoost运行速度快,在处理结构化数据方面具有得天独厚的优势,而且具有极强的可解释性,在数据中心之间的光通信场景下,XGBoost的运行速度比神经网络快30倍以上,大大提升了模型的训练效率。第二,针对现有的端到端学习主要依赖于神经网络技术而神经网络算法具有调参难度大、模型复用率低的问题,研究并设计了一种基于集成树算法的端到端光通信学习方案并对自编码器进行了可行性验证。实验结果表明,基于集成树算法的自编码器能够在1000个随机生成的样例中得到MSE为1.4699 × 10-6的重建输入,并且在经过取整操作后能够完全复原输入。第三,针对数据中心光通信中的信号受损问题,提出将XGBoost算法应用于短距离光通信均衡场景的方案,并对比了三种接收侧均衡算法的应用效果。实验结果表明,XGBoost能够得到更低的误码率,随着距离的增加,可以进一步降低功率预算,尤其是在数据中心之间的光通信场景中,与神经网络相比,XGBoost能够实现2dB的发射功率改善,验证了 XGBoost算法在基于数据中心的光信号均衡领域具有良好性能。