近年来,随着信息化网络各类应用的爆炸式发展,比如4K/8K高清图像显示、云计算、人工智能、4G/5G、AR/VR等等,大大刺激了人们对数据中心、超级计算机等高速通信网络的需求。为了适应这样一个趋势,高带宽、低损耗、大容量的光通信网络必不可少,特别是面向数据通信的短距离光通信互连。目前,针对短距离光互连的应用场景,主要以强度调制直接检测(IMDD)的低成本方案为主,由于系统往往受限于噪声、色散和非线性,数字信号处理(DSP)也大量的被应用于短距IMDD光互连以达到高速长距离的光传输互连需求。现阶段的高速光互连以传统二进制的调制码型为主,这主要是基于成本和性能的综合考虑。面向下一代的高速光互连,现有直调和外调器件的带宽已经很难满足需求,迫切需要更先进的高阶调制技术以提高频谱利用效率。面向短距离光互连的高阶调制码型主要有脉冲幅度调制(PAM)、正交频分复用调制(OFDM)、离散多音频调制(DMT)、无载波幅度相位调制(CAP)等。其中,PAM调制(尤其是PAM-4和PAM-8)能够有效平衡系统性能和实施难度之间的矛盾,也正是如此,PAM-4信号成为下一代400Gbps传输网络IEEE 802.3bs的标准调制格式之一。除此之外,先进DSP技术,例如说最大似然序列估计(MLSE)、判决反馈均衡器(DFE)、前馈均衡器(FFE)等,也被广泛应用于提高光互连性能。除了这些传统DSP技术,近年来,基于机器学习算法的DSP技术也被广泛应用在光通信网络之中。在IMDD系统中,基于机器学习支持向量机(SVM)算法的DSP技术在缓解调制非线性干扰方面表现出了优异性能。本课题的主要研究内容和创新点包括:1.VCSEL多模光互连系统的机器学习信号处理技术:面对高速光互连IMDD系统中PAM调制的非线性问题,本课题基于PAM信号特点,综合考虑算法性能以及复杂度问题,提出完全二叉树结构的SVM多分类(CBT-SVMs)解调器。算法性能在进一步的实验中得到了验证。在垂直腔表面激光器(VCSEL)-多模光纤(MMF)光互连系统中,与传统判决方法相比,CBT-SVMs能够带来1dB的接收机敏感度提升,同时,定量分析了眼睛线性度(EL)与算法性能之间的关系,随着EL的恶化,算法性能也在逐步提高,当EL达到1.72时,CBT-SVMs能够给系统带来2.5dB接收机敏感度的优化。2.Si-MRM的机器学习自适应光接收技术:硅基微环调制器(Si-MRM)因其极好的兼容性、高调制速率、低功率损耗,吸引了大量学者注意力。然而,很高的品质因子会使得Si-MRM对谐振波长偏移十分敏感,会对信号造成比较严重的损伤。本课题就这一问题,采用CBT-SVMs来提高Si-MRM系统的自适应性能,实验表明,算法能够有效稳定系统性能。在进一步的验证中,本研究定量分析了谐振波长漂移、PAM信号电平偏离(LD)以及CBT-SVMs性能三者之间的关系,0.06nm的波长偏移就会带来高达36%LD,算法性能随着LD增大也有提高。3.基于机器学习的光互连序列依存损伤优化技术:除了非线性问题,我们在实际实验中发现,在使用调制器调制PAM-4信号时,得到的眼图会出现一定程度的歪斜,这种问题在VCSEL中比较突出,并且是会受到PAM-4序列的影响。因此,本文创新性的提出了使用循环神经网络(RNN)来解决这一问题对信号传输产生的影响,并实验地验证了算法的可行性。