近年来,随着各种宽带应用以及多媒体业务的不断发展,人们对光纤通信网络在传输距离和传输速率上提出了更高的需求。作为光纤通信网络的关键组成部分-数据中心,对传输容量提升的需求也变得尤为迫切。目前,基于数据中心互连的短距离传输系统,主要采用强度调制直接检测（IM/DD）技术。与其他的技术相比,该技术具有系统结构简单、功耗低、成本低等特点,以至于在受到成本约束的短距离传输系统中广泛使用。尽管基于IM/DD技术存在诸多优点,但随着传输速率和距离的提升,器件非线性效应以及链路损伤问题将严重限制传输系统性能。在基于强度调制直接检测（IM/DD）的系统中,信号受到器件非线性以及传输链路损伤的影响造成信号传输质量严重下降。由于传统的线性均衡器（例如:FFE、LMS）,都无法实现器件非线性均衡,此外传统非线性均衡器（例如:Volterra均衡器）存在复杂度过高以及补偿能力有限等问题。近年来,科研人员发现神经网络技术在非线性问题的处理方面具有较强的能力,并逐步被引入到光纤通信系统的质量评估与性能监测方面,以及整个通信系统的结构优化设计方面。本文将重点研究基于神经网络的损伤均衡技术,主要研究内容如下:首先,从理论上分析线性效应和非线性效应产生的原因,并通过仿真验证其对系统性能所造成的影响。研究传统信号均衡算法（例如:FFE均衡器与Volterra均衡器）对链路损伤的均衡性能。其次,为进一步提升链路损伤均衡性能,本文重点研究基于神经网络的损伤均衡技术。详细分析了基于全连接神经网络均衡算法、基于一维卷积神经网络与二维卷积神经网络均衡算法的均衡原理,并通过仿真与实验对上述算法均衡性能进行验证。实验结果表明,在7%FEC门限阈值下,传输距离分别可实现38 km、72 km以及80 km。此外,为了防止由伪随机数带来的神经网络过拟合,通过混合随机挑选规则制备更随机的伪随机数,并进行交叉验证。最后,提出一种基于非因果时域卷积神经网络的均衡算法,并对其均衡原理进行详细分析。基于56-Gbit/s PAM4直接检测实验传输平台,分别在背靠背以及不同光纤传输链路下,对比基于全连接神经网络、基于一维与二维卷积神经网络、以及本文提出的基于非因果时域卷积神经网络的均衡算法的损伤均衡性能。并对上述均衡算法的复杂度进行对比分析。实验结果表明,本文提出的均衡算法能够以相对较低的复杂度实现最好的均衡性能,在7%FEC门限阈值下信号传输距离可拓展到100公里。