近年来,数据中心流量已经成为当前通信网络流量的主导,并且随着5G时代的来临,致使全球数据流量需求呈现爆炸式增长,这对作为整个通讯系统的物理层——光传输网络提出了更高的要求。尤其是对数据中心和被称为“最后一公里”的短距离接入网络通讯业务的发展提出了更高的要求。不同于长距离光通信传输中一般以牺牲系统复杂度来实现大容量高速传输的方式,数据中心光互连的短距离传输这种方式需要从成本、功耗和复杂度等各个角度考虑,目前采用了强度调制-直接检测(IM-DD)技术与高阶调制格式相结合的方法。为了实现数据中心光互连传输的高速大容量传输,本文主要是从离散多音频调制(DMT)和概率整形技术(PS)方面进行研究和学习。主要开展工作和创新点如下:1、本文详细介绍了DMT技术的原理和其关键技术,并且比较了DMT技术和正交频分复用(OFDM)技术。另外在光通信中使用概率整形技术可以使得在不增加发送功率的前提下,获得高频谱效率、比较高的信道传输容量,有着很好的发展前景。因此本文详细介绍了概率整形技术的原理和降低误码率的原因分析。并且从优缺点角度出发对比了目前星座图整形方法。2、提出了一种使用离散傅里叶变换(DFT)扩频方式提高系统性能的方案;研究了在DFT扩频DMT传输系统中对四种不同高阶正交幅度调制格式下的短距离光纤通信性能的影响,并在10km标准单模光纤的IM-DD通信系统中进行实验验证。在该方案中,首先分析了DFT扩频DMT系统中降低峰均功率比(PAPR)的原理,并对在不同阶QAM格式下的接收机灵敏度(RPS)和非线性效应容忍度进行了实验比较,结果表明,改进后的DMT系统可以为利用现有的光接入网提供了充足的系统损耗预算。3、目前提高系统的信道容量是学术界都在努力的方向,针对这一问题,有学者提出了基于LDPC编码的“多对一”概率整形映射技术,可以有效的提高系统的信道容量,但是这种算法只考虑了星座点分布时要遵循高斯分布,没有考虑到星座点分布之间的最大汉明距离,因此会导致性能下降。我们提出了一种基于LDPC编码的“多对一”概率映射技术的新型的概率分布方式,产生对应的100Gbit/s的信号经过10km的标准单模光纤传输实验。实验结果表明,这种方式不仅可以有效的提高系统信道容量,使其更接近香农极限;而且可以有效的提高系统的误码率性能。