数据中心光互联是光纤通信行业在短距离传输的重要业务与关注点,与相干光传输系统为代表的长距离传输光纤通信系统不同,数据中心光互联为代表的短距离传输系统考虑到成本、功耗与复杂性的问题,更加倾向于低成本、高速率的光纤传输系统。本文以数据中心之间光互联为应用背景,研究内容分为两大部分,第一部分研究了单偏振直接探测系统的光场恢复技术,第二部分研究了偏振复用直接探测系统的偏振解复用技术。针对系统结构、传输效率、信号与信号拍频干扰（SSBI）消除、成本控制等问题开展了研究工作,提出新的或者改进的传输系统方案与DSP算法,提升了短距离光互联系统传输的有效性与可靠性。本论文主要研究工作如下:一是关于单偏振的直接探测系统研究,主要讨论了两种基于Kramers-Kronig单边带信号（SSB-KK）系统与四种基于载波辅助差分探测的双生单边带信号（TwinSSB-CADD）系统的理论基础与结构,通过理论推导与仿真系统验证,从载波信号功率比（CSPR）、SSBI消除、延时参数、接收光功率（ROP）、光信噪比（OSNR）等方面研究了系统的性能。SSB-KK系统的ROP灵敏度与OSNR灵敏度更高,即在低ROP与低OSNR条件下传输更有优势,但其传输效率仅为Twin-SSB-CADD系统的一半左右,并且需要过采样处理才能消除SSBI;在ROP与OSNR满足一定条件下,Twin-SSB-CADD系统能够实现更有效率的传输,这种系统是更紧凑和高成本效益的解决方案,适用于短距离数据中心光互联的传输应用。二是关于偏振复用的直接探测系统研究,主要讨论了基于Stokes域与Jones域两种不同偏振解复用系统的接收机结构与解偏算法原理,通过仿真系统与实验系统验证,从CSPR、激光器线宽、发射光功率（LOP）、ROP、OSNR等方面研究了系统的性能。基于Stokes域偏振解复用系统的ROP灵敏度与OSNR灵敏度更高,即在低ROP与低OSNR条件下传输更有优势;在ROP与OSNR满足一定条件下,基于Jones域偏振解复用系统的结构简单,对器件性能容忍度高,能够实现低成本的传输。这两种不同偏振解复用系统的传输效率相同,各有优缺点,适用于不同场景下的短距离数据中心光互联的传输应用。