视频流、云计算、嵌入式安全、机器学习、人工智能和物联网等应用形式不断出现,推动了电信和数据通信市场发展。特别是通信数据爆炸式地增加,使得短距互联通信系统出现速率瓶颈问题。为了提升数据中心传输速率,短距离光互联系统得到了高度关注。长期以来,强度调制-直接检测系统在短距光互联传输中占据主导地位。然而,数据容量需求的高速增长,将传输容量推向100 G和400 G,传统的一维强度调制方式已经无法满足短距容量需求。出于短距光互联对系统低成本、大传输容量和高信号频谱利用率的需求考虑,急需探究满足需求的一种新型接收方案。本文对斯托克斯矢量直接探测接收方案展开研究,这是介于直接探测和相干探测的一种新型的直接探测接收方案。该方案支持发射端信号的偏振复用,实现了基于载波与正交幅度调制格式和脉冲调制格式与正交幅度调制格式偏振复用的系统。其中PAM与QAM偏振复用实现了信号的3维调制,提高系统传输容量和频谱效率。将斯托克斯矢量接收与数字信号处理技术相结合,使其成为短距光互联中最具潜力的传输方案之一。为了改善斯托克斯矢量接收机性能,对基于载波与正交幅度调制信号和PAM与QAM偏振复用传输系统中的偏振态、偏振相关损耗和色散效应跟踪补偿技术展开研究。恢复信号的误码率、系统的光信噪比代价和偏振速率容忍度作为跟踪技术的主要评价标准。基于载波与正交调制格式偏振复用的斯托克斯矢量直接探测系统(PDM SC-m QAM SV-DD)的接收机信号处理主要包括偏振态旋转跟踪、偏振相关损耗和色散补偿。基于脉冲调制格式与正交幅度调制格式偏振复用的斯托克斯矢量直接探测系统(PDM PAM-QAM SV-DD)的接收机信号处理主要是偏振态旋转跟踪补偿。本文提出基于扩展卡尔曼滤波器和粒子滤波器偏振态旋转跟踪算法,并用PDM SC-m QAM SV-DD仿真平台验证算法性能。在大容量传输系统中,扩展卡尔曼滤波器跟踪技术实现了高阶调制格式偏振态旋转跟踪,数值仿真证明了扩展卡尔曼滤波技术有更高的偏振旋转速率容忍度和更低光信噪比代价;在很低的光信噪比代价下,粒子滤波器跟踪技术的偏振旋转速率容忍度相比于最小二乘法和扩展卡尔曼滤波器算法大幅提升,并且收敛速度快,跟踪精度高;针对PDM PAM-QAM SV-DD系统信道中的偏振态旋转,提出了基于MIMO偏振态跟踪算法,数值仿真证明了在很低光信噪比代价下,该算法具备较高的偏振容忍度,且跟踪稳定性良好。本文提出基于盲自适应均衡和扩展卡尔曼滤波器的偏振态旋转和偏振相关损耗协同跟踪算法,并用PDM SC-m QAM SV-DD仿真平台验证算法性能。这两种算法都降低了斯托克斯矢量接收机的算法复杂度。数值结果表明即使在高速偏振旋转下,盲自适应均衡算法可以稳定的跟踪偏振相关损耗和偏振态旋转,但是对于高阶调制的跟踪性能不佳。因此提出了基于扩展卡尔曼滤波器的偏振态与偏振相关损耗协同跟踪算法,相比于盲自适应均衡算法,扩展卡尔曼滤波器具备更低信噪比代价。即使在高阶调制格式中,也能够稳定快速跟踪时变信道中偏振态和偏振相关损耗。针对PDM SC-m QAM SV-DD系统信道中的偏振态旋转和色散效应,本文提出基于斯托克斯空间平均功率判决的扩展卡尔曼滤波器和背向传输联合补偿技术。数值结果证明实现了残余色散信号中的偏振态旋转跟踪,不受色散影响,对信道中偏振态旋转具备较高的偏振容速率忍度,且跟踪稳定性良好。本文提出的斯托克斯矢量接收机关键算法提高了斯托克斯矢量直接探测系统性能,并推动其在中长距传输的应用。