随着4K视频、“智慧家居”、车载物联网和虚拟现实技术等大数据互联网业务的兴起和普及,网络数据流量飞速增长,根据思科发布的最新报告,2022年全球网络系统的IP数据流量将超过1995年至2016年的流量总和,用户对数据传输速率的需求飞速增长,而基于单模光纤的光通信传输系统的信息容量已逐步逼近香农容量极限。因此,长距离高速信息传输载体的光纤通信系统面临着巨大的容量增长压力。而通过增加芯数和模式两个空间维度能够显著提高光纤通信系统容量,突破单模光纤对传输容量的限制。因此,研究基于少模多芯光纤的空分复用传输系统的关键技术具有重要意义。围绕少模多芯光纤系统中的关键问题,本文首先对空分复用光纤传输系统进行理论模型分析,对空分复用光纤的传输特性进行研究。在分析了基于七芯三模光纤的系统模型的基础上,本文研究了少模多芯光纤传输系统中接收端的MIMO算法。此外,研究了基于OFDM调制技术的少模多芯光纤传输系统性能,对应用OFDM调制的少模多芯光纤通信系统进行仿真和分析。本文的研究工作主要包含以下三个部分:（1）研究了少模多芯光纤的信道理论模型,并利用MATLAB仿真软件搭建了七芯三模光纤传输系统,通过对空分复用信道参数的合理优化设计,实现了 70km光纤链路传输距离,信噪比25dB的条件下误码率低于FEC判决门限1e-3。（2）针对少模多芯光纤传输系统中模式耦合、差分模时延等损伤因素的影响,本文提出了具有低复杂度、快速收敛性能的VSS-SCA以及VSS-SCA-CMMA联合均衡算法,新型算法在七芯三模光纤链路模型的均衡过程中相较于传统的均衡算法获得了约3dB的信噪比增益,实现了较好的均衡效果。（3）研究了基于OFDM调制技术的少模多芯光纤传输系统性能,通过将OFDM调制技术与少模多芯光纤通信系统相结合,能够提高传输系统的频谱效率,有效提升光纤通信系统的传输性能。