随着光网络传输技术的飞速发展,人们对光纤传输容量的需求与日剧增,由于传统单模光纤的容量逐步逼近香浓极限,发展受到瓶颈,日益凸显容量危机。尽管从时间、波长、频率和幅度等维度可以调制复用传输光信号以尽可能增加其传输能力,但是受到非线性噪声和放大器带宽等问题的限制无法取得实质性进展。因此,为了从根本上解决容量问题,光信号的空分复用技术（Space Division Multiplexing,SDM）迎来的新的发展机遇,其能够通过扩展利用光纤芯数和模式数两个空间维度来实现频谱效率和容量的提升。因此,研究空分复用系统的关键技术具有重要意义,有望为光通信传输带来的新的突破。因此,本文主要针对空分复用系统中多芯少模的结构设计和性能仿真开展研究,分析了光纤的结构参数及性能指标:提出了一种异质型多种辅助结构的十九芯三模光纤设计;仿真研究了由密集空气孔群辅助的4-LP低差分模时延（Differential mode delay,DMD）少模光纤的性能;设计了一种内置沟槽型的多层椭圆型核芯弱耦合少模光纤并进行了分析。本论文主要研究工作如下:（1）基于光纤结构的性能参数和基础理论分析,仿真了多芯少模光纤信道中的各类损耗因素。在当前多芯光纤设计研究的基础上,基于有限元法（Finite Element Method,FEM）搭建了十九芯三模光纤的结构模型。仿真了沟槽结构和低折射率孔型结构的对光纤性能的影响,以此确定了十九芯光纤的结构参数。实现了芯间串扰在-50dB/100km以下,核芯多重因子（Relative Core Multiplicity Factor）RCMF 达到了约30.2。在此光纤的基础上,又进一步提出了多种多芯光纤的统一设计方案。（2）设计了由密集空气孔群辅助的4-LP低差分模式时延（DMD）少模光纤并进行了性能仿真分析。本方案采用了三个相同的密集空气孔群作为辅助结构,每一个密集空气孔群由两种孔径大小不同的空气孔组成,核芯折射率分布采用渐变型分布。该少模光纤一共由4个偏振模组成,可以支持12个模式信道的复用。在整个C+L波段处所有模式的差分模时延|DMD|均小于40ps/km。本方案设计的少模光纤可以有效提高光信号的传输距离,减少接收端系统中利用多输入多输出MIMO（Multiple-Input Multiple-Output）算法的复杂度和系统功耗。（3）设计了一种内置沟槽的多层椭圆型核芯弱耦合少模光纤结构,并进行了性能仿真分析。主要设计原理为:采用了双层椭圆型核芯,即由内部的椭圆核芯和外部的椭圆环型核芯组成。两层核芯之间内置了低折射率沟槽结构。在椭圆核芯的两侧增加了两个空气孔结构,以打破光纤的对称性,引入双折射效应。经仿真,各个模式（包含模群之间的偏振模）之间的有效折射率之差均△neff>1.6x10E-4,一共可以支持14个空间模式的传输。