随着5G时代的到来以及互联网的迅速发展,使得人们对高带宽、大容量的通信网络需求变得越来越迫切。光纤通信网络作为现代通信的骨干网络,一直担任着现代通信的重要角色,但是传统的单模光纤通信系统受到了非线性效应的限制,其容量逐渐趋向香农极限,为了避免出现“带宽危机”,因此需要开发一种新的扩容方案。基于少模光纤的模分复用技术是目前最受认可的一种扩容技术,它以少模光纤作为传输介质,通过复用少模光纤中多个独立正交的空间模式来提升系统容量。模分复用系统最核心的器件就是模式复用/解复用器,通过它来实现基模与其他模式的相互转换,并将其复用到少模光纤中进行传输。因此对模式复用/解复用器的研究具有重要意义。本文针对光子灯笼型模式复用/解复用器,分别从理论、仿真和实验三个方面进行了详细研究,具体工作及创新如下:首先,研究了少模光纤的基础理论,推导了光纤模式和模式之间的正交关系,接着详细研究了光子灯笼型模式复用/解复用器的相关理论,从超模理论入手,依次分析了光子灯笼的传输原理、模式数量匹配原则、绝热拉锥原理和结构。其次,设计了三模式和六模式模选型光子灯笼的结构和参数,基于有限元法对设计的光子灯笼模型进行了仿真分析,结果表明设计的光子灯笼能够实现模式选择功能,证明了结构的正确性。然后,针对本文设计的光子灯笼的尾端套管内径和套管折射率这两个结构参数提出了一种优化方法,并基于有限元法和光束传播法进行了仿真分析和性能优化,结果表明将本文设计的三模式模选型光子灯笼尾端套管内径优化为25um,套管折射率优化为1.42左右后,各模式耦合效率均高于93%,模式选择性高于20d B,各模式间串扰低于-21d B;将本文设计的六模式模选型光子灯笼尾端套管内径优化为23um,套管折射率优化为1.40后,除模式LP02耦合效率为86.4%以外,各模式耦合效率均高于91%,各模式选择性高于21d B,各模式间串扰低于-23d B。最后,根据优化后的结构参数制作了三模式和六模式模选型光子灯笼实物,并对其进行了性能测试,测试结果表明制作的光子灯笼能够实现模式选择功能,但是整体损耗偏大。同时对比验证了光子灯笼尾端套管内径对其性能的影响,结果表明和仿真分析的变化规律基本相同。