光纤模式选择耦合器（Mode Selective Coupler,MSC）是一种可以实现不同光纤横模转换的新型光纤耦合器,可以用于模分复用光纤通信系统中的模式复用/解复用,也可以用于光纤激光器中产生特定高阶横模激光。近年来随着模分复用光纤通信技术、光场调控及应用技术等的发展,光纤MSC获得了较多的关注,相关的分析理论、制造工艺等日趋完善,有力支撑和推动了相关器件和系统的发展。本论文在前人研究的基础上,聚焦光纤MSC的理论分析和设计。重点研究了超模理论在光纤MSC的分析和设计中的应用。取得的主要研究成果如下:（1）分别采用耦合模理论（Coupled Mode Theory,CMT）和超模理论,结合数值仿真,研究了对称单模双芯光纤耦合器的工作机理,计算了不同结构参数下单模双芯光纤耦合器的耦合长度,并进行了对比分析;为分析两组计算结果存在误差的原因,采用CMT推导得出的双芯光纤模型中超模的传输常数和光场分布,与基于全矢量有限元的COMSOL软件求得的数值结果对比,进行分析和研究。（2）将单模双芯光纤的超模理论分析推广到非对称双芯光纤型MSC中,使用CMT,得到了非对称双芯光纤型MSC结构中的超模的传输常数和模式场分布的解析表达式。仿真结果表明,在强耦合情况下,非对称双芯光纤型MSC的超模的传输常数的解析结果和数值结果之间误差较小。（3）将非对称双芯光纤型MSC的耦合长度和最大功率耦合效率表示为超模的传输常数的函数,并分别使用超模的传输常数的解析结果和数值结果计算了不同结构参数下非对称双芯光纤型MSC的耦合长度和最大功率耦合效率。仿真结果表明,在强耦合情况下,使用超模的解析结果和数值结果得到的耦合长度、最大功率耦合效率误差很小。在实际中,可以使用基于有限元法的仿真软件COMSOL直接得到非对称双芯光纤型MSC中超模的传输常数,进而得到所需要的耦合长度和最大功率耦合效率。（4）使用基于有限元法的COMSOL软件,仿真分析了对称双芯光纤型MSC和非对称熔融拉锥型光纤MSC结构的超模图像。研究结果表明,对称双芯光纤型MSC和非对称熔融拉锥型光纤MSC结构的超模图像,与非对称双芯光纤型MSC中的超模图像具有相同的特征,可以使用所获得的超模的传输常数,计算相应的耦合长度等特性参数。（5）基于超模理论,使用康宁公司生产的SMF-28型单模光纤、Thorlab生产的SM2000型双模光纤,设计了工作在1550 nm波段的非对称双芯光纤型MSC和非对称熔融拉锥型光纤MSC。