互联网及物联网技术的飞速发展对当前光通信网络的传输容量造成了巨大挑战,单模光纤的传输容量达到100Tb/s已经接近香农定理的传输极限。受到非线性效应的制约,以单模光纤为骨干的光通信网络正面临严峻的传输瓶颈问题。空分复用技术作为下一代高速大容量光通信系统的可行方案引起了广泛关注。作为实现空分复用技术的少模光纤和多芯光纤,其特性及应用更是受到重点研究。本文在实验室承担的国家973项目、863项目及国家自然科学基金项目的支持下,对新型少模光纤和多芯光纤的模式特性及应用进行了重点研究,取得如下的研究成果:(1)总结了少模光纤在模分复用系统中及新型光器件中的发展及应用,利用光波导理论对少模光纤中的模式特性进行了详细分析,并对椭圆芯少模光纤中的模式特性进行了研究。阐述了利用MCVD法制作特种光纤的基本步骤,利用实验室的MCVD设备及拉丝塔设计并制作出D型椭圆芯的双模偏振保持光纤,对其应变传感特性进行了研究。基于D型光纤外形,设计出支持单种一阶线性模式的准D型椭圆偏芯光纤,对其模式特性进行了分析。(2)实验制作了双模光纤模式干涉仪,该结构由一段双模光纤通过错位熔接方法嵌入普通单模光纤之间,具有较好的滤波特性。详细研究了不同长度的双模光纤对干涉仪传输光谱的影响,利用不同波长处的两个干涉波峰或波谷作为传感监测点实现应变和温度双参量的传感测量。提出单模布拉格光纤光栅和双模光纤级联型传感器,将布拉格光栅透射峰和一个干涉波峰作为传感监测点,利用二者对应变和温度的灵敏度不同,实现应变和温度的同时测量。对双模布拉格光纤光栅的传输矩阵进行简化,研究了不同参数下双模均匀布拉格光纤光栅和均匀相移光纤光栅的反射谱和透射谱特性。利用相位掩模法制作了双模光纤布拉格光栅,通过改变光栅的弯曲状态和谐振腔的偏振态实现波长可切换的双波长激光输出。(3)对多芯光纤在新式光子灯笼型模式复用/解复用器中的应用进行了研究,提出强耦合型多芯光纤所支持超模模式有效折射率的计算方法。分别计算出不同纤芯数目及光纤参数条件下的各个模式的有效折射率,计算结果与有限元仿真方法进行对比,显示了提出的计算方法的准确性。利用MCVD法制作出弱耦合型七芯光纤,提出基于多模-七芯-多模光纤结构的马赫-增德尔干涉型传感器。将制作的传感器用于应变、温度和曲率的测量,实验获得的灵敏度分别为0.8 pm/με、38.2 pm/℃ 和 9.478 nm/m-1。(4)提出两种空气纤芯辅助型多芯结构的大模场面积光纤。光纤结构分别基于圆环形和蜂窝形状排列的强耦合型多芯光纤,支持严格的双模传输,在不同纤芯数目情况下对影响传输模式特性及各模式模场面积的结构参数进行了详细分析。经过优化的结构参数在实现大模场面积的同时改善光纤的弯曲性能,解决普通多芯光纤模场面积和弯曲损耗之间相互制约的问题。