随着互联网及其“带宽消耗”型(如大型数据中心、物联网、高清视频业务、多媒体实时业务等)业务的迅速普及,网络带宽的需求量以近60%的比例逐年剧增,容量从100Mb/s快速增长到100Tb/s。而未来,随着以“大数据”为科技引领的智能型社会的全面发展,对光网络带宽的需求必将超过以往的任何时期。为了应对网络带宽的迅猛需求,人们纷纷致力于光网络扩容技术的研究。目前,在扩容技术层面上,常用的技术有电域时分复用、波分复用、码分复用、偏振复用、正交频分复用以及多维多阶调制技术等等,但是这些技术均是以单模光纤为传输媒质。而受到单模光纤非线性效应以及放大器自发辐射噪声的影响,使得以单模光纤为传输介质的光网络容量愈来愈趋近其容量极限。在这种背景下,模式复用传输技术引起了人们的关注。模式复用技术是以少模光纤中为数不多且彼此正交的模式作为独立的信道来传递信息,使得在单纤上成倍扩充系统的容量成为了可能。本文深入细致地探究了模式复用传输技术,阐述了模式复用传输的关键技术,并提出一种基于少模光纤布拉格光栅及光纤环行器的模式复用/解复用器,建立了两输入两输出的模式复用通信实验系统,完成了不同速率伪随机信号的背对背及10km同时传输实验。本文主要工作如下:首先,以Maxwell方程为理论依据,对少模光纤中的模式进行详细推导,仿真分析了两模光纤中LP01模和LP11模的电场分布。然后详细阐述了模式复用传输的关键技术,重点分析了模式的复用/解复用技术。其次,理论推导了少模光纤布拉格光栅的耦合模方程,并对其相位匹配条件(布拉格条件)进行了详细分析。阐述了少模光纤布拉格光栅实现模式复用/解复用的原理,并通过分析了不同偏芯熔接距离下少模光纤输出端模式光场分布,确定了有效激发LP11模式的偏芯距离。此外,通过相位掩模技术制备了实验用的少模光纤布拉格光栅,并且特殊制备高阶模式能顺利传输的光纤环行器,以此制成了少模光纤布拉格光栅型的模式复用/解复用器,实验测试了其性能,给出了其插入损耗值。最后,建立了基于少模光纤布拉格光栅的模式复用通信的实验系统。分别以LP01和LP11模作为传输信道,实现了1.25Gb/s和622Mb/s、1.25Gb/s和10Gb/s、4.25Gb/s和10Gb/s、以及两路10Gb/s伪随机信号背对背传输和10km传输,并分析了两路10Gb/s传输系统误码性能。文章最后对全文的主要工作进行总结,对基于少模光纤布拉格光栅的模式复用技术进行了评价,指出存在的问题,并对基于少模光纤的模式复用技术的发展进行了展望。