随着智能终端设备的普及以及各种应用APP、人工智能、物联网等的快速发展,使得全球互联网数据传输量急剧增长,网络带宽已逐渐达到瓶颈,因而扩大通信系统的通信容量已成为光通信领域一个亟待解决的问题。目前,光通信系统已采用波分复用(WDM)技术、正交幅度调制(QAM)技术、正交频分复用(OFDM)技术、时分复用(TDM)技术以及偏分复用(PDM)技术来扩大通信容量。然而,由于光纤非线性效应的影响,单根光纤的传输容量受到非线性香农极限的限制,导致系统传输容量无法按照预期的速度增加,因此,对于扩大通信容量的新技术的研究势在必行。光子轨道角动量(OAM)复用技术是空分复用的一种特殊形式,携带OAM的涡旋光束彼此相互正交,理论上可以无相互串扰,因而,将OAM复用技术与高阶调制以及传统复用技术相结合,可极大地提高通信系统的信息容量,是应对通信容量瓶颈问题的有力解决方案。目前,光纤通信仍是通信基础设施中的骨干,将OAM复用技术应用于光纤通信中是该技术未来在实际通信中应用的必然趋势。而OAM模式对于支持其稳定传输的光纤结构具有特殊要求,普通光纤结构无法支持OAM模式的稳定传输,所以必须设计出适于OAM模式稳定传输的新型光纤结构。本文围绕承载光子轨道角动量光波模式的光纤设计这一主题展开研究,基于已有的环形光子晶体光纤结构,设计出了一种新型的能够支持26个OAM模式稳定传输的光纤结构,并对其性能进行了深入研究与分析,主要研究内容如下:(1)理论分析了已有支持OAM模式传输的环形光纤结构及光子晶体光纤结构的设计原理,并通过对目前已有的典型光纤结构进行性能分析探究了这两种光纤结构用于支持OAM模式传输的优缺点。(2)基于已有的光子晶体光纤结构,设计出了一种能够在1.25μm到1.9μm(共650μm)的波长范围内稳定支持26个OAM模式的新型环形光子晶体光纤(C-PCF)结构,该新型光纤结构的包层材料为硅,与已有环形光纤结构相比,不需要进行掺杂,降低了制作工艺的复杂度,而与已有的能够支持OAM模式传输的光子晶体光纤结构相比,该结构则能够支持更多的OAM模式。此外,该结构具有较多的可调参数,因而可以通过进一步优化得到性能更优的光纤。(3)对自行设计的新型C-PCF结构所支持的矢量模式的有效折射率、色散、限制损耗以及非线性等特性进行了仿真分析,结果表明该新型C-PCF结构不仅能够满足所有矢量模式的有效折射率差大于10-4的条件,与已有的能够支持OAM模式传输的光子晶体光纤结构相比,该结构色散特性更为平坦,损耗更低,而非线性系数则更小,总体来说,该结构性能更优。此外,本文还对该结构中某些参数对光纤性能的影响以及光纤几何形变对模式双折射现象的影响进行了探讨,为以后该光纤结构的进一步优化提供了理论基础。