光纤技术自从问世以来,已经被广泛应用于通信、激光以及传感等领域。各种光学复用技术的出现,如波分复用技术、时分复用技术以及空分复用技术等,提高了光纤的信息容量,将光纤光学系统拓展至高维领域。高维光纤系统具有极大的信息容量、繁多的模式结构以及复杂的模间相互作用等特点。这些特性使得高维光纤系统成为研究与发展高速光通信技术和高功率激光技术的良好平台。时分复用与波分复用,是已经被广泛应用在传统光通信领域的复用技术。它们分别在时域与频域拓展光信号的自由度,以期望在更少的信道内获得更高的信息容量。当这些技术与新兴的量子信息技术相结合时,将诞生一种全新的高维光量子态。高维量子态在量子信息领域有着重要应用,不仅适用于复杂的高维量子计算,还可以运用到高维量子通信中,从而大幅提高量子信息容量。空分复用技术,采用空间维度复用光信号,是一种更为新型的复用技术,也是突破传统光纤通信系统瓶颈的下一代通信技术。单模光纤优良的单模性,使其一度成为光纤通信的首选介质。空分复用技术的光纤系统概念的提出,也预示着多模光纤的回归,多模光纤再次成为研究的热点。在各种类型的多模光纤中,一种可以用以稳定传输高维轨道角动量模式的光纤——涡旋光纤的提出,为下一代空间高维光纤通信系统的构建提供了新的途经。此外,在基于多模光纤的高维光纤系统中,一些物理现象与低维系统完全不同。基于高维光纤系统的非线性效应,得益于高维系统纷杂模式的相互作用,表现出更复杂的非线性效应。同时,由于多模光纤的大模场面积,高维光纤系统也更适用于构造高功率光纤激光器。因此,对于高维光纤系统中的非线性现象研究,以及其在激光技术以及量子信息等领域的应用是非常有意义的。本文的主要工作与研究成果如下:1、以设计的涡旋结构光纤作为非线性介质,采用轨道角动量与基模混合模式的1560nm飞秒脉冲激光泵浦,产生光谱范围926nm-2300nm的超连续谱结构。在超连续谱产生的过程中,观测到基模与轨道角动量模式的模间四波混频效应。经过详细的理论分析,首次证实了级联模内-模间四波混频的级联作用的存在。2、通过涡旋光纤色散调控的方式,可以控制光纤中传播轨道角动量模式的相位匹配条件。本章介绍了一种低串扰、高效率的轨道角动量模式的模内四波混频现象。特殊设计的涡旋光纤结构,综合考虑了轨道角动量模式稳定传输的线性特性和多种模式四波混频相位匹配的非线性特性。实验中测得基模与轨道角动量模式两套不同的的非线性增益谱,并且测量结果与理论计算的结果保持一致。3、提出了一种基于有源环形掺镱涡旋光纤的单高阶柱矢量模式输出的光纤激光器。本章中提出了一种基于多模速率方程的模型以解释这种光纤激光器的模式竞争行为,模式增益的计算结果证实了基于模式增益方式激光腔内选模方法的可行性。实验中,通过采用高阶模泵浦光以及特殊设计环形掺杂涡旋光纤结构结合的方式,实现了基于一种控制模式增益单一的高阶柱矢量模式输出的光纤激光器。最终,柱矢量激光器的斜率效率达到了 79.61%,阈值为47.73mw,且输出高阶柱矢量模式的纯度超过了 95%。这种新型的基于模式增益控制的激光器为实现高阶模式高功率光纤激光器提供了一种新的途经。4、将传统的光纤通信技术中的时分-波分复用技术与量子纠缠源的产生相结合,以硅基纳米线作为非线性介质,实现了一种新型的高维量子纠缠源。这种纠缠源可以分发至42个时间-波长信道,并且每个信道的干涉可见度都超过了 90%,极大提升了量子态携带的信息容量。同时,各个时间信道纠缠光子间的不可区分性通过Hong-ou-Mandal干涉验证,证明了这种高维纠缠时间维度间的独立性。本文的创新点如下:1、通过混合模式泵浦,在涡旋光纤中实现了 960nm-2300nm的轨道角动量模式的超连续谱。在多模超连续谱的产生过程中,观测到了一种模内-模间级联四波混频效应。实验中测量到的参量光谱边带与根据四波混频相位匹配条件计算得到的边带保持一致。2、设计涡旋光纤的结构参数,不仅保持了涡旋光纤支持轨道角动量稳定传输的特性,并且使得基模与轨道角动量模式的零色散点移动至1550nm附近,进而实现了一种多种模式的模内四波混频效应。同时,特殊的设计使得不同模式间的四波混频效应互不干扰,保持了参量放大的高信噪比。3、设计有源环形掺杂涡旋光纤,采用高阶模式泵浦,以调节多模模式相关增益的方式,结合激光腔内内部的模式竞争机制,产生了高效的柱矢量激光。建立基于多模速率方程理论的模型,数值模拟了模式增益控制对激光输出模式的影响,且计算结果与实验结果一致。4、利用传统光纤通信的时分-波分复用技术,产生了一种新型的高维量子纠缠态。这种纠缠态不仅最多可以分发至42个通信信道,而且各个时间信道的纠缠态保持相互独立。