论文针对光纤环形激光器(FRL)在工程应用中出现的复杂多模动态现象,通过改进多通道实时频域观测手段,突破传统激光动力学测量技术的频域限制,将人们对FRL非线性动力学特性的认识从低维拓展至高维,揭示了模式个体行为与集群行为之间的复杂关联及内在物理机制。激光频域动力学问题是光学复杂系统研究领域的一大难题。FRL是典型的大自由度光学复杂系统,具有复杂跳模、高维混沌等非线性模式动态行为。现有的理论模型及测量手段大多只关注密集模式群落的整体行为,而忽视了模式个体行为;这一降维处理方式丢失了大量的频域模式动态信息,导致跳模抑制、高维频域混沌产生及控制等频域非线性动力学问题无法得到有效处理。要解决这些问题,需在理论上建立包含密集纵模间相互作用与耦合机制的物理模型,更需发展多模激光模式动态行为测量的实验手段。论文以掺铒光纤环形激光器(EDFRL)作为研究对象,通过引入密集纵模间的交叉耦合系数,并考虑铒离子对猝灭效应而引入额外自由度,建立了双模及多模光纤激光频域动力学模型,可有效描述频域内大量模式的个体行为及集群行为,在理论上重现了频域高维动力系统所特有的多模动态特性。仿真结果表明,通过改变离子对浓度或抽运系数,所有模式可通过阵发、倍周期分岔、准周期等途径同步进入混沌,关联维数高达5.1。为实验获取光纤激光多模动态信息,提出一种基于光学外差和时频分析技术(OH-JTFA)的频域动态测量方法,实现了EDFRL密集模式频率及强度多参量时间序列的同步提取,频率分辨率在kHz量级。分别考察了单FBG选模EDFRL、自组织反馈EDFRL、调制型混沌EDFRL等三类光纤激光系统的频域动态特性,以揭示模式个体行为与群体行为间的复杂互动及演化规律。单FBG选模EDFRL常被认为是最典型的单波长激光系统,实际上在选模通道内寄居上百个本征模式,自由运转条件下输出非稳态多纵模(MLM)。通过采用OH-JTFA方法,首次清晰测得该类EDFRL输出密集多模呈现的丰富局域动态现象,发现模式群落整体行为处于光强稳态时,模式个体行为可呈现典型的混沌特征。自组织反馈EDFRL在腔内引入饱和吸收体形成超窄带自适应光栅,理论上可始终保持单纵模(SLM)稳定输出。然而,真实激光器存在多类型的跳模现象,受限于常规跳模检测手段,而无法有效获取跳模全过程的关键信息。通过采用OH-JTFA方法,实现了对跳模全动态过程的实时监测,跳模过程由时频瀑布图直观呈现,首次无失真地获取到跳模瞬态过程的所有物理参量。调制型混沌EDFRL通过引入一个自由度,使总光强呈混沌输出,是典型的低维混沌系统。同样,该系统输出光场包含大量密集纵模,当总光强输出为混沌态时频域内各模式动态特性及演化规律迄今仍不清楚。通过提高OH-JTFA的频域分辨率,同步提取出单个模式频率、谱线及光强等多参量时间演化特性;发现当总光强为低维混沌输出时,单个模式在频域上出现频率调制及谱线加宽现象、在强度上呈现高维混沌或随机特征。论文中得到的重要实验结果及创新点主要包括以下三个方面:1、通过OH-JTFA方法在单FBG MLM-EDFRL中发现了一类大自由度非线性动力系统所特有的动态现象。测量结果表明,局域模式产生了总光强所无法呈现的频域动态行为,包括模式自脉冲、模式反相动态、混沌多模振荡、随机多模振荡等。2、利用OH-JTFA方法首次获得了自组织反馈SLM-EDFRL典型跳模及瞬时多模振荡演化过程的时频瀑布图。本方法是迄今唯一能实现同步提取EDFRL跳模持续时间、跳模间距与方向、参与竞争的模式数量、模式强度演化等跳模参数的频域测量手段,为深入理解模式失稳及动态机理提供了更全面的观测手段,具有重要的参考价值。3、通过提高OH-JTFA的频域分辨率,考察了抽运调制型混沌光纤激光系统的频域动力学特性,发现了总光强表现为典型的低维混沌时,频域内存在的大量纵模表现出极为复杂的高维动态特性。对各模式进行的非线性时间序列分析表明具有混沌特性的模式与具有随机演化特性的模式在总的低维混沌下共存。在此基础上,进一步探讨了利用混沌光纤激光器频域内的大量混沌/随机模式作为光子熵源来生成多通道物理随机码的可行性。