论文针对重大工程应用需求，进行一种新型自组织反馈光纤环形激光器非稳定性的研究，以期在充分了解系统非稳定特性的基础上，寻求稳定的有效方法。论文对自组织反馈光纤环形激光器的研究，涉及到非线性动力学和混沌等复杂的物理过程，这为包含自组织反馈机制的复杂系统协同学研究提供理想的量化物理模型和实证途径。自组织反馈光纤环形激光器具有良好的相干性和可调谐特性，但它的跳模，特别是偶发的持续跳模对工程应用有极大影响。利用激光电磁场理论难以处理系统非稳定和状态跳变问题。本论文采用了哈肯协同学方法将自组织反馈光纤环形激光器作为以模式强度为序参数的复杂系统，通过系统协同产生和协同破坏的研究，来揭示激光跳模的深层物理性质。在哈肯激光模型中不包括自组织反馈机制，相关理论不能直接用于处理论文研究激光器的非稳定性问题。论文首先根据研究对象激光器的实际结构和激光振荡产生过程，从描述光与物质相互作用的Maxwell-Bloch方程出发，严格导出包含掺铒光纤饱和吸收自组织光栅反馈作用的激光方程，此方程比经典的哈肯激光方程增加了自组织模式与生存环境耦合的相互作用机制。具有自组织反馈特性是许多重要复杂系统的共同特点，而这种反馈作用可以表现出对系统协同维持和协同破坏正反不同的效果。对激光器中光纤非匹配熔接点后向反射以及后向反射寄生增益光栅对激光振荡的影响的分析表明，这是一种削弱激光主振荡模式生存优势的协同破坏因素，以此模型为基础建立了包含正反作用自组织反馈的光纤环形激光器完整的理论模型和激光方程，此方程不仅描述了激光跳模协同破坏的物理机制，更是自然界中“马太效应”失效的物理诠释。根据论文建立模型和方程，给出了论文研究激光器的优化设计和性能改进的理论结果。论文中，发展了饱和吸收自组织光纤光栅特性参数测量和激光模态变化测量的有效方法，证实了新建激光方程的正确性和激光性能改进的有效性。实际自组织反馈光纤激光器的状态变化是多种因素互相关联共同影响的结果，论文采用复杂系统状态空间分析方法，测绘了以抽运参数和相对腔长变化为坐标的稳定性地图，得到了不同状态下，稳定性表现的明显差异，为激光器稳定性的工程研究和复杂系统协同学研究提供了有效的分析工具和实验素材。论文研究的自组织反馈光纤环形激光器为B类激光器，按照经典混沌理论，B类激光器和与此对应的B类复杂系统在无外加自由度的情况下不会产生混沌。论文利用复杂系统混沌的研究方法，进行了自组织反馈光纤环形激光器自发持续跳模状态下的序参数测量，得到了具有自组织反馈机制的B类激光器在没有外加自由度的情况下出现了混沌特征表现的实验结果。论文主要创新点如下：1.提出一种饱和吸收自组织光纤光栅特性参数的实验测试方法，为包含自组织反馈机制的协同体系模型建立提供坚实物理基础和准确参数，为自组织反馈环形光纤激光器的设计优化和性能提高提供实验基础。2.建立了以模式激发强度为序参数的自组织反馈光纤环形激光器的协同系统模型，给出了对这一序参数变化的相干测量实验方法，为自组织反馈光纤环形激光器非稳定性研究提供了有效工具，为自组织反馈复杂系统研究提供物理模型和实证途径。3.根据自组织反馈光纤环形激光器的实际物理结构，建立了包含正反自组织反馈作用的光纤环形激光器理论模型和激光方程，为自组织反馈激光器和与此对应的具有自组织反馈机制的复杂系统的协同维持和协同破坏定量研究提供了理论基础。4.得到了B类激光系统在没有外部反馈或没有外加自由度的情况下，可通过自身自组织反馈产生多种混沌特征表现的实验证据。