随着科技进步，基于超短激光脉冲的光纤激光器具有体积小、工作稳定，可输出高峰值功率超短脉冲等特点，在光通信、超快光学、光纤传感、光信息处理等领域有着广泛的应用。获得高性能被动锁模光纤激光器需探究时变材料性能与光路结构对在其中传输的光脉冲演变与稳定性的影响，本文主要研究光脉冲与时变材料非线性相互作用及其在被动锁模光纤激光器中的应用。　　第一章介绍了非线性光纤光学的研究进展以及光脉冲与时变材料相互作用的饱和吸收效应。总结了掺稀土光纤的被动锁模激光器实现被动锁模的方法，详细阐明了近年来基于碳纳米材料（碳纳米管以及石墨烯）为饱和吸收体的新型被动锁模光纤激光器的研究进展。　　第二章从麦克斯韦方程出发，推导了高阶色散下的非线性薛定谔方程。同时，考虑光纤纤芯中的五阶非线性效应，推导得出高阶非线性薛定谔方程。为研究高阶色散和高阶非线性对特种光纤中传输光波的自相位调制、交叉相位调制不稳定性以及饱和吸收特性奠定了理论基础。　　第三章研究了高阶色散和高阶非线性效应对光脉冲传输的影响。从包含高阶色散和高阶非线性的广义薛定谔方程出发，分析了自相位调制和交叉相位调制不稳定，深入讨论了四阶色散以及五阶非线性对零色散光纤、普通单模光纤以及色散缓变光纤中自相位调制、交叉相位调制不稳定的影响。　　第四章建立了高阶色散和高阶非线性下光纤激光器的非线性薛定谔锁模方程，研究了该方程的调制不稳定性，分析了四阶色散以及五阶非线性对调制不稳定的影响。并结合速率方程和非线性薛定谔方程，建立了被动锁模光纤激光器动力学过程的理论模型，该模型既能准确地分析光纤色散和非线性效应等因素所引起的各种物理现象，又能描述泵浦光子与信号光子之间的相互作用和粒子数浓度变化带来的系统增益，据此可详细地分析激光器中损耗和增益的变化情况，可作为优化激光器的理论依据。　　第五章采用微波等离子体化学汽相沉积法直接在石英玻璃衬底上制备了高质量的金刚石薄膜作为饱和吸收体锁模器件，测试了其饱和吸收特性，此特性源于金刚石表面形成的自组装碳纳米管阵列。并提出了一种简单可行的碳纳米管、石墨烯饱和吸收体锁模器件。选取合适的表面活性水分散剂，制备了单臂碳纳米管溶液以及石墨烯分散液，然后将其置于光纤连接器中，构成一个简单可行的结合单臂碳纳米管或石墨烯的饱和吸收体锁模器件。将结合金刚石薄膜、单臂碳纳米管或石墨烯的饱和吸收体锁模器件接入激光环腔中，搭建了的被动锁模光纤激光器，实现锁模激光输出。