掺铒锁模光纤激光器由于在光通信、材料处理、光频梳、生物医学和非线性光学等领域的重要应用，得到了深入的研究。与其他激光器相比，光纤激光器具有增益系数高、工作波长范围广、散热好和无需对准调节等诸多优点。此外，它也为研究光纤中非线性光波的演化提供了一个很好的实验平台。因此，研究掺铒锁模光纤激光器不仅具有重要的理论意义，而且可以进一步促进其在实际中的应用。本文从实验和理论两方面对掺铒锁模光纤激光器进行了研究，实现了多种不同特性的超短脉冲输出，深入分析了各种锁模脉冲的形成机理、输出特性和演化方式。本文主要研究内容如下：1.利用非线性偏振旋转(NPR)技术进行锁模实现了两种双波长脉冲输出，分析了光纤激光器中双波长脉冲的形成机理。一种双波长脉冲具有传统孤子所特有的光谱边带，输出脉冲宽度为皮秒量级。由于光纤谐振腔峰值功率钳制效应的作用，不同波长锁模脉冲具有相同的强度和脉冲能量。在色散的影响下，两组锁模脉冲群速度有微弱差别，导致脉冲在腔内传输时间不等并周期性碰撞。在相互作用过程中，两组脉冲彼此穿过对方而保持其孤子特性不变。另一种双波长脉冲具有不同的峰值功率和持续时间，由于非线性效应和色散的平衡作用，两个脉冲彼此粘连在一起，形成双波长台阶形脉冲。结果表明，双波长脉冲的形成主要源自于双折射和掺铒光纤(EDF)不规则增益所导致的滤波效应。2.系统研究了耗散孤子的产生、压缩和相互作用特性。利用NPR技术进行锁模，在正色散光纤激光器中得到了谱宽为16nm、持续时间为23ps的耗散孤子。脉冲经过一段负色散单模光纤(SMF)后可以被压缩到290fs。实验观察并数值模拟了耗散孤子的分裂和相互作用过程，研究结果表明两个孤子间的相位差为π，脉冲直接相互作用决定着孤子分子的形成。此外，研究发现两种脉冲可以共存于同一个耗散激光系统，它们具有完全不同的光谱形状、宽度、脉冲能量和形成机理。3.在光纤激光器中发现了两种高能量矩形脉冲和一种高能量宽带脉冲。实验发现矩形脉冲宽度随泵浦功率线性变化，而脉冲强度基本保持不变。因此该脉冲可以消除由非线性导致的光波分裂效应，实现无波分裂高能量输出。利用掺铒光纤放大器(EDFA)，负色散区中矩形脉冲可以无失真放大到2μJ，将放大脉冲注入100m高非线性光子晶体光纤，可以得到波长从1200nm到1800nm的宽带超连续谱。将正色散区中矩形脉冲注入负色散SMF，脉冲形状变为高斯形而光谱表现出红移。模拟结果显示，矩形脉冲的两个正交偏振分量强度差比较大，其比例在8-65之间。高能量宽带脉冲产生于大正色散光纤激光器中，其谱宽达到83nm，能量为75nJ。研究结果表明宽带脉冲具有不规则的偏振态，即脉冲各部分偏振态不同。这种宽带脉冲偏振态在腔内的演化和传统孤子、连续光及耗散孤子均不相同，是一种新型锁模脉冲。将偏振相关隔离器后输出的线偏振宽带脉冲经过EDFA放大，激光变为部分偏振。实验分析表明NPR锁模激光器中宽带脉冲的不规则偏振态源自放大过程中累积的非线性相移。4.利用半导体可饱和吸收镜作为锁模器件，在近零色散区得到了群速度锁定矢量孤子(GVLVS)。通过求解耦合形式的非线性薛定谔方程(NLSE)，数值模拟了GVLVS的形成机理。结果表明光纤激光器中矢量孤子的形成是由谐振腔色散、光纤双折射和可饱和吸收作用共同决定的。基于四端口环形器和啁啾光纤光栅，我们搭建了同时实现传统孤子和耗散孤子锁模的光纤激光器。传统孤子谱宽和脉宽为0.28nm和15.1ps，耗散孤子谱宽和脉宽为9.5nm和7.5ps。脉冲经过一段SMF后，传统孤子宽度基本保持不变而耗散孤子被压缩到0.55ps。5.利用全光纤马赫-曾德(M-Z)干涉仪和时间延迟线在光纤激光器中实现了重复频率和脉宽可调谐的锁模脉冲输出。通过减小M-Z干涉仪两臂之间的光程差，脉冲重复频率从7GHz增加到1100GHz，相邻光谱间距从0.06nm增加到9.5nm。通过调节腔内偏振状态，脉冲宽度从10.1ps到0.55ps连续可调。基于NLSE方程研究了高重复频率脉冲的产生机理，结果表明，高重复频率脉冲的形成主要是M-Z干涉仪诱导四波混频效应导致的。