随着激光技术的飞速发展，脉冲激光器已经被广泛运用于医疗、工业加工、激光武器、激光可控核聚变等多个领域。相比于传统的固体激光器，光纤激光器有着增益特性好、转换效率高、易于和光纤耦合等特点，因此锁模光纤激光器成为了目前超快激光研究领域的一个热门研究课题，本文从理论和实验两个方面对锁模掺镱光纤激光器进行了具有一定深度的研究，主要内容如下：1．对于锁模掺镱光纤激光器及其国内外研究进展进行了文献调研，对比分析了各种设计方案的优缺点，在此基础上提出了自己的设计方案。2．结合自己的设计方案，在忽略放大自发辐射（ASE）的情况下，从速率方程出发，推导出了环行腔和线型腔掺镱光纤激光器的增益、阈值功率、输出功率和斜效率的解析表达式。并且讨论了谐振腔关键参数（泵浦功率、掺镱光纤长度、输出耦合比）和激光器输出参数（输出功率、斜效率）之间的关系，并进行了数值分析，得到了最佳优化参数和激光器理论极限参数3．针对使用相位调制器锁模带来的输出不稳定问题，从非线性薛定谔方程出发，建立主动锁模掺镱光纤激光器的数值模型，通过Matlab进行模拟仿真。通过逐步调整腔内平均色散大小，解决了输出激光脉冲的不稳定问题。在稳定锁模的基础上，进一步研究了激光器关键参数（色散、非线性、小信号增益系数、锁模阶数、调制深度）对于激光器输出脉冲特性（脉冲宽度、重复频率）的影响。仿真结果表明，激光器可以稳定的输出皮秒量级的高质量光脉冲，重复频率为4.9GHz，脉冲宽度为2.6ps，在理论上验证了本文设计方案的可行性，并且进行了结构和参数方面的优化，对于后续实验工作具有一定意义上的指导作用。4.选购用于组成环行腔激光器的各项器件，搭建了主动锁模掺镱光纤激光器实验装置，通过调试在基频点处获得了锁模脉冲输出。本文设计方案的特色是使用了光子晶体光纤，通过在环行腔内加入光子晶体进行色散补偿，解决了输出脉冲不稳定问题，同时对输出光脉冲的脉宽进行了压缩。