脉冲光纤激光器具有体积小、散热快、光束质量高、稳定性好、转换效率高等一系列优点,在光纤通信、激光加工、工业制造、国防军事、生物医学、光纤传感、激光雷达以及非线性光学等众多领域有着极大的应用潜力。目前光纤激光器中的脉冲输出主要通过调Q和锁模两种技术方式来获取,而利用可饱和吸收体（SA）来实现被动调Q和锁模技术是一种操作简单、应用广泛的方法。近年来,随着二维材料石墨烯的出现,各种新型的具有优异非线性特性的二维层状材料被作为SA用于脉冲光纤激光器研究中。然而,目前绝大多数二维材料SA在脉冲光纤激光器中有着不同的应用范围,并且都有其自身局限性。因此,如何改进SA的性能参数,用以提升激光器的输出指标显得尤为关键。本论文从材料制备方法、设计腔体结构和选用新型材料等方面比较系统的研究了铋（Bi）、碲化铋（Bi2Te3）和三元拓扑绝缘体铋硒碲（Bi2Se2Te）等二维层状可饱和吸收体的制备、表征及其在掺铒光纤激光器中的应用。本论文的主要研究内容如下:（1）对单元素Bi可饱和吸收体在光纤激光器中产生脉冲输出进行了相关研究。通过液相剥离法成功制备Bi的纳米片分散液,与高分子聚合物聚乙烯醇（PVA）溶液混合制成Bi-PVA薄膜型可饱和吸收元件,之后将其用于掺铒光纤激光器进行了非线性光学特性实验测试,最终获得了中心波长1562.59 nm、基频4.30 MHz、脉宽1.09 ps的传统孤子以及重复频率在36.40 k Hz至62.80 k Hz之间变化的稳定调Q脉冲输出。实验表明,Bi具有优异非线性饱和吸收特性,具备成为高性能光电器件材料的潜力。（2）搭建了基于CVD-Bi2Te3可饱和吸收体的高能量被动掺铒光纤激光器。采用CVD方法制备出了高质量Bi2Te3纳米薄膜,将其制成可饱和吸收体接入掺铒光纤激光器中,成功获得稳定的锁模脉冲输出,其输出光谱中心波长位于1558.42 nm、3-d B带宽为1.86 nm、最大输出功率为40.74 m W、最大单脉冲能量为23.9 n J,同时这也是单脉冲能量最高值。继续调整偏振态还得到了最大平均输出功率和单脉冲能量分别为40.18 m W和20.91 n J的多波长亮-暗脉冲孤子输出,在最大泵浦功率下激光损伤阈值高达33 m J/cm~2以上。实验结果表明,CVD方法制备的Bi2Te3SA具有优良非线性可饱和吸收特性,可以在超快光学领域中实现大能量的脉冲输出,同时本实验也为获得新型高损伤阈值的SA提供了新的途径。（3）研究了三元拓扑绝缘体Bi2Se2Te在掺铒光纤激光器中的应用。采用液相剥离法成功制备Bi2Se2Te-PVA薄膜型可饱和吸收体,测得其调制深度为4.76%、饱和强度为6.23MW/cm~2。改变Bi2Se2Te与PVA的不同混合比例,在实验中分别获得了输出中心波长1559.50nm、基频4.32 MHz、最窄脉冲宽度755 fs的传统锁模孤子以及1530 nm输出波长锁模输出。实验证明了Bi2Se2Te用于1.5μm波段锁模光纤激光器的可行性,为探索多元素材料成为新型可饱和吸收器件提供了一定的实验指导。