具有新奇非线性特性以及超快宽带红外可饱和吸收的光学材料的开发和应用极大地促进了现代光子学、光电子学等领域的发展。半导体的能带宽度和载流子密度是设计材料新奇特性和超快宽带红外非线性的先决条件和基础。在本论文中,我们使用Z扫描测量技术和瞬态吸收光谱研究了过渡金属硫族化合物（TMDCs,包括MoS₂、WSe₂和TiS₂）和硒氧化铋（Bi₂O₂Se）的特殊非线性响应以及超快载流子动力学,为理解和设计基于这些材料的光（电）子器件打下了基础。按研究的材料类别,本论文可以分为两大部分。第一部分主要是过渡金属硫族化合物（包括MoS₂、WSe₂和TiS₂）的特殊非线性行为及载流子动力学的研究。1.单层MoSe₂的CVD制备以及基于能带动态变化的宽度可饱和吸收特性研究。在少层或者单层的TMDCs体系中,由于介质屏蔽的增加,光生载流子容易形成激子（电子-空穴）、带电激子等多体电子能态。载流子密度增加会改变这些激子能态,引起能带重整效应。远低于能带宽度的频谱引起的饱和吸收行为可能和这种能带重整有关。为了验证这个假设,我们采用CVD技术制备了具有均匀厚度的单层MoSe₂,其带宽为1.53 eV,Z扫描测试表明单层MoSe₂在800 nm（1.55 eV）和1550 nm（0.80 eV）具有显著的可饱和吸收特性。为了解释这种远低于其本征禁带宽度的频谱引起的宽带可饱和吸收特性的机理,我们首先计算了单层MoSe₂中的载流子密度,发现在近红外脉冲辐照下,载流子密度超过Mott转变阈值,使绝缘半导体MoSe₂转变成电子（空穴）等离子体MoSe₂。载流子浓度急剧升高并超过Mott转变阈值带来两个结果:一是粒子数反转诱导的能带减小约为0.5 eV（1550 nm辐射时）;另一个是载流子温度升高造成能带减小0.51 eV（1550nm辐射时）。粒子数反转和载流子温度升高的共同效应使单层MoSe₂的能带由最初的1.53 eV减小至0.52 eV（脉冲辐射时）。本部分从实验上证明了单层MoSe₂的近红外宽带可饱和吸收特性,并基于多体相互作用的理论,首次引入动态能带变化机理理解可饱吸收响应。2.多层WSe₂的CVD制备以及声子辅助的反斯托克跃迁引起的反饱和吸收特性研究。TMDCs系统中激子能级通常位于导带边缘,采用能带共振区域附近的光泵浦TMDCs时,会发生很强的激子共振效应,提高激子-声子相互作用和光学非线性特性。为了提高光-物质相互作用,我们采用CVD技术制备具有均一厚度的多层WSe₂（厚度为⁵5 nm）。为此,我们通过能带计算、PL技术得到多层WSe₂的能带在1.44 eV附近。800 nm（1.55eV）的泵浦光恰好位于能带边缘,拉曼和PL的共振提高效应也说明了这一点。Z扫描测量表明即使泵浦光能量大于能带宽度,多层WSe₂仍然吸收光子,同时湮灭声子,实现反饱和吸收响应。更重要地是光限幅阈值为²1.6 m J cm^-2,这低于目前报道的其他800nm飞秒脉冲激光防护材料的阈值。本部分证明了激光共振区域声子辅助的反斯托克类型的非线性行为,更低的光限幅阈值为多层WSe₂的实际应用提供了更大的潜力。3.非平衡电子诱导的TiS₂超快可饱和吸收响应和飞秒锁模激光产生。电子材料受到超快激光照射时诱导的非平衡分布电子不仅能扰动费米能级,而且能提升非线性性能。具有半导体-半金属双性的材料受到脉冲激光泵浦时,电子密度迅速升高,增强材料的金属性。实验结果表明TiS₂具有近红外宽带超快光开关的特性:（1）Z扫描测试表明在800 nm和1550 nm具有宽带可饱和吸收行为;（2）瞬态吸收光谱表明TiS₂具有超快的光响应（⁷68 fs）和大的调制深度（¹45%）。这是由于脉冲激光诱导的表面电子使半导体类型的Ti S₂表现出更多的金属特性。与此同时,我们搭建了基于TiS₂可饱和吸收体的脉冲激光器,该激光器在光通讯波段能实现脉宽⁴02 fs,重复频率为⁵.70 MHz的飞秒激光输出。第二部分主要关注的是Bi₂O₂Se的超宽带可饱和吸收特性和载流子动态研究。中红外脉冲激光正逐渐成为工业和科学研究不可或缺的光源。目前,制约中红外脉冲激光发展的瓶颈之一是缺少合适的可用于中红外的可饱和吸收体。本论文中,由弱的静电相互作用形成的层状半导体材料在0.8-5.0μm范围存在可饱和吸收行为,并且中红外范围光响应时间达到皮秒量级,调制能力达到330.1%。基于Bi₂O₂Se可饱和吸收体,我们搭建了3μm的中红外脉冲激光器,并测试调Q激光输出性能。