超快非线性光学材料及其应用是当前非线性光学领域的研究热点。超快光学应用对非线性材料提出了更高要求:不仅需要有超快的载流子响应,还需具备宽波段非线性吸收特性和较大的非线性系数。作为新型的非线性二维材料,石墨烯因其独特的原子层结构和电子能带结构,而拥有优良的电学、热学、光学和力学特性。其中,超快载流子响应和宽带可饱和吸收特性,使其在光电探测、光开关、超快激光器等超快光电应用方面有广阔应用前景。受到石墨烯优越性能的启发,研究人员开始探索和研究其他类石墨烯材料。这些材料与石墨烯有相似的晶体结构,原子层内由较强的共价键连接,而层间由较弱的范德华力连接。由于不同的组成成分和结构,这些材料可能具有不同的物理和化学特性,这也为非线性材料的应用提供了广阔的探索空间。研究超快非线性光学特性,为类石墨烯材料在非线性光子学中的应用提供理论依据,也为石墨烯材料非线性特性的调控提供可行的方法,并促进它们在光电领域的应用。本论文主要从石墨烯、氧化石墨烯、黑磷和石墨烯/二硫化钼复合材料等二维材料入手,对类石墨烯材料的超快非线性光学特性进行了理论和实验研究,取得如下研究结果:（1）实验研究了石墨烯材料的超快载流子动力学和宽波段可饱和吸收特性,发现其慢弛豫时间不会因为石墨烯层数或形态的不同而发生变化,但会因激发光强的变大而变长。这是因为,影响载流子慢弛豫过程的主要因素是光学声子的数量,激发光强越强,弛豫过程中产生的光学声子浓度越大,光学声子将能量耦合进电子分布中,减缓了载流子的冷却速度,从而使慢弛豫时间越长。通过开孔Z扫描技术,研究石墨烯在400 nm、800 nm、1562 nm和1950 nm下的非线性吸收特性,发现其表现出宽波段可饱和吸收特性,能作为宽波段可饱和吸收体应用在超快光纤激光器中。（2）实验研究了氧化石墨烯的超快载流子弛豫和非线性吸收特性。通过自行搭建的飞秒泵浦探测实验系统,发现氧化石墨烯在高泵浦光强下的载流子弛豫远远慢于石墨烯。通过Z扫描实验发现,氧化石墨烯不仅具有可饱和吸收特性,而且在高光强下表现出反饱和吸收特性。此外,氧化石墨烯表现出较明显的光限幅特性,有潜力成为宽波段光限幅器件的制作材料。氧化石墨烯结构中保留的sp²杂化结构碳原子使其保持了石墨烯中原有的特性,如可饱和吸收特性;而在氧化过程中引入大量的sp³杂化结构的碳原子,使氧化石墨烯在一定条件下表现出不同于石墨烯的特性,如高光强下较慢的载流子弛豫和反饱和吸收特性。（3）实验研究了少层黑磷的非线性吸收特性和超快载流子弛豫过程。发现黑磷在800 nm波段下具有可饱和吸收特性,调制深度a₀L为3.2%,饱和光强I_s为376 GW/cm²。并且,黑磷表现与石墨烯相似的超快载流子动力学过程,有两个较为明显的弛豫时间,分别是0.13 ps和1.15 ps。黑磷二维材料因具有随层数变化的直接带隙结构,能在一定程度上弥补石墨烯的零带隙缺陷,其可饱和吸收特性和超快载流子响应,将使其在超快高频光电子学中具有广阔的应用前景。（4）首次研究了石墨烯/二硫化钼纳米复合材料的超快载流子弛豫和增强的宽波段可饱和吸收效应,并实验研究了其在超快光纤激光器中的应用。制备得到石墨烯/二硫化钼纳米复合材料,通过泵浦探测实验发现该复合材料表现一个1.3¹.4 ps的快弛豫时间和一个36³7 ps的慢弛豫时间。通过开孔Z扫描技术,研究该复合材料从可见光到中红外波段的非线性吸收特性,发现其表现出增强的宽波段可饱和吸收特性。在该复合材料中,两个单体之间形成了一个共价电子供体-受体系统,两者之间的电子转移会减缓石墨烯的载流子弛豫,并影响石墨烯中的吸收截面,从而增强光致漂白效应。受宽波段可饱和吸收特性的启发,我们制备了基于石墨烯/二硫化钼复合材料的可饱和吸收体,并首次将其应用在掺铒光纤激光器中,在通信波段（1.5μm）分别实现了调Q和锁模超短脉冲的输出。