随着激光科学的发展,有关非线性光学材料的研究引起了科学家越来越多的关注。非线性光学材料表现出来的饱和吸收、反饱和吸收、非线性折射等特性,使其可以被广泛应用于激光锁模、激光防护及光开关等领域。近年来,基于石墨烯及类石墨烯结构的二维材料以其优越的物理和化学性质引起了研究者极大的兴趣,而针对该类二维材料的非线性光学性质的研究还相对较少。理论研究表明当材料的厚度减小至单原子层厚度时,其电子会被局域在该二维平面,从而导致材料的光学和电学性质较之于块体材料发生很大的变化。本论文以石墨烯、硫化钼、硫化钨及并五苯衍生物为基础,设计并合成了数个有机无机二维杂化材料,利用Z-扫描和瞬态吸收等技术研究了这些材料在不同条件下的非线性光学性质。本论文的主要工作包括以下几个部分:1.合成了还原氧化石墨烯-硫化铅（rGO-PbS）纳米异质结材料,并利用开孔Z-扫描技术研究了其非线性光学性质。该杂化材料无论在可见光区（532 nm）还是近红外区（1064 nm）都具有比单独的氧化石墨烯（GO）和PbS量子点更强的光限幅响应。我们进一步又把该复合材料掺杂到聚甲基丙烯酸甲酯（PMMA）中制成高聚物复合薄膜,测得该薄膜也具有良好的光限幅特性。2.提出了聚三己基噻吩（P3HT）修饰二维硫化钼（MoS₂）的新策略,合成了新型有机半导体与二维半导体材料复合的纳米异质结材料P3HT-MoS₂。该异质结材料能够很好地分散于数种有机溶剂中,通过开孔Z-扫描测试发现在相同的入射激光能量下,MoS₂以及P3HT主要表现为饱和吸收性质,而P3HT-MoS₂异质结材料则转化为反饱和吸收。3.制备了基于WS₂和TiC纳米片的饱和吸收器件。将WS₂和TiC纳米片附着到金镜片上制成反射型饱和吸收器件,把该器件应用于掺铥光纤激光器的空腔中,成功地实现了2μm波段处的激光锁模。4.系统地研究了三种并五苯衍生物的三阶非线性光学性质,提出了单线态裂分诱导的激发态吸收机理。该类材料在532 nm激光照射下,具有比传统的C₆₀具有更强的光限幅性能,其阈值可以达到2 mJ/cm²,为有机光限幅材料的发展提供了一个新的参考基准。把该材料掺杂到聚苯乙烯（PS）高聚物薄膜制成复合薄膜器件也呈现出良好的光限幅性质。