具有优良非线性光学性质的材料可广泛应用于光电器件,比如光调制器、饱和吸收体、光开关等。随着科学技术的不断进步,人们对光电器件的响应速度、工作带宽、非线性极化率等参数的要求越来越高。因此,研究具有优异非线性光学性质的材料对光电器件的性能提升具有重要的实际意义。二维层状材料由于其优异的光电特性而引起了人们的极大关注,常见的二维层状材料包括石墨烯、黑磷、过渡金属硫化物、钙钛矿等。石墨烯作为最典型的二维层状材料之一,具有很多优异的物理和化学性质,如超热导率、大比表面积、稳定的化学结构、超快的载流子迁移率等,还具有较强的非线性响应、宽带的可饱和吸收等优良的非线性光学性质。通过对石墨烯功能化,可以改善石墨烯的零带隙的缺点,令其具有更强的非线性光学响应。黑磷由于其带隙可调、高载流子迁移率的优势也成为二维层状材料中研究的热点。已有研究表明黑磷烯具有较强的饱和吸收效应,但是通过负载其他材料调节黑磷的三阶非线性光学性质的研究较少。本文针对以上问题,尝试通过功能化的方法改善石墨烯和黑磷的三阶非线性光学性质,利用具有良好非线性性质的α-FeOOH纳米棒功能化石墨烯和黑磷,对不同复合比例下的复合材料的非线性光学性质进行研究,本文内容分为以下两部分:第一部分,α-FeOOH纳米棒和石墨烯单体及其复合材料的三阶非线性光学性质研究。利用绿色高效的水热法制备α-FeOOH纳米棒和改进的Hummer法制备氧化石墨烯,最后利用水合肼的还原性将氧化石墨烯还原成石墨烯,氧化还原发生过程中α-FeOOH纳米棒与石墨烯之间生成新的化学键,通过调节两种单体的质量比制备不同的复合材料。对复合样品进行测试表征,测试结果表明α-FeOOH纳米棒均匀的分布在石墨烯表面,并且是以键合方式与石墨烯连接,复合材料的结构和形貌与两种材料的质量比相关。通过Z-扫描测试深入研究α-FeOOH纳米棒和石墨烯的质量比对复合材料的三阶非线性性质的影响,计算结果表明,复合材料显示出饱和吸收效应,且所有复合材料的三阶非线性极化率均大于石墨烯,并且当石墨烯和α-FeOOH纳米棒的质量比为1:2时,复合材料的三阶非线性极化率达到12.03×10-11 esu,相比于石墨烯提高了大约60倍,功能化后的石墨烯的三阶非线性光学性质得到显著提升。通过建立石墨烯和α-FeOOH纳米棒电荷转移原理模型,对复合材料的三阶非线性光学性质提高的内在机理进行研究。复合材料的饱和吸收效应的增强主要是因为电荷转移通道的改变和材料之间的协同作用。本研究丰富了石墨烯及其复合材料的非线性光学相关领域理论,推动石墨烯复合材料的在光电器件中的应用。第二部分,α-FeOOH纳米棒和黑磷烯（black phosphorus nanosheets,BPNS）单体及其复合材料的三阶非线性光学性质研究。利用高温矿剂法制备出高质量黑磷晶体块,采用液相超声剥离法制备出尺寸均一、溶液稳定性强BPNS溶液。通过调控α-FeOOH纳米棒的浓度调控α-FeOOH纳米棒和BPNS复合材料的三阶非线性光学性质。对所有复合样品进行表征,形貌表征结果表明复合材料中BPNS和α-FeOOH纳米棒分布均匀,形貌良好。Tauc-Mott图计算得到复合材料的带隙相比于BPNS单体增大,表明载流子迁移过程发生变化。通过Z-扫描测试对复合材料的三阶非线性进行分析,结果表明掺杂后BPNS的三阶非线性极化率提高了十倍左右。非线性光学性质的增强是因为BPNS和α-FeOOH纳米棒之间产生异质结,由于材料的禁带宽度不同,在界面处能带不再连续,从而使异质结界面处产生复杂的界面态,影响着电荷转移的方式和复合材料的非线性光学性质。本实验结果发现α-FeOOH纳米棒对BPNS的三阶非线性光学性质具有明显的改善作用,为黑磷及其复合材料的应用提供了实验思路和理论基础。