非线性光学（NLO）在20世纪60年代伴随着激光的发明而产生,随着纳秒、皮秒及飞秒激光器的广泛应用,具有三阶非线性光学响应的光学器件在光通信、光信息存储及全光开关等多个领域都显示出其重要性。三阶非线性光学材料可分为无机材料和有机材料两大类,以KH2PO4（KDP）、Ba B2O4（BBO）、Li B3O5（LBO）等为代表的无机晶体材料具有响应速度快、非线性系数大的优点,但同时也伴随着易共振吸收、热稳定性差且制备成本高的问题。有机非线性光学材料的光学非线性响应目前虽还不能跟无机材料相媲美,但凭借其高度可设计优化的分子结构及相对较低的制备成本等优势,越来越成为三阶非线性材料研究领域的热点。有机材料的非线性光学响应源于离域π电子在外加光电场作用下产生的非线性极化作用。为此,以共轭结构为基础同时引入给受体单元,构筑有机共轭给受体系,同时调控有机共轭给受体系的空间构象及组装结构,以获得优异的非线性光学响应是本文的研究出发点。具体从以下两个方面开展了研究工作:1.选取两个互为异构体的非稠环A-π-D-π-A型结构分子NOC6F-1和NOC6F-2,研究了它们在聚集态薄膜和不同溶液状态下的三阶非线性光学响应。NOC6F-1和NOC6F-2具有相同的给受体单元,区别在于中心的给体单元萘通过不同位置与相邻共轭单元进行连接。2,6-位连接的NOC6F-1具有平面结构,1,5-位连接的NOC6F-2分子具有大的二面角结构。Z-扫描结果表明,NOC6F-2在薄膜状态与极性溶剂体系中的反饱和吸收性质均明显优于NOC6F-1。特别是NOC6F-2/PMMA的非线性吸收系数β值(7.2×10-10 m/W)几乎比NOC6F-1/PMMA(8.8×10-11 m/W)高近一个数量级。DFT计算结果表明,大的二面角导致的较大偶极矩和二次超极化率是NOC6F-2优异非线性光学响应的决定性因素。2.二维共轭有机骨架材料（2D COFs）丰富多样的有序共轭骨架结构是一种潜在的优异非线性光学材料,但无法溶解、后续加工性能差的特点却严重限制了其在非线性光学领域的研究发展。本文采用固液界面溶剂热法直接原位生长晶态2D COFs薄膜,分别制备了基于芘和并噻吩、联噻吩单元的两种晶态2D COFs薄膜材料Py-TT-COF和Py-BT-COF。采用Z扫描技术、瞬态吸收光谱等手段研究它们的非线性光学性质,结果表明两种晶态薄膜均具有超强的非线性饱和吸收（SA）效应。进一步对比研究发现,以并噻吩作为连接单元的Py-TT-COF性能相比联噻吩连接的Py-BT-COF非线性饱和吸收系数高出近一个量级,说明并噻吩富电子的稠环单元有利于增强非线性光学响应。二者的动力学弛豫过程结果表明此类2D COFs体系中电子由激发态发生系间穿越到三重态是实现高非线性光学响应的重要因素之一。