非线性光学发展至今主要集中于两个方面的研究:发展具有高灵敏度和高可靠性的非线性光学表征技术;寻找具备超快响应时间、超强非线性光学效应的材料。Z-扫描作为表征光学非线性的一种重要技术，具备装置简单、测量灵敏度高、可同时获得材料的非线性折射系数和非线性吸收系数的大小和符号等优点而广泛用于各种非线性光学材料的表征。针对Z-扫描技术研究者提出了各种改进方法来提高其测量灵敏度，拓展其测量内容，这些改进方法一般是用标量场激发。偏振作为光场的一个重要属性，在光与物质相互作用方面有着极其重要的作用。矢量光场是一种偏振态空间分布各向异性的特殊光场，调控偏振态的分布可以得到各种新颖的焦场，如环状场、针形场、双焦点等。特殊的焦场会增强光与物质间相互作用，出现众多不同于标量光场的新颖效应，因此将矢量光场用于Z-扫描技术将是一种有益的尝试。另一方面有机染料材料作为一种新型的非线性光学材料，具有损伤阈值高、非线性光学效应强和超快响应时间等优点。金属酞菁配合物和卟啉作为两种重要的有机染料，在光限幅、3D微制造和荧光显微检测等方面有着极其重要的应用。本论文的主要创新点包括以下两部分:第一，表征了二层金属酞菁配合物M[Pc(OC8H17)8]2(M=Ce(1)，Sm(2)，Lu(3))系列和Donor-π-Acceptor型卟啉在飞秒脉冲光激发下的非线性吸收效应，并分析了两种材料产生非线性吸收效应的物理机制;第二，提出了矢量光场Z-扫描技术用于表征饱和吸收效应和三阶非线性折射效应，实验上通过矢量光场Z-扫描技术研究了二维体材料WS2的饱和吸收效应和石英晶体三阶非线性折射效应。主要研究内容如下:　　1.报道了三明治结构金属酞菁配合物和Donor-π-Acceptor型卟啉在飞秒激光激发下的非线性吸收效应并分析了其产生非线性吸收的物理机制。研究了三明治结构金属酞菁配合物稀土金属取代基不同时的非线性吸收变化，分析了影响其非线性吸收大小的原因，探讨了该类材料在光限幅等方面的应用。研究了新型卟啉的荧光和非线性吸收等相关性质，分析了产生这些现象的物理机制。　　2.矢量光场Z-扫描技术的理论和实验研究。理论上分别给出了矢量光场Z-扫描表征非线性饱和吸收和三阶非线性折射的位置z依赖的归一化能量透过率函数T(z）。实验上用矢量光场Z-扫描分别研究了类石墨烯层状材料WS2的饱和吸收效应和石英的三阶非线性折射效应。结果表明相比于传统标量光场Z-扫描技术，矢量光场Z-扫描技术提高了测量可靠性和灵敏度。