发展非线性光学新材料和新技术已经在光频变换、光通讯、光信息处理、非线性光子器件等研究领域显示出了广阔的应用发展前景。Z-扫描技术以其简单、灵敏度高、可以测量三阶非线性极化率(χ(3))的实部(Re[χ(3)])与虚部(Im[χ(3)])的大小，同时又可以确定其符号的正负等优点而成为探寻光学非线性极强、响应快的材料的一种重要而备受人们关注的方法。正是基于这一原因，选择了光学非线性表征技术和新型材料的光学非线性作为本论文的主要研究内容。论文中，重点研究了以下两个部分：其一，首先研究了一种新的Z-扫描表征技术，即flat-topped光束Z-扫描表征技术；该技术灵敏度远远高于高斯光束z-扫描，且其灵敏度随着flat-topped光束阶数的增加而发生变化。其次，进一步探讨了准一维狭缝光束Z-扫描光学非线性表征技术中各种实验参数对实验结果的影响，有利于指导今后使用该技术对材料的光学非线性的实验研究。其二，利用这些技术，研究了两种材料的光学非线性特性，并探讨了其非线性机理。得到了以下结论：　　 一、从理论上，研究了flat-topped光束闭孔Z-扫描表征技术。结果表明该技术灵敏度远远高于高斯光束Z-扫描。详细讨论了flat-topped光束阶数N，远场光阑线性透过率S等参量对flat-topped光束Z-扫描特征曲线的影响。探讨了flat-topped光束Z-扫描曲线分别在连续激光光束和脉冲激光光束激发下的表现。flat-topped光束Z-扫描是一种非常有效的表征材料光学非线性的方法。　　 二、首先，详细研究了狭缝宽d、三阶非线性相移Φ1、远场光阑线性透过率S、激光光源的半径r0等一些参数对准一维狭缝光束Z-扫描实验曲线的影响。结果发现：狭缝宽施小，η(η=2r0/d)越大，远场光阑线性透过率S越小，准一维狭缝闭孔Z-扫描技术的实验灵敏度越高。r0的大小对准一维狭缝闭孔Z-扫描的实验灵敏度影响并不明显。其次，在具有较高实验灵敏度实验配置情况下，讨论了三阶和五阶非线性折射效应同时存在时的准一维狭缝Z-扫描特征曲线。发现了当三、五阶非线性相移Φ1、Φ2异号时，随着五阶效应的增强，Z-扫描曲线会发生峰谷图样的转变。最后，以楔形样品为例，介绍了QODSZ-扫描技术在处理厚度不均匀样品时的优越性。　　 三、使用高斯光束 Z-扫描技术测量了不同多壁碳纳米管(MWNT)浓度聚亚安酯-尿素/多壁碳纳米管薄膜(PU/MWNT)在不同辐射光强下的非线性光学性质；利用惠更斯菲涅尔积分原理，对Z-扫描实验曲线进行数值拟合，获得了材料的非线性吸收、折射系数，以及它们随MWNT浓度和入射在轴光强的变化规律。数值结果显示，该新型碳纳米管复合材料薄膜有较大的非线性系数，表明了在非线性光子器件等方面具有潜在的应用价值。　　 四、基于Adomian分解法，用级数的形式分别给出了三种吸收模型的开孔高斯光束Z-扫描曲线的解析表达式。可以很方便地拟合实验测量结果，进而研究材料的饱和吸收特性；在纳秒脉冲宽度为8ns，波长为532 nm实验条件下，实验上测量了Rhodamine6G水溶液在不同光强下的开孔Z-扫描实验曲线，利用得到的饱和吸收与双光子吸收共存模型的解析结果，拟合并分析了z-扫描实验结果。获取了该材料吸收吸收以及饱和特征强度，讨论了其光学非线性产生的物理机制。