金属纳米颗粒复合膜和半导体量子点材料由于受量子尺寸效应、介电限域效应、表面效应和局域场效应等的影响而具有比体材料大得多的三阶非线性极化率和快的时间响应,成为人们研究的热点非线性光学材料。本论文主要研究了不同金属浓度、不同基质和不同制备条件等对金属纳米颗粒复合膜线性和非线性光学性质的影响;研究了量子尺寸效应、介电限域效应和表面效应对半导体纳米颗粒线性、光物理和非线性光学性质的影响。试图测量它们的非线性表现,发现其非线性现象和规律,并探究其原理和机制。本论文包括四章:第一章绪论部分对文献加以综述,主要介绍了纳米颗粒材料非线性研究的意义以及近年来的研究进展;第二章仪器部分主要介绍测量纳米颗粒材料三阶非线性所使用的皮秒Z扫描技术;第三章主要从实验和理论两个方面研究了Ag:Bi₂O₃、Au:TiO₂和Au:Al₂O₃金属纳米颗粒复合膜非线性性质,采用单光束纵向皮秒Z扫描技术测量样品的三阶非线性极化率,并测量其倍频（532 nm）、基频（1064 nm）和闭孔、开孔等不同的情况,用等离子体共振理论和局域场理论计算金属颗粒复合膜的三阶非线性极化率,并分析金属浓度、基质和制备条件的影响;第四章从实验和理论两个方面研究了α-FeOOH、CdSe和γ-MnS等半导体量子点非线性性质。采用单光束纵向皮秒Z扫描技术测量样品的三阶非线性极化率,并测量其倍频（532 nm）、基频（1064 nm）和闭孔、开孔等不同的情况,用局域场增强理论、量子尺寸理论和介电限域理论计算半导体量子点的三阶非线性极化率,并分析量子尺寸、介电限域和制备条件的影响。最后对本论文及硕士期间做的研究工作作了总结。论文工作在以下几个方面做出了创新:1.首次研究了在皮秒激光脉冲作用下Ag:Bi₂O₃复合膜的光学非线性性质及其理论计算。测量了Ag:Bi₂O₃复合膜的皮秒Z扫描曲线,探讨了不同Ag浓度、不同探测光和不同制备条件对非线性光学性质的影响。Z扫描曲线均为先峰后谷,说明极化率为负值,样品为自散焦;在探测光越接近其共振吸收带时,样品三阶非线性极化率值就越大,反之越小;等离子体共振使得局域场增强近一个量级,共振增强和合适的金属掺杂浓度使得三阶极化率χ（3）增强二个量级,实验结果与理论计算有较好的一致性。（该工作文稿已定于2007年7月在《物理学报》发表）2.首次用皮秒Z扫描技术对Au:TiO₂、Au:Al₂O₃复合膜的光学非线性性质及其理论计算进行了研究。测量了Au:TiO₂、Au:Al₂O₃复合膜的Z扫描曲线,探讨了不同Au浓度、不同探测光、不同基质和不同制备条件对非线性光学性质的影响。不同基质、不同颗粒尺寸复合膜的闭孔Z扫描曲线均为先峰后谷,说明极化率为负值,样品为自散焦,其开孔Z扫描曲线为峰,表明存在非线性饱和吸收,且非线性吸收系数为负;探测光对非线性响应有较大的影响,在越接近其共振吸收带的情况下,样品三阶非线性极化率χ（3）值就越大,反之越小;其三阶非线性极化率随着颗粒尺寸和基质介电常数的增大而增大,且量子尺寸效应影响最大,介电常数影响最小;等离子体共振增强和较大的金属颗粒或较大介电常数的基质均使得χ（3）增强近二个量级,实验结果与理论计算有较好的一致性。（该工作文稿在《物理学报》审稿中）3.首次用Z扫描方法研究了皮秒激光脉冲作用下α-FeOOH量子点的光学非线性性质及其理论计算。测量了α-FeOOH量子点的皮秒Z扫描曲线,探讨了不同量子点尺寸和不同探测光对非线性光学性质的影响。不同半径量子点的闭孔Z扫描曲线均为先峰后谷,说明极化率为负值,样品为自散焦,其开孔Z扫描曲线为峰,表明存在非线性饱和吸收,且非线性吸收系数为负;探测光和量子尺寸对非线性响应有较大的影响,在大于带隙的共振增强和大量子点尺寸的情况下,样品三阶非线性极化率值就越大,反之越小;且量子尺寸占主导地位;共振增强和较大的量子点使得三阶极化率χ（3）增强近16倍,实验结果与理论计算有较好的一致性。（该工作已整理成文）4.首次用皮秒Z扫描方法对强限域尺寸范围内的CdSe量子点的光学非线性性质进行了研究并进行了理论计算。测量了CdSe量子点的皮秒Z扫描曲线,探讨了强限域尺寸范围内不同量子点半径和不同探测光对非线性光学性质的影响。不同尺寸量子点的闭孔Z扫描曲线均为先谷后峰,说明极化率为正值,样品为自聚焦,其开孔Z扫描曲线为峰,表明存在非线性饱和吸收,且非线性吸收系数为负;探测光和量子尺寸对非线性响应有较大的影响,在大于带隙的共振增强和大量子点尺寸的情况下,样品三阶非线性极化率χ（3）值就越大,反之越小;共振增强和较大的量子点使得χ（3）增强近20倍,实验结果与理论计算有较好的一致性。（该工作已整理成文,在修改之中）