随着纳米科学与纳米技术的发展,人们对有机/无机纳米复合材料的要求越来越高,特别是聚合物-半导体纳米复合材料。纳米复合材料具有单独的有机或无机材料以及宏观的有机/无机块体材料所没有的一些光学、电学、热力学以及机械方面的特性。复合材料能够将有机聚合物的易加工、机械性能强、耐腐蚀性等优点同无机TiO₂纳米微球的小尺寸效应、表面效应、量子效应和粒子形貌可控性等优点集合起来,使复合材料具有更加优良的性能。TiO₂具有折射率大、载流子多等优点,是开发光学非线性的首选材料。本文主要研究聚甲基丙烯酸甲酯（PMMA）和二氧化钛（TiO₂）复合材料改性和三阶光学非线性增强,采用有效介质约化理论和表面增强电磁场理论解释了纳米复合薄膜的三阶光学非线性增强。本论文的研究工作和成果如下:利用表面活性剂乙酰丙酮改性纳米粒子合成核-壳结构。通过“外位”溶胶-凝胶/聚合方法,制备了具有高浓度、分散均匀的TiO₂纳米粒子复合聚合物材料。确定了TiO₂纳米粒子与表面活性剂的最佳比例。傅立叶红外光谱（FTIR）分析表明乙酰丙酮的表面配位基已经成功地作用到TiO₂表面和聚合物PMMA之间,得到了核-壳结构的纳米复合材料。利用有效介质理论研究了核-壳结构复合薄膜的线性和三阶非线性光学性质。这种核-壳复合结构能够将光场集中在无机TiO₂球核以及周围的有机壳层中,使得球核以及周围的有机层的光场增强,纳米粒子的极化也随之增强,最终促进了三阶非线性响应增强,为实验工作提供了良好的理论依据。采用800nm飞秒激光,利用Z-扫描实验验证了这种核-壳结构复合薄膜与无机TiO₂薄膜相比三阶非线性明显增强。实验结果表明TiO₂纳米粒子可以有效的调节复合材料的线性和三阶非线性光学性质,在新型光子器件应用方面具有广阔的前景。采用三乙醇胺和乙酰丙酮混合表面活性剂对纳米粒子表面改性,合成椭球体纳米粒子。TiO₂是极性半导体,对表面活性剂中极性更强的三乙醇胺有选择性吸收。研究了不同TiO₂浓度、不同椭球体纳米粒子尺寸、形状和周围介质环境等因素对PMMA/TiO₂纳米复合材料三阶非线性光学性质的影响。利用有效介质约化理论,计算了不同体积分数尤其是高浓度的TiO₂纳米粒子复合介质薄膜的有效非线性光学性质。采用表面电磁场增强理论模拟,提出了一种基于PMMA/TiO₂复合物局域场增强的最佳非线性增强方案,理论分析结果对于设计可调的非线性光学元件具有一定的借鉴意义。