探索性能优良的三阶非线性光学材料、新型结构以及三阶非线性光学性质的研究一直是非常活跃的前沿课题。光与纳米金属复合结构相互作用产生的新现象和实现的新功能，在微纳传感探测、纳米光子器件及其集成等纳米光子学领域具有良好的应用前景。本论文的研究工作是以发展非线性表面等离子体光子器件为目标，基于近场光学和非线性光学，采用有效介质理论、退耦近似等理论研究了纳米金属复合结构中新颖的光学现象，利用纳米金属复合结构增强了光学非线性效应，进行了ATR结构的全光调制研究。 本论文的研究工作和成果如下： 1.利用离散偶极子近似方法研究了不同形状纳米金属颗粒的光学性质；分析了不同尺寸、不同长径比、不同周围介质环境等因素对球形银颗粒和金纳米棒消失谱(散射谱+吸收谱)的影响，给出了近场区域的场分布图；从单个颗粒拓展到多个颗粒体系，利用耦合偶极子方法初步分析了多个金属颗粒之间的相互作用，为实验工作提供了良好的理论依据。 2.利用退耦近似方法，研究不同体积分数尤其是体积分数高的纳米金属球形颗粒复合介质膜中的线性光学性质和有效非线性光学性质；结合谱表示法和Maxwell-Garnett理论分析了不同结构参数对纳米金属颗粒复合介质光学双稳特性的影响；结合模场理论和数值方法分析了在激发表面等离子体的情况下纳米金属-非线性介质多层膜结构的光学非线性增强特性，为实现光学双稳、光开关等全光器件奠定了良好的理论基础。 3.通过引入可逆加成-裂解链转移法与纳米粒子原位还原的方法，制备了具有高浓度、分散均匀的纳米银颗粒复合聚合物材料；利用Z扫描方法研究了不同银颗粒浓度、不同复合体系等因素对纳米银溶胶、掺杂纳米银颗粒的AZO/PMMA薄膜和掺杂纳米银颗粒的R6G/PMMA薄膜的三阶非线性光学性质的影响：实验结果表明纳米银颗粒的加入可以有效调节纳米金属复合材料的线性和非线性光学性质，在新型光子器件设计应用方面具有广阔的前景。 4.研究了基于衰减全内反射(ATR)结构的偶氮聚合物全光调制实验，与传统偶氮聚合物光致双折射效应的全光调制实验相比，具有调制时间快、调制幅度大和调制对比度高等优点；提出了一种基于表面等离子体局域增强的高灵敏的全光调制方案，对发展设计基于表面等离子体的新型全光调制元件具有很好的指导意义。 本论文的创新点主要包括： 1.利用离散偶极子近似方法和耦合偶极子方法研究了单个纳米金属颗粒和多个纳米金属颗粒体系的光学性质，分析了形状、尺寸、长径比和周围介质环境等因素对颗粒消失谱和近场分布的影响。 2.从无序结构拓展到有序多层膜结构的光学非线性增强特性研究，分析了不同体积分数尤其是体积分数高的无序纳米金属颗粒复合介质的三阶非线性光学响应；研究了在激发表面等离子体的情况下有序纳米金属．非线性介质复合多层膜结构的光学非线性增强特性，对于有序多层膜结构的实际应用具有一定的指导意义。 3.采用一种新的制备方法，合成高浓度、均匀分散的纳米银颗粒复合聚合物材料，研究了不同银颗粒浓度、不同复合体系等因素对纳米银复合聚合物材料三阶非线性光学性质的影响；实验结果表明纳米银颗粒可以有效的调节复合材料的线性和三阶非线性光学性质，在发展制作新型光子器件方面具有很好的应用前景。 4.实现了基于ATR结构的偶氮聚合物全光调制实验，与传统偶氮聚合物全光调制实验相比调制效果明显提高；设计了一种基于表面等离子体局域增强的高灵敏性全光调制方案，理论分析的结果对于设计新型全光器件具有一定的借鉴意义。