本文主要研究了具有介电各向异性的颗粒复合材料的非线性光学性质。理论计算证明了可以通过调节体系的各向异性，颗粒的微结构(颗粒的壳层厚度以及颗粒的形状)，组分的体积分数等手段来实现体系有效非线性的增强，为制备强非线性的复合材料提供了理论指导。主要内容安排如下： 第一章，对颗粒复合材料的非线性物理性质的研究背景和现状做一个广泛的介绍和概述。介绍了具有各向异性的材料的性质，以及研究模型和方法。 第二章，研究了具有介电各向异性的颗粒复合体系在部分共振条件下的非线性介电响应。模型是由稀释(或非稀释)的圆柱体颗粒无规分布在基质中组成，圆柱体颗粒由非线性核与介电各向异性壳层构成。在部分共振条件下，sε<0><,sr>+ε<0><,h>=0(或ss<0><,sr>+ε<0><,c>=0)，带壳圆柱体颗粒可以等效为实心圆柱体颗粒，而后者具有比原来的非线性球核更大的非线性极化率和体积分数。所以，在部分共振条件下，复合体系的非线性介电响应可以大大的增强。此外，调节体系的介电各向异性可以进一步增强体系的非线性响应。 第三章，研究了由非球形纳米颗粒构成的组分梯度薄膜的光学非线性响应。根据有效媒质理论和谱表示理论，重点研究了组分梯度薄膜的有效线性和三阶非线性响应，从理论上解析得到了介电常数的二阶张量表达式和三阶非线性极化率的四阶张量表达式。通过选取了一定的梯度分布形式，研究了颗粒形状和体积分数对非线性增强的影响。结果发现，含有非球形颗粒的组分梯度薄膜是一种可以得到大的光学非线性极化率和理想的品质因子的材料，为制备非线性材料提供了一个新的方向。 第四章，由于表面对称性的破缺导致颗粒组分具有二次和三次非线性，主要研究介电各向异性对复合材料二次和三次谐波非线性极化率的影响。我们考虑了两种颗粒模型，一种是由二阶非线性的核与介电各向异性的壳层组成：另一种颗粒是由各向异性的球核与二阶非线性的壳层组成。非稀释的颗粒无规分布在线性基质中，我们在理论上得到了有效二次谐波非线性极化率和诱导的三次谐波非线性极化率的张量表达式。通过研究发现，选择合适的径向介电各向异性和颗粒的壳层厚度，可以得到大的二次谐波非线性极化率和诱导的三次谐波非线性极化率。另外，我们还注意到，金属壳层可以导致体系出现两个等离子共振频率ω<,c1>和ω<,c2>，对应于双倍数量的共振峰。 第五章，研究了由各向异性壳层组成的非线性复合体系的光学双稳特性。模型是由非线性金属球核与各向异性壳层构成的颗粒无规分布在线性基质中所组成。重点研究了径向各向异性对体系光学双稳的影响。研究发现，径向各向异性可以优化阈值电场强度，增强光学双稳现象。另外，存在一个临界的界面参数λ<,c>，只有当界面参数小于λ<,c>时，光学双稳才存在。