向列液晶由于具有折射率各向异性,可以产生显著的光学非线性。在液晶中掺入偶氮染料可以有效提高其光学性能。近年来,由于材料成本低廉、制作工艺简单、低外加电场、光学性能显著等优势,使掺染料液晶的非线性光学过程受到广泛的关注。本论文从理论和实验上对两种典型的掺偶氮染料(DR1和MR)液晶薄膜在无外加电场和磁场作用下的非线性光学性能,尤其是全息特性,进行了系统的研究。建立掺偶氮染料液晶薄膜中全息存储与衍射的理论模型。这种液晶薄膜中光栅的建立是以偶氮染料分子的顺-反异构反应及液晶分子取向的空间分布为基础,液晶分子折射率各向异性可产生光栅的折射率调制。这些薄膜中各向异性吸收与各向异性折射率的动态变化会引起光强与相位的显著变化,在这些薄膜中既可建立强度光栅也可建立偏振光栅。利用以各向异性吸收为基础的介电张量表达式及准稳态麦克斯韦方程,推导出强度光栅和偏振光栅的介电张量表达形式。分别将强度光栅和偏振光栅的介电张量表达式代入准稳态麦克斯韦方程并应用慢变振幅近似和相应的边界条件得到强度光栅和偏振光栅的衍射效率表达式。这两个表达式充分体现了衍射效率对材料参数,如:掺杂浓度、样品厚度等和记录参数,如:记录光强、记录光偏振、记录角等的依赖关系。通过对掺DR1液晶薄膜和掺MR液晶薄膜的吸收特性和二波耦合特性进行研究,获得掺DR1液晶薄膜和掺MR液晶薄膜在全息记录中最佳材料参数和记录参数的取值。并且在最佳实验条件下,掺DR1液晶薄膜的最大衍射效率高达11.8%;掺MR液晶薄膜的最大衍射效率可达18.2%。掺偶氮染料液晶薄膜中光栅的形成不仅依赖于记录光强度,而且依赖于记录光的偏振方向。由于染料分子吸收的各向异性,当激发光的偏振方向平行于掺偶氮染料液晶薄膜指向矢时,薄膜对光的吸收最强,衍射效率应为最大。相反,当激发光的偏振方向垂直于薄膜指向矢时,薄膜对光的吸收最弱,衍射效率也应最小。另外,随着掺杂浓度的增大,薄膜对光的吸收也不断增加,同时全息光栅的衍射效率应随之升高。掺DR1液晶薄膜中得到的实验结果与理论模拟结果基本一致。但是掺MR液晶薄膜的实验结果显示光栅的衍射效率最大值出现在各向异性吸收最小处,而不是如掺DR1液晶薄膜那样出现在各向异性吸收最大处。通过比较这两种薄膜的透射光偏振成分随入射光(488nm)偏振方向变化的结果,发现掺MR液晶薄膜中存在旋光效应。从而证明掺MR液晶薄膜和掺DR1液晶薄膜的全息光栅建立机制本质上完全相同,本文的理论对这两种掺偶氮染料液晶薄膜都适用。对掺DR1液晶薄膜和掺MR液晶薄膜中的全息光栅进行研究,并在这两种薄膜中实现全息图记录与再现。掺DR1液晶薄膜中只能形成瞬态光栅和瞬态全息图,而且建立和擦除时间在毫秒量级,可应用在全息显示等快速响应的全息光学元件中。而掺MR液晶薄膜中可建立永久性全息光栅和永久性全息图,且记录时间足够长时,可产生图像边缘增强效应,此薄膜可应用于全息存储、图像处理等领域。在掺MR液晶薄膜中获得多重光栅存储,利用角度复用和旋转复用技术在同一记录点存储了13幅全息光栅。进而在掺MR液晶薄膜中实现了多重全息图的记录与再现,分别利用角度复用技术和旋转复用技术在单点存储了两幅全息图,再应用空间复用技术后,面积为5cm2的掺MR液晶薄膜中可以存储50多个全息数据页。理论分析表明单点存储的全息图数量有望提高到24幅,即存储密度达到0.12 Gbits/cm2。本文还对高阶衍射图像进行了深入的研究。本文的成果对掺DR1液晶和掺MR液晶在全息图像显示、动态全息、光学图像处理、高密度光学信息存储和其它光学信号处理技术等领域的应用具有重要意义。