光栅作为一种非常重要的衍射光学元件，在光信息处理、激光脉冲压缩、光学加工、集成光学等领域中得到了广泛的应用。近年来，随着微电子刻蚀加工工艺的成熟和有关光栅设计的数值计算方法的发展，周期具有波长或亚波长量级的高密度光栅由于其偏振特性和光谱特性等都显示出与传统光栅截然不同的特征而受到研究者关注。基于目前高密度光栅的研究现状，本博士论文围绕如何在不同折射率对比度高密度光栅中引入界面反射的模式分析这一问题，介绍了以下几个方面的研究工作:　　1)低对比度熔融石英透射光栅的模式分析。为了减小光栅的反射损失，设计了浸入式熔融石英光栅分束器，其透射效率接近100％。在简化模式方法只考虑光栅模激发和传播的基础上，通过引入光栅模在界面处的等效菲涅耳系数来描述其在界面处的反射行为。在一定占空比和周期下，只考虑一个光栅模在界面处的反射，该浸入式光栅可等效为标准的法布里一珀罗(F-P)干涉腔，当同时满足F-P干涉极大值条件和简化模式方法的分束条件时，光栅即可实现高效率分束功能。优化设计得到的浸入式光栅分束器0级和-1的衍射效率均为49.89％。对一般的(非浸入式的)宽带熔融石英光栅，由于简化模式方法无法解释其宽带特性，故提出了多次反射的模式分析方法。该分析方法考虑了多个光栅模在界面处的反射，同时引入了衍射级次的有效折射率，进而定义了出射界面处的等效菲涅耳系数。光栅模被界面反射，在光栅区域多次往返传播后，在出射界面处的复振幅表达式类似平行平板干涉的结果。相比于简化模式方法，利用多次反射模式方法的数值模拟结果整体上更符合严格耦合波分析的计算结果，因而能够有效地解释光栅的宽带衍射特性。以一定带宽内光栅-1级衍射效率的平均值和标准差来衡量光栅的宽带特性，优化设计得到的光栅在126nm带宽范围内-1衍射效率均高于93.9％，可以实现宽带功能。利用全息曝光技术和感应耦合等离子体刻蚀工艺制作了光栅，实验测得的结果与理论值相吻合。　　2)中对比度HfO2消零级相位板光栅的模式分析。当光栅周期略大于入射波长时，标准的融熔石英相位板无法消除透射0级。设计了光栅材料为HfO2，基底材料为融熔石英的消零级相位板结构。800nm脉冲激光垂直入射下，优化的相位板结构在光栅周期1055nm-1150nm范围内0级衍射效率均小于0.1％，可用于制作光纤布拉格光栅。垂直入射下，入射光在光栅区域只激发两个偶模。利用多次反射的模式方法分析了光栅模的激发、往返传播和耦合出射过程。并详细分析了该相位板光栅实现消零级的物理机制，推导了实现消零级的解析式条件。利用该解析式条件可指导设计消零级相位板光栅，并为严格耦合波法所证实。　　3)高对比度Si反射光栅的模式分析。当光栅折射率对比度较低时，光栅模之间在界面处的耦合较小，可以被忽略。认为每一个光栅模在光栅区域的传播和界面处的反射相对于其他光栅模都是独立的。但对于高折射率对比度光栅，模式之间在界面处的耦合对光栅的衍射特性有很大影响。引入界面处的反射矩阵来描述光栅模在界面处的反射及相互之间的耦合，此时反射矩阵是一个非对角矩阵。分析了非对称光栅实现100％反射率的物理机制，推导了不同入射方向实现高反的解析式条件。优化得到的高对比度Si光栅，在中心波长1550nm垂直入射下，△λ/λ＞10％范围内，反射率高于99％;△λ400nm范围内，反射率高于90％，可以实现宽带高效率反射功能。另外得到的解析式条件对于宽带反射器的设计具有指导意义。　　本博士论文包括了不同折射率对比度高密度光栅中考虑界面反射的模式分析方法，浸入式光栅分束器、消零级相位板光栅和宽带高效率透/反射式光栅的设计与制作等方面的主要研究成果。这些工作将增进人们对光栅衍射过程以及光栅实现各种功能物理机制的了解，从而加深对高密度深刻蚀光栅这一新兴学科方向的认识，有益于高密度光栅的实用化。