利用体全息技术来制作波分复用器件是一种很有前途的方法。但是目前已报导的工作中还存在着衍射效率不高、选择性差等问题,它们分别影响着器件的插入损耗和通道间隔。以往所有工作中采用的理论,均为传统的Kogelnik 耦合波理论。但由于其理论的一维本质,它原则上只适合于光栅输入输出面尺寸远大于光栅厚度的情况。但在现代体光栅的许多应用中,光栅尺寸趋向于小型化,对这一类体光栅衍射特性的分析,二维理论比Kogelnik 耦合波理论更为精确。本论文研究了体全息波长滤波器件的基础理论,重点是二维耦合波理论,分析其衍射特性尤其是衍射效率和布拉格选择性,给出光通信用波长滤波器件的设计依据和优化方法。本论文首先针对完全重叠型的有限尺寸体光栅,在布拉格衍射范畴内给出二维耦合波方程的完整推导,并给出方程组的闭形式解析解,纠正了前人发表的工作的错漏之处。在此基础上,研究了完全重叠型均匀光栅的普遍衍射问题。在密集波分复用器件中,为了获得最优的插入损耗和通道间隔,利用二维耦合波理论及其闭形式解析解分析了二维受限体光栅的衍射特性,尤其是峰值衍射效率和波长选择性,探讨了这些性质与光栅二维尺寸及光栅强度之间的关系。结果表明,二维耦合波理论的闭形式解能够作为体全息复用、解复用器件优化设计的依据。为了获得最优的峰值衍射效率和波长选择性,给出了体全息波分复用器件的优化设计方案。实验研究了有限尺寸体光栅的衍射特性。首先,通过实验测量了不同光栅尺寸比下的选择角,测量结果符合二维耦合波方程解析解的理论预期。其次,采用了一种新颖的基于体全息波分复用器件的实验方案,该方案为透射式记录、正交式读出。利用绿光记录、红外光读出体光栅,实现了变波长光栅衍射。研究了红外光读出体光栅时的角度选择性,实验测得变波长衍射时的选择性也与二维耦合波理论模拟计算结果基本一致。