基于波导光栅结构的光耦合器在新一代高速通信系统中起着重要的作用,是实现大容量、集成化、高速率全光网通信的关键节点器件。本文以铌酸锂晶体(LiNbO3)作为基底材料,研究了基于光折变长周期波导光栅的耦合器。首先,设计了基于Ti:LiNbO3波导的光折变长周期光栅滤波器。理论分析了制作波导的初始条件,得到在第一次扩钛时的钛条初始厚度τ=30nm,扩散深度为d=7.3μm,第二次扩钛时的钛条初始厚度和宽度τ=80nm和w=4μm。在X和Y方向的扩散深度分别为dx=3.9μm和dy=4.9μm的情况下,可以获得单模波导和只存在一阶模的包层结构。计算得到了在上述条件下,TM模式条形波导导模和包层模的有效折射率分别为2.14169和2.13781。进而计算得到长周期波导光栅的光栅周期为400μm,两束记录光的夹角为0.076。。然后运用耦合模理论,得到了光栅耦合系数K=112.23m-1,100%耦合长度L=1.4cm,该长度符合光学器件小型化和集成化的要求。通过分析在100%耦合位置的滤波光谱,可知其峰值半高宽为25nm且旁瓣很小,可以适用于粗波分复用系统。其次,我们从实验角度研究了基于Ti:LiNbO3波导的光折变长周期光栅滤波器,设计了光栅制作和滤波检测的实验方案。通过双光束干涉法,实验制作了基于LiNbO3晶体的体全息布拉格光栅滤波器,得到了在1548nm波长处峰值半高宽为4nm,衍射效率为10%的滤波效果。为之后具体开展基于Ti:LiNbO3波导的光折变长周期光栅滤波器的实验工作奠定了实验基础。最后,对基于Ti:LiNbO3波导的光折变长周期光栅耦合器进行了结构设计。通过理论分析得到在两根条形波导间距大于7μm时,倏逝场耦合效应C可以忽略。在两个长周期光栅完全对齐的情况下,对长周期光栅耦合方程进行了求解,得到了两根条形波导和包层中的归一化功率,并且求出了最小100%耦合长度Lmin=1.98cm。在复合信号光只从单根波导入射的初始条件下,得到了在100%耦合处发射波导和接收波导的传输光谱,以及满足长周期光栅方程共振波长的信号光在耦合器中的耦合动力学情况。