近年来,绝缘体上硅(SOI)由于其折射率差较大,对光的束缚能力强,被认为是光子集成的理想材料,硅基集成光子器件的尺寸也被缩小到微米量级。然而,光子芯片与光纤的耦合问题日益突出。单模SOI光波导的模式尺寸通常为亚微米量级,而普通单模光纤的模式尺寸在10μm左右,它们之间巨大的模式失配导致SOI光波导与普通光纤直接耦合将产生很大的模式失配损耗。使用光栅耦合器的离面耦合方案可以解决单模波导与光纤之间的模式失配问题,实现更灵活、更高效的晶圆级器件片上测试。本论文前半部分分别对基于SOI平台和氮化硅平台的光栅耦合器进行研究。其中对于220nmSOI光栅耦合器进行了仿真与实验的比较,仿真和实验得到的耦合效率分别为-4.3dB和-6.5dB。此外,为了进一步提高耦合效率,又对均匀光栅耦合器做了切趾、沉积多晶硅层、增加反射镜等优化工作。并针对光栅耦合器和硅波导间的模式变换器,采用粒子群算法与数值仿真方法相结合的方式进行了结构优化,最终得到高集成度(30μm),高效率(-0.3dB)的模式转换器,相比于相同转换效率的线性模式转换器来说,长度仅为后者的五分之一。光栅滤波器作为集成光学系统中的重要器件之一,被广泛应用于波分复用系统(WDM),色散补偿,波束整形等。本论文后半部分对基于单模波导的光栅滤波器进行设计和性能分析,对于单模波导光栅滤波器,当光栅齿幅度达20nm时,器件的滤波带宽约为15nm;随后,通过切趾对滤波器的旁瓣进行有效抑制(约27dB);最后,设计了基于非对称多模波导的光栅滤波器与非对称Y分支耦合器,其光栅齿幅度为100nm,约为单模波导光栅滤波器的5倍,而带宽约为2nm,与单模波导光栅滤波器相比大大减小。