随着信息技术的发展,通信、计算、传感、人工智能乃至消费等领域对信息的处理和传输速度提出了更高的要求,相比电子,光子作为信息处理和传递的载体具有更稳定可控的调制和复用维度,如振幅、相位、波长、偏振态、模式等,具有更大的带宽、更高的频谱利用率和更大的通信容量,成为下一代信息技术发展的重要方向。特别是硅基光电子技术,其利用微米/纳米级光电子器件的工作原理,使用与硅基集成电路技术兼容的技术和方法将不同器件集成在同一硅衬底上,具有集成密度高、传输容量大、功耗低、可大规模标准化生产等优势而备受青睐,发展迅速。目前基于90nm工艺的硅光子工艺线已逐渐成熟,日渐提高的工艺水平为更多新结构、新功能的硅基光电子器件提供了更多的设计空间。特别是亚波长光栅,目前在工艺支持下利用硅基亚波长光栅波导替代硅基光波导,通过调整占空比调控波导的等效折射率,进而在相位调控、偏振控制、光场耦合等方面扩展了操控的维度,产生了一系列基于亚波长光栅的新型器件。本论文利用模式分析方法和时域有限差分方法建立了亚波长光栅及相关器件的分析模型并对其进行了仿真设计,利用耦合模原理对亚波长光栅耦合过程进行了分析,明晰了亚波长光栅的基本特性、工作机理和耦合过程。在此基础上,本文还将定向耦合应用于垂直耦合中,设计了一种硅基直波导垂直定向耦合器和一种亚波长光栅垂直定向耦合器,分析和归纳了两种垂直定向耦合器的结构参数与工作特性。面向硅基3D异质集成对垂直耦合器的要求,创新性地设计了基于亚波长光栅的硅基绝热拉锥垂直耦合器。通过建立亚波长光栅耦合模分析和等效折射率模型,提出用于硅-铌酸锂异质集成所需的新型硅基垂直耦合器基本结构。通过数值仿真进一步优化器件参数,结合90nm硅光工艺要求,优化得到长度仅为15μm的硅基垂直耦合器,该器件尺寸仅为传统绝热拉锥垂直耦合器的十分之一,同时具有大工艺容差,在硅基3D异质光电集成领域具有良好的应用前景。