随着大数据时代以云计算、物联网和大数据为代表的新型信息化技术的迅猛发展,对通信网络信息数据的储存、处理和传输容量的要求不断提高。作为当下主流的集成光学研究平台,硅基光子集成电路被用来缓解摩尔定律的通信瓶颈和满足日益增长的通信容量需求,并由于其与互补金属氧化物半导体工艺兼容性、低损耗、结构紧凑、多功能等优势受到了越来越多的青睐。通过对各种功能器件的集成互连,硅基光子集成电路为克服传统微电子技术的数据容量增长的瓶颈提供了有效的解决方案。光电混合集成成为研究的发展趋势。波长解复用器、模式转换器、功率分配器、光开关等功能器件作为光子集成电路的重要组成部分,在大型集成光互连网络具有重要的应用。基于人工搜索少量设计参数的传统方法设计的光子器件尺寸较大,不利于高密度的光子集成电路,且其设计过程具有一定盲目性,时间成本较高。近年来逆向设计方法由于可以在超紧凑的结构中对整个设计空间进行参数搜索,具有强大的光场调控能力被研究者们用于微纳光子器件的设计。本论文聚焦围绕着逆向设计方法并以光子集成电路中的三种关键无源器件——波长解复用器、模式转换器以及功率分配器作为研究目标开展一系列的研究。主要的研究内容和成果如下:（1）采用直接二进制搜索算法仿真设计了一种基于表面等离激元的RGB三原色滤波器。该滤波器由材料分别为金属银与空气的数字型区域组成。通过逆向设计方法搜索整个设计区域的参数空间以获得高性能的最终折射率分布。结合直接二进制搜索算法和等离子体激元在0.5×0.55μm~2大小的耦合区域上,对红、绿、蓝三种颜色对应的波长进行了分束并实现了超过78%的传输效率,且其性能优异,结构紧凑,适用于光集成。（2）采用直接二进制搜索算法仿真设计了双通道的超紧凑多模波长解复用器,其优势在于该器件是多功能的,可以同时实现波长解复用和模式转换,解决了目前微纳光子器件功能单一的难题。该器件实现了将在波长为1450 nm以及波长为1550 nm分别传输至上输出通道和下输出通道,同时输入光从TE0模式转换为TE1模式。解复用器的插入损耗分别为-1.26 d B和-0.82 d B,串扰值分别保持在-18.10 d B和-23.35 d B的较低水平。同时,我们改变器件的输出通道宽度,该波长解复用器可以向更高阶模式扩展。器件的结构尺寸仅为3.6×2.4μm~2,比传统的基于波导的器件降低了两个数量级。这些结果在单模光纤通信以及先进光子信息处理等领域有着重要的应用价值。（3）采用直接二进制搜索算法,并结合非易失性光学相变材料仿真设计了一系列可编程的任意功率分配器。通过编码调控相变材料的状态来实现任意功率分裂比值的功能,为光子互连网络方便地应用于光通讯提供了新的思路。此外,通过增加输出通道还设计了具有更多分裂比值的多通道可编程功率分配器。最后,我们还分析了该器件的制造公差问题。这些非易失性的可编程功率分配器结果结合了尺寸小和数字可编程的优点,有利于光电融合芯片方案的发展。