近年来,随着移动互联网以及视频流等技术的不断发展,人类社会已经步入了一个全新的信息化时代,新信息时代对于带宽的要求已经大大超出了人们的预想。如果不及时寻求新的光传输技术,或许人类将面临容量枯竭的窘境。模分复用技术就是解决这一矛盾的关键技术,它利用不同模式的正交特性,将不同模式作为相互独立的信息载体来传输信息,可以极大提高容量带宽。在模分复用系统中模分复用/解复用器是完成模式转换与模式复用的关键器件,基于光子晶体的模分复用/解复用器件不仅具有模分复用的技术优势,同时还具有光子晶体的各种优点,是未来光网络的关键器件之一。本文首先对模式耦合理论进行分析,并对常规横向耦合结构的模式耦合进行了深入研究。然后,利用平面波展开法对二维正方晶格光子晶体波导色散特性进行研究,并利用时域有限差分法验证其耦合特性。最后,根据相位匹配原理设计了两种光子晶体三模式模分复用/解复用器。一种是主波导中含有介质柱型三模式模分复用/解复用器,另一种是主波导中不含介质柱型三模式模分复用/解复用器。主波导含介质型三模式模分复用/解复用器通过调整波导中介质柱大小得到各单模波导与多模波导。主波导不含介质柱型三模式模分复用/解复用器通过调整波导宽度得到各单模波导与多模波导。同时两器件主波导在各波导衔接处均采用了波导宽度渐变的结构,有效抑制了不同波导之间的模式失配问题。最终两器件均实现了1550nm波长TE₀、TE₁和TE₂三个模式的复用和解复用功能。本文利用时域有限差分法分析了两器件的各项传输特性。结果表明,主波导含介质柱型三模式模分复用/解复用器插入损耗小于0.27dB,信道串扰小于-25.4dB。主波导不含介质柱型光子晶体三模式模分复用/解复用器插入损耗低于0.14dB,信道串扰达到-20dB以下。同时本文研究了工艺误差对主波导不含介质柱型光子晶体三模式模分复用/解复用器的性能影响。主要分析了波导宽度变化,介质柱大小变化和介质柱位移对器件性能的影响。结果表明,该器件在一定的工艺误差范围内都可以保持较高的性能水平,具有一定的工艺容差性。本文所提出的光子晶体模分复用/解复用器具有传输性能优良,结构简单和易于集成的特点,对模分复用光通信系统具有重要价值。