平板光子晶体波导具有带隙限光和异常色散的特性,为光子集成的实现提供了新的途径。不同光子晶体波导中的模式以及同一光子晶体波导内的不同模式之间都会发生耦合。光子晶体波导模式耦合不仅是集成光路中诸多光子晶体器件的工作基础,并且和光子晶体波导的损耗机制密切相关。光子晶体波导模式耦合特性的相关研究具有重要意义。本论文结合国家自然科学基金重点项目和973子项目的实施,面向光子集成技术,针对光子晶体波导模式耦合及其调控机制进行了深入的理论与实验研究。论文的成果如下:建立起一整套光子晶体设计、制作以及测试的理论和实验平台;解决了纳米尺度硅和二氧化硅ICP刻蚀工艺中的技术难点,研制出了高质量的空气桥结构光子晶体波导耦合器,并且成功测试到了能量耦合现象。在此基础上,对光子晶体波导模式耦合特性及其调控机制展开了研究。针对光子晶体波导同向模式耦合及其在耦合器方面的应用展开了研究,通过结构参数的优化设计,设计出了带宽达100nm、长度约为7μm、插入损耗约为0.5dB的光子晶体耦合器;理论论证了垂直于波导方向的空气孔位置偏移误差对耦合器插入损耗影响最大,同时减小r/a有利于增强器件的鲁棒性。理论研究了光子晶体波导反向模式耦合及其在流体折射率传感和零色散慢光方面的应用。设计的流体折射率传感器探测灵敏度为0.01/nm,探测范围为1-1.38;提出了不同群速度下零色散慢光的实现方案,且慢光带宽较普通光子晶体波导增加了一个数量级左右。提出在光子晶体单波导中引入非对称性进行模式耦合调控的机制,并得到实验验证。观测到耦合传输谱凹陷随温度的变化,初步验证了12dB消光比的热光开关效应;理论研究了在单波导中同时引入非对称性和长周期性进行模式耦合调控的机制,并设计了带宽为1.4nm的滤波器。理论研究并实验验证了光子晶体单波导中的奇偶模耦合损耗机制,并提出通过结构设计增大单偶模区带宽,从而有效抑制奇偶模耦合损耗的方案。