对于光通信系统而言，光接收机的性能好坏至关重要。适用于不同调制格式和复用技术的集成光接收机前端的关键光器件主要包括用于光耦合的光栅耦合器，波长解复用器件（如阵列波导光栅或微环谐振滤波器），偏振控制器件（如偏振控制器、偏振分束器和偏振转换器），光混频器件（如多模干涉光耦合器）和光电探测器。这些光器件及用于光传输的光波导构成了光接收机中集成光路的基础，其中光电探测器是光接收机的核心器件。
　　实现大规模的光电集成（OptoelectronicIntegratedCircuit，OEIC）将是光通信未来的发展方向。目前，将诸多光、电器件全部集成在一起的大规模OEIC还很难实现。由于工艺、材料等方面的重重障碍，必须攻克许多科学与技术难题才能实现大规模集成。现实可行的方案是先实现部分功能的小规模集成。
　　因而本文的工作以研究集成光电探测器件为基础，探索光集成在光接收机中的应用，主要研究光接收机前端光器件的集成，包括波导与探测器集成（波导探测器）、偏振解复用器件与探测器集成和基于驻波的光混频器与石墨烯探测器集成等局部集成方案。围绕光接收机中的核心器件光电探测器，结合微纳结构光器件的优势和发展，针对应用于光接收机前端的集成光器件和新型集成方案进行了研究。论文主要工作和创新点如下：
　　（1）对磷化铟（InP）基波导探测器进行了研究，基于非对称双波导结构和部分掺杂吸收区探测器模型，设计了一种结构简单、易于制作的倏逝波耦合型波导探测器结构。利用有限时域差分算法对波导探测器中的波导结构进行了设计和仿真，仿真分析了光在波导中传输的模式特性和采用不同长度锥形波导作为匹配层时光在各层波导中的传输特性。仿真结果显示在160μm长的线性锥形波导匹配层作用下，当探测器有源区长度≥30μm时，探测器光吸收效率可达到94%，响应度的理论值约为0.8A/W。并采用半导体工艺和器件仿真软件SILVACOTCAD对探测器有源区的电学特性进行了研究，仿真结果显示探测器的理论带宽为26GHz。然后在综合考虑工艺实现的基础上确定了器件的制作流程并研制了波导探测器。对制备样片进行了测试并分析了探测器的暗电流、光电流、带宽等性能。
　　（2）为了提高偏振分集探测接收机的集成度，提出了一种单片集成偏振分束器和光电探测器的方案。其中偏振分束器基于氮化硅亚波长介质光栅，在实现偏振分束器功能的同时也实现了光栅耦合器的功能。光栅采用简化模式理论结合数值仿真方法设计。通过合理设计器件的参数，1550nm波长的两个偏振态正交的光束被光栅型偏振分束器分开后直接耦合进入二象限探测器，实现偏振分集探测的功能。由于从光纤输出的光通过设计器件可以直接实现偏振分集探测，中间没有分立器件耦合导致额外的耦合损耗。仿真得到TE偏振光耦合进入探测器吸收层的效率可达到61%，TM偏振光的耦合效率可达到85%。同时-1阶衍射上TE偏振光的偏振串扰为-21dB，0阶衍射上TM偏振光的偏振串扰为-23dB。设计光栅长度仅为35μm，结合合适的探测器结构，设计器件可应用于高速紧凑的偏分复用光通信系统。与传统偏振检测方案相比，所提方案在耦合效率、尺寸、结构简单性和制造方面表现出更大的优势。
　　（3）提出了一种基于驻波的光混频集成石墨烯光电探测器应用于相干探测的方案。方案的主要创新点有两方面：一方面，与基于多模干涉耦合器（行波干涉）的光混频器不同，利用驻波相干解调原理，可通过在绝缘体上硅脊波导中构建驻波场以实现光混频功能，有利于器件的小型化。另一方面，采用具有对称电极的石墨烯波导探测器作为超快自差分光电探测器，可实现传统相干接收机中基于PIN光电二极管的平衡探测器对的功能。通过在处于驻波场不同相位处的石墨烯上放置对称的平衡电极，可方便地实现基于驻波的光混频与石墨烯光电探测器的集成，实现基于石墨烯的自平衡光电探测。与传统相干接收机中采用的平衡探测方案相比，本方案可以有效降低相干接收机的复杂性和尺寸，并满足未来的宽带需求。