移动互联网的飞速发展,数据量呈爆炸性增长,要求光纤通信网络的容量不断提高。光纤通信网络中的光电子器件朝着大带宽、小型化、集成化的方向发展。硅基光子学器件具有与互补金属氧化物半导体工艺兼容、可大规模制作的优点,在光纤通信领域被广泛研究。表面等离子体光子学器件能够突破光学衍射极限的限制,可以将光场限制在深度亚波长量级,增强光与物质的相互作用,大大减小光器件尺寸,具有实现大带宽、小尺寸以及高集成度光电器件的潜力。针对光电器件大带宽、小尺寸、集成化的发展需求,本文以硅基表面等离子体狭缝波导（PSW）结构为主要研究对象,研究了硅基PSW结构和石墨烯结合的光电探测器、偏振复用的光接收芯片以及相干光接收芯片,取得的主要成果有以下几个方面:（1）利用超小尺寸PSW与微腔结构,研究了可调谐的表面等离激元诱导透明现象。采用硅-表面等离子体锥形耦合器结构,理论和实验上实现了光从硅波导到PSW的高效耦合,为后续硅基PSW器件的研究奠定了基础。（2）提出了一种基于光电导效应、工艺简单、高性能的石墨烯-PSW光电探测器的实现方案。该方案中,采用PSW结构中对称的金属作为微波电极以及石墨烯干法转移工艺,实现了简化的两步光刻工艺制作流程;利用PSW增强光与石墨烯的相互作用,使探测器有效探测区域尺寸仅为100 nm×7μm,响应度大于0.13 A/W;得益于PSW的超小尺寸与石墨烯的超快载流子迁移率,探测器理论计算带宽大于120 GHz,实验测试带宽大于70 GHz,并实现了72 Gbit/s高速信号的接收。（3）研究了直接检测机制下石墨烯-PSW探测器接收容量提升的方法。首先通过对石墨烯光电探测器工艺制作的优化,实现了大规模石墨烯光电探测器的制作。然后利用偏振复用技术,结合汇聚型二维光栅耦合器和双通道石墨烯-PSW探测器,实现了信道速率为224 Gbit/s的四阶脉冲幅度调制信号的高质量接收。该偏振复用光接收机有效耦合区域仅为33μm×45μm,有效探测区域为2×15μm×100 nm。（4）实现了相干检测机制下超快石墨烯-PSW相干光接收机,进一步提升通信系统容量。该方案结合90°光混频器和四通道石墨烯-PSW探测器,实现了响应带宽大于67 GHz的相干光接收机。利用平衡探测原理,实现了信噪比提升的90 Gbit/s二进制相移键控信号的接收;利用相干探测机理,实现了200 Gbit/s正交相移键控和240 Gbit/s十六进制正交幅度调制信号的接收。最后采用反向设计方法,将90°光混频器尺寸缩小至4.8μm×4.2μm。