随着信息科技的发展，如今元器件的高速化、小型化和高集成化已成为必然趋势。光子器件具有电子器件在传输带宽方面无法相比的优势，但由于受到衍射极限的限制，传统光子器件在尺寸上无法达到电子器件的小型化，无法与电子器件进行有效集成。最近，科研人员发现了一个有效的解决途径，这就是表面等离子体激元（surface plasmon polaritons, SPPs）。SPPs是由外部入射光场与金属结构表面的自由电子相互耦合产生的束缚于金属–介质表面，并向前传播的电磁波。在垂直金属表面方向，光场能量呈指数衰减，并主要局限在金属介质界面附近，尺寸只有亚波长量级。SPPs具有突破衍射极限的优势，为光子器件的小型化和集成化提供了可能。本论文主要研究了各种金属纳米腔耦合波导的光学特性，并利用新颖的光学特性设计出具有应用前景的新型高效率纳米光子器件。本论文包括的主要创新性研究如下：1.系统研究了几种金属纳米共振腔耦合波导结构的光学滤波特性。提出了一系列高效率的表面等离子体纳米带通、带阻滤波器和波分解复用器等元器件。利用时域有限差分法数值模拟了金属纳米腔耦合波导结构的传输响应和场分布，并结合时域耦合模理论系统地分析了相关的传输谱变化特征。值得提到的是，文中提出了一种双腔干涉相消法有效解决了表面等离子体波导波分解复用器透射效率低的问题，透射效率提高了50%以上。该方法和相关结果在超高光集成和光计算方面具有重要的应用前景。2.提出了较小尺寸的金属纳米波导布拉格反射器，并将克尔非线性缺陷层引入到布拉格波导中，实现了非线性透射特性，并观察到明显的光学双稳态效应，该结构的透射特性可应用于实现纳米尺寸的光开关功能。另外，本文率先将克尔非线性材料引入到损耗较低的纳米盘共振腔中，并得到信号光透射率随泵浦光强度变化的非线性特性。同时，采用新型的锯齿型波导将入射的泵浦光高效率反射，有效防止了泵浦光对出射信号光的干扰。成功设计出了一种新型超快响应的表面等离子体纳米全光开关，响应时间达100飞秒。3.通过时域耦合模理论分析了法布里珀罗共振腔直接耦合的金属纳米波导结构的透射特性，时域有限差分模拟发现当共振波导满足一定的相位匹配条件时，透射谱呈现典型的类电磁诱导透明线型。推导了多腔耦合金属纳米波导的耦合模方程，根据多腔耦合波导的等效模型，合理解释了表面等离子体多腔耦合波导系统中产生的多峰类电磁诱导透明效应及特性。利用理论求解和数值仿真研究了各种物理参数对该效应的影响。在透明窗口观察到明显的光延迟特性，这为纳米尺度多波长慢光效应的实现提供了有效途径。利用多腔耦合金属纳米波导中产生的类电磁诱导透明效应设计出新型可调谐多通道带通表面等离子体滤波器。4.研究了双腔边耦合金属纳米波导的透射特性，观察到透射谱呈现出非对称Fano共振线型。通过耦合模理论分析，发现该Fano共振可等效为两种重构共振模式的相干叠加。研究了Fano共振谱随腔耦合距离的变化特性，并利用时域有限差分模拟验证了理论分析结果。利用非对称Fano共振谱对环境折射率变化的敏感性，提出了一种新型高灵敏表面等离子体纳米传感器，其灵敏度达900nm/RIU。