表面等离激元是新世纪以来光学领域最为活跃的前沿研究领域之一,是纳米光子学研究的重要组成部分。表面等离激元（Surface Plasmon Polaritons,SPP）具有突破衍射极限、亚波长尺度的电磁场局域、以及近场增强等新奇的光学特性。随着微纳加工技术的不断精进以及电磁学/波导等理论的完善,SPP光学结构的设计及应用研究得到了快速发展,这为突破光子集成技术瓶颈提供了新思路。基于未来光子集成系统对微纳光子器件的需求,本论文的研究以SPP波导、绝缘硅基（Silicon-on-Insulator,SOI）光波导、双曲色散超材料（Hyperbolic Metamaterial,HMM）、以及金属衍射光栅作为电磁波载体,结合金属及可替代表面等离激元材料,设计了性能优异的表面等离激元共振（Surface Plasmon Resonance,SPR）传感器、SOI光波导模式偏振开关、SOI波导模式起偏器、以及回音壁模式（Whispering-Gallery Mode,WGM）光学微腔生物传感系统中的耦合结构,并通过电磁场有限元数值仿真方法,研究上述微纳光子结构中的光场分布、反射/透射效率、以及性能参数（传感灵敏度、品质因子、调制深度、偏振消光比、插入损耗等）。本论文的主要研究内容及创新点如下:1.近红外波段的SPR介质折射率传感器研究:提出金属/介质/金属凹槽状SPP波导-圆角环形谐振腔共振耦合结构,基于透射谱中共振波长与传感物质折射率之间的线性关系,实现灵敏度为1496nm/RIU、峰值分辨率为12 nm,品质因子为124.6、以及透射效率高达95%的传感性能。提出金属/介质/半导体凹槽状SPP杂化波导-矩形谐振腔共振耦合结构,基于同原理,实现灵敏度为1817.5 nm/RIU、峰值分辨率为7.4 nm,品质因子为224.3、以及透射效率高达97.6%的传感性能。2.SOI条形波导中模式的偏振控制研究:提出SOI条形波导-HMM耦合结构,利用HMM中二氧化钒和铟锡氧化物的光学特性可调性,改变HMM在传播方向上的等效介电常数,通过提供（造成）其与SOI波导之间的模式匹配（失配）,实现TE基模的透射（阻断）,即TE偏振开关。数值仿真结果表明,基于Si/二氧化钒HMM的偏振开关的结构尺寸为0.0176μm3、调制深度为5.6 dB、插入损耗为1.25 dB、以及较宽的工作带宽215 nm。基于Si/铟锡氧化物HMM的偏振开关的结构尺寸为0.037μm3、调制深度为27.8 dB、插入损耗为0.004 dB、以及较宽的工作带宽300 nm。此外,提出基于SOI波导-Cu/Si3N4 HMM覆盖层耦合结构,利用TMSPP在HMM中的偏振相关性,“消除”SOI波导中的TM基模实现TE基模的单一传输,即TE偏振起偏。该结构中HMM覆盖层的长度仅为2μm、偏振消光比为52.34 dB、插入损耗为0.35 dB、以及工作带宽为61 nm。上述偏振开关及起偏结构可用于未来光子集成系统中对基于SOI波导偏振控制元件的高密度集成。3.WGM光学微腔生物传感器中的金属纳米耦合结构研究:提出基于金属纳米棒阵列衍射效应的自由空间光-WGM光学微腔系统的新型耦合结构。为了解决该耦合结构在大尺寸微腔下的有效计算,提出一种基于电磁场有限元波束包络法-Floquet周期边界条件的全新三维数值计算方法（称为3D FloWBEM）。通过3DFloWBEM对金属纳米棒阵列-WGM光学微腔耦合结构进行本征频率和频域分析,得到结构中的光场分布、腔内能量谱、以及Fano共振特征反射谱,并计算耦合WGM品质因子（Quality,Q）、腔内顺时针和逆时针传播WGM的电场振幅比、以及反射光的信背比。数值仿真结果表明,耦合WGM具有较高的Q值（2.1 × 107）,可以满足无标记生物单分子传感器对高灵敏度和高分辨率的要求;反射谱中Fano共振光具有良好的信背比（3.86%）,该数值高于很多已经商业化的光探测器。该设计可作为传统光纤锥倏逝耦合结构的替代方案,满足基于回音壁模式光学微腔的生物传感系统、光学滤波系统、乃至未来手提便携式光学设备中对结构稳定且坚固的耦合结构的需求,并且对数值研究大尺寸高Q值的WGM光学微腔-纳米结构耦合系统中的相互作用提供新思路与新方法。