表面等离子激元是一种表面波,其本质是金属与介质分界面上光与自由电子之间相互作用而引起的电磁振荡,具有近场增强、亚波长局域和聚焦、超分辨成像等特性,这些特性使其在高灵敏度传感、亚波长波导、高分辨率光学显微镜、纳米光刻、超材料等领域有着广泛的应用前景。随着微纳理论研究的深入及加工技术的进步,表面等离子激元器件异常的光学特性及其巨大的应用潜力已经成为当前光子学中最富有科学意义与开发价值的研究领域之一。本论文以金属光栅和金属纳米孔阵列为基础,旨在探索表面等离子激元在复杂金属纳米结构异常光学特性中所起的作用,应用时域有限差分法和有限元法,针对金属光栅结构的异常透射现象、利用纳米结构提高表面等离子共振传感器的性能及基于金属纳米孔和环孔阵列的传感器件设计等方面进行了研究。论文的主要工作如下：首先,为了研究表面等离子激元在金属光栅结构的异常透射现象中所起的作用,我们设计了四种微纳光栅结构,揭示了它们所呈现的光学现象的物理机制。从无基底金属光栅结构入手,解释了该结构透射最小值和最大值产生的原因；设计了一种非线性椭圆墙金属光栅结构,揭示了该结构中非共振宽带异常透射现象出现的原因,该结构可用于设计可见光波段的宽带宽和高消光比的偏振器件；研究了金属光栅波导结构,发现透射谱中的多个透射最小值和最大值与波导层厚度有关,分析了这些共振峰出现的原因,并发现该结构中的窄带高吸收峰是由于三种共振模式同时激发而产生的；在单层金属光栅的基础上,研究了一种非对称双层金属光栅波导结构,分析了该结构两个透射最小值出现的原因,发现改变金属层厚度可以调节透射最小值的位置和提高透射最小值角度容忍度,该结构可用于双波长窄带滤波器的设计。这些金属光栅结构异常透射现象的研究对于光电子器件的小型化和集成化具有指导意义。第二,在利用纳米结构来提高表面等离子共振传感器的性能方面,为了提高传统表面等离子共振传感器检测的线性度和灵敏度,我们设计了两种纳米结构与金属层的复合结构。一种结构是将纳米光栅结构和传统SPR传感器结合,该结构的反射谱中产生两个最小值,当两个结构之间的纳米通道作为传感区时,两个最小值对传感区折射率的响应成非线性互补变化,从而实现该结构对折射率高灵敏度且线性测量；另一种传感结构是通过将金属纳米线嵌入到聚合物层来增强传统SPR的灵敏度,研究发现尽管金属纳米线与金属层之间的耦合强度不会影响结构的灵敏度,但金属纳米线结构的局域增强效应将较强的电磁场能量传递到与待测物相互作用的分界面,增强了该结构与待测物的相互作用,从而提高了传感器的灵敏度。该研究对于提高表面等离子共振传感器的性能具有重要的意义。第三,利用纳米结构中不同等离子模式之间的耦合,在金属纳米孔传感器设计的基础上,我们设计了三种高灵敏度和品质因素的纳米结构传感器。从纳米孔阵列传感器的设计入手,研究了入射角和方位角的改变会引起表面等离子模式分裂,增加入射角可以显著降低表面等离子模式在介质中的穿透深度,从而提高结构的表面灵敏度和降低检测极限。利用纳米结构中不同等离子模式之间的耦合设计了三种纳米环孔阵列传感器：对称性介质基底环孔阵列、非对称性金属层基底椭圆环孔阵列、双尺寸金属基底椭圆环孔阵列；利用模式耦合理论分别揭示了三种纳米结构中共振模式出现的原因；三种结构的共振峰都具有窄的线宽和好的传感性能,尤其结构中的Fano共振,三种结构都可以用于传感器设计。该研究为纳米结构传感器设计奠定一定的基础。最后,总结了全文,对未来的研究方向进行了分析和展望,今后将在集成光电子器件和纳米结构生物传感器方面开展进一步的研究工作。