随着纳米加工技术的飞速发展,超材料和超表面在材料学、生物医学、力学、热学等诸多领域有着广阔的应用前景,成为当前人们的研究热点之一。在光学领域,厚度远小于入射光波长的光学超表面,可以实现对光波波前,包括相位、振幅、偏振等的完全操控。其中,由金属材料组成的超表面能够支持表面等离激元共振（Surface Plasmon Resonances,SPR）,从而可以突破衍射极限和提高局域场强,在光学成像、传感、量子信息处理和光收集等方面有很大的潜力。非线性光学效应是非常重要的光学现象,在频率变换、光开关、光调制等领域有着及其重要的应用。精心设计金属微纳结构,可以在亚波长尺度获得高效的非线性光学过程,有效调谐非线性光学过程的工作波长,获得全新的相位匹配机制,实现局部有效非线性极化相位的调控和操纵等,这是非线性等离激元光学相对于传统非线性光学的一个巨大优势。目前,非线性等离激元光学的研究已成为一个新的热点,无论对于基础还是潜在应用研究都有重要意义。本文在金属开口环谐振器（Split ring resonantors,SRR）阵列构成的超表面体系中,研究了开口环谐振器磁等离激元共振与表面晶格共振和光学波导模式之间的耦合作用,及其对超表面非线性二次谐波产生效率的影响。文章具体内容包括:1.金属开口环谐振器阵列结构中的衍射耦合效应。我们从理论上研究了处于均匀介质环境的SRR阵列结构对衍射模式的调控及其与SRR的磁共振相互作用实现强耦合的条件,通过改变阵列结构在x方向和y方向的周期尺寸,实现了在研究的波长范围内,衍射模式只在一个方向出现,并根据线性透射谱中透射谷位置随周期的变化规律,我们发现了在改变y方向的阵列周期时,衍射模式和磁共振模式可以发生强耦合。2.金属开口环谐振器-光学波导的复合体系中模式耦合的特性。我们展示了由SRR提供的磁共振模式和波导结构激发的波导模式之间的相互作用,首先根据波导模式截止波长与波导层厚度的关系,选取合适的波导层厚度,以确保在我们研究的波长范围内存在波导模式,然后在波导层上排列SRR结构满足波矢匹配条件,从而获得波导模式,最后,我们分别改变x和y方向的周期,进一步实现了TE波导模式和TM波导模式与磁共振模式的强耦合作用。3.模式耦合对金属超表面二次谐波转换效率的影响。我们研究了处于均匀介质环境和基于波导两种体系下,SRR构成的金属超表面对二次谐波强度的影响,在第一种体系下,分别考虑正方周期和长方周期两种情况,我们发现对于正方周期,随着周期的增大,二次谐波强度呈下降趋势,对于长方周期结构,衍射模式和磁共振模式在改变y方向周期时可以实现衍射耦合效应,获得了局域场增强,因此,在增大周期的情况下,仍然实现了二次谐波增强;而在第二种体系下,由于TE、TM波导模式总是可以与磁共振发生强耦合,因此,在SRR数密度减小的情况下,无论是改变x方向周期还是y方向周期,我们都可以实现二次谐波增强。我们对模式耦合效应的研究为增强金属超表面中非线性转换效率提供了新途径。