光学超表面(Metasurfaces)是基于亚波长尺度的人工微纳结构形成的二维结构,人们发现其可以实现一些常规自然材料所不具有的特殊电磁响应特性,特别是基于金属表面等离激元共振(Surface PlasmonResonances,SPR)的光学超表面引起了人们很多的关注。传统光学元件主要是通过光程的积累实现光束的整形、操控和频率转换,例如透镜、波片、非线性晶体等。受限于其庞大的体积,传统光学元件无法再现代集成光学中有着很好的应用。人们期待通过超表面材料的线性光学、非线性光学的研究,实现亚波长厚度下的光束聚焦、偏振转换和频率转换等功能,以替代传统光学元件,进一步推进实现光学元件的集成化。因此,如何利用金属超表面设计实现具有传统光学元件功能的超薄光学器件成为当下研究的重点。本文围绕基于金属微纳结构超表面的非线性光学效应,主要研究了基于这类体系的二次谐波产生(Second Harmonic Generation,SHG)过程中远场辐射特性、波前相位调控、偏振调控以及三次谐波产生(Third Harmonic Generation,THG)过程中的转换效率增强,阐明基于金属材料的光学超表面体系中光与物质非线性相互作用的新机制。具体内容包括:1、非线性金属超构表面中对结构单元非线性极化的局部相位调控。目前非线性等离激元光学中绝大部分研究仍然集中在对非线性响应强度的增强或对其机制的研究,而较少有对超表面结构单元的非线性极化的局部相位调控的研究。们从理论和实验上研究了由互补开口环谐振器(Complementary Split-Ring Resonators,CSRRs)阵列构成的金属超表面的SHG远场辐射特性,揭示了 SHG远场辐射受到CSRRs和翻转的CSRRs构成的阵列的调控特性,通过改变阵列的周期和入射基波(Fundamental Wave,FW)的波长,可以改变SHG的远场辐射角,成功实现了 SHG的定向辐射和分束。通过数值模拟分析得出,CSRRs的二阶极化电流分布主要集中于其凸起,并且二阶极化方向垂直于CSRRs的底部,因此把CSRRs沿着其底边镜像翻转可以使其二阶极化电流的方向发生翻转,从而使得翻转的CSRRs与CSRRs辐射出的SHG产生了 π的相位差。接着,我们通过设计和加工了由CSRRs和翻转CSRRs超元胞组成的非线性超表面实现二次谐波分束的功能,进一步验证了这个几何引起非线性相位的概念。操控非线性极化相位的能力加上其在基波和二倍频处的高透射率使得CSRRs在构建高效率三维非线性超材料以及非线性光束整形的应用等方面都是很好的候选结构单元。2、非线性金属超表面中二次谐波连续相位调控。对于二次谐波实现π的相位调控已经可以利用衍射操控二次谐波,然而实现0-2π二次谐波全相位调控对于实现像谐波光束弯曲、谐波光束聚焦等谐波光束操控有着重要的意义。同样基于CSRRs构成的超表面,我们进一步地研究并展示了通过调节CSRRs的结构参数以及翻转它们的朝向,我们可以实现CSRRs中SHG相位从0-2π的连续相位变化。研究发现,CSRRs周期阵列的最低阶共振随其结构参数变化的性质,其共振位置会随着臂长的变大而红移,与此同时其出射的线性光束的相位会发生变化。基于流体力学模型,我们同时模拟了其SHG的相位变化,发现SHG的相位也同时发生变化,在保证较大振幅的情况下能够引起超过0-π范围的SHG相位变化。结合翻转CSRRs引入的π相位,理论上可以实现0-2π的全相位变化。实验上,我们分别设计和加工了不同相位梯度的CSRRs阵列以及具有聚焦效应的非线性透镜去验证这个概念,实验结果与预期吻合的很好。CSRRs能够实现连续和亚波长下局域二阶非线性相位调控的能力,对于像非线性全息和集成相干产生和谐波光束操控的非线性微纳光子器件有着非常重要的作用。3、金属非线性超表面二次谐波偏振调控的研究。偏振作为光的重要的性质之一,已经在线性超表面中被广泛研究了。而在非线性超表面领域中目前大部分关于非线性谐波产生主要都是线偏振基波产生线偏振光谐波,圆偏振基波产生圆偏振谐波。如何构建正交偏振的谐波基矢以及在两者间引入特定的相位差是实现谐波偏振控制的关键。我们提出了利用开口环形谐振器(SRRs)和CSRRs构建能操控SHG偏振态的非线性超表面。研究表明,SRRs和CSRRs这样的两个单元在相同的线偏振基波的照射下可以分别产生两个正交的SH电场分量,且其分量的振幅比和相对相位差会随着开口环谐振器和互补型开口环谐振器结构参数的变化而产生相应的变化。此外,通过在构建的衍射阵列子单元(分别由SRRs和CSRRs构成)之间引入空间位错,可以在两个电场分量之间引入额外的相位差,这样我们可以在实现SH偏振的同时,实现了出射SH方向的调控。基于这样的原理,我们设计并加工了非线性超表面四分之一波片。在线偏振基波的照射下,产生了两束沿着不同方向传播的正交圆偏振SH光束。此外,我们发现在圆偏振基波的照射下(左旋或者右旋),非线性超薄偏振分束片同样可以产生两束沿着不同方向传播的正交的线偏振SH光束。通过选取合适的结构参数选择和空间位错,我们更进一步地设计展示了能够产生椭圆偏振SH光束的非线性超表面。我们的设计方法给非线性超表面实现谐波偏振态的调控提供了新的途径。4、等离激元共振对金属超表面非线性效率的增强。等离激元共振可以增强金属超表面的非线性效率,但是其产生效率还是非常的低,此外金属还有着低损伤阈值的缺点。我们提出利用介质膜包裹的等离激元光学天线进一步增强金属超表面THG效率的新方法。由于等离激元共振,电磁波所产生的“热点”局域在金属表面,金属内部的电场增强还是很低。因此想要使得金属的THG效率提高,必须使得金属内部的电场也得到增强。我们提出了包裹三氧化二铝介质膜的金棒天线,它与传统的光学天线相比,能够使得金属内部的电场也获得增强,进而增强THG的效率。产生这种效果的原因在于未包裹介质膜的金棒天线的两端间隔比较远,两端之间几乎没有相互影响;而包裹介质膜的金棒天线,由于其尺寸的缩小导致金棒天线两端相互靠近使得其近场发生相互作用,从而实现了金棒天线内部电场的增强。我们进一步的理论计算表面,这类包裹三氧化二铝介质膜的光学天线可以实现THG效率增强近280倍。此外,包裹介质膜能够进一步提高金属超表面的激发功率,从而进一步的提高谐波产生效率。我们提出的增强THG强度的机制为提高谐波产生效率提供了新的思路,而高效率的谐波产生对相干光源、下转换等有着重要的意义。