电磁超表面(Metasurface)是一种由超结构单元构成的超薄二维阵列平面,可以在亚波长尺度下实现对电磁波相位、振幅、偏振的有效操控,已经成为近几年来超材料和纳米科学研究领域的最新发展方向和研究热点之一。相比于体块超材料,超表面厚度远小于波长,损耗小且易于加工,在光束控制、光学天线、平面光学器件等诸多领域具有重要的应用前景。尤其是近几年来对硅、锗、二氧化钛等低损耗高折射率介质的研究表明,全介质的超结构单元也能具有较强的磁响应,为提高超表面的效率和器件的性能提供了新的思路。本论文主要研究两类典型的惠更斯超表面和几何超表面的相位操控机理并探讨其在全息、光束偏转、聚焦等方面的应用;考虑超结构单元之间的相互作用,研究单元耦合形成的杂化模式特性并探讨其在折射率传感、光学滤波和调制方面的潜在应用。研究了基于硅纳米盘阵列的惠更斯超表面相位操控原理,揭示了低损耗介质中同时存在的电偶极子谐振和磁偶极子谐振模式特性。通过Gerchberg-Saxton算法提取目标图像相位,利用7种不同半径的硅纳米盘超结构单元在实验上实现了目标图像的全息再现,全息的光学效率达到23.6%,透射效率高达86%。提出了一种通过全介质超表面空间复用实现彩色全息的方法,利用支持窄线宽响应的硅纳米棒实现几何相位操控,通过不同基色的超表面复用还原任意的RGB图像。进一步分析了不同颜色之间的交叉串扰,基色的空间对准,入射光的功率分布,全息色度系统和电脑色度系统的颜色匹配等关键问题。利用惠更斯表面的概念设计了一种高透射的几何超表面,通过对支持垂直电磁共振模式的硅十字形天线表面极化张量的设计实现了一个高效率的半波片。入射的左旋圆偏振光可以被几乎完全转换为右旋圆偏振光,效率达到98%。通过空间上旋转天线的角度实现了0到2π的相位调制,同时也能保持不同旋转角度下的高转化效率。利用基于时域有限差分方法的数值模拟探讨了其在光束偏转、聚焦等平面光学器件中的应用。研究了金属二元周期超结构单元的模式耦合特性,揭示了由于单元之间耦合杂化形成的同相和反相集体共振模式。分析了光学暗态和亮态的形成过程以及它们相互作用形成的法诺共振特性,研究表明法诺共振的线型可以通过两套粒子的半径差有效操控,品质因子和光谱对比度虽然呈现不同的变化趋势但通过合理的参数优化能同时达到较大的值,极大地提高了基于法诺共振的器件性能,对于折射率传感器应用来说其品质因数相比于传统的基于表面等离子体共振的传感器提高1到2个数量级。研究了介质二元周期超结构单元的模式耦合特性,与金属结构不同,介质中除了存在电偶极模式的杂化外还存在磁偶极和磁四极模式的耦合。分析了介质中杂化模式的形成过程以及光谱特性,尤其是研究了由于多重光学暗态和亮态的相互作用形成的多重法诺共振并探讨了其在折射率传感器应用中的性能。利用法诺共振尖锐的线型实现了近红外波段的光学滤波器,通过两套粒子半径差有效操控滤波器的带宽。利用液晶分子E7作为主动介质实现了基于法诺共振调制深度高达85%的光学调制器。