超表面(Metasurface)是近几年提出的一种厚度为纳米量级的周期性平面阵列结构。通过对其结构大小，形状等参数进行特殊设计可以实现光波的振幅，位相和偏振信息的调制。Metasurface具有面积尺寸小（微米量级）;厚度薄（纳米量级）以及宽谱响应（基于纳米结构共振）等独特的优势。因此在新型无像差光学器件，光学全息以及集成光学领域有着重要应用价值。本文主要包含以下内容:　　第一章对metasurface进行了概述性介绍，回顾了metasurface的产生和发展过程，推导了广义斯涅尔定律以及负折射效应，介绍了基于metasurface的位相调制，总结了metasurface在光学各领域的应用。　　第二章为基于metasurface的轨道角动量(Orbital Angular Momentum，OAM)调控研究。首先介绍了光学旋涡(Optical Vortex，OV)的性质，产生检测方法以及在自由空间光(Free Space Optical，FSO)通信中的应用。随后介绍了产生均匀OV阵列的达曼涡旋光栅(Dammann Vortices Grating，DVG)的原理。然后我们利用metasurface从理论上设计了一种产生与检测轨道角动量的微米量级的人工反射阵列(meta-reflectarray)，同时利用加入倾斜位相函数的反射式结构，实现了信息与噪声的分离。最后我们利用时域有限差分(Finite Difference Time Domain，FDTD)的方法，模拟计算了3×3～5×5OAM阵列的产生以及单个和多个同轴OV光束入射的检测。　　第三章为基于metasurface的偏振复用迂回位相全息图研究。首先介绍了传统迂回位相的基本原理，然后将其与metasurface相结合设计了一种十字狭缝结构的人工全息结构(meta-hologram)。随后利用FDTD模拟计算了meta-hologram的结构参数，选择最佳参数结构进行加工。最后，我们利用不同偏振方向和不同波长的光束实验验证了该结构的宽谱和偏振复用性质，证明了meta-hologram在芯片级光束整形以及高容量轨道角动量光通信领域具有广阔的应用前景。　　第四章为总结与展望，对本文的主要工作进行了总结，对进一步可以开展的工作进行了展望。