光学涡旋是具有螺旋型波前和轨道角动量的特殊光场,此种特性使其在诸如光学微操作、原子光学、空间光信息传输等多个领域都有重要的潜在应用价值。特别是最近十几年来,光学涡旋方面的研究与应用迅速发展成为现代光学中的一个新兴领域,光学涡旋的产生、调制、探测以及应用机理等问题,成为本学科前沿的研究热点。长期以来,对光学涡旋的研究通常是以拉盖尔—高斯模的形式来描述的,2007年,Kotlyar提出了光学涡旋另一种解的形式—超几何分布模,在此理论基础上,本文对光学涡旋产生和旁瓣抑制的方法及其在实践中的相关应用进行了理论与实验研究,主要研究内容和成果如下：1.基于纯相位型空间光调制器研究了螺旋相位结构对严格有限孔径平面波的衍射,并详细讨论了夫琅和费衍射场的特点及其影响因素。利用激光直写技术加工了拓扑荷为1的螺旋相位板并产生光学涡旋,优化了制作工艺参数,并利用原子力显微镜和光学干涉的方法验证了螺旋相位板的加工效果。2.提出了直接由涡旋光束主亮环半径和第一旁瓣半径的比值来确定用于抑制光学涡旋旁瓣的最佳环状螺旋相位结构内外半径的方法,并推导出了环状螺旋相位结构对有限孔径平面波的夫琅和费衍射公式。证明得出了用于抑制光学涡旋旁瓣的最佳环状螺旋相位结构内外半径比值只与螺旋相位结构的拓扑荷有关,与入射光波长和螺旋相位结构尺寸大小等其他因素无关的结论。为提高最佳环状螺旋相位结构的设计奠定了理论基础。3.提出了基于类贝塞尔振幅调制螺旋相位结构抑制光学涡旋旁瓣的方法,推导了该相位结构对有限孔径平面波的夫琅和费衍射光场公式,并给出了计算最佳振幅调制参数和主亮环半径的解析式,基于数值计算的结果讨论了n+1阶和n-1阶类贝塞尔函数做振幅调制的适用范围,并利用纯相位型空间光调制器验证了该方法的有效性。该方法的优点在于不仅可以完全消除光学涡旋的旁瓣,而且不会改变涡旋光束主亮环的大小和形状。4.提出了基于光学涡旋主环—旁瓣关系的光学涡旋调制与探测方法,该方法在用于以光学涡旋为信息载体的自由空间光通信系统时,可以避开信息载体光束与解码器件之间所需的严格对准或相位匹配等苛刻条件,只需要接收并测量涡旋光束远场衍射图样中光强分布的半径即可进行信息解码。此种设计方法中同一拓扑荷的径向调制参数适用于其他条件下的入射光波长或螺旋相位结构尺寸。5.提出了利用类贝塞尔振幅调制螺旋相位滤波器实现提高径向希尔伯特变换输出图像对比度的方法,并给出了该相位滤波器点扩散函数的解析式。通过计算模拟验证了该方法对提高径向希尔伯特变换输出图像对比度的有效性。