涡旋光是具有螺旋型等相位面和轨道角动量的特殊光场。它在科学界已经被广泛的研究,目前已经发展成为现代光学中一个新的研究领域,在光学微操纵,原子光学,生物学,光学信息传输等领域得到了广泛的应用。在非线性光学领域,光涡旋只能以暗孤子的形式存在于自散焦非线性介质中;在自聚焦非线性下由于其角向调制不稳定性,会劈裂成基本孤子态,从而限制了涡旋光在非线性介质中的应用。最近,人们发现即使是在自聚焦非线性下,光涡旋在光诱导光子晶格中也能够以亮孤子形式稳定传播,这为涡旋光的研究开辟了新的方向。另外一方面,光子晶格作为一种折射率呈周期变化的光学微结构,具有空间带隙结构,在禁带中的模式是禁止传播的。从而使得光波在其中的线性和非线性传播行为与在连续介质中不同。其独特的传播特性使得光子品格在全光信号处理,光通讯系统,光交换网络等方面存在相当大的应用价值。涡旋光在光子晶格中的传播行为是离散效应、非线性效应和涡旋光角动量共同作用的结果,必然会产生很多不同于在连续介质中的新的物理现象。本论文的主要工作就是系统研究涡旋光在二维光诱导光子晶格内部以及光子晶格表面的传播特性,我们的结果可以为其它非线性周期系统中的涡旋现象研究提供有益的借鉴和参考。主要内容及取得的结果如下:首先,研究了涡旋光在自聚焦非线性光子晶格中的传播行为。实验和理论上实现了一阶涡旋带隙孤子,该带隙孤子来自第二布洛赫带;首次在理论上预言了高阶涡旋带隙孤子的存在,该带隙孤子的相位是二阶涡旋;实验上实现了二维多带矢量孤子,与连续介质中矢量孤子不同,组成多带矢量孤子的两个模式分别来自不同的布洛赫带。通过理论研究涡旋光在缺陷光子晶格中的传播,提出了一种有效激发高阶缺陷模式的方法。其次,从实验和理论两方面研究了一阶和二阶涡旋光在自散焦非线性光子晶格中的传播行为。实验上实现了一阶涡旋带隙孤子,与以往研究的所有带隙孤子都不同,其空间频谱不在布里渊区的高对称点上,我们从理论上给出了解释。理论预言和实验实现了四极带隙孤子和二阶涡旋带隙孤子,我们的结果表明只需要通过改变二阶涡旋光的入射条件就可以实现这两种不同的孤子态。最后,研究了涡旋光在光诱导光子晶格表面的传播特性。理论发现并实验观察到了一种存在于光子晶格与连续介质分界面上具有角动量的非线性表面波。