近几十年来,拓扑光子学领域迎来快速发展。拓扑光学领域通过引入新的参量,即拓扑不变量或拓扑序,来描述不同的拓扑态,这些拓扑不变量体现了结构局部形变下的不变特性。近年来,拓扑光子学领域诞生了一系列新颖的现象,包括光Floquet拓扑绝缘体、光量子自旋霍尔效应等,这些拓扑光子学的现象在光量子计算、光场调控、光的局域增强等方面应用广泛。作为光学体系中常见的研究对象,光子晶体在拓扑光子学的研究过程中起着至关重要的作用。铌酸锂作为一种常见的半导体材料,具有优异的光学和电学性质,包括电光效应、非线性光学效应等,为我们研究拓扑光子学提供了优异的光学材料体系。特别是近年来,铌酸锂单晶薄膜的发展使得片上铌酸锂微纳光学结构和器件的制备成为可能。本论文基于铌酸锂单晶薄膜设计了一些典型的拓扑光子结构,并对其光学特性进行了系统研究。具体内容概况如下:（1）设计了铌酸锂纳米柱构成的zigzag链结构,研究了其中的拓扑边界态。论文通过紧束缚近似的方法,分析得到zigzag结构的绕数与能带模型,对结构所具有的拓扑性质进行了分析。通过理论分析结果,论文预测了结构的边界态及拓扑相变点。之后,利用仿真软件对铌酸锂zigzag链的拓扑特性进行了模拟仿真,验证了奇数或偶数颗粒下,结构对不同偏振入射光的响应情况。结构为奇数个颗粒时,x方向偏振入射光激发的边界态磁场局域在右上端,y方向偏振入射光磁场局域在左下端;而结构为偶数个颗粒时,x或y偏振所能激发的边界态磁场均局域在两端。最后,我们研究了铌酸锂zigzag链拓扑结构的鲁棒性,结果表明zigzag结构边界态对无序的扰动或缺陷具有极强的鲁棒性。（2）设计了铌酸锂一维谐振环阵列构成的一维非厄米SSH结构,研究了其中的非厄米趋肤效应。非厄米趋肤效应指结构所有本征态局域在边界的现象。在铌酸锂一维谐振环阵列中,我们引入了不同旋转方向光场模式间的各向异性耦合,通过理论计算对非厄米SSH模型的能带及本征态分布进行了分析。进一步,我们利用Comsol软件对设计的铌酸锂一维非厄米SSH谐振环结构的本征模式进行了仿真计算,计算结果中,我们观察到了所有本征模式均局域在边界的现象,该工作在结构简单的一维谐振环阵列中实现了趋肤效应。最后,我们研究了铌酸锂非厄米SSH谐振环结构中趋肤效应的鲁棒性。结果表明,在不同扰动情况下,结构中趋肤效应总能保持稳定。（3）基于铌酸锂单晶薄膜设计了具有准连续域束缚态（Bound states in the continuum,BIC）特性的光子晶体结构,研究了铌酸锂准BIC光子晶体的模式和光场辐射特性。连续域束缚态（BIC）是一种既能与连续域的模式共存,又能保持局域特性的特殊存在,当BIC条件下由于扰动等因素导致质量因子（Q）和谐振宽度变得有限时,BIC可以实现为准BIC。我们设计了铌酸锂椭圆柱阵列,通过改变铌酸锂椭圆柱之间夹角,研究了不同对称性下透射谱变化情况以及对应结构中的场分布情况及Q值大小,得到了BIC在透射谱中对应位置,验证了BIC的无限Q值特性。除此之外,我们通过入射圆偏光研究了结构的反射谱与光场辐射特性之间的关系,得到了随圆偏光偏振方向改变的反射谱。我们可以通过观察反射谱中反射消失的位置预测出模式光场辐射偏振情况。