光子学中的连续域束缚态（BICs）,具有超高的品质因子和局域场增强,能极大增强光与物质的相互作用。目前,光子学BICs在非线性光学、相干光产生、传感器、滤波器、量子光学等领域都有广泛研究与应用,是纳米光子学研究前沿课题与热点领域之一。本论文主要数值研究了基于准BICs的全介质纳米共振结构中增强的非线性光学响应,对实验设计与制备基于准BICs的非线性光学器件具有重要指导意义和研究价值。本论文的主要研究内容和结论有:1.数值设计了准连续域束缚态随入射角可调的、具有超高Q因子的全介质氮化硅（Si N）共振波导光栅（RWG）结构,并计算了其非线性光学谐波产生增强。与传统Si N RWG相比,新型RWG结构中的二次谐波产生（SHG）和三次谐波产生（THG）分别增强了10~3和10~6,与平面Si N薄膜相比,甚至分别达到10~8和1010。更重要的,准BICs的谐振波长可以通过改变入射角度进行有效调节,而几乎不影响SHG和THG响应的增强,从而使得RWGs在很宽光谱范围内实现高效谐波产生。结果表明,基于准BICs的全介质RWGs在可集成非线性光子器件中具有重要潜在应用。2.数值计算了工作于准连续域束缚态的全介质RWG纳米结构中的光学双稳态。得益于准BICs的超高Q因子及极大增强的局域电场,实现了100 W/cm~2量级超低阈值的光学双稳态转变强度。此外,RWG纳米结构中的共振波长可以通过入射角度进行广泛调整,而Q因子仅略有变化,这使得具有超低阈值的光学双稳态器件能够在宽光谱范围内有效工作。数值讨论了实际制造过程中可能引入的光栅缺陷对光学性能的影响,确认了器件的光学性能对缺陷具有很大的容忍度。结果表明,可以在全介质RWG纳米结构中实现由准BICs驱动的宽带和超低阈值的光学双稳态器件,应用于高性能全光器件。3.数值计算了准连续域束缚态下,考虑材料光克尔效应时的全介质纳米共振结构中SHG的转换效率。以典型非线性材料砷化铝镓（Al Ga As）为例,计算了工作于准BICs下基于Al Ga As的RWG结构及对称性破坏的双椭圆形超表面的SHG转换效率。结果表明,由于准BICs下纳米结构中局域电场的极大增强会造成介质折射率的改变,进而改变准BICs的峰位,从而使得在准BICs工作的纳米结构中,SHG转换效率远远低于不考虑电介质的非线性折射时的传统预期值,得到了最终的SHG转换效率。该研究对设计和理解具有超高Q因子的高效非线性超表面具有重要意义。