回音壁模式光学微腔(微腔)具有极高的品质因子Q值,在腔动力学、非线性光学、高灵敏度传感、光电子器件等领域有着广阔的应用前景。微腔的模式场分布受腔型、微腔和波导折射率、耦合方式和波长影响;模式场分布决定了谐振腔的光谱特性。由于微腔具有超高Q值,在腔内很容易形成很强的电磁场,从而诱导非线性光学效应。因此,微腔与波导的耦合及其相互作用对微腔光学谐振性能和非线性光学效应起着重要作用。本文针对多种微腔的腔型与谐振特性和耦合效应关系开展研究,重点研究波导和多种形状的光学微腔耦合过程中产生的模式相互作用和光学微腔的非线性光学效应。这些工作将对微腔的设计和应用有重要的意义和价值。具体的研究内容如下:(1)以微球腔为基础平台,通过精细选择微球腔与光纤锥波导的耦合间隙,调控了谐振模式的激发,对欠耦合、临界耦合和过耦合三种耦合状态下的模式耦合特性进行了系统研究。实验上测得的谐振光谱与电磁场理论得到的基模谐振点呈现基本一致,尤其通过优化耦合状态获得了超高Q值(>108)。(2)研制了具有微管结构的单模腔。利用电弧放电制备了新型的高质量微管腔。发现采用微管腔结构可以抑制高阶模式,易于获得模式谱清晰的单模输出。为研究微腔的光谱特性提供了一个良好平台。研究了光纤锥波导中的多种模式耦合干涉后产生的法诺Fano谐振效应,通过改变波导直径和输入光的偏振态,实现了周期性规律的动态法诺Fano谐振线型。为微腔系统在传感、非线性效应等应用提供了新思路。(3)实验验证了微锥腔和微管腔的可调谐性能。通过选择不同的耦合点位置实现谐振频率的连续可调。通过调控谐振模式,实现了法诺Fano谐振和电磁诱导透明EIT效应转换。利用微管腔腔型中的凸起结构精细调谐控了多个谐振模式,得到了相位变化的Fano谐振线型,并且同时调控了电磁诱导透明EIT和Fano谐振两种模式耦合效应。展示的结果不仅可用来提升传感灵敏度和增强非线性光学效应,而且可应用于多通道的光开光器件、多通道光通信以及多通道量子信息处理器件。(4)系统地研究了超高Q值石英微腔系统中的非线性光学效应,激发出受激拉曼散射(SRS)、受激布里渊散射(SBS)、以及四波混频(FWM)等非线性效应,基于多种机制的相互作用产生了稳定的光频梳。首先,验证了产生非线性效应的低阈值特性,得到了窄带宽、高增益、高信噪比的SRS激光,并通过控制温度得到了可调谐拉曼激光,温度调谐灵敏度约为13.59 pm/℃;其次,一阶SBS激光与二阶SBS激光频移量分别为11.03 GHz与22.07 GHz,对微波信号源应用具有很大的推动作用;最后,不仅得到了两种不同模式展宽下的FWM效应,光频梳展宽范围达到250 nm以上,而且观察到了基于SBS和SRS效应进一步作用的FWM效应。更为丰富的多波长光源在精密距离测量、光谱测量、基于分子特征谱的气体探测和生物传感中极具应用价值。(5)系统地研究了超高Q值氟化钙晶体微腔系统中的非线性光学效应,激发出SRS、SBS、以及FWM等非线性效应,通过在方位角方向上加工精细的结构得到了干净的拉曼FWM效应。研发了一套精密加工系统来制备氟化钙晶体微腔,所制得的腔体形状为回转椭球体。综合分析了制备工艺、表面粗糙度以及外部耦合对Q值的影响,得到微腔结构边缘的表面粗糙度低至1.98nm,Q值高达108量级。提出了针对晶体微腔的封装器件,可直接集成于各类光电子器件中。在稳定的封装平台上展示了晶体微腔中几种非线性效应,其中,一阶SBS激光阈值约为49 mW,二阶SBS激光阈值约为102.6 mW,频移量分别为12.01 GHz与24.02 GHz,并且一阶SBS激光信噪比达到36.2 dB。此外,观察到了多模拉曼FWM效应,并通过加工精细的结构减小了高阶模式产生,得到了干净的拉曼FWM效应。在稳定封装平台上激发的几种低阈值非线性效应,大大扩展了激光器的频段,分别在光通信、生物环境监测、激光科学、光谱分析、微波信号源等领域中具有很大的应用价值。