与电子学器件相比,光子学器件具有高速、高带宽和低能耗等优点,在许多光学应用中扮演着非常重要的角色,例如低阈值半导体激光器、光开光、光信息处理和生物传感等。但是,在实际应用中,光子学器件由于受到衍射极限的限制,其尺寸大都在百纳米以上,与电子器件的尺度相差太大,极大的阻碍了光电子器件集成的发展。因此迫切的需要寻求发展具有能够突破衍射极限的新机理和新技术来实现更高密度高性能的光电子集成。表面等离子激元的出现很好的解决了这一问题,它存在于金属与介质之间,能够有效地增强电磁场的空间局域性和近场强度,从而可以突破光的衍射极限。近年来,研究者们发现基于表面等离子激元与介质微腔的杂化而形成的单个微腔结构不仅具有较高的品质因数和较小的模场体积,而且还能够有效地降低器件尺寸,实现亚波长尺度的光限制,在光学器件领域展示出了极大的应用前景。而对于由两个或者多个混合表面等离子激元的光学微腔组成的集群结构的光学性质,各个研究组并没有开展更为深入细致的研究工作。在整篇论文中,我们主要致力于对混合光子-表面等离子激元光学微腔的耦合特性研究。大致做了以下两个方面工作：第一部分设计了一个基于硅/金属材料的三明治形混合光子-表面等离子激元分子结构的光学微盘,研究了该结构中支持的混合回音壁光学模式特性,通过时域有限差法算法计算得到了混合微盘之间的耦合强度、分子结构的品质因数Q、模场体积Veff与两个微盘耦合间距d的关系,发现并验证了回音壁模式的劈裂现象。第二部分研究了超小光子-表面等离子激元分子结构中各个混合回音壁模式不同的远场辐射特性,首先介绍了电磁场中近场到远场转换的基本原理。发现了混合光子-表面等离子激元分子结构在H平面通过改变角模式数的方法可以获得显著的方向性增强。总之,相比于光子分子结构,我们设计研究的混合超小光子-表面等离子激元分子结构不但具有与光子分子结构类似的方向性辐射增强优点,而且还可以突破衍射局限,进一步降低光子器件尺寸到亚波长维度,同时可以获得较高的品质因数和较小的模场体积从而进一步降低回音壁模式激光器的阈值范围。本论文提出了基于硅/金属混合结构的超小光子-表面等离子激元分子结构,通过三维时域有限差分算法(FDTD)分析研究了该混合结构中的光学耦合特性,包含耦合模式劈裂,Q值增强以及远场分布等特性,为进一步改善和扩大金属-介质复合光学微腔在光子集成器件领域的实际应用提供了理论基础。