随着集成光学的迅速发展,表面等离子体因其独特的性质和广阔的应用前景成为学术界的研究热点。表面等离子体激元(SPPs)是外界电磁场与金属表面自由电子相互作用而形成的一种强烈束缚在金属-介质界面上的电磁表面波,具有高度局域化和近场增强的特性。基于SPPs的表面等离子体波导能突破传统光波导的衍射极限,实现亚波长尺寸的光限制和传输,从而促进光子器件的微型化、高度集成化。在众多类型的表面等离子体波导中,混合表面等离子体波导体现出了独特的优势,兼具较强的光场限制能力和较低的传输损耗。本文将增益介质引入混合表面等离子体波导中,设计了两种不同的新型混合表面等离子体波导结构,并利用有限元法对这两种结构的特性进行了深入研究,为表面等离子体纳米激光器等新一代微纳光子集成器件的研制提供了一定的理论基础和设计思路。本文的主要工作如下:(1)在表面等离子体的发展状况和应用前景下,介绍了表面等离子体和表面等离子体波导的基本理论,重点分析了混合表面等离子体波导的特点和优势,并阐述了光波导材料和数值计算方法——有限元法,为后续新型波导结构的设计和研究提供了理论基础。(2)设计了一种带有增益介质的基于圆柱形纳米线的混合表面等离子体波导结构,利用有限元法在可见光波长下研究了该波导基模的电场分布及几何参数对模式特性的影响,并计算了基于该混合波导的纳米激光器的增益阈值。结果表明:该结构具有深亚波长约束下的低损耗特性。通过优化几何参数,在保持超深亚波长的场限制能力的同时得到最低的增益阈值。该结构与同类耦合双纳米线结构相比在相同的几何参数下具有更低的阈值。(3)设计了一种带有增益介质的金属-半导体双肋型混合表面等离子体波导结构,利用有限元法仿真模拟了该波导在红外波长下基模的电场分布,分析了模式特性和增益阈值随几何参数的变化规律。结果表明:该结构实现了对光场的超深亚波长约束且具有较低的传播损耗和增益阈值。通过优化其几何参数,波导的特性达到最佳。与先前报道的金属碟型波导结构相比,在相同的几何参数下该结构实现了更强光场限制的同时进一步降低了传播损耗。该结构可作为低阈值纳米激光器,在高密度光子集成系统和光电集成电路等领域具有潜在的应用价值。