随着人们对微纳光子学领域的深入研究,表面等离子体以其独特的优势迅速发展成一门崭新的学科。表面等离子体激元(Surface plasmon polaritions,SPPs)是表面等离子体的表现形式之一,它是外界入射电磁场与金属导体中可迁移的自由电子相互作用而形成的一种特殊形式的电磁波,表现出高度局域和近场增强的特点。将表面等离子体技术应用于传统波导结构中,可以使之突破衍射极限,实现纳米级光场限制和低损耗传输。而在许多不同的表面等离子体波导结构中,混合表面等离子体波导显现的优势极为突出,它能够将光紧紧地限制在低折射率介质层中,同时具有较大的传输距离。本文以表面等离子体理论和光波导理论为基础,将低折射率的纳米级间隙和楔形金属相结合,提出一种新型的混合表面等离子体波导结构,并将其应用于纳米激光器中。基于有限元法在COMSOL Multiphysics软件中搭建数学模型,详细研究了该波导结构的基模电场分布和模式特性。将该结构应用于纳米激光器,分析了表征该激光器性能的特性参数。该结构在未来集成光学领域具有广阔的前景,为超小型光子器件和高密度集成电路的发展提供了一定的思路。本文的主要工作如下:(1)阐述了课题的研究背景及意义,在了解了表面等离子体的应用领域和发展方向的基础上,着重介绍了表面等离子体和表面等离子体波导的基本理论和研究方法,并对仿真分析中使用的数值计算方法进行了表述,为下文混合波导结构和纳米激光器的特性分析提供了良好的平台。(2)设计了一种基于典型纳米线结构的新型混合波导结构,将低折射率的纳米级间隙和楔形金属相结合,可实现光场在二维平面的亚波长传输。接着介绍了表征表面等离子体波导特性的重要参数:有效折射率、传输损耗、归一化模场面积、限制因子、传输距离和品质因子。利用有限元法在可见光波段研究了两种混合波导的基模电场分布,同时对不同纳米间隙材料时波导的特性参数随几何尺寸的变化规律作了重点分析。结果表明:本文提出的波导结构具有更好的综合性能,调整结构参数可使波导实现超深亚波长的光场限制,同时具有良好的局域特性。(3)将上述混合表面等离子体波导结构应用于纳米激光器。介绍了作为纳米激光器重要组成部分之一的增益介质,并阐述了它使SPPs放大的基本原理。基于有限元法,利用COMSOL Multiphysics软件建立三维模型,分析了激光器的三维电场分布,并研究了激光器的增益阈值和表征谐振腔特性的品质因数和珀赛尔因子随几何尺寸的变化情况。研究表明:波导性能最优时,纳米激光器具有较低的增益阈值和良好的谐振腔特性,可实现深亚波长下的低阈值激射。由基模和纵模的分布还可以看出,谐振腔内具有稳定的激光模式。该结构为纳米光子器件实现大规模集成提供了良好的理论依据。