近年来,微型化已经成为光子学器件的重要发展趋势之一,人们不断提出并实现了各种新型的小尺寸、高性能、高密度集成的微纳光子学器件。微纳光纤作为典型的微纳光波导结构之一,由于其具有制备简单、损耗低、直径均匀性好、表面粗糙度小、机械强度高、强倏逝场和强约束等优点,在微纳光子学器件方面具有潜在的应用前景,已经吸引了越来越多研究者的关注。本文首先在研究了无限长微纳光纤的基模电磁场分布、坡印亭矢量、芯内外能量分布等导波特性的基础上,结合Rayleigh-Gans散射理论提出了一种基于微纳光纤倏逝场散射特性的纳米颗粒传感器模型。计算结果表明,通过测量由微纳光纤表面近场范围内的纳米颗粒Rayleigh-Gans散射引起的光纤传导能量的变化,可以达到探测光纤周围单个或多个单分子量级纳米颗粒的灵敏度。在上述研究中,由于未涉及光纤的端面效应,因此我们假设光纤是无限长的。近年来,随着光子学器件小型化的发展,许多基于微纳光纤端面效应的微纳光子学器件,如微纳米光源、激光器、全光开关等不断得以实现和发展。对于这些依靠或涉及端面效应的器件,必须考虑微纳光纤端面输出和反射所带来的物理效应。在论文的第二部分,我们利用三维时域有限差分法,对垂直端面、倾斜端面和拉锥端面等不同端面形状的微纳光纤的端面输出和反射特性进行了详细研究,包括端面输出模场分布,近场输出的光束宽度及端面反射率等。计算结果表明,对于一根亚波长直径的光纤,可以将其近场输出的光能量约束到波长范围内。同时,具有倾斜、球形以及拉锥端面的微纳光纤也表现出与相同端面形状的标准单模光纤不同的端面特性。此外,对端面反射率的计算结果表明,即使是高折射率的微纳光纤,其端面反射效率也不超过10%(对于基模),而且这个反射率随着光纤或纳米线直径的减小而迅速降低,使其在依赖端面反射腔的纳米激光器等应用方面受到限制。针对微纳光纤端面反射效率较低的问题,在论文的第三部分我们提出了一种基于微纳光纤倏逝波耦合的Sagnac环形镜结构,该结构不但保持了微纳光纤的小尺寸优势,而且反射效率可以自由调节。我们从实验上制作了基于两个微光纤Sagnac环形镜结构的Fabry-Perot谐振腔(F-P腔),并测试了其谐振特性。实验结果显示,该谐振腔的品质因子(Q值)可以达到5700,自由光谱范围(FSR)约为0.88 nm,消光比可达18 dB。单个反射镜的反射率可达48%,这是依靠单根微纳光纤端面反射不可能实现的。此外,我们通过显微镜下的微纳操纵,实现了谐振腔的Q值、FSR和消光比的调节。这种F-P腔结构具有尺寸小、易于制作、结构紧凑、可调节、易于与光纤系统集成等优点,在发展微型滤波器、激光器、传感器等微纳光子学器件方面具有潜在的应用前景。