微结构光纤作为一种新型的特种光纤，以其灵活多变的截面结构、新颖卓越的功能特性获得了国内外科研工作者的广泛关注，并迅速在光纤传感和通信领域中占有了重要的一席之地。微结构光纤中一系列奇异的光学特性不仅蕴含着丰富的物理内涵，也为新型功能性光纤干涉与耦合器件的研制提供了广阔的发展空间。探究微结构光纤中的模式耦合与干涉机理，开发新颖的微结构光纤模式耦合与干涉功能性器件，不仅具有重要的科研意义，在光纤通信和光纤传感等领域也具有广泛的应用价值。　　本论文的研究工作结合国家自然科学基金和国家科技部973计划等重点项目的研究内容和目标展开，针对光纤光栅辅助的新型微结构光纤模间干涉仪与高性能、全光纤化轨道角动量模式耦合器的物理机制、研制关键技术及其在光纤传感和通信方面的应用开展了深入而系统的理论和实验研究工作。论文主要的研究工作与取得的创新成果如下:　　一、提出并实现了一种微结构光纤长周期光栅辅助型多组分模间干涉仪，建立了分析该类模间干涉仪的完整理论模型，诠释了干涉仪中多组分模式的耦合与干涉机理。利用液体的高热光系数提高了干涉仪的温度灵敏度，并在实验上观测到了LP01与LP11不同分量之间的干涉叠加现象与干涉各峰的温度灵敏度的差异特性。该干涉仪具有插损小、对比度高等优势，在多参量传感领域有潜在应用价值。　　二、提出并实现了由一个微错位熔接点和一个匹配长周期光纤光栅构成的结构紧凑、低损耗、高干涉对比度的新型模间干涉仪。理论上揭示了该干涉仪的工作机理，明晰了长周期光纤光栅和错位点的能量耦合系数与条纹干涉对比度之间的关系，并研究了其高温传感特性。　　三、提出两种不同结构的光纤光栅反射式模间干涉仪，并重点研究了类双光栅型反射式模间干涉仪的光谱与传感特性。分别实现了空气孔微结构光纤中纤芯基模与LP11模式之间的干涉以及全固光子带隙光纤中纤芯基模与LP01包层超模之间的耦合与干涉。该类反射式干涉仪对比度高，易于制造，在光纤传感领域有潜在应用价值。　　四、研究了光纤轨道角动量模式的传输与耦合特性，设计了几种不同的特殊光纤用于支持单个或多个轨道角动量模式的长距离稳定传输。提出一种新型可调谐微结构光纤OAM模式耦合器，基于耦合模理论，建立了两套完整的理论分析模型，深入地阐释了该耦合器的模式转换耦合机制，并设计实现了纤芯圆偏基模到16个OAM态之间的高效模式转换。