色散介质与电磁波相互作用时,其介电常数显著依赖于电磁波的频率,其中波速也与频率有关。这类介质材料不仅在自然界中天然存在,随着科学技术的发展人们也可以设计和制备具有特定色散特性的材料。当电磁波的频率在某个频率附近时,某些色散材料的相对介电常数值在零值附近,被称为近零介电常数(ENZ)材料。材料的介电常数等于零时会导致材料具有传统材料不具有的一些新的光学特点,例如强耦合效应、隧道效应,近几年对这类材料的研究越来越成为国际学者研究的热点。由于近零介电常数材料本身具有不少新颖的特点,以这种材料为基础的纳米波导结构也成为国际研究的热点,其中“Berreman模式”、“Brewster模式”与“ENZ模式”都是由基于这种材料的波导结构产生的。“Berreman模式”、“Brewster模式”属于辐射模式,而“ENZ模式”属于束缚模式。“ENZ模式”这种特殊的波导模式一般存在于纳米结构的波导中,而该波导结构中存在近零介电常数材料,在近零介电常数材料工作频率附近波导中传播的特殊波导模式被命名为“ENZ模式”。当前对“Berreman模式”与“Brewster模式”的研究已经比较成熟了,近年来研究的热点主要集中在“ENZ模式”,本论文将对薄膜平面波导中的这种特殊模式进行研究。这种特殊波导模式在近零介电常数材料中传播,因而能够使电磁场几乎完全局限于波导的零介电常数介质层,本论文对薄膜平面层状波导结构中的这种特殊波导模式进行了研究。论文利用了介质对电场的局域和非局域响应理论,首先推导了两种情况下波导的色散关系,其中对局域的情况又分两种情况进行了讨论:波导芯层材料为各向同性的均匀材料,以及波导芯层材料为单轴各向异性的均匀材料,而考虑介质非局域效应情况下的波导,这里只讨论各向同性的均匀材料;其次在这些理论推导基础上,通过数值求解我们对局域与非局域两种情况的波导色散曲线进行了研究,并且特别当相对介电常数的值趋近零时,对波导中电场强度的分布情况进行了分析,从而得到当波导结构中存在这种特殊的波导模式时,近零介电常数材料中电场强度发生了极大增强的结论;论文又研究了如何实现对近零介电常数波导中特殊导波模式的激发,这里我们用基于有限元的数值模拟方法(COMSOL Multiphysics)进行研究,并且探讨了波导对偶极子辐射体辐射功率的影响,这为实现电偶极子辐射速率的调控提供了理论基础。超薄的半导体波导结构运用先进的纳米技术是可以制造的,人们可以使用这种结构波导的ENZ模式进行电场的定向完美吸收、ENZ模式在超快电压调制强耦合、光电调制器、超快的热辐射和量子发光体自发辐射控制等方面都有重要的应用。