随着微纳加工制备技术的发展，光电器件的尺寸越来越小，达到纳米量级。纳米器件由于其尺寸小的优势，具备内禀的高速、低功耗等特点，因此获得了广泛的研究。但是，器件尺寸的减小带来了光与物质相互作用减弱的问题，会影响器件的性能，比如探测器的探测灵敏度，光伏器件的光吸收效率等。解决这个问题的关键是研究如何调控光在纳米光电器件中的传播分布。纳米结构会支持一些光学模式本征态，在形成模式共振时，光与物质的相互作用会大大增强，有利于提高器件的工作性能。本论文的工作从纳米结构支持的光学模式出发，研究模式特点和调控方式，并把这些光学模式（包括表面等离激元，光学塔姆态等）应用到纳米光电器件中（包括薄膜太阳能电池，有机电致发光器件等），用于提高器件的性能。取得的研究成果主要包括以下几个方面：（1）理论上研究纳米结构光学模式的色散特性：研究了金属/介质交替分布的多层结构的模式色散关系，发现了一种模式损耗极小的超长程表面等离激元模式，并设计了基于该模式的液体折射率传感器；研究了金属/布拉格反射镜（DBR）结构的模式色散关系，发现了一种具有高模场束缚性的消逝光学塔姆态，并探讨了其在调制器上的可能应用；研究了消除微腔模式角度色散的方法，提出使用具有各向异性介电常数的超材料做反射镜，可以依靠其表面的奇异反射相位，构造无角度色散的微腔模式。（2）理论上研究薄膜太阳能电池的光束缚机制：提出将光学塔姆态引入到薄膜太阳能电池中，提高有源层的光吸收，并比较该机制与传统的微腔模式机制，发现对于平板器件二者具有可比拟的光吸收性能，而对于光栅器件，光学塔姆态机制的光吸收性能更好；提出光学塔姆态与微腔模式耦合增强薄膜太阳能电池光吸收性能的机制；提出基于高吸收超薄膜抗反射谐振态增强薄膜太阳能电池光吸收性能的机制。（3）理论设计并实验研究有机电致发光器件的光耦合输出机制：研究光栅高度效应对有机电致发光器件电致发光谱的影响；提出光学塔姆态与微腔模式的强耦合机制，用于顶发射白光有机电致发光器件，稳定其白光质量，改善其角度效应，提高其器件效率。（4）从多极子的角度研究光学模式，理论上研究作用在环形偶极结构上的光力，通过引入一些概念包括原始多极子，不可约多极子和归一化多极子，分别在基于次级电荷电流分布和基于矢量球谐函数的多极子展开方法下，解释了光力的来源及环形多极子在多极子展开中的作用。