纳米材料的优越性能不仅仅体现在它们有一个可控制的光学响应,更是能够将不同组分的材料结合在一起形成新的复合纳米结构。在纳米尺度下,金属表面等离激元共振能够诱导产生极大的局域电磁场增强,从而与其复合结构中的半导体或者有机分子发生强烈的相互作用,导致整个体系出现新奇的光学效应,对我们进一步理解光和物质相互作用有着重要的现实意义。在本论文中,我们对纳米金属表面等离激元与分子激子以及半导体激子相互作用体系中的非线性光学响应做了较为系统的研究:首先,我们研究了金纳米棒表面包裹近红外染料分子（IR806）的核壳纳米棒强耦合体系中的线性以及超快非线性光学响应。我们发现耦合体系吸收光谱上出现的Fano凹陷会随着分子浓度的增加而越来越明显,表明在Fano凹陷处存在一个增强的从等离激元到激子的单向能量转移通道,进而导致系统Fano凹陷附近出现了一种可以被外界激光激发波长、功率以及染料分子浓度所调控的反常单光子饱和吸收效应。并且该强耦合体系的激发阈值非常低（小于1 μJ/cm2）、响应速度非常快（小于1皮秒）。我们利用一个微观唯象模型解释了这种可调控的反常单光子非线性吸收现象是强耦合系统中,金棒等离激元与分子激子饱和吸收过程竞争的结果。另外一方面,我们研究了金纳米颗粒与叶绿素分子强耦合体系构成的薄膜太阳能电池的光电响应。实验结果表明,金属纳米颗粒与叶绿素分子强耦合结构电池的最大输出功率比单组分的金纳米颗粒薄膜以及叶绿素薄膜电池的最大功率之和大62%。这充分说明强耦合体系中等离激元从外界吸收的能量能够非常有效的通过染料分子注入到氧化钛基底中,提高了整个系统的光伏响应。从而给我们提供了 一种直接观测等离激元与激子强耦合体系中的电子转移途径,以及一个新思路去研究等离激元太阳能电池中的光电效率转换问题。其次,我们研究了 Au/CdS、Au/Ag2S核壳以及Au/AuAg/Ag2S/PbS多层核壳纳米棒的三阶非线性光学性质。第一,我们发现Au/CdS核壳结构中等离激元与激子的相互作用以及局域场增强,诱导系统出现反饱和的非线性光学吸收性质,并且体系中的非线性折射系数相比初始Au棒增强了 45%。第二,我们利用FDTD模拟发现不同形貌的AgzS壳层结构能够对金棒表面的局域场分布进行调控,进而导致corner-opened型的壳层结构能够使体系的非线性折射系数增强750%;end-opened型的壳层结构能够使体系的饱和光强相比于原始Au棒增长424%。第三,我们发现Au/AuAg/Ag2S/PbS多层核壳结构能够非常有效的将光捕获在金核与金银壳层之间的空气缝隙以及中间的硫化银壳层中,引发了巨大的电场局域效应以及非线性折射系数的增强。并且相比于原始金棒,多层核壳结构的单光子品质因子增涨了 2.4倍,双光子品质因子减弱了 89%,在全光开关中具有潜在的应用价值。最后,我们利用微区荧光以及瞬态吸收技术,研究了不同大小的单层WSe2三角盘的激子发光及其吸收动力学过程。我们发现单层WSe2激子荧光成像中现出了一个同心三角形亮纹。并且随着尺寸的增大单层WSe2的激子的荧光发射发生了增强,与此同时,瞬态吸中表现出了更强的激子饱和吸收效应以及更长的复合过程。我们的实验结果表明,单层WSe2在生长中的化学各向异性所产生的一维界面,会对激子的吸收动力学过程以及荧光发射产生重要影响。