纳米光学在实际科学与工程中具有广泛的应用。本论文考虑非线性纳米光学材料中的电磁波传播问题。众所周知,电磁波的传播可以由麦克斯韦方程来描述,而麦克斯韦方程有微观和宏观两种形式。本论文主要由两部分构成:第一部分是针对微观麦克斯韦方程,设计了有效的数值方法进行求解,并模拟了金属纳米材料中的复杂光学现象;第二部分是针对非线性宏观麦克斯韦方程,设计与分析了保持能量稳定的高阶数值方法。为了模拟金属纳米结构中的高次谐波产生和非局域效应,我们对金属纳米结构进行电子气体假设,采用流体动力学欧拉方程组来描述电子的运动。通过与微观麦克斯韦方程耦合,我们得到了自洽的流体动力学Drude模型。针对该模型,我们采用高阶龙格-库塔间断伽辽金方法进行求解。考虑到Lax-Friedrichs（LF）数值通量会给数值格式带来比较大的数值耗散,在使用间断伽辽金方法求解非线性欧拉方程组时,我们采用数值耗散更小的Harten-Lax-van Leer（HLL）数值通量。在数值算例中,我们验证了基于HLL数值通量的间断伽辽金方法在求解流体动力学Drude模型时的精度优势,并模拟了不同金属纳米结构中的高次谐波产生和非局域效应。对于耦合金属-非金属纳米材料,我们采用极化模型考虑了束缚电子的运动,并验证了束缚电子的运动对高次谐波产生的增强效果。为了研究流体动力学Drude模型的非线性对非局域效应的影响,我们通过对模型非线性项的逐一数值研究,证实了只有量子压力才能够描述非局域效应。利用宏观介质模型,我们考虑了电磁波在带有线性Lorentz、非线性瞬时Kerr效应和延时Raman效应的光学介质中的传播。通过对非线性项的巧妙处理,我们针对混合阶形式的模型设计了能量稳定的高阶间断伽辽金方法,并给出了空间半离散格式的误差估计和全离散格式的能量稳定性分析。由于混合阶形式的自由变量比一阶形式少,相比基于一阶形式的数值格式,我们设计的数值格式具有更高的计算效率。在模拟全空间的类孤立波传播时,我们采用Super-grid-scale方法来减小类孤立波在人工边界上的非物理反射,并给出了相应的能量稳定性分析。此外,我们还将能量稳定的数值格式推广到了二维情形。通过数值实验,我们验证了一维数值格式的准确性、能量稳定性、计算效率优势以及Super-grid-scale方法对类孤立波的吸收效果。在二维算例中,我们测试了数值格式的精度并模拟了空间类孤立波的传播和空气孔散射。