所谓表面波，就是指在两种介质的界面传播，而在与其垂直的方向上衰减的电磁波。近年来，表面波在负介电常数和负磁导率这种负折射介质中的传播引起了人们的广泛关注。负折射介质丰富了表面波传播的研究领域，也得到了与传统介质中完全不同的物理现象。自从2003年实现非线性负折射介质之后，对负折射介质中非线性表面波的研究就成了热点。在单介质界面，负折射介质既可以支持自聚焦非线性表面波，也可以支持自散焦非线性表面波。非线性波导中也可以传播非线性表面波，研究表明负折射介质为芯，被克尔非线性介质包围的波导可以支持一种非线性模式，这种模式是不能在传统波导中存在的。非线性负折射波导还可以传播像亮暗孤子一样的非线性模式。一般而言，人们都假定负折射介质是各向同性的。然而，在实际中，材料都是各向异性的，取决于金属环和金属圆柱的取向。不定介质是各向异性介质中的一种，它的介电常数和磁导率可以随机为正负，这样的介质有4种不同类型的色散，所以就有更多的电磁学性质。研究表明：不定介质和传统介质的单界面可以传播线性表面波；不定介质为中芯的波导可以支持快波导模和慢波表面波；克尔非线性不定介质和线性介质的单界面也可以支持非线性表面波等等。在本论文中，我们主要对非线性传统介质和线性不定介质单界面的非线性表面波做了理论的研究。研究取得了以下的成果：1.根据电磁波介质界面的连续性，我们求出了非线性表面波的色散方程。通过对频率区间进行了分类，分别讨论了每一种情况下的表面波的存在情况。研究发现这种表面波与不定介质中波的传播是不同的，全截止介质可以支持非线性表面波而无截止介质不能支持非线性表面波。2.我们发现在第一种全截止介质中，存在一个非线性表面波的频率奇点，在这一点附近群速度会忽然发生从负到正的转变。这在群速度控制学中有重要的应用。