本文采用高阶Boussinesq波浪模型研究了海岸波浪破碎带复杂的波动现象，包括以下三部分： 第一部分采用自由表面速度势水平梯度作为未知量改写了Wu(2001)推导的欧拉方程在自由表面的投影方程，并建立了适用于非均匀地形和具有环境流动的Boussinesq方程。对于理想流体无旋流动，采用势流Laplace方程无穷级数解使控制方程封闭。对于无穷级数的截断以及截断后模型的色散精度、浅化梯度等特性进行了分析。为了使模型适用于求解快速变化底坡情况下的波浪传播问题，讨论了级数求逆过程中高阶底坡项的作用。 本论文讨论了两种Boussinesq波浪模型。为了改善模型在深水区的应用范围和对速度场的描述，采用半水深处的速度作为基本未知变量建立了模型M-Ⅱ。适用水深可达kh=30，其中k为波数，h为水深。对于部分实际问题，为了降低计算工作量，可将模型M-Ⅱ进行降阶处理得到模型M-Ⅲ。模型M-Ⅲ可以模拟水深波长比kh小于10的波浪色散和线性浅化效应。在建模过程中保留了底面坡度和曲率的贡献，使这类模型适用于一般变化地形的波浪传播问题。这两种模型都是完全非线性波浪模型。 第二部分建立了平面一维数值波浪水槽。 首先研究了规则波的线性浅化问题。数值模拟结果表明模型M-Ⅱ可以有效地模拟水深波长比为30的深水波浅化现象，同时也验证了理论分析的正确性。 为了检验模型对计算波浪在快速变化底坡上传播的能力，研究了波浪在越过斜坡和航道地形时波浪的散射问题。为了改善Laplace级数解的收敛速度，设计了对基本速度取值位置的光滑算法。数值计算结果表明本模型可以准确地模拟深水波和浅水波在越过最高至1：2斜坡地形的反射效应。采用本模型还对波浪的谐振反射现象(Bragg反射)进行了数值模拟，计算结果与实验结果符合良好，表明本模型可以用来处理快速变化地形上的波浪传播问题。 由于高阶Boussinesq模型具有优越的线性色散和非线性特性，这为进一步研究波流相互作用问题打下了基础。发展了新的联合造波—造流方法，并对海岸破波带各种波动现象进行了一系列的数值模拟，以验证数值模型的有效性。讨论了波流相互作用中波浪的Doppler频移、高阶谐波的产生和水波的壅塞现象，以及波幅和周期对逆流环境中波浪壅塞的影响。对于小振幅波浪，数值计算结果与线性Stokes波流相互作用理论符合良好。 建立了适用于高阶Boussinesq波浪模型的波浪破碎、爬高模型。比较了线性插值模型和多孔介质波浪爬高模型的优劣，考虑到处理平面二维海岸复杂边界的需要，采用了多孔介质模型来处理波浪动边界问题。为了模拟含有波浪破碎带的大范围波浪传播问题，采用涡黏性模型模拟波浪的破碎效应。采用实验结果对波浪的破碎模型进行了率定。 在第三部分，采用基于无网格最小二乘法的有限差分方法建立了基于Boussinesq方程的工程应用水平的平面二维数值波浪港池。采用该方法可将偏微分方程组离散为差分方程。在对控制方程进行时域积分时需要确定自由表面速度变量，为了由已知的水平速度计算参考水深速度分量进而得到自由表面的垂向速度需要求解稀疏非对称线性方程组。对离散方程进行了优化，提高计算效率，降低了对计算资源的要求，并进行了时间和空间的收敛性验证。为了验证计算程序编制的正确性，还完成了线性和非线性行波和驻波的数值模拟。对Walin浅滩地形和圆岛引起的波浪折射、绕射联合效应进行了计算分析。数值计算结果与实验结果符合良好，表明本数值波浪港池可以用来模拟复杂的海岸波浪现象。最后，应用本模型成功地模拟了波浪在破碎带的传播、变形和破碎过程。