行波解是一种广泛存在于各类非线性方程中的一种相似解,其典型的特征是这类解在空间传播中能够保持平移不变。许多在实验下观察到的物理、化学和生物现象都可以用方程的行波解来描述,而这些方程往往都是非线性方程,比如用来描述我们在日常生活中经常会遇到的各种各样的水波、声波、电磁波等非线性波方程的行波解描述了这些波在媒介中的传播过程。认识和发现这些非线性方程所蕴含的各种波的内在机理成为当今非线性波研究领域中理论研究与数值分析的重要课题。在非线性科学研究中,动力系统理论和方法由于其理论的深刻性与应用的广泛性已成为相关非线性科学领域中非常活跃的前沿方向之一,因此把动力系统理论和方法应用于非线性波方程行波解的研究具有广阔前景。本文首先研究了一类Ito五阶mKdV方程,其对应的行波方程只能约化为含有参数的四阶常微分方程,对于所对应的四阶行波系统,借助计算机符号计算,在某些参数条件下我们得到了这个含参四维系统的由平面动力系统确定的二维不变流形,通过利用平面动力定性分析和分支理论研究确定了这个二维不变流形的二维系统在各类参数条件下的分支和精确解,从而得到了这类高阶非线性波方程的各类光滑的有界行波解,其中包括孤波解、扭波解和不同振幅的周期波解。其次,研究了一类复mKdV方程,利用平移、旋转和尺度对称将方程转化为在一定参数条件下实的参数方程,该方程是一个二阶常微分方程,我们通过利用动力系统定性和分支理论分析了该二阶常微分方程所对应平面系统的相图和分支,得到了该方程在各种参数条件下的有界解,从而得到了该复mKdV方程的各类行波解,其中包含了振幅为周期函数的包络解。