船舶在波浪中的运动极为复杂。船舶在纵浪上航行时,也可能产生大幅横摇运动,甚至导致船舶的倾覆。本文应用牛顿力学及刚体动力学理论,建立了船舶在纵浪下的纵摇,升沉,横摇耦合运动方程,并应用非线性动力学原理对解的稳定性进行了分析。首先,本文考虑了船舶运动中非线性阻尼力矩和非线性恢复力矩的数学表达形式,并将船舶的纵摇,升沉,横摇恢复力矩展开到三阶,建立了船舶在纵浪中的纵摇,升沉,横摇运动耦合的非线性方程。其次,利用安全池理论分析了横摇运动的稳定性。结果表明,纵浪下当发生参数共振时,安全池的范围会急剧减少,在这种情况下,如果遭遇大的波浪,甚至会发生安全池破损,此时船舶将处于极为危险的状态。再次,通过对升沉,纵摇方程的近似,得到了纵摇,升沉和横摇耦合的三阶方程,利用多尺度法分析了船舶在主共振时的横摇运动,给出了二阶定常响应解。并与MATLAB下以四阶五级的Runge-Kutta法求得的数值解进行了比较,验证了近似解析解的有效性。然后,利用Floquet理论对解的稳定性进行了分析,分析了其多值、跳跃、分岔、混沌等现象。最后,应用运动稳定性理论和分叉理论,研究了零解和非零解的稳定性,研究了船舶运动的分叉和混沌。分叉分析表明,船舶在运动过程在存在倍周期分叉、鞍结分叉。倍周期分叉导致混沌,鞍结分叉可能使零解、非零解稳定性丧失而导致翻船。