随着海洋开发活动的增多,海上结构物和海上作业船舶遭遇恶劣海洋环境的情况日益凸显,具有大波高和强非线性的畸形波对海上结构物、船舶以及海上人员的安全造成极大地威胁,因此,全面系统地研究不同波况下畸形波的发生概率以及极限波浪的演化特性,具有十分重要的现实和指导意义。首先,通过本文建立的基于高阶谱（High Order Spectral,简称HOS）方法的完全非线性数值计算模型,对单向单峰谱随机波列进行了连续长时间的模拟计算。分析了Benjamin-Feir Index（BFI）及相对水深kph对波列的非线性统计参数的影响,并给出同时受深水BFI和相对水深参数1/（kph）影响的最大峰度的等值线图。结果表明,在所谓的经典深水条件下,即kph>π时,调制不稳定性仍然会受到相对水深kph的影响,且与理论预测值相比,非线性数值模拟结果的统计峰度值普遍偏大。同时,研究了畸形波发生的概率与统计参数的关系,得到不同波况下随机波列中畸形波发生的概率Pfreak和峰度值的定量关系式Pfreak=0.29kurtosis-0.82。另外,对单向随机波列中典型畸形波的演化过程进行了分析,发现了两种主要类型的生成过程:非线性调制不稳定性主导和波群间相互作用主导。其次,对单向双峰谱随机波列进行了连续长时间的模拟计算,分析了谱峰频率间距参数Intermodal Distance（ID）和风浪-涌浪能量比参数Sea-Swell Energy Ratio（SSER）对波列的非线性统计参数的影响。研究发现,在假定双峰谱随机波列和单峰谱随机波列的有效波高Hs和平均跨零周期Tz一致的前提下,相比于单峰谱随机波列,双峰谱随机波列中畸形波或极限大波发生的概率均偏小,且双峰能量分布越不均匀,谱峰频率间距越小时,发生大波或畸形波的概率越大。同时,建立了单向双峰谱随机波列中的峰度最大值与SSER和ID的定量关系式,并且统计得到的双峰谱随机波列中畸形波发生的概率Pfreak和峰度值的定量关系与单峰谱波况下一致。此外,通过双峰谱波浪场的峰度值与独立的单峰谱波浪场的峰度值的比较发现,双峰谱波浪场并不是简单的等同于相应的单峰谱波浪场的线性叠加,双峰谱波浪的统计特征与双峰谱的能量分布相关。然后,基于单向单峰谱随机波列和单向双峰谱随机波列的波浪参数,进行了不同方向分布的多向单峰谱随机波列和不同交叉角度的多向双峰谱随机波列的连续长时间模拟计算。通过对数值计算结果的统计发现,在多向单峰谱随机波列中,方向分布集中度参数s越大,即方向分布宽度越窄,波列的不稳定性越强,畸形波生成的概率越大;在多向双峰谱交叉波浪场中,交叉角β对波列不稳定性的影响与风浪-涌浪的能量比SSER值有关,对SSER=1.0的风浪-涌浪能量相当的波浪场影响比较大,且交叉角β=40°比β=0°时更容易生成畸形波,而对涌浪占主导（SSER<1.0）和风浪占主导（SSER>1.0）的波浪影响不明显。最后,针对在单向随机波列的数值模拟中发现的以波群间相互作用为主导的畸形波的形成过程进行了模拟分析。采用双波群聚焦的物理模型试验,对该类型畸形波的生成过程进行了物理再现,并结合数值分析探究了两个波群相互作用过程中的演化特性及畸形波形成过程中波群间的非线性作用,发现在双波群聚焦过程中,较高谱峰频率的波群对应的频谱和色散性发生了明显变化,分析表明这是由两个波群之间相互作用产生的三阶非线性引起的。基于本文研究成果,根据给定波浪场的初始波浪要素,可以采用统计得到的畸形波发生概率与波况特征参数的定量关系式,预测该波况下畸形波发生的概率,可为极限波浪和极端海况的预报提供实用的参考价值,从而为海上结构物和海洋船舶的结构设计和安全防护提供重要的工程指导意义。