当两种不同密度流体的分界面受到一个外力或加速度(加速度方向从轻流体指向重流体)作用,界面上的初始扰动不断增长,并最终导致湍流混合,这种界面不稳定性通常被称为Rayleigh-Taylor(RT)不稳定性。如果流体界面受到一个瞬时冲击力(如激波的冲击),则发生Richtmyer-Meshkov(RM)不稳定性。RT和RM不稳定性广泛存在于惯性约束核聚变(Inertial Confined Fusion,ICF)、武器内爆等工程应用中,并扮演至关重要的作用。例如,在ICF中,RT和RM不稳定性会引起外壳材料与燃料之间发生强烈的混合,从而导致中子产额比理论预测要低得多,这是降低ICF能量增益的主要机制之一。因此,开展RT和RM不稳定性研究对理解ICF中的扰动增长,提高能量增益具有重要意义。已有的不稳定性研究多关注宏观尺度下的界面不稳定性发展,鉴于对ICF中(微观尺度)界面不稳定性发展认识的需要,本文利用分子动力学的方法开展微尺度RM和RT不稳定性数值模拟研究,重点关注单模和双模界面的不稳定性发展,主要研究内容如下:1、通过分子动力学模拟获得微观尺度RM不稳定性的完整发展过程,发现微尺度下的界面演化与宏观尺度实验结果定性相似,但由于扩散、耗散及热传导等非平衡过程的影响,微尺度RM不稳定性呈现新的界面演化结构和扰动增长规律。2、粘性对微尺度RM不稳定性具有重要影响,本文根据RM不稳定性流动的特征量定义了一个新的雷诺数以表征粘性的影响。考虑雷诺数(粘性)修正的可压缩线性模型可以合理预测线性增长率,并基于此提出一个粘性可压缩非线性模型,该模型能很好地预测微观RM不稳定性从早期线性阶段到后期非线性阶段的整个增长过程。3、对于单模界面RT不稳定性,扰动的前期增长明显受粘性抑制,然而后期的渐近增长率基本不受粘性影响,本文基于此发现提出一个经验匹配模型,该模型能合理地预测扰动从线性期到非线性期的增长过程。4、微尺度双模RT不稳定性呈现新的模态耦合和竞争规则:初始模态独立增长;新生成的谐波在达到饱和振幅之后只受初始低阶模态的影响。5、相比恒定加速度情况,时间高次函数的变加速RT不稳定性演化更慢。