本文利用线性稳定性分析方法对汽液两层流系统的蒸发与对流不稳定性的耦合机理进行了理论研究。主要研究工作包括以下六个方面：　　 ⑴针对课题中的线性稳定性分析问题，开发了通用性很强的模块化程序。对系统控制方程引入正则模式的小扰动量，忽略二阶以上的高阶小量，然后对扰动量的幅值用Chebyshev多项式进行展开，从而得到一组以各物理量幅值的谱系数为变量的线性方程。利用Chebyshev-Tau方法引入边界条件，小扰动方程转化为一个形如AX=λBX的广义特征值问题。我们的任务是求解广义特征值λ，解出λ便可以得到系统的稳定性特征。　　 ⑵对经典的单层流模型的Marangoni稳定性进行了理论分析计算，验证了程序的正确性。水平液层中存在着两种不同的温度梯度：一种是水平液层中垂直方向的温度梯度，另一种是水平方向的温度梯度。对于后者我们讨论了两种基态流动的稳定性特性，一种是速度呈线性分布的平面剪切流，另一种是速度呈回流型分布的平面剪切流。这些模型中，利用一个经验系数Biot数来简单描述蒸汽层对界面处换热条件的影响。　　 ⑶提出了不同于前人的带有无变形蒸发界面的汽液两层流模型，采用这个模型来研究蒸发与对流相互耦合的机理。由于经典理论中的单层流模型没有考虑蒸汽层与液层的传热和动力学耦合关系，而是简单地把蒸汽层对液层的影响简单的归结为Biot数的对系统的影响，所以无法正确的解释蒸发液层的稳定性特性。本文提出了一个蒸发Biot数Biev,表征了系统的蒸发效应对界面换热能力强弱的影响。此外，还重点讨论和分析了基态蒸发速率与系统稳定性的关系。　　 ⑷改进了Chebyshev-Tau方法，对带有变形界面的汽液两层流模型的稳定性特性进行了讨论。在薄液层中，特别是在小波数(长波)范围内，界面变形对系统的稳定性影响非常显著；另外,vapor recoil效应也必须在考虑界面变形的情况下才能讨论。由于以上两点原因，考虑界面变形效应对系统稳定性的影响是非常必要的。研究结果表明，界面变形与汽液界面蒸发扰动之间存在着一种正反馈机制，这种机制使系统更容易失稳。　　 ⑸在汽液两层流模型的理论分析中引入了非平衡热力学的概念，讨论了热力学非平衡效应对系统稳定性的影响。现有文献中一般都采用了界面处蒸汽与液体都处于热力学平衡状态的假设，即在界面上汽液的温度是连续的。这些假设在无蒸发的情况下是正确的，但是在蒸发效应显著的情况下，汽液界面会明显的偏离热力学平衡态。G.Fang和C.A.Ward通过实验观察到了蒸发界面的温度跳跃并且在有关文献中发表了实验结果。在本文的理论分析中，需要修改界面处的边界条件才能正确地描述热力学非平衡效应，使理论结果跟实验相符合。　　 ⑹在两层流模型的液层中引入了水平的基态流动，讨论了存在界面变形和忽略界面变形的两种条件下Reynolds数对系统的Marangoni稳定性特性的影响。