热毛细对流及其不稳定性是微重力流体科学研究的重要内容，对该问题的研究不仅有利于人们对微重力环境下流体行为、对流不稳定性和湍流转捩过程等基础物理现象的理解，而且也将促进晶体生长、薄膜制备等空间和地面高新技术的发展。本文所关注的模型体系是矩形液池中液层在水平温度梯度作用下产生的热毛细对流。本课题属于中-俄合作矩形液池热毛细对流空间实验项目的地基研究。　　 本文首先对矩形液池中热毛细对流的理论、实验和数值模拟的研究进展情况进行了较为全面的综述，而后采用地面模拟实验和直接数值模拟的方法对矩形液池中的热毛细对流进行了深入细致的研究。在地面实验中，成功地利用PIV技术对Prandtl数分别为16.2，113和909(25℃)的1cSt、10cSt以及100cSt硅油液层内的浮力热毛细对流流场结构进行了大量观测，实验中所使用的矩形液池水平截面尺寸为52mm×36mm。结果表明，对于100cSt硅油液层，随着温差的增大，液层中的流场结构主要经历了单胞对流向双胞对流的转变。而对于10cSt硅油液层，其流场结构的转变过程则表现得与液层厚度有关，当液层较薄时，随着温差的增大，流场结构从单胞对流向多胞对流转变；当液层较厚时，流场结构未转变为多胞对流。对于1cSt硅油液层，在所考察参数范围内，液层中的流场结构经历了多种状态的转变，该过程同样会受到液层厚度的影响。当液层厚度较小时，比如当d=2.8mm时，随着液池两端温差的增大，液层中的流场结构会经历单胞对流到双胞对流再到多胞对流的转变，到达多胞对流状态之后，继续增大温差，对流涡胞的数量会有所减少，而当温差进一步增大到一定程度以后，整个液层转变为三维非定常流动；当液层厚度较大时，比如当d=4.5mm时，随着温差的增大，流动模式的转变主要体现在水平截面流场截面上面，当温差增大到一定程度以后，在靠近高温端的附近区域会出现具有明显三维效应的“梭形结构”，该梭形结构的尺寸随着温差的增大而增长，并在温差超过某个临界值时失去对称性，整个液层转变为三维非定常流动。　　 本研究在数值模拟中建立了与实验液池相对应的理论模型，验证了CFD软件FLUENT对该定解问题求解的可靠性。考察了重力对矩形液池中1cSt硅油液层热毛细对流的影响，发现重力具有抑制多胞对流产生作用，从而解释了实验中观察到的不同厚度的液层在温差增大的过程中表现出不同流动模式的现象。研究了自由界面散热对50cSt和100cSt硅油液层热毛细对流的影响，发现自由面传热是实验中不同加热方式导致不同流场结构的原因，同时也是导致流场不均匀的原因。对0.65cSt和1cSt硅油液层中的热毛细对流进行了非定常数值模拟，发现了两种非定常对流模式，即行波模式和驻波模式，行波模式与热流体波类似，而驻波模式则与振荡多胞对流类似。此外，为了考察侧壁面尖劈以及挡板结构对微重力环境下气液自由面重定位过程的控制效果，进而为热毛细对流空间实验提供必要参考，我们还在中科院力学所微重力实验室的落塔中开展了短时微重力实验。观察到了自由面重定位过程的两个阶段，肯定了尖劈结构、挡板对自由面重定位的抑制作用，并为更好地控制自由面提出了建议。另外，还利用PIV技术分析得到了微重力条件下的热毛细对流流场结构。