大部分流体的表面张力与温度呈线性关系,而高碳醇水溶液、液镓和含氧的钢液等的表面张力与温度呈非线性关系,一定温度区间内,在表面张力梯度驱动下形成常规热毛细对流和反常热毛细对流共存的非线性热毛细对流,非线性热毛细对流更加复杂。这类流体对新型热管技术、强化沸腾传热和金属焊接工艺等方面具有重要影响,研究非线性热毛细对流还具有重要的学术价值。因此,本文以非线性表面张力流体为对象,研究了环形池内非线性热毛细对流及其不稳定性。论文的主要内容和结果如下:首先,以液镓为例,数值模拟研究了环形池内小Pr数流体的非线性热毛细对流,分析了液层厚度H、Marangoni数（Ma）、浮力和Bi数对流动失稳现象及其演变规律的影响。结果发现,液池内常规热毛细对流和反常热毛细对流两种流动共存,并且同时失稳。随着液层厚度的增大,流动稳定性降低,温度波动频率减小。在较小液层厚度的液池内两区域流动失稳都形成弯钩状波纹。增大液层厚度和Ma数,流动失稳为弯钩状和轮辐状波纹,两区域的波纹形式不尽相同,但总是沿着相同方向传播,波数和温度波动频率也相同。浮力降低了流动稳定性。流动失稳的临界Marangoni数（Mac）随着Bi数的增大而减小。对于H=0.15时,由于液镓热扩散率较大,Bi数的改变对较小Ma数时的波纹形式无明显影响,但是在较大Ma数时的弯钩状波纹的弯曲程度减小。在更深液层内（H=0.35）,随着Bi数增大,反常热毛细对流区域的波纹为直条辐波纹,而对常规热毛细对流区域的波纹影响较小。然后,以丁醇水溶液为例,对环形池内中等Pr数流体的非线性热毛细对流进行了研究,分析了液层厚度、Ma、浮力和Bi对热毛细对流及其不稳性的影响。结果表明,当H=0.05时,常规热毛细对流区域先失稳形成螺旋状的热流体。增大Ma数,反常热毛细对流区域的一组波纹转变为两组波相互重叠形成的点状波纹。反常热毛细对流区域随液层厚度增大而增大,此区域的失稳波型随液层厚度的增加依次形成点状波纹、三角形状波纹和弯钩状波纹。在常重力条件下,丁醇水溶液液池表面温度比微重力时的表面温度低,浮力提高了流动的稳定性,随Ma数和液层厚度的升高,流动失稳形成三角形状波纹、螺旋状波纹和花瓣状波纹。增大Bi数,反常热毛细对流区域减小,直至消失,而常规热毛细对流区域增大。在H=0.1时的Mac随Bi数增大先增大后减小。增大Bi数,流动失稳形成点状波纹、螺旋状的热流体波。对于H=0.3时的Mac随Bi数增大先增大后减小再增大,形成弯钩状波纹、直条辐波纹和叶片型波纹等流动不稳定性。最后,建立了旋转环形池内非线性热毛细对流数学模型,研究了Ta数对液池内丁醇水溶液非线性热毛细对流及其失稳特性的影响。结果发现,在H=0.1时,增大Ta数,Mac先减小后增大,旋转产生的科氏力增强,波纹被拉伸的更加细长。常规热毛细对流区域的波纹由直条辐状转变为螺旋状,温度波动频率减小。反常热毛细对流区域的波纹由三角形状转变为弯钩状。Ta数越大,H=0.2的液池表面温度更加均匀,流动稳定性提高,两区域的温度波动频率增大。Ta数从0增大到429,反常热毛细对流区域的弯钩状波纹演变成螺旋状波纹。两区域内的波数、波纹传播方向和温度波动频率相同,波纹的传播方向与液池旋转方向相反。