热对流在地球物理、天体物理以及工业应用中都扮演着重要角色,在地核、海洋、大气以及太阳对流中都起到重要作用,在晶体生长中热对流不稳定性对生产的晶体质量有很大影响。因此在长达一个多世纪的时间里,热对流都是是科学界关注的重要课题。本文通过线性稳定性分析与直接数值模拟相结合的方法研究了上下对称性破缺的圆筒中热对流不稳定性及其非线性演化,和旋转磁场下圆环中的热对流不稳定性。主要工作内容以及研究成果如下:采用线性稳定性分析方法对高度半径比A从0.5到1.5,密度倒置参数θm从0到0.5参数范围内圆筒中贯穿对流的首次失稳进行了研究。结果表明贯穿对流首次失稳的临界瑞利数和临界模态受到高度半径比以及密度倒置参数的影响,在构型相同、密度倒置参数不同时首次失稳的临界模态可能不同。并且在本文研究的参数范围内改变构型,密度倒置参数对首次失稳临界瑞利数的影响规律相同。采用线性稳定性分析和直接数值模拟相结合的方法对A = 1.0,0<θm<0.5参数范围内贯穿对流的分叉过程进行了研究。研究发现,由于上下对称性破缺在A = 1,0<θ<0.5参数区间内热传导解通过跨临界分叉分叉到轴对称流动,不同于OB近似下的叉式分叉。发现了中心热流体向上(a0)与冷流体向下(b0)两种不同的轴对称解,并且这两支解的模态演化不同。发现了a0解的迟滞现象,但是没有发现b0解存在迟滞现象,并发现了b0解在二次失稳后依然有可以稳定存在的区间。对轴对称流动失稳后的三维流动进行了直接数值模拟研究,发现了多种三维流动模态。采用直接数值模拟方法对旋转磁场下圆环内热对流的基本流受磁泰勒数和普朗特数的影响进行了研究,发现了基本流偏离热传导解的程度随磁泰勒数和普朗特数的增加而变大。采用线性稳定性分析方法在高度半径比分别为1.0、0.8和0.65时研究了普朗特数与磁泰勒数对首次失稳的影响。首次失稳的临界瑞利数和临界频率都随着磁泰勒数的增加而提高,但是对高度半径比为0.65、0.8下的效果并不相同,在A = 0.8时临界瑞利数提高效果更明显。随着磁泰勒数的增加,大普朗特数工质的临界瑞利数更高,并发现了首次失稳后的定常轴对称流动。