超声速边界层的转捩预测一直是高速飞行器气动设计关心的重要问题。从扰动生成的角度来看,边界层的主导模态—第二模态,是由上游边界层中的快模态或慢模态在向下游的演化过程中通过模态转换生成的。本文以马赫数为4.5的超声速平板边界层为研究对象,采用直接数值模拟(DNS)、抛物化稳定性方程(PSE)、线性稳定性理论(LST)等方法分别对边界层中快/慢模态与第二模态的模态转换过程进行了研究。通过定义“模态转换系数”,探讨了不同位置处的快、慢模态在下游激发第二模态波的模态转换效率,分析了模态转换所需的流向尺度,即模态转换区间,并分别建立了考虑壁面温度条件的模态转换系数与模态转换区间的计算模型。现有的基于线性稳定性理论的转捩预测方法,因忽略非平行性,无法描述从快模态或慢模态到第二模态的转换过程,本文基于模态转换系数和对模态转换区间的认识,对转捩预测方法进行了修正,使之能够考虑模态转换的影响。通过研究,具体得到以下结论:1.边界层中的快、慢模态在同步点附近通过模态转换激发第二模态不稳定波,PSE方法可准确地描述这一过程。在中性点前不同流向位置处引入快/慢模态,第二模态不稳定波的激发效率不同。研究发现,在中性点前某个流向位置处引入快/慢模态,模态转换系数最大。此外,当扰动入口位置一定,存在着一个最优频率,该频率下的扰动对应的模态转换系数最大。2.研究发现,模态转换区间,即快/慢模态到第二模态的转换所发生的流向区域与当地雷诺数的-2/3次方成正比。壁面温度条件对模态转换区间有影响,但其与频率和当地雷诺数的规律不变。3.利用模态转换系数和模态转换区间,可将原有的e-N方法从只积分第二模态波,扩展到考虑上游边界层内快/慢模态对第二模态波的激发过程。并采用PSE方法对改进后的转捩预测方法进行了验证。修正后的方法考虑了第二模态波生成的过程,比原有的方法具有更多的物理依据。