随着临近空间飞行器的迅速发展,国内外对边界层流动稳定性与转捩的关注程度越来越高。由于工程上常见的大多为三维边界层,传统对于二维/轴对称边界层的分析与研究无法满足工程的需求,因此有必要针对典型三维边界层,深入了解其流动稳定性特性,为工程上三维边界层的转捩预测提供理论指导。根据基本流在展向的变化程度,可将边界层分为四类:展向平行的边界层、一般三维边界层、展向变化较强的边界层和展向变化很强的三维边界层。本文主要针对一般三维边界层和展向变化很强的三维边界层的流动稳定性特性以及扰动波演化特性进行了研究,具体工作和结论如下:1.针对一般三维边界层,提出了广义增长率的概念,并分析了二维流动中的二维扰动波、三维流动中的空间三维扰动波以及时空扰动波的广义增长率,从理论上证明了广义增长率具有守恒特性,并采用数值方法进行了验证。广义增长率的守恒特性统一了eN方法中已有的增长率积分方法,这些方法的本质都是广义增长率的不同简化。基于广义增长率的守恒特性,发展了计算广义增长率的简便方法,由于无需迭代,该方法有着更高的计算效率。广义增长率的守恒特性为eN方法在一般三维边界层中的应用提供理论基础以及高效算法。2.针对一般三维边界层,基于射线跟踪理论（RT）,提出了可以准确预测扰动波线性演化的新方法,即基于射线跟踪理论的抛物化稳定性方程（RTPSE）。与传统的PSE相比,RTPSE有两方面的改进:选取群速度方向作为推进路径;采用射线跟踪理论预测展向波数的变化。对于有攻角状态下的球锥侧面的一般三维边界层,RTPSE预测的扰动波的演化路径、展向波数的变化以及扰动波的幅值均与直接数值模拟（DNS）的结果符合的很好。RTPSE是预测一般三维边界层中的扰动波线性演化的有效工具。3.结合二维全局稳定性（BiGlobal）、三维面推进线性抛物化稳定性方程（3DLPSE）和直接数值模拟（DNS）方法,研究了展向变化很强的三维边界层中下游Gotler涡二次失稳模态与上游第一/第二模态之间的关系。研究结果表明:Bi Global可以获得下游G?tler涡二次失稳模态与上游第一/第二模态之间的一一对应的关系,但是Bi Global获得各种失稳模态中只有主导模态才能定性反应第一/第二模态向二次失稳模态演化的特性;3DLPSE方法可以获得与DNS相符的结果,证明3DLPSE是一种更高效的计算方法;此外,还证实了第一/第二模态是G?tler涡二次失稳模态的起源。4.采用3DLPSE研究了不同幅值的定常横流涡对快/慢模态的影响以及快/慢模态的演化特性。结果表明小幅值的定常横流涡使快模态更稳定,而使慢模态更不稳定;较大幅值的定常横流涡均使得快/慢模态的扰动波迅速增长,其根本原因是定常横流涡引起基本流在展向存在很强的剪切。详细分析了定常横流涡影响快/慢模态的机制,结果表明:小幅值定常横流涡的平均流修正（MFD）对快/慢模态有稳定作用;较大幅值的MFD对快/慢模态有促进作用,原因是MFD改变了基本流剖面使得边界层外缘附近出现广义拐点,进而导致无粘二次失稳的发生。此外,还证实了定常横流涡对基本流三维调制作用主导了快/慢模态扰动波的演化特征。5.针对有攻角状态下的球锥模型,证实了第二模态是定常横流涡二次失稳的来源,发现了有限幅值的第二模态可以促进定常横流涡的转捩发生。因此,对于有攻角状态下的球锥侧面中定常横流涡主导的转捩,第二模态仍起到比较重要的作用。