固体火箭发动机的不稳定燃烧问题在发动机的各个研制阶段屡见不鲜，不稳定燃烧也是一个复杂的系统性问题。加之目前理论分析水平和试验技术有很大局限性，型号设计中遇到的不稳定燃烧问题，多以改进设计后再进行试验验证的方式研究。试验的高成本和长周期严重影响发动机研制进展。为此有必要采用数值模拟的方法对不稳定燃烧进行研究。本文首先验证了有限元和大涡模拟(LES)的方法对声涡耦合导致的不稳定燃烧研究的有效性，并在此基础上研究了某发动机试验中的不稳定燃烧现象。本文研究内容包括如下几方面:　　分析对比了RNG k-ε、Transition SST、Reynolds Stress湍流模型及大涡模拟(LES)方法对压力振荡的捕捉精度。研究了可应用于声涡耦合和声不稳定研究的大涡模拟(LES)模型的网格要求及数值计算方法，分别采用RNG k-ε、Transition SST、ReynoldsStress湍流模型及大涡模拟(LES)方法对VKI试验器内绝热环导致的声涡耦合压力振荡进行了数值模拟研究。结果表明大涡模拟(LES)方法所捕捉的压力振荡频率和振幅精度远高于其他三种湍流模型。　　对VKI试验器应用大涡模拟(LES)方法进行振荡原因分析，并对瞬态流场特性进行模拟。将大涡模拟(LES)计算结果与试验结果对比分析，证实了VKI试验器中的绝热环导致的声涡耦合是出现该振荡的直接原因，流场中漩涡的周期性生成、演化、追赶、汇聚等现象明显，足以作为扰动对上游压力产生扰动，如果再恰好和声场耦合则会放大这种压力波动。　　通过数值方法的应用研究颗粒相对压力振荡频率和振幅的影响。建立了包含离散相颗粒模型(DPM)的大涡模拟(LES)方法，并对燃气条件下VKI试验器流场进行计算，结果表明颗粒相对压力振荡频率和振幅都有一定抑制作用，但作用微弱。不同颗粒的抑制作用有差异。计算结果中抑制作用强的粒径与粒子阻尼最大的粒径不是同一粒径。　　以某发动机为例，分析对比了声场理论计算和有限元方法计算的应用条件和精度。对比分析某发动机燃烧室声场理论计算和有限元方法结果，表明对低阶轴向声频的计算理论公式方法满足精度要求，在高阶声频和切向声频及非均匀几何结构方面，有限元方法更适合对声振频率的计算。　　探究某发动机发生的压力振荡产生的原因并对振荡情况进行分析。采用大涡模拟(LES)方法进行流场分析，采用有限元方法对声振模态进行计算分析，复现了试验器在试验中的压力振荡现象，并就发生压力振荡时刻燃烧室内部不同位置进行了分析，研究表明该发动机整体空腔内发生同一频率的共振。　　提出了一种存在的压力振荡形式。振荡初期燃烧室内存在多阶倍频压力波动，并存在一定的相位差，一阶压力振荡主导的多阶倍频压力互相耦合产生强振荡，随着振荡的继续演化，相位差的累积及流场中的阻尼作用使高频低振幅的压力振荡逐渐耗散，最终压力振荡为一阶振荡为主，并与声振耦合放大压力振荡，综合起来是一个演化的复杂声不稳定。