大长径比、高装填、采用复合推进剂的固体火箭发动机在航天推进、导弹武器系统得到了广泛的应用，然而，此类发动机在工作过程中容易出现不稳定燃烧现象，尤其是在工作末期。不稳定燃烧会导致发动机壳体和其他构件振动，使飞行器可靠性降低，严重时将导致飞行任务失败。本文以大长径比固体火箭发动机不稳定燃烧现象为背景，通过数值模拟、试验研究与理论分析相结合的方法，系统地研究影响大长径比固体火箭发动机工作稳定性的关键增益机理与阻尼特性，为大长径比发动机不稳定燃烧预示及抑制提供一定的理论指导。本文主要研究工作及结论如下：以VKI（Von Karman Institute for Fluid Dynamics）发动机为基本模型，采用大涡模拟（Large Eddy Simulation）数值方法，开展了障碍物旋涡脱落引起的压力振荡现象研究，获得了燃烧室内的流场分布特性以及压力振荡频率和压力振幅，数值计算所得压力振幅变化趋势与试验结果一致。通过改变挡板位置，研究了挡板位置对涡声耦合压力振荡特性的影响，结果表明：旋涡脱落具有明显的周期性，障碍物旋涡脱落容易诱发固体火箭发动机内的固有声模态；挡板位置对旋涡脱落频率影响不大，然而对涡声耦合压力振幅有很大的影响；挡板位于一阶速度波腹（1/2L）和二阶速度波腹（1/4L,3/4L）附近时，压力振荡最为严重；旋涡能量在输运过程中易于被湍流耗散，因而靠近喷管的二阶速度波腹处（3/4L）旋涡脱落压力振幅明显高于其他位置。研究了介质温度对涡声耦合压力振荡特性的影响，结果表明：介质温度对旋涡脱落频率影响不大，但是可以显著改变燃烧室内的固有声振频率；当燃烧室固有声振频率与旋涡脱落相等或接近时，燃烧室内形成涡声耦合反馈，将会诱发严重的压力振荡现象；当燃烧室固有声振频率高于或者低于旋涡脱落频率时，涡声耦合反馈被打破，旋涡脱落引起的压力振幅显著下降。设计了新型的T型燃烧器装药结构，开展了复合推进剂压力耦合响应函数测量的试验研究与数值模拟工作。进行了两组重复性试验与一组对照试验，其中前两组试验采用的推进剂完全一致，第三组试验推进剂配方略有调整。前两发试验结果具有很强的重复性，结果表明该推进剂在高压（~11.5MPa）低频（140Hz）下压力耦合响应函数较高；第三组试验测得的推进剂压力耦合响应函数明显低于前两组试验结果，表明推进剂配方对压力耦合响应函数有非常重要的影响。通过数值模拟方法辅助研究了T型燃烧器内的压力振荡特性与声压分布，结果表明：数值计算所得压力振荡频率与试验结果及理论结果一致，试验和数值计算所得声压分布与理论声压分布一致。研究了喷管结构对发动机阻尼特性以及燃烧室内不同空腔位置对发动机稳定性的影响规律，结果表明：增大喉通比J，减小发动机长度以及喷管收敛半角有益于提高喷管阻尼；凸型型面喷管阻尼特性优于锥型型面，继而优于凹型型面；潜入式喷管能够削弱喷管阻尼特性，且喷管阻尼随着潜入式空腔的增大而减小。头部空腔有益于提高发动机的工作稳定性；中间位置空腔易于诱发涡声耦合压力振荡，扩张式中间空腔内压力振荡比收敛式中间空腔内的压力振荡严重；末端空腔减小了喉通比J，导致喷管阻尼急剧减小，不利于发动机工作稳定性。针对M6翼柱装药发动机工作过程中声腔固有声振频率变化规律进行了有限元计算分析，并对流场开展了大涡模拟数值计算，最后对M6发动机工作末期不稳定燃烧现象进行了线性预估分析，结果表明：发动机前两阶轴向固有声振频率随燃面退移呈先减小后增大的变化趋势；M6发动机工作至末期时出现了轴向基频声不稳定燃烧现象；当发动机工作至末期时，喷管阻尼与压力耦合响应增益基本接近，M6发动机由线性稳定状态转向线性不稳定状态，发动机稳定性程度显著降低，从而出现了不稳定燃烧现象。