激光等离子体的参量不稳定性是制约激光受控核聚变的瓶颈之一。从上世纪六十年代以来,多种参量不稳定机制被提出来,并被广泛研究。例如受激拉曼散射（Stimulated Raman Scattering,SRS）、受激布里渊散射（Stimulated Brillouin Scattering,SBS）和双等离子体衰变（Two-plasmon decay,TPD）等。SRS发生在四分之一临界密度以下,由于产生了大幅度的散射光使得激光能量的耦合效率降低,同时其激发的电子等离子体波可以加速大量的电子而预热靶丸。SBS发生在临界密度以下,发生的区域相对而言更广。它不仅能损耗入射激光的能量,还是不同频率交叉光束之间能量转换的媒介。TPD主要发生在四分之一临界密度附近,它能产生大量的超热电子。这三种不稳定（SRS、SBS和TPD）是激光惯性约束聚变中非常重要的参量机制,广泛存在于直接驱动、间接驱动等激光聚变点火方式中。2011年美国NIF点火的失败说明我们对于激光等离子体相互作用的认识还有很多不明晰的地方,对参量过程的控制远远达不到要求。本论文主要围绕SRS不稳定饱和机制及其抑制方法开展理论和数值模拟研究,重点开展激光带宽对不稳定性的抑制效应研究。其主要工作体现在如下四个方面:首先,研究了相对论等离子体温度下强激光激发的SRS和SBS。我们将描述SRS和SBS不稳定的色散关系推广到既能适用于相对论激光强度也能适用于相对论温度的情况,并通过采用粒子模拟（Particlein-in-cell,PIC）方法进行了数值模拟验证。在相对论温度等离子体中,由于相对论温度对等离子体波的调制,使得激光对应的临界密度增加,从而不易激发出不稳定模式。我们解析得到了SRS和SBS的最大增长率和对应的不稳定波矢,其与数值求解色散关系得到的不稳定相空间分布符合得很好。结果表明相对论温度能缩小SRS和SBS的不稳定区域,同时降低它们的增长率。当等离子体温度升高,不稳定波矢减小,背散射光频率出现红移。粒子模拟表明,激光与等离子体的长时间作用会加热等离子体,当等离子体的温度达到相对论温度时,不稳定性会被抑制。其次,研究了SRS和SBS之间的耦合作用。我们通过SRS和SBS的耦合方程求得了低频等离子体密度扰动的阈值,当SBS激发的离子声波幅度大于这个阈值时,SRS的不稳定模式出现抑制。当等离子体状态处于流体区域时,SBS可以激发出很强的离子声波,其幅度远远大于阈值。因此,SBS对SRS的抑制在流体区域很容易观察到。考虑到在SRS发展过程中会加热电子,由此产生动理学效应,我们在流体模型中加入了朗缪尔波的阻尼项,当SRS的增长被抑制后,大幅度的等离子体波因为被阻尼而损失能量。对于非均匀等离子体,数值模拟观察到更明显的SBS激发对SRS的抑制效应。第三,通过PIC模拟研究了调频激光的带宽对SRS的抑制效应。根据理论推算,聚变条件下,激光带宽须在10-2量级（～5%）才能对SRS有比较明显的抑制。我们采用了正弦调频的光场模型,PIC模拟表明,激光带宽越大,对SRS的抑制越强,但调频激光的带宽不能完全抑制SRS。有限带宽破坏了流体阶段的三波匹配条件,从而能抑制SRS的线性增长,但是在非线性阶段,波和粒子的作用为主要机制,动理学过程中的带宽效应需要进一步研究。为了提升带宽的抑制效应,可以通过选择适当的调频参数、降低等离子体密度或者光强等方法来实现。最后,提出了实现对参量不稳定有效抑制的方法。我们建立了一个理论模型来描述不同频率的光束间的耦合激发。利用色散关系,我们发现如果两束不同频率的单色激光束的参量不稳定区域在等离子体波的波矢空间没有交叠时,这两束光之间就不能通过等离子体波的激发产生耦合。不稳定区域宽度与入射光幅度和等离子体密度相关。当单光束的光强小于参量激发的阈值时,不稳定就被完全抑制。据此,我们给出了不同频率的两光束间的解耦阈值。根据这一阈值,通过设计合适的非相干合成光的参数,能够实现对SRS等不稳定的有效抑制,我们称这种光为宽带解耦激光束,它由很多不同频率的激光束组成。相比正弦调频激光,宽带解耦激光束由于引入了随机相位使得对SRS的抑制更加明显。当光的带宽大于等离子体波的本征频率时,会产生前向SRS的种子模式。模拟显示宽带解耦激光束能够有效抑制非均匀等离子体中对流不稳定的增长。现有的光学方法很难将强激光的带宽增加到5%,我们提出了等离子体调制器的机制来产生这种激光。