在惯性约束聚变内爆过程中存在各种流体不稳定性，它们能够破坏靶丸的对称性和完整性，使得点火失败，因此深入地理解收缩内爆过程中流体不稳定性的发展规律，对于实现点火与高增益聚变是至关重要的。相对平面几何而言，收缩几何中流体不稳定性问题更加复杂，目前研究得不够多，许多基本问题有待深入研究。本论文通过理论分析和数值模拟方法，对收缩几何中的一些流体不稳定性问题进行了研究。 本论文利用速度势理论对柱和球几何中不可压缩流体的Rayleigh-Taylor(RT)不稳定性进行了研究。在线性阶段，已有的研究表明：一方面，在内爆(或外爆)过程中扰动波长变短(或变长)，使得不稳定性的增长率变大(或变小)；另一方面，即使不存在界面加速度，界面运动仍然可能导致扰动幅度的增加，柱几何中扰动幅度的变化速率正比于界面收缩比的平方，球几何中扰动幅度的变化速率正比于界面收缩比的三次方，并且扰动幅度的变化方式(增加或减少)只与初始时刻扰动幅度的增长速率(正或负)有关，而与界面的运动方向(向内或向外)无关。在弱非线性阶段，推导了柱和球几何中模耦合方程，结果表明：非线性作用项反比于界面的位置，界面的位置越小，非线性作用越强，反之越弱；同时柱几何中模耦合方程的解表明，在收缩几何中，扰动在界面两侧的发展是不对称的，在弱非线性阶段，不稳定性向内发展的部分受到惯性力的挤压，而向外发展的部分受到惯性力的拉伸。本文研究表明：收缩几何效应对有限厚度流体的界面之间的扰动耦合有重要影响，柱和球几何中扰动耦合从外界面到内界面的衰减因子大于从内界面到外界面的情况。 数值模拟是惯性约束聚变内爆中流体不稳定性研究的主要方法。本论文在LARED-S程序平面版本基础上，推导了三维柱和球几何中激光驱动的物理方程和相应的差分方程，编制了二维和三维柱和球几何中激光驱动流体不稳定性的LARED-S程序版本，主要物理过程包括：激光逆轫致吸收、电子热传导和流体运动。首先，利用LARED-S程序模拟二维柱几何中RT不稳定性的增长，计算结果与线性理论符合得很好，检验了程序的可靠性。其次，讨论了二维平面、柱和球几何中RT不稳定性发生非线性偏离的阈值问题，给出了三种几何中密度扰动振幅的非线性闭值公式，并且用LARED一S程序进行了检验，计算结果表明柱和球几何中的模藕合机制与平面几何不同，存在几何效应的影响。第三，利用LARED一S程序模拟柱几何中RT不稳定性的多模祸合问题，对各个模及其高次谐波的变化进行了分析，并且与模藕合方程的解定性地进行比较，结果符合得较好。第四，利用LARED一S程序模拟柱和球几何内爆过程中RT不稳定性增长，表明收缩几何效应对内爆过程中不稳定性的增长有重要影响，柱和球几何中聚心冲击波的强度大于平面情况，气泡变得更加宽而大，而尖顶变得更加细而长。二维球内爆结果显示，在旋转对称轴附近的尖顶增长较快，接近三维情况，而在远离旋转对称轴的边缘附近，环状尖顶的增长明显地变慢，这种差异完全是由于二维轴对称模拟的局限性所引起的。同时热传导过程对内爆中不稳定性的发展有很强的致稳作用，尖顶的卷曲程度明显地变小。不稳定性的发展增大了内界面的表面积和高密度冷尖顶附近的温度梯度，大大增强了热传导的降温作用，因此，柱内爆中心高温热斑体积只有未加扰动情况的四分之一，球内爆中心高温热斑体积只有未加扰动情况的八分之一。最后，利用LARED一S程序模拟了OMEGA激光器上直接驱动柱内爆实验，与LASNEX程序模拟结果进行了比较，外界面较好符合，内界面还存在一些差异，原因是LARED一S程序没有考虑实际状态方程和辐射预热，这个问题有待于将来论证。