随着空间探测技术的发展,传统的太阳能、化学能等已经无法满足大功率、长寿命的深空探测需求。空间核动力电源系统因其大功率、长寿命、适应性强的特点成为空间探测的理想能源。辐射屏蔽设计对于空间堆系统安全和运行至关重要,并且受限于严格的质量和体积要求,严重影响了屏蔽设计的全局性和计算效率。本文针对紧凑型空间堆的辐射屏蔽问题,研究空间堆辐射屏蔽设计,基于整体化和轻质化设计要求,从体积和重量两方面分析空间堆系统对屏蔽设计的影响,并采用优化方法提高设计效率。空间堆中堆芯结构和燃料的选择、能量转换装置、控制驱动电机等会直接地影响屏蔽体积和质量,并且管道贯穿件导致地温度升高会增加屏蔽质量。针对屏蔽结构和材料,分析了截锥型屏蔽结构的锥角范围和碳化硼、氢化锂、氧化铍的中子屏蔽特性。针对传统屏蔽由人为设计带来的主观误差问题,提出了自适应粒子群屏蔽优化方法,采用适应度评价函数和自适应惯性权重、学习因子动态变化策略,以提高计算效率和增加设计的全局性。对于复杂约束条件下的空间堆辐射屏蔽设计问题,自适应粒子群优化方法可根据求解问题权重得到相应优化方案,降低屏蔽质量。参考美国Kilopower空间堆堆芯模型,采用截锥型屏蔽结构和慢化加吸收的屏蔽材料交替布局方式,利用ARESHOP优化程序和ARES屏蔽计算程序对空间堆进行屏蔽优化设计和计算。数值结果表明,对于截锥型屏蔽结构的锥角,角度范围在10°～20°之间能有效减少屏蔽体积和降低屏蔽最外侧辐射。碳化硼、氢化锂和氧化铍材料具有良好的中子屏蔽性能和高温稳定性,是良好的空间堆屏蔽材料。对于萨凡纳号船用堆模型优化问题,优化后模型的剂量率为原方案的86.3%,体积和重量都有一定下降,验证了优化方法的正确性。在空间堆屏蔽设计中,经优化后的屏蔽方案的快中子通量密度、光子剂量率和屏蔽质量较参考方案均有所下降,慢化加吸收的组合材料交替布局有效降低了剂量率和屏蔽重量。本文的研究有助于提高多目标辐射屏蔽设计效率,可为空间堆系统辐射屏蔽设计提供参考。