卫星舱布局设计是基于卫星公用平台的卫星总体设计的重要内容。通常，它是指在卫星舱内外如何对卫星的各种仪器、设备进行布置，以满足各种工程技术约束条件并尽可能对布局方案的各项性能指标进行优化。卫星舱的布局设计对于缩短卫星设计周期、节约成本、提高卫星的性能等方面有着重要作用。在数学上，它属于组合最优化问题；在工程上，属于复杂工程系统问题。面临的主要困难在于，既涉及数学上的组合爆炸问题，又涉及工程复杂性问题，并要达到工程实用。本文以委托项目“航天器布局优化设计与仿真系统研究与开发”为工程背景，在国家自然科学基金的资助下，研究高效、实用的卫星舱布局优化求解算法。主要工作包括以下两个方面：(1)提出一种基于子种群节点的金字塔模型粒子群算法(Pyramid model based particle swarm optimization，PPSO)，用于求解规模较小的卫星舱布局设计问题。粒子群算法(PSO)简单易用、收敛速度较快，但存在着易于早熟等不足，为此本文给出了两种改进方法：一是利用基于金字塔模型的多种群搜索来提高种群多样性；二是对丧失搜索能力的退化粒子进行变异操作，以扩大粒子的搜索空间。与粗粒度遗传算法相对应，可以认为本文PPSO属于一种粗粒度粒子群算法。通过对5个经典函数无约束优化算例、2个Packing算例的数值仿真实验结果表明了该算法的可行性。(2)提出一种带启发式规则的协同进化粒子群算法(Co-evolutionary particle swarm optimization with heuristic rules，CEPSO_HR)，用于求解规模较大且适合系统分解的卫星舱布局设计问题。为此首先将卫星舱布局问题分解为几个小规模的子布局问题，然后采用协同进化的框架，并将粒子群算法与布局启发式规则相结合进行求解。本文启发式规则主要包括待布物的定位跳跃、定向排斥和换位3种启发式规则，用来提高算法的计算精度、计算效率与计算鲁棒性。研究了CEPSO_HR的种群分解方式、合作个体的选择、适应度函数的协作评价等问题，尤其对如何利用启发式规则生成待布物的新位置进行了详细阐述。最后，通过简化返回式人造卫星回收舱、简化国际商业通信卫星舱布局设计的数值仿真实验，验证了本文上述两种算法的可行性和有效性。本文在理论上研究了一种新的粗粒度粒子群算法和一种带启发式规则的协同进化粒子群算法，有助于粒子群算法和协同进化算法的深入理论研究；在工程上，本文算法为“航天器布局优化设计与仿真系统”提供技术支持，并可望推广应用于其它类型的航天器布局相关设计。