布局问题是一类寻求几何物体在有限的空间中合理布置的混合(离散与连续)组合优化问题，同时也是运筹学与组合数学的研究的热点问题。有着广泛的工程应用背景。本文以人造卫星仪器舱布局设计为背景，研究具有性能约束的三维布局优化问题。人造卫星舱布局问题是研究在满足各种工程技术条件下，特别是在不干涉约束条件下，如何将各种仪器和设备布置在卫星仪器舱内，使得总体布局的某一项或几项评价指标达到最优。具有性能约束的三维布局优化问题在数学上属于NP-难(NP-hard)或NP完全(NP-complete)问题，面临的主要挑战和困难是建模和求解困难，同时还要解决计算量上的组合爆炸问题。鉴于该问题具有建模和求解的高度复杂性，其完全解决还需要长期的研究过程。本文主要工作包括以下几个方面：1．研究圆柱体图元在圆柱空间中的具有性能约束的三维布局问题，分析了该类问题的特征，建立以聚集性为目标的具有性能约束的三维布局问题的优化模型(PⅠ)，建立以静不平衡量为目标函数的具有性能约束的三维布局优化模型(PⅡ)。首次提出具有性能约束的三维布局优化问题的多目标规划模型(PⅢ)。2．提出不干涉函数的概念，对于布局设计可行性的判定问题，能够给出严格判断。所提出的数学模型，灵活性较大，可方便地处理带有其它目标要求和性能约束的三维布局问题。针对圆柱空间中圆柱体图元的三维布局优化模型(PⅠ)和(PⅡ)，研究了目标函数的若干重要性质，证明了一阶最优性条件。3．建立了长方体空间中具有性能约束的长方体图元和圆柱体图元的三维混合布局优化模型。应用图论、群论等工具克服了布局优化问题中时断时续性质所带来的困难，在此基础上构造了一个全局收敛的优化算法。4．稳定、收敛、高效的优化算法是求解三位布局优化问题的基础，是布局优化理论研究发展水平的重要标志。针对圆柱空间中圆柱体图元布局问题的三种优化模型，研究具有性能约束的三维布局问题的优化算法。在MATLAB平台上，分别用罚函数法、极大极小方法和多目标规划中的理想点法对多个算例进行计算。经给定规模的布局设计算例验证，上述算法在卫星仪器舱布局设计问题上是可行的，且理论上可用于求解更大规模、更复杂的航天布局设计问题。为解决人造卫星仪器舱的布局优化设计的实际问题奠定了一种数学基础。综上所述，本文工作理论上可望推广应用于具有不同布局空间和考虑其他设计目标、约束条件的布局设计问题，有助于航天器布局设计理论的研究进展。在算法实践上期望有助于人造卫星仪器舱布局设计问题实用化方法与技术研究和应用，并可望推广应用于其它复杂航天器布局设计领域。