基坑工程一直存在着经济与安全的问题，其根本原因是由它在整个基础工程所起的特殊作用决定的，目前有许多业内人士在做这方面的工作，并提出了很多有意义的优化设计方法。本文通过对各种方法的分析比较，并与实践相结合，首次提出使用杆系有限单元法-乘子法相结合的方法，对基坑工程中常用的单支撑支护体系进行优化设计，并编写了优化计算程序。优化设计分两步进行：第一步是通过杆系有限单元法在综合考虑强度、变形、稳定的基础上进行优选，优选目标是能满足强度、变形、稳定条件的最优的支撑位和入土深度，这一步是为了满足安全条件；第二步是在前一步所得参数的基础上用乘子法对排桩进行配筋优化，优化目标为整个基坑支护体系的总造价，这一步则是为了支护体系更经济。为了说明优化设计的可行性和实用性，对深汇大厦的基坑进行了计算分析，并与原设计方案作了对比，结果表明有限单元法-乘子法是一个有效的优化设计方法，有一定的实用价值。为了考虑变形，本文还改进了基于Mohr-Coulomb屈服准则和Drucker-Prager塑性势函数的弹塑性模型即简称为MCDP模型，并且在前面优化的基础上对该基坑进行了二维弹塑性描述，结果与理论分析基本一致，说明了该模型在此方面的可用性。