最优形状设计的研究具有重要的工业应用价值和广阔的发展前景。本文主要研究和构造快速有效的算法数值求解最优形状设计问题。我们对最优形状设计领域已有的水平集方法进行改进，用分段常数水平集方法求解三个模型问题。我们的方法能够处理复杂的形状和拓扑变化，而且不需要周期性的执行重新初始化过程。通过引进一个分段常数约束，最优形状设计问题转化为一个新的约束优化问题。我们用拉格朗日乘子方法和增广拉格朗日方法将该问题进行无约束化，然后用梯度法进行求解。与传统水平集方法的数值比较说明了我们算法的有效性。本文的结构如下：　　 第一章首先介绍了最优形状设计领域的研究背景。我们对形状优化和拓扑优化已有的理论和数值方法进行了综述。然后我们介绍了形状导数的概念，对一个经典的模型问题用“扰动法”推导了目标泛函关于形状扰动的欧拉导数的表达式并给出了求解该问题的梯度型算法。最后我们简单介绍了拓扑导数的数学定义。　　 在第二章中，我们首先介绍了传统的水平集方法，然后分别介绍了近年来出现的水平集方法的变种：分段常数水平集方法和二值水平集方法。另外，我们对这些水平集方法进行了比较。　　 第三章主要用分段常数水平集方法解一类特征值相关的最优形状设计问题。基于增广拉格朗日方法和拉格朗日乘子法，我们对所求的约束优化问题提出了三种变分算法。第一种增广的拉格朗日算法在文献中已被应用到结构形状优化。该算法对我们的模型依然有效。但是，迭代过程中在几何约束的满足方面，它缺少稳定性和精确性。我们提出的另外两种新颖算法能够克服这个局限性，每次迭代都能很好的满足几何约束。而且，这两种算法对初始猜测值的依赖性都比较小，比第一种算法要稳健。从数值结果中我们发现，最后一种没有罚参数的投影拉格朗日算法比前两种算法对时间步长的限制要小。在数值实验部分，我们给出了很多不同例子的数值结果。与水平集方法得到结果的比较显示了我们算法的有效性和稳健性。最后，我们给出了二维不规则区域和三维规则区域上的数值例子。　　 在第四章，我们用一个分段常数水平集方法求解一类由椭圆边值问题控制的形状和拓扑优化问题。通过“虚拟材料”方法，我们用一个二相最优设计问题去逼近原来的模型。在分段常数水平集方法的框架下，我们首先把这个二相问题转变成一个新的关于水平集函数的约束优化问题。然后，我们用投影拉格朗日方法去求解这个问题，给出了一个梯度型算法。我们的数值结果与水平集方法得到的进行比较表明了我们算法的快速有效性。　　 在第五章，我们用二值水平集方法去解一个经典的结构拓扑优化问题。为了提高算法的执行效率，我们把多水平的方法加入到算法当中。数值结果说明了算法的可行性。　　 最后，我们对本文进行了总结，并展望了今后的研究工作。