拓扑优化设计是指在已知结构材料相关参数、且边界条件和载荷条件等满足给定要求的情况下,通过优化算法在设计域中求寻结构材料的最佳分布。拓扑优化设计结果能够在产品设计初期为设计师提供重要参考,进而影响到产品最终的结构外形。在近几十年来,拓扑优化设计的相关理论及方法研究迅猛发展,业已成为结构设计领域的研究热点之一,许多拓扑优化设计方法已相继被提出并被证明是行之有效的,如变密度方法、水平集方法、进化结构优化方法、相场方法等。尽管如此,在现有的拓扑优化设计理论方法中,依然存在着一些亟待解决的问题,例如,用常规的变密度方法进行拓扑优化设计的结果中会存在一定数量的中间密度单元（亦即灰度单元）和边缘锯齿现象,这些灰度单元不利于设计结果对应的产品后期加工制造。另外,在用优化准则求解变密度插值模型时,现有的搜寻Lagrange乘子的二分法,可用速度和效率更高的方法来代替。为了解决变密度方法中的这些问题,本文以材料结构的最小柔度、轻量化为研究目标,对平面连续体进行拓扑优化设计研究,通过编写变密度法相关程序并利用MATLAB软件进行仿真实验,进行如下的研究工作:首先,以变密度法中常用的固体各向同性材料惩罚（SIMP）模型为研究对象,推导了该模型的理论公式及其求解方法——优化准则法,并提出了利用黄金进退搜索法替代原优化准则法中搜寻Lagrange乘子的二分法,因而就形成了改进的优化准则法。因为黄金进退搜索法能更迅速地使得Lagrange乘子在其值域内被找到,于是利用改进的优化准则法可以更快地求解SIMP优化模型,从而获得最优解。通过对比实验,算例表明该黄金进退搜索法的应用有效地加速了拓扑优化仿真的实验进程。接着,为了消除基于SIMP插值模型的结构拓扑优化结果中出现的灰度单元,提出了基于tanh激活函数的密度过滤模型,并将其与改进的优化准则法相结合。该密度过滤模型在tanh激活函数的基础上进行变换改进,使得其适应于拓扑优化中单元密度的平稳变化。通过算例证明,基于tanh激活函数的密度过滤模型不仅进一步加速了结构拓扑优化,而且还有效地消除了结构拓扑优化结果中的灰度单元。尽管基于tanh激活函数的密度过滤模型可有效地消除基于SIMP插值模型的结构拓扑优化结果中的灰度单元,但是当设计域的网格划分稀疏时,又会产生新的问题——边缘锯齿现象,该现象不利于根据此结果进行产品后期加工制造。为了解决该问题,可以利用水平集方法对结构拓扑优化结果边界平滑的特性,将水平集方法与SIMP插值模型相结合,提出了一种能够将SIMP插值模型的单元密度过渡到水平集法中的节点密度的新方法——密度四散法。通过算例证明,该方法可以做到用水平集法对基于SIMP插值模型的结构拓扑优化结果再优化,使得结构边缘变得光滑。最后,为了进一步研究多相实体材料的结构拓扑优化问题,将本文提出改进的优化准则（OC）法与递归多相材料插值法相结合,形成了新的多相材料结构拓扑优化方法。通过算例证明,该方法能够提高在多相实体材料拓扑优化时的计算效率。为了解决多相实体材料中各个材料在其交界处存在的单元重叠现象,提出了基于Sigmoid激活函数的Heaviside密度过滤模型。该模型以Sigmoid函数为基础,进行了相关变换与改进,使其能够适宜于解决多相实体材料的问题。通过算例证明,该Heaviside密度过滤模型能够有效地解决多相实体材料拓扑优化中存在单元重叠、边界不清晰等问题。