随着先进制造领域的全球化竞争愈演愈烈，产品设计的创新需求也不断提高。结构拓扑优化是一种非常优秀的设计方法，它通过在设计域内最优排布材料而得到具有优良性能的零件。当前结构拓扑优化研究中存在优化设计域简单、优化约束及目标单一等问题，但是在实际的工程领域中，绝大多数结构拓扑优化其优化目标复杂，设计域不规则并具有多种形式的优化约束。因此，从零件的可制造性和可装配性以及稳定性的需求出发，开展结构拓扑优化在工程应用方面的研究具有重要价值。本文采取有限单元法进行结构力学分析、SIMP理论建立拓扑优化问题的材料插值模型、准则法和序列二次规划方法进行结构拓扑优化计算、敏度过滤方法解决优化过程中的数值不稳定性问题等一系列步骤，从工程需求出发开展结构拓扑优化研究。针对零件可装配性要求，研究结构拓扑优化过程中保持零件外形尺寸不变的几何约束条件的数学描述。针对结构稳定性要求，根据第四应力准则，采用单元von Mises应力建立结构应力约束条件表述。根据拓扑学对于几何形体在连续形变之下，即同胚变换之下，保持不变的性质，以及拓扑领域中邻域的概念及其性质，提出结构拓扑优化的初值曲线描述。基于SIMP插值理论和连续介质力学的相关理论，建立静载荷、动载荷作用下，分别以最小柔度、固有频率、几何增益为优化目标，以应力约束、几何约束为优化条件的结构拓扑优化问题的数学表达式。研究工作包括三维结构静刚度拓扑优化、三维结构动刚度拓扑优化、三维柔性结构拓扑优化等几方面结构拓扑优化研究，本文具体的研究工作、研究方法及结果如下：将结构设计与分成孔洞域、实体域、边界域，通过拉格朗日方法对约束条件松弛，得到扰动变形的拉格朗日形式表述和耗散函数形状敏度迭代表达式，从而建立拓扑优化问题的几何约束条件的数学表述。分析了插值因子对结构平均分布应力强度衰减的影响，基于松弛方法对局部应力约束进行松弛，采用全局约束来近似局部约束，得到本文所需要的应力约束表达。在对几何约束条件和应力约束条件的数学描述基础上，建立了以结构静刚度最大为优化目标，以几何外形不变和应力条件为约束的三维结构拓扑优化问题的数学模型，采用准则法建立优化问题的拉格朗日表达式和相关变量的敏度分析及过滤，得到优化问题的解答。以车轮结构为例，根据车轮动态弯曲疲劳试验中关于加载和边界约束的相关标准，采用上述优化设计方法，对车轮结构进行拓扑优化设计，以提高车轮的性能。算例验证了三维结构静刚度拓扑优化问题数学建模和解答的正确性，为三维静刚度类结构拓扑优化提供了一种合适的方法。根据有限单元法对动载荷作用下的三维优化问题进行分析，得到动力问题的力学求解方程。采用振型叠加法求出系统固有频率和固有振型。研究气流绕经飞机所产生的空气动力、空气动力力矩以及表面压力分布随飞机外形和飞机在大气中的运动状态参数而变化的规律。根据连续性定理和伯努利定理，确定了机翼的载荷及加载形式。基于上述对动力结构的力学分析和机翼的受力分析，建立了以结构前n阶固有频率为优化目标，以几何外形不变为约束的三维结构等刚度类拓扑优化问题的数学模型，采用序列二次规划方法建立优化问题的表达式，给出相关变量的敏度分析，得到该类优化问题的解答。以飞机机翼为例，根据机翼的载荷、边界等条件以及机翼设计规范要求，采用上述优化方法，对机翼结构进行拓扑优化设计，以满足机翼模型的风洞试验要求。算例验证了三维结构等刚度拓扑优化问题数学建模和解答的正确性，为其它相似动载荷作用下的结构等刚度拓扑优化提供了合适的方法。基于拓扑学的思想，根据设计目标要求设定拓扑结构初始描述曲线，推导了二维空间和三维空间、规则域和非规则域的拓扑优化问题的初值曲线与映射单元的数学表述，然后采用优化方法进行迭代计算得到最终的拓扑结构。分别从结构设计角度和机构设计的角度，探讨了柔性结构拓扑优化设计目标的数学表述，即结构余能和结构应变能的数学函数和几何增益、机械增益或者机械效率数学函数表达。采用伴随结构方法，计算柔性机构的输出位移，进而定量描述柔性机构拓扑优化设计中的相关物理量。基于上述对拓扑结构初值描述曲线的推导和柔性机构优化设计目标的力学描述，作者以机构几何增益为优化目标建立三维柔性拓扑优化问题的数学模型并解答。算例验证上述三维柔性机构拓扑优化设计问题数学建模和解答的正确性，为其它相似三维柔性微结构拓扑优化设计提供了一种合适的方法，同时为实现微柔性执行器一体化设计与制造奠定基础。