近年来,连续体结构拓扑优化技术已成为结构优化领域中研究的难点和热点问题,并已被广泛应用于工程领域。相对于传统的形状优化和尺寸优化,拓扑优化处于结构优化设计的概念设计阶段,是后续优化工作的基础。本论文以连续体结构的拓扑优化为研究对象,主要讨论了结构拓扑优化中数值不稳定问题及其抑制技术。本文深入研究了元胞自动机理论和连续体结构拓扑优化的理论，将混合元胞自动机算法应用于连续体结构拓扑优化设计,并对其中关键技术进行了讨论和研究。　　本文首先介绍了结构拓扑优化的基本理论,建立了基于SIMP的连续体结构拓扑优化模型,推导了优化准则法的迭代分析流程和设计变量迭代更新公式。针对结构拓扑优化中易出现的数值不稳定问题,如棋盘格、灰度单元(也称为“边界扩散”效应)网格依赖性等问题，研究了其产生原因和解决方法。本文首次指出了敏度过滤技术的理论来源，借鉴粒子群优化算法中粒子状态更新方法，提出了一种改进的敏度过滤技术，数值算例的优化结果和与商用软件ANSYS的对比结果都证明该方法能有效消除棋盘格、网格依赖性和“边界扩散”效应。　　在介绍元胞自动机理论的基础上，本文将有限元方法和元胞自动机理论有机融合而形成的一种新的结构拓扑优化方法-混合元胞自动机算法。该方法以结构应变能密度均匀分布为优化目标，优化求解时不需要计算单元的敏度信息，是一种无梯度约束的优化求解算法。借鉴控制系统中反馈控制和误差放大器的原理，提出一种新的设计变量更新规则，避免了优化求解时的敏度分析过程。采用经典的数值算例，并与商用软件ANSYS中Topology Opt优化处理器的优化结果进行对比，验证了提出的变量更新规则能够有效去除棋盘格和网格依赖性现象，在一定程度上抑制了优化结果中的“边界扩散”效应。