典型大变形柔顺机构有双稳态柔顺机构、柔顺吸能机构、柔顺常力机构、微能量收集机构等各种类型。这些柔顺机构在生物医疗、微机电系统、航空航天等领域中有着广泛的应用。目前绝大多数研究都是集中在尺寸优化层面对大变形柔顺机构进行优化设计,而在拓扑层面上对大变形柔顺机构进行研究的却很少。因此,本文采用拓扑优化的方法,对大变形柔顺机构进行优化设计。首先,对考虑几何非线性时拓扑优化收敛问题进行了研究。针对完全拉格朗日法求解过程中步长选取困难问题,给出了一种自适应步长算法;针对低密度单元收敛过程中的振荡问题,给出了一种能量插值算法。在此基础上,通过大变形悬臂梁,反向器的拓扑优化数值算例证实了自适应步长算法可以有效提高优化过程的收敛性,能量插值方法能较好地抑制低密度单元节点的位移振荡。另外,研究表明,针对纺锤肌的拓扑优化问题,还需要采用改进本构模型的方式抑制肌肉中间密度单元的节点振荡。其次,对大型有限元软件辅助的几何非线性拓扑优化算法进行了研究。针对低刚度区域计算过程中的过度变形问题,给出了一种增加超弹材料算法;针对拓扑优化中柔度的敏度难以提取的问题,提出了一种敏度提取算法,从而大幅度减少了计算敏度时需要提取的数据量。在此基础上,给出了一个ANSYS辅助的几何非线性拓扑优化算法。通过大变形悬臂结构,两端固定梁结构和柔顺反向器的拓扑优化算例,证实了算法的有效性。另外,还提出了重分析加速算法,通过算例分析了加速效果。再次,对双稳态柔顺机构进行了拓扑优化研究。针对双稳态柔顺机构占用的空间与抗干扰的能力之间的矛盾,以两个稳态转换力之差最大化为目标函数,建立了一种的拓扑优化模型;针对优化结果难以加工的问题,给出了一种最小壁厚约束;针对支反力的敏度信息难以提取的问题,推导了支反力敏度的近似表达式。通过有限差分法验证了敏度的准确性。通过数值算例,证实了最小壁厚约束的有效性。通过实验研究,证实了优化的双稳态柔顺机构的抗干扰能力强于传统的基于直梁或者余弦梁的双稳态柔顺机构。最后,对基于胞元的柔顺吸能机构进行了拓扑优化研究。针对胞元质量和耗散能量之间的矛盾,在给定质量约束下,以能量耗散最大化为目标函数,建立了一种拓扑优化模型;针对首个优化迭代步中敏度信息无效的问题,提出了一种两阶段算法;为了设计具有自动恢复原状能力的胞元,额外施加了一个后屈曲过程最小反力大于零的约束。在此基础上,分别给出了高能量耗散胞元、高空间利用率胞元和具有自动恢复原状能力的胞元的拓扑优化结果。通过数值算例,讨论了参数对优化结果的影响,证实了两阶段算法的有效性。相比于传统的胞元,优化的胞元能在相同质量下吸收更多的能量。通过实验研究,证实了有限元分析的准确性。