拓扑优化的目的是在指定的区域内找到合适的材料分布,以获得最优的结构性能。目前,大多数拓扑优化方法都基于有限元网格,这种方法会造成不同程度的棋盘格式、锯齿状边界和灰度单元等现象。而参数化水平集法拓扑优化有效地解决了以上问题,可以得到清晰光滑的结构边界,同时还克服了传统水平集法的缺点。本文基于参数化水平集法,重点研究了材料非线性结构拓扑优化问题,并引入广义高斯径向基函数来解决参数化过程中数值不稳定的问题。首先,针对传统水平集法中的数值求解困难和依赖初始构型等问题,引入了一种利用径向基函数对水平集函数进行参数化建模的方法,该方法可以隐式地描述结构边界,保留了传统水平集法的优点,还提高了计算效率。参数化水平集法采用径向基函数来插值水平集函数,从而将复杂的Hamilton-Jacobi方程转化为一组简单的常微分方程。在优化过程中以插值系数为设计变量,并结合优化准则法的求解策略,实现结构边界的演化,极大地减小了计算成本。其次,将参数化水平集法拓扑优化拓展到材料非线性领域,分析了材料非线性结构有限元法的迭代计算过程,并引入子结构法来减小计算成本。基于参数化水平集法,建立了以径向基函数的插值系数为设计变量,以柔度最小化为目标函数,以体积分数为约束条件的材料非线性结构拓扑优化模型。通过对经典算例和层状结构算例的分析,验证了本文所提出的方法能够有效地求解材料非线性拓扑优化问题。最后,针对高斯径向基函数在优化过程中数值不稳定的问题,将广义高斯径向基函数引入参数化水平集法拓扑优化,并与其它类型的径向基函数进行了对比分析。该函数通过引入辅助的形状参数保证了数值的稳定性,提高了函数的插值精度,使迭代计算的收敛速率大大提升。通过对经典算例及拱桥结构的分析计算,验证了该方法的有效性。