结构形状优化就是通过改变区域的几何形状来达到改善结构的受力特性,其中更多的是降低应力集中或改善应力的分布状况,它已越来越受到工程应用的重视。无网格法的最大优势是节点之间摆脱了网格的束缚,将无网格法与形状优化相结合,能够彻底地解决形状优化过程中所出现的网格扭曲或畸变问题。在众多的无网格方法中,无网格Galerkin法是在工程应用中最有发展前景的方法之一。本文首先在移动最小二乘法逼近中,研究了加权函数及其相关参数的选择。利用误差分析讨论了形函数的值与节点影响域大小之间的关系;利用均匀分布和非均匀分布的节点排列方式,探讨了加权函数的分布规律对形函数及其导数的影响;通过建立误差的能量范数,对照分析了权函数曲线的分布规律对逼近结果的精度影响,得到了在移动最小二乘法逼近中选择权函数及其相关参数的建议。利用Lagrange乘子法来施加实质边界条件,通过对Galerkin离散的平衡控制方程直接求导,得到了离散型基于EFG法的灵敏度分析算法,其中为了得到形函数及其导数关于设计变量的偏导数,分别采用了直接微分法和半解析法,并对这两种方法在一致性、计算费用与程序实现等方面进行了讨论,最后的数值实验结果显示上述算法是可行的。无网格Galerkin法的缺点是计算量大、施加边界条件困难。将无网格法与有限元法相耦合应用到形状优化中,则可以发挥两者各自的优势。本文首先在有限元区域和无网格区域之间的等参数四边形界面单元上,利用组配法实现了有限元法与无网格法的耦合,并且界面单元中的插值函数具有线性相容性。然后通过对有限元离散的平衡方程直接求导,得到了离散型的有限元灵敏度分析算法。利用相同的原理实现了界面单元上有限元灵敏度分析和无网格Galerkin法灵敏度分析的耦合,并用实例进行了数值验证。用一种确定的函数来描述边界形状有时会给优化带来一定的难度,虚载荷变量能够克服这个难度。本文在确定节点移动速度域的基础上,建立了一种基于虚载荷变量的无网格Galerkin灵敏度分析算法,提出了基于虚载荷变量的无网格形状优化的流程,该算法的最大优点是它的物理意义很明确,就是现实生产工艺“锻打”的数值模拟。最后利用上述所得到的不同的灵敏度分析方法与优化准则相结合,完成了3个不同类型问题的结构形状优化。