随着虚拟现实与计算机技术的不断发展,虚拟手术在医疗卫生领域发挥的作用越来越大,不仅可用于手术技能培训,还可用于手术规划、手术预演、手术导航等。在虚拟手术中,软组织形变仿真是最为关键的技术,其基本任务是模拟手术器械与软组织接触时的形变情况。虽然软组织形变模型已从非物理模型发展为基于物理特性的形变模型,但现有的大多数形变模型是基于网格的模型,在发生大变形或切割、缝合等拓扑结构改变时容易出现网格畸变或者需要重构网格,严重影响形变仿真的精度和效率。本文主要针对现有模型的不足,对虚拟手术中的软组织形变仿真进行较为深入的研究,主要研究内容是:基于粘弹性力学模型,构建无网格伽辽金与质点弹簧耦合的软组织形变模型,实现软组织的形变仿真。采用无网格伽辽金与质点弹簧耦合的软组织模型来描述软组织,针对手术操作过程的局部性,将接受手术的软组织分为两部分来处理,即手术区域和非手术区域。在手术区域采用无网格伽辽金法获取精确模拟,在非手术区域采用质点弹簧法提高模拟效率。由于无网格伽辽金法对离散模型的边界定义较为模糊,本文提出确定无网格边界的搜索算法。该算法适应性强,并为后续过渡单元近似位移函数的建立奠定坚实的基础。为有效建立无网格区域与质点弹簧区域之间的光滑过渡,因此,需要在两个区域之间建立近似位移函数。本文提出了在无网格区域与质点弹簧区域之间建立过渡单元,并在过渡单元内建立过渡节点;设计了过渡单元搜索算法,根据过渡节点必须满足的位移和力平衡条件建立过渡单元的近似位移函数。为了验证本文实现变形的有效性,以肝脏数据作为测试样本进行形变模拟,实验表明采用基于Kelvin粘弹性力学模型的无网格伽辽金与质点弹簧耦合模型,可有效表现软组织在形变过程中所具有的蠕变和松弛特性;既提高计算精度,又降低了计算复杂度,提高了运行效率。