现代科学技术的飞速发展使得计算机应用技术渗透到社会生活的各个领域,对虚拟现实系统的研究结合现代医学便产生了虚拟手术系统。虚拟手术系统在视觉与触觉感官上为使用者提供手术场景的真实再现,可应用于外科医生培训、手术效果预测和手术导航等领域。本文针对虚拟手术中软组织形变仿真的几个关键性问题及算法,如有限元网格生成、软组织形变仿真算法、大变形下的高精度软组织形变仿真算法、切割过程中的切割条件计算、切割过程中的网格更新算法和静力凝聚技术进行了较为深入的研究,提出了相应模型与算法。在有限元网格自动剖分方面,本文提出了对角点网格自动生成算法。该算法首先将空间划分成正六面体单元,根据六面体单元顶点属性,将其分为21种剖分模式,每一种模式对应一种剖分方法,是一种快速简单且适应性强的网格生成算法。在软组织形变仿真方面,本文提出了粘弹性有限元组织形变仿真算法。该算法能够有效仿真组织在形变过程中所表现出的蠕变和松弛特性,通过调整参数,能够描述不同的力学特性,从而实现用一种模型对不同组织进行仿真,以达到简化系统的目的。该算法为虚拟手术中的软组织形变高精度仿真提供了有效的解决方案。在大形变条件下组织形变精确仿真方面,本文提出了完全拉格朗日格式下的粘弹性有限元组织形变仿真算法和更新拉格朗日格式下的粘弹性有限元组织形变仿真算法。采用这两种仿真算法,提高了大形变下的组织形变仿真精度,对于增进虚拟手术的真实度,以及更加可靠的对手术效果进行预测,具有重要意义。在虚拟手术中的切割判定条件方面,本文将材料力学中的塑性形变判定条件Mises屈服条件引入了虚拟组织切割中,并考虑了手术器具的锋利程度及应力集中效应,对Mises屈服条件进行了改进,使其更加符合实际的组织切割。在网格切割算法方面,本文提出了基于投影法的网格切割算法,在切割之前对原始网格进行了投影操作,使其结构易于剖分。与现有的网格切割算法相比,由该算法得到的网格切割边界更加合理、剖分比更低,从而提高了刚度矩阵更新的速度和精度。在形变仿真算法计算优化方面,为了提高形变仿真的速度,本文结合粘弹性有限元组织形变仿真算法,将混合静力凝聚技术改进为粘弹性有限元静力凝聚技术,在提高了仿真速度的同时,保持了较高的仿真精度。