随着计算机技术的快速发展和临床医疗水平的不断提升,虚拟手术系统已成为外科手术训练、术中导航、手术方案制定以及手术结果预测等方面不可或缺的辅助工具。然而,由于虚拟手术系统的研究属于多学科交叉的前沿技术领域,因而研究难度较大。作为虚拟手术系统中的核心部分,研究高度逼真的软组织形变建模方法对于突破传统手术训练中的诸多限制、制定最佳手术方案以及提高手术成功率等方面均具有十分重要的意义。因此,本文以虚拟手术系统中的软组织形变建模作为研究内容,紧紧围绕软组织形变的视觉真实性和实时性展开深入的研究,主要工作如下:首先,论文对人体软组织在外力作用下的生物力学特性进行了分析,并给出了能够反映人体软组织粘弹性特性的常用模型,为深入研究真实的软组织形变建模方法奠定了理论基础。在软组织几何建模方面,针对使用Amira软件重建得到的人体软组织模型视觉真实性不足的问题,提出了基于软组织模型包围盒的顶点纹理坐标计算方法,并对模型数据的存储方法进行了研究。此外,论文还研究了基于Sphere和AABB的混合层次包围盒方法以实现虚拟手术器械和软组织模型之间的快速相交测试,并通过实验验证了本文所提出的混合层次包围盒方法能够在一定程度上提升碰撞检测的效率。最后介绍了虚拟手术中的触觉反馈技术,通过研究、分析基于弹簧-阻尼器与基于纹理的反馈力计算方法可知,基于纹理的反馈力计算方法具有更高的触觉真实性。其次,论文研究了基于质点-弹簧形变模型的软组织形变方法,针对现有形变模型仅考虑结构和弯曲弹簧从而导致在形变过程中可能出现的塌陷和“超弹”等问题,提出基于自构弹簧的改进形变模型来提高软组织形变的真实性。此外,论文还研究了软组织形变计算过程中常用的数值积分方法,并通过仿真实验验证了隐式欧拉积分法在较大的时间步长下仍具有较高的数值解算精度。为克服全局质点-弹簧模型中形变实时性较差的问题,论文提出了基于碰撞检测技术的局部形变方法,并对局部形变区域的层次包围盒树反向更新方法进行了深入研究。基于胃模型的仿真实验结果表明,本文所提出的局部质点-弹簧形变模型极大地降低了形变的计算开销,在保证形变真实性的前提下进一步提升了系统的实时性。再次,论文对基于Co-rotational FEM的软组织形变方法进行了深入的研究,并介绍了软组织面模型四面体化的常用工具。针对基于Co-rotational FEM的软组织形变模型计算开销较大的问题,研究了基于多分辨率技术的变形加速方法,从而实现复杂程度较高的软组织模型的实时变形仿真。此外,论文还研究了形变计算过程中四面体旋转矩阵的提取方法,针对极分解方法计算开销较大无法保证软组织形变实时性的问题,提出了基于软组织形变程度的自适应旋转矩阵提取方法。对形变程度大的四面体采用极分解方法来确保形变效果的真实性;对于形变程度小、甚至没有形变的四面体则采用正交分解方法来保证形变计算的实时性。基于心脏模型的仿真实验结果表明,本文提出的根据软组织形变程度的自适应旋转矩阵提取方法能够在保证较高的形变精度前提下,快速地完成四面体的旋转矩阵提取过程。论文最后对主从式血管介入手术训练系统中的血管形变建模这一关键技术进行了研究。针对血管几何模型拥有大量四面体单元无法快速进行碰撞检测的问题,论文提出了面模型与体模型相结合的血管几何模型,从而可以将碰撞检测与形变计算分别进行处理。此外,论文还研究了基于位置动力学的血管形变方法并对体积守恒约束进行了推导和编程实现以解决血管模型在变形过程中的穿透问题。针对在形变计算中额外地考虑体积守恒约束导致血管形变计算开销剧增的问题,提出了基于空间划分的血管快速形变方法,以提升数值解算的实时性。仿真实验结果表明,体积约束能够较好地解决血管模型在形变过程中的穿透问题,与此同时,基于空间划分的血管快速形变方法能够在保证血管形变真实性的基础上,提升形变的实时性。