肝脏具有易发生形变、血管密集、内部组织结构复杂的特点,并且在手术过程中无法直接观察到肝脏内部的组织结构,这对医生的手术技能提出了非常高的要求。借助虚拟手术系统能够很好地训练医生手术,提升手术技能,但目前虚拟肝脏模型都被设置为均质模型,医生无法准确感知到肝脏内部结构形变情况。本文针对肝脏的非均质特性,获取肝脏形变时肝脏内部的血管、肿瘤等的随动形变情况,为医生提供更加直观的感知能力,提升手术技能水平。并且,非均质肝脏的形变研究对术前的手术规划、术中的手术导航以及教育培训等方面有着极大的应用前景和价值。目前,肝脏软组织形变建模算法的主要存在两大问题,即实时性和准确度问题。有限元算法是具有较高形变准确度的软组织建模算法,但是由于计算复杂导致其实时性极差,只适合离线计算,本文通过深入研究分析有限元算法原理,优化算法结构和数据结构等方式解决了有限元形变建模算法的实时性问题。针对肝脏软组织的非均质特性问题,提出了肝脏实质和肝脏血管之间的机械耦合算法,实现了对肝脏内部结构的形变预测和可视化。在此基础上,研究分析了虚拟手术系统中的碰撞检测算法及力反馈计算问题,最后搭建了一套基于非均质肝脏模型的虚拟手术系统。本文首先完成对肝脏软组织建模的研究。基于对肝脏软组织的生物力学特性的分析并选择Neo-Hooken作为本文软组织物理建模算法的本构方程;根据CT图像重建得到基于三角网格的肝脏软组织面模型,结合开源的四面体化工具TetGen来完成肝脏和血管几何模型的四面体化;基于拉格朗日离散化的有限元算法完成肝脏软组织的物理建模,通过显式积分算法、从单元级别上计算单元节点内力避免刚度矩阵的计算和组装等方式简化计算复杂度,解决了有限元形变建模算法的实时性问题,完成肝脏软组织的建模。其次对肝脏软组织的非均质特性进行研究。设置肝脏实质与肝脏静脉血管的边界条件,构建合理的节点映射关系,通过实现节点位移、形变梯度矩阵以及应变位移矩阵的耦合计算和更新实现接触区域的四面体单元节点内力的计算,由此完成了肝脏实质与肝脏静脉血管间的机械耦合。考虑到肝脏软组织节点的数据量以及形变建模算法对数据处理能力的极大需求,通过采用GPU加速计算,有效满足了系统的算力和实时性要求。然后为实现在虚拟手术系统中对肝脏软组织模型进行交互操作,本文分别对碰撞检测算法以及力反馈计算模型进行研究。搭建了基于AABB包围盒的表面积启发式的层次包围盒树,并对包围盒树的数据结构进行优化转换为包围盒数组提升了遍历效率;其次采用基于质点弹簧算法的力反馈计算方法,通过设置代理点的方式完成了本文的力反馈计算模型的构建,具有较高的计算效率,提升了虚拟手术系统的实时性。最后基于对非均质肝脏软组织形变建模算法的研究搭建虚拟手术系统。将整个系统分为视觉渲染、形变建模计算、力触觉渲染三个模块,采用Geomagic Touch作为力反馈设备,基于Unity等软件完成虚拟手术系统设计和搭建;其次基于Unity自带的图形界面开发工具UGUI设计并实现了虚拟手术系统的交互界面;最后搭建出一套基于非均质肝脏的虚拟手术仿真系统,并进行了均质肝脏的重力形变实验、非均质重力形变实验以及非均质肝脏形变拉伸实验,实验结果表明本文非均质肝脏形变建模算法以及虚拟手术系统具有较高的实时性和真实性。