随着现代医学、计算机图形及虚拟现实技术的发展,促使了虚拟手术仿真这一全新研究领域应运而生,融合了多个交叉学科,是虚拟现实技术在医学领域的一种应用。虚拟手术可为医生提供一个虚拟的手术环境,在视觉与触觉上为用户真实再现手术场景,可用于制定手术计划、术中引导、手术教学、手术操作培训和术后康复等,因此对该领域的研究在医学领域具有广泛的应用前景。本文围绕生物软组织的几何建模、模型优化、物理建模、计算建模、和碰撞检测等关键技术进行研究,其在整个虚拟仿真系统中既相互促进又相互制约。研究内容主要体现在以下几个方面：(1)几何建模是虚拟手术仿真的基础,本文重点研究基于Delaunay四面体剖分方法的四面体重建技术。针对该技术中存在的边界一致性问题,提出一种限定性Delaunay四面体模型重构法。该方法首先在传统的Delaunay逐点递增算法上增加了有利于边界恢复的限定性条件,即边界边／面在四面体构建和模型优化时被认为是不可修改和删除的。其次针对建模过程中丢失边界的问题,将局部变换法和边界恢复法相结合,在优化四面体模型的同时恢复丢失边界。(2)四面体模型质量度量准则是评价网格模型质量的标准,一个合理的度量标准对评价模型质量和优化模型起到至关重要的作用,但目前对四面体单元质量的度量和评价并没有公认或绝对的标准。因此本文对常用的四面体网格模型质量度量准则进行总结与分析,并从理论上证明各质量度量准则之间的关系。分析认为在优化四面体模型时,不能仅仅采用某一种度量标准来评价网格的质量,应根据不同的四面体类型,采用不同的准则或将几种准则联合起来对模型质量进行度量更为准确。(3) Delaunay四面体模型中Sliver单元的存在是影响模型质量和虚拟手术后续操作的重要因素,通过对薄元Sliver特性、以及节点抖动法和Delaunay细化法的分析,提出Delaunay四面体Sliver单元混合删除法。该方法将四面体模型中的Sliver单元分为不同的类型,针对不同的类型采用不同的删除方法,在消除模型中原Sliver单元的同时不引入新的Sliver单元,解决模型的复杂度和质量问题。(4)有限元方法因其本身固有的特性而被广泛应用于变形计算,然而该方法很难达到手术仿真的实时性要求。从虚拟手术仿真响应时间的要求考虑,提出具有体模型、连续动力学、线弹性四面体有限元模型等技术特征的线弹性混合凝聚有限元模型。该方法选用计算量小、物理模型清晰简单的线弹性模型描述软组织的变形特征,并将动态线弹性模型和半静态模型相结合。为降低计算复杂度,采用凝聚技术将有手术区域进一步细化为可变形区域和不可变形区域,并将碰撞检测技术融入其中,提出一种最小可变形区域选取方法和数据结构,提高软组织变形仿真的计算速率。(5)由于自碰撞检测只可能发生在软组织表面,三角形的邻接关系使得三角形相交检测的计算量和冗余检测量相对较大。为了减低碰撞检测中的冗余检测数量以及提高检测的速率,提出基于可碰撞集的软组织自碰撞检测方法。该方法分为粗糙检测和精确检测两个阶段,粗糙检测根据软组织的曲率提取可碰撞集,基本几何元素间的自碰撞仅在该可碰撞集中发生,而基本几何元素相交检测采用基于特征检测的方法,可有效减少冗余检测次数,提高碰撞检测的速率。