随着计算机技术在近年来的迅猛发展,在20世纪末出现了一项新的信息技术-虚拟现实技术(Virtual Reality,VR),虚拟现实技术被广泛应用到了工业、医学、娱乐和教育等多个领域。虚拟手术系统是虚拟现实技术的重要应用之一,它可以帮助医生制定手术方案、术中导航、还可以用来对实习医生进行培训从而减少手术失败率。目前国内外较成熟的虚拟手术系统仿真了多种多样的手术类型,而脑外科虚拟手术的仿真系统却非常少,由于脑外科手术是一种最复杂,最精细的手术之一,因此对脑外科医生进行术前培训是非常必要的。针对这个需求,本文开发了一套脑外科虚拟手术仿真系统,在这个系统的开发过程中解决的最重要的问题就是如何让使用者对虚拟场景和虚拟病人有逼真的视觉和实时的触觉感知和交互。为实现这个目标,本文对以下几个方面进行了研究。首先,由于脑外科手术中涉及到了丰富的组织器官,对所有的器官进行形变交互仿真会非常消耗系统的运行时间。为了能提高脑外科虚拟手术系统的计算效率,研究了一种基于Splat图元的几何形变算法。通过采用Splat图元代替形状匹配形变算法中的点图元,并通过调节算法中的参数从而动态控制采样密度,自动调节Splat图元半径的大小,实现用最少的Splat图元无缝覆盖物体表面,使用形状匹配算法完成形变计算。此算法具有很好的稳定性和高效性。其次,在脑外科手术中,医生会根据每个器官组织的形变状态,来判断下一步将采用什么操作,因此,仅仅只是考虑系统的运行速度是不够的,软组织形变的准确性和逼真性在脑外科手术中是非常关键。为了提高脑外科虚拟手术中渲染的逼真性并能反映真实软组织的形变效果,充分考虑活体软组织的力学特性,把粘弹性集成到人体软组织基于无网格的物理力学模型中。通过对真实软组织进行生物力学试验,确定软组织物理力学模型参数,从而得到精确的形变计算结果。再次,脑外科手术中,医生需要及时的看到软组织的准确的变化状态,否则可能发生误操作。为了在计算实时性的前提下提高渲染的逼真性,建立了基于物理和几何混合方法的软组织形变模型,在未发生形变区域,选用稀疏的点计算形变,而在发生形变的区域采用一种高分辨的计算形变方法,并采用一种新的基于八叉树层次包围球的数据结构来管理数据进一步提高了计算效率。然后,脑外科手术中会用抽吸器进行抽吸脑瘤的动作。为了仿真出因为抽吸而产生的软组织撕裂现象,采用了无网格物理模型对软组织建模,进行形变和撕裂计算;为了使断裂面更加逼真,通过高度场技术对软组织断裂面进行渲染,并对其进行噪声干扰。为了保证系统交互的实时性,采用一种新的基于层次包围球八叉树策略对模型数据进行快速更新。最后,脑外科手术中由于交互发生后对会产生多种新的物体的面,这样在虚拟手术仿真中就增加了碰撞检测的难度。为了使算法能在保证精度的同时满足实时性要求,提出一种新的碰撞检测算法。该算法将层次包围盒树与随机碰撞检测算法相结合,通过层次包围盒进行粗略检测以排除明显不相交空间,再基于随机碰撞检测算法思想把碰撞检测问题转换为物体模型点与点之间距离的非线性规划问题,同时采用自适应柯西变异粒子群优化算法进行寻优。在群体迭代更新时,既保留部分粒子的经验值又对其他粒子进行变异,避免了粒子陷入局部最优并进一步加速了碰撞检测的速度。与传统算法相比,该算法执行速度快、寻优效率高、能够满足脑外科虚拟环境应用的实时性和准确性要求。