现代科学技术的飞速发展使得计算机应用技术渗透到社会生活的各个领域，虚拟现实系统结合现代医学便产生了虚拟手术系统。虚拟手术系统的研究旨在为外科医生提供可以反复使用的训练和模拟工具，可应用于手术规划、手术演练和进一步的实际手术中，对先进手术方式的推广能起到很好的促进作用。 虚拟手术中的基本问题包括三维重建、碰撞检测、组织变形等，其中碰撞检测是关键技术之一。实时而精确的碰撞检测对于提高虚拟环境的真实性及增强其沉浸感具有重要的作用。传统的碰撞检测方法主要有层次包围盒法和空间分解法，都是尽可能地减少参与相交测试的基本几何元素的数目，从而大大提高碰撞检测的效率。但是这两种方法都不能满足虚拟手术实时性的需要。 本文对几种包围盒算法进行了研究和比较，结果表明k-DOPs包围盒生成速度更快，需要存储空间更小。但是包围盒树的生成速度严重影响了碰撞检测算法的实时性。基于这种现状，本文又进一步研究了基于图像空间碰撞检测算法，该算法使用显示设备的帧缓存技术，避免了生成包围盒树的过程。本文在基于图像空间的碰撞检测算法的基础上加以改进，利用k-DOPs包围盒做最初的碰撞判断，使用加速渲染算法在硬件缓存上绘制物体，避免了物体反复绘制，更有效地改善了实时性。最后提出了将层次包围盒算法和基于图像空间算法相结合的新的碰撞检测算法。选择k-DOPs作为包围盒，包围盒树为完全二叉树，搜索树的方式也进行了改变，并且采用了三角形带加速技术。使得新算法具有层次包围盒和基于图像空间算法的共同优点本文在VTK开发平台上实现了各种包围盒生成算法，使用OpenGL和VTK两种方法实现了采用三角形带改进的基于图像空间碰撞检测算法，实现了任意多面体的凸凹生判断算法，并进行了人脑数据碰撞检测的仿真试验。试验结果表明新的碰撞检测算法相应时间短、碰撞点判断准确，文章最后对有待深入研究的一些问题做以展望。