随着虚拟现实技术和现代医学的快速发展，虚拟现实技术已被广泛应用到医学仿真中，形成虚拟手术仿真这一全新的研究领域。目前，随着现代医学的不断发展，内窥镜手术因其所具有的康复快、术后痛苦小、伤口小和后遗症少等优势而得到了非常广泛的应用。但是它也有其自身的缺点，如进行手术的医生的手和眼协调起来比较困难，而对于那些复杂度较高的内窥镜手术，医生必须经过长期的训练才能进行实际操作。把虚拟现实与内窥镜手术结合起来，开发一个虚拟内窥镜手术仿真系统，能有效地解决传统的训练模式下训练成本高、训练过程无法重复等缺点。本文以虚拟宫腹腔镜手术仿真系统为研究背景，首先开发其软件部分，主要对其中的碰撞检测、物理建模和计算建模等关键技术进行了研究。在碰撞检测方面，综合考虑虚拟宫腹腔镜手术仿真系统中对真实性和实时性的要求，将混合的层次包围盒方法与光线跟踪法结合起来，提出一种新的基于复合层次包围盒和光线跟踪的改进碰撞检测算法，并提出一种伪碰撞点对过滤算法。在软组织变形仿真方面，针对虚拟宫腹腔镜手术仿真特定的需要，在对宫腹腔内各种软组织的生物力学特性进行详细的阐述之后，选择混合的粘弹性模型，并在传统的有限元法的基础上，综合考虑线性粘弹性的快速和非线性粘弹性的准确性，将两者结合起来，提出基于有限元的混合粘弹性的软组织变形仿真算法。