牙齿排列在虚拟牙齿矫正系统中占有十分重要的地位。在虚拟牙齿矫正系统中的三维空间环境下实现牙齿的自动排列,是一个非常复杂的问题。本文对牙齿的排列问题进行了深入的分析和系统的研究,解决了虚拟牙齿矫正系统中牙齿的自动排列问题。虚拟牙齿矫正系统中自动排牙算法的操作对象是单颗牙齿,要对单颗牙齿进行操作就必须对牙齿的数据进行分析。本文在分析了牙齿模型数据顶点信息的基础上利用顶点的离散高斯曲率值选取了各类型牙齿的特征点,并根据选取的特征点构造了牙齿坐标系,充分反应了牙齿的三条方向轴;最后根据牙齿坐标系建立了牙齿包容长方体。牙齿的初始位姿可以从牙齿模型数据坐标系中获得,而理想的位姿是要通过排牙算法根据牙弓曲线模型和牙齿的方向轴来确定。文中采用了β函数拟合牙弓曲线,并结合牙齿坐标系和牙齿包容长方体确定了牙齿的最终位置与姿态。最后,在理想的牙弓曲线上,根据排牙原则及专家经验,利用自动排牙算法对牙齿进行排列。在Visual Studio 2005开发环境下,结合OpenGL,实现了虚拟牙齿矫正系统的自动排牙功能。实验表明算法有效,排列效果整齐。