齿轮的在机测量系统可以有效的提高生产效率，节约成本，已经在现代制造中得到了越来越多的应用。但由于数控机床的工作环境复杂且自身存在误差，所以较难获得满意的测量精度，限制了其在制造检测领域中更为广泛的应用。因此，本文针对减小机床几何误差对在机测量精度的影响展开研究。主要工作如下：　　以数控成形砂轮磨齿机为研究对象，对其进行结构分析。基于多体系统理论，设定机床各伺服运动轴的局部坐标系。通过标准齐次坐标变换建立数控成形砂轮磨齿机的几何误差综合模型，根据小误差假设对其进行了简化。通过理论方法对误差模型的正确性进行了验证，为后续的工作内容提供了理论依据。　　针对数控成形砂轮磨齿机齿向精度的在机测量误差产生原因，通过激光干涉仪对机床z轴和x轴相关几何误差进行了测量，利用所建立的几何误差综合模型，解析计算了影响齿向测量精度的ZY平面直线度误差与XY平面直线度误差。并通过实验验证了模型的正确性。　　最后，以X轴为例，对五轴数控机床的XY平面直线度通过修改NC程序的方法进行了补偿，并将补偿前后的误差值进行了对比。实验数据表明，通过该模型的误差补偿可以显著的降低机床误差的峰值，使残余误差分布的更加均匀，有效的补偿了机床几何误差。一方面验证了该几何误差综合模型的正确性，另一方面显著的提高了在机测量精度。