最佳测量区是机床在机测量系统实现高精度测量的关键指标,针对不同测量对象,机床在机测量系统在整个测量空间内存在不同的最佳测量区,但现有研究成果缺乏面向圆面测量的机床在机测量系统最佳测量区的研究。为了提高机床在机测量系统测量精度和实现高效测量,以沈阳机床VMC850E型立式加工中心和雷尼绍测头组成的在机测量系统为研究对象,提出了一种新的基于球杆仪的数控机床几何误差辨识与建模方法。利用三平面圆弧轨迹测量法和球杆仪对误差进行测量,建立了球杆仪读数与机床各平面内对应几何误差之间的辨识模型,并采用GA-PSO算法求解拟合系数,实现了几何误差辨识。建立了机床在机测量系统综合误差模型,利用雷尼绍XL-80型激光干涉仪测量获取各单项几何误差数据,并采用基于最小二乘法的回归建模方法对各单项误差建模,进而得到实际的综合误差预测模型,在此基础上建立机床在机测量系统的圆面测量误差模型。分析了指定测量空间内的圆面测量误差分布规律,提出了一种基于天牛须搜索粒子群优化算法（BAS-PSO）,针对建立的基于圆面测量的机床在机测量系统最佳测量区的理论目标模型求解最佳测量区。进行了 BAS-PSO算法与多种混合优化算法的寻优效果比对实验。实验结果表明,BAS-PSO算法寻优速度和稳定性均优于其他几种算法,更适合用于求解圆面测量的最佳测量区。完成了激光干涉仪与球杆仪辨识和建模结果比对验证实验,结果表明提出的数控机床几何误差辨识与建模方法具有较高的准确性和有效性。进行了基于圆面测量的机床在机测量系统最佳测量区确定实验,与圆面测量仿真计算结果、算法寻优结果对比分析。实验结果表明,圆面误差实际测量、仿真计算、算法寻优得到的最佳测量区重叠,所定最佳区域空间为356.061mm≤X≤365.061mm,-109.727mm≤Y≤-100.727mm,-263mm≤Z≤-253mm,该区域实测最大误差最小值为5.3μm,圆面测量仿真计算得到的最大误差最小值为4.1μm,算法寻优得到的最大误差最小值为8.8μm。验证了提出的机床在机测量系统圆面测量最佳测量区确定方法的正确性和实用性。