基于最小二乘原理建立的高斯-马尔科夫(Gauss-Markov,G-M)模型广泛应用于大地测量和工程测量领域中,该模型建立的前提是考虑了观测向量误差。但是随着测绘理论多年的发展,若还只考虑观测向量的误差,求取的参数估值与真值则会发生很大的偏差。传统的转换模型和方法在应用上的局限性愈发明显,鉴于此,本文就整体最小二乘算法在坐标转换中的应用做了以下工作:(1)本文研究了同时顾及观测向量和系数矩阵误差的整体最小二乘算法(Total Least Squares,TLS),推导出了基于奇异值分解的整体最小二乘解法和基于Lagrange函数的整体最小二乘迭代法,通过直线拟合算例验证了变量误差(Errors-in-variables,EIV)模型更加合理,比最小二乘算法的中误差降低了45.32%,能够获取更加可靠的参数估值。(2)考虑到系数矩阵同时包含着固定元素和随机元素,存在系数矩阵没有误差的情况,混合整体最小二乘算法(Least Squares-Total Least Squares,LS-TLS)解决了此问题,能得到精度较好的参数估计值。利用LS、TLS、LS-TLS求解参数估值,并通过单位权中误差评定精度,结果表明LS-TLS求取的参数精度较LS提高了 33.33%,较 TLS 提高了 24.10%。(3)在不等精度下,推导了基于Gauss-Newton的WTLS迭代解法和基于部分变量误差(Partial errors-in-variables,PEIV)模型的WTLS迭代解法。通过直线拟合算例验证了 WTLS两种解法的等效性;利用模拟数据求解平面坐标转换参数得知,WTLS比LS-TLS、TLS和LS的精度分别提高了 29.54%、41.87%、49.72%;利用四种算法求解的三维空间坐标转换参数得知,WTLS求解的参数最优,且求取检核点的均方根误差最小,而其他三种算法求得的均方根误差均大于WTLS求取的均方根误差,表明了 WTLS能够有效的解决观测向量和系数矩阵不等精度的问题。(4)本文重点研究了观测值中含有粗差的情况。由于TLS、LS-TLS和WTLS等在解决粗差问题上达不到较好的效果,本文通过推导出残差协因数阵,得到标准化残差,再利用标准化残差构建协因数因子函数、中位数法获得单位权中误差。在混合整体最小二乘抗差算法(Robust Least Squares-Total Least Squares,RLS-TLS)和加权整体最小二乘抗差算法(Robust Weighted Total Least Squares,RWTLS)的解算中,选取了 IGG系列权函数,在不断迭代中逐渐对权值修正,削弱含有粗差的观测值的权重,逐步实现抵制粗差的能力。通过算例6和工程实例分析发现,LS-TLS和WTLS在观测值含有粗差的情况下,求取的参数估值与真实值差异较大,而RLS-TLS、RWTLS得到的结果更接近于真实值,通过单位权误差可以看出,较其他算法求取的参数精度提高了 30%以上,伴随着粗差数量的增多,两种算法稳健性仍然较好,在处理粗差方面具有一定的优势。图[20]表[27]参[75]