在大地测量与地球物理数据处理中,当模型法方程矩阵条件数过大,即法方程呈现病态性时,无论采用经典最小二乘平差原理还是近代总体最小二乘平差原理,如果观测向量发生了微小扰动,必将导致解的最终估值发生较大变动,使得解的均方误差较大,与真值的偏离程度较远,精度降低。病态问题在测绘数据处理中广泛存在,例如控制网平差解算、GRACE卫星重力反演等方面,其带来的不利影响是比较严重的,所以如何采取有效的措施和方法对病态性进行削弱或消除就显得尤为重要。本文系统地介绍了当前国内外测绘领域中病态问题的解算原理和方法,分析并总结现有方法的优点与缺陷。重点对病态问题的谱修正迭代法及其改进算法进行研究分析,在总结和分析这些算法优缺点基础上引入岭参数和泛函矩阵,得到一种最小二乘谱修正迭代改进算法。对于总体最小二乘谱修正迭代改进算法,通过残差控制谱修正因子的取值,得到一种自适应病态总体最小二乘谱修正迭代改进算法,并将其应用到大地测量与地球物理数据处理中。主要研究内容和创新点如下:针对大旋转角三维空间直角坐标转换模型法方程矩阵病态性,基于四元数构造旋转矩阵,采用本文得到的方法,引入岭参数和泛函矩阵改进谱修正迭代法,这样可以有效地降低法方程病态性带来的不利影响,使得方程求解达到稳定,而且方程迭代求解时,未知参数解的最终估计值更接近于真值。利用模拟数据和实测数据对该算法进行验证,并与其它方法进行对比,结果表明本文算法具有不依赖转换参数初值、收敛速度快、全局收敛、解是无偏、便于程序实现等特点;从而为通用坐标转换提供了一种新途径。针对高速铁路CPIII平面控制网数据处理中忽略高级控制点(CPI点或CPII点)本身的误差而造成的整体性变形扭曲的情况,同时顾及模型法方程矩阵病态性,利用总体最小二乘原理,得到一种基于四参数平面坐标转换的总体最小二乘改进谱修正迭代算法的数据处理方法。通过实测数据进行验证,结果表明该方法采用四参数坐标转换原理,考虑尺度因子的影响,更加符合实际情况;并且同时考虑系数矩阵和观测值存在误差的情况,理论上更加合理,结果的精度更好。在利用GRACE卫星观测数据计算地球重力场模型时,针对现有方法忽略系数矩阵含有误差的情况,采用总体最小二乘原理,得到一种卫星重力反演时基于总体最小二乘的参数求解方法。通过实测数据进行验证,结果表明该方法同时考虑系数矩阵和观测值存在误差,理论上更加合理,结果的精度更好。