在现实经济以及金融模型中，经常会遇到模型待定参数的求解问题，对于此类问题的线性模型，已经有了比较全面和完善的理论，在实际中也得到了广泛的应用.对于此问题的非线性模型，也已经有了一定的的研究，但是多数集中在对于单个非线性回归模型的研究；而实际的日常生活中，有许多问题都是需要用联立非线性回归模型来进行研究分析的，例如对于对于同一板块上的股票的涨跌情况，由于其存在一定的相依性、关联性和制约性；又例如在进行气象数据的分析时，无论对温度、湿度、降雨量等的任何一个因素所进行的单因素回归分析都是不全面的，因为这些气象因素不但有各自自身的变化规律，他们之间也是相互作用相互影响的.而无论线性模型或是单个的非线性模型都不能很好地刻画此类数据满足的实际规律，所以研究联立非线性模型的理论及算法有着及其重要的意义.本文主要研究联立非线性模型下的参数估计问题.　　 通过本文的讨论可以看到，对于一般的可以转化为线性模型的非线性回归模型参数估计的方法虽然各不相同，但到最后都是转化为一个最优化问题或者求解方程的问题，但是一般情况下解析解是比较难求得的.所以，研究这些问题的数值解就成为一个值得考虑的问题.同时我们还可以发现，这些问题最终的结论都是与非线性最小二乘估计的问题类似的，所以本文中只讨论最小二乘法的数值解法.　　 我们知道，对于参数估计一般有两种方法，一是使用Taylor展式的线性近似法，将我们需要研究的非线性问题转化为线性模型，并用线性模型相关理论来进行研究，其中Gauss-Newton算法就是用的这种方法.但是正如前面所讲，好多非线性问题无法转化为线性问题，而且对于可以转化的情况，我们还要考虑转化前后的误差问题.这些缺陷限制了该方法的使用.另一种方法是将原问题转化为函数的最值问题，并用最优化的理方法来寻找最小值点，例如Newton型方法.但是这种处方法对于初值的选取依赖性较大，而且每一步的计算量也是很大的，特别是在高维空间中研究问题时，这方法受到了极大地限制.　　 在原有参数估计算法的基础上，所以本文借鉴了殷承元[2006]教授的一种新的算法--梯度压缩法，来解决非线性参数回归问题的求解。其主要思想是：寻找有界闭凸区域D的重心p0，计算出该点的函数值g(p0)；以过重心p0点的一条新定义的Y-直线为界，将区域D分割成两部分D+和D-，使得对于区域D+上的任一点p1，有g(p1)>g(p0)成立；去掉区域D+，在区域D-上重复上述过程，直到找到最小值点p*，在本文的理论证明保证了最小值点的存在性　　 本文将从收敛性、收敛速度和每步的计算量三个因素来衡量和比较各种算法的优劣.牛顿类的算法，包括Gauss-Newton算法、Newton型方法和信赖域法等，其优点是收敛比较快，缺点是是需要计算Hessian矩阵，从而导致计算量比较大；而且在下面的讨论中会发现，其是局部收敛的，所以收敛性质不是很好.还有就是最速下降法，其优点是这种算法具有全局收敛性，缺点是收敛速度很慢，而且步长的计算也是比较繁琐的.而本文借鉴的梯度压缩法则有以下优点：首先是具有全局收敛性.相比牛顿类算法的局部收敛性，该算法的性质更加优越；其次，此种方法以指数的速度收敛，极其地高于其他算法；最后梯度压缩法每一步的计算量都比较小，便于推广到高维空间的的相关研究.由于该算法的种种优越性，本文将其应用范围进行了进一步的推广，从而使其应用性得到了进一步的加强.