线性模型和广义线性模型作为两种应用相当广泛的统计模型,在很多领域中,我们都可以用这两类模型来近似描述。在有关线性模型的研究问题中,大家研究的重难点一直是参数估计。本文主要研究经典的Gauss-Markov模型中的带有约束条件的最小二乘估计的相关问题。在本篇文章中,我们首先从经典的线性回归模型入手,讨论了经典线性模型中方差相等这一假设不满足的情况,然后引出了广义最小二乘回归。由于广义线性回归模型不会对数据进行严格的假设,故它可以更广泛地应用于方差结构未知的情况。本文主要讨论加权最小二乘回归,但它是基于权重和条件方差已知的情况,而实际上条件方差往往未知。解决上述问题常见的方案是迭代重加权最小二乘算法。基于这一思想,本文以经典Gauss-Markov模型为研究对象,研究了当数据满足乘法条件方差假设的情况下,提出了迭代核加权最小二乘法,其中内核平滑法将涉及到条件方差的估计。该算法的最重要一步是在估计条件方差时将p维核问题分解为一维单变量核问题。这样就避免了“维数灾难”,其估计性能也得到提高。我们对改进的算法进行仿真研究,通过与普通最小二乘估计作比较,证实了迭代核加权最小二乘估计的有效性;然后验证了在乘法假设不满足的情况下,改进后的算法仍然有效;最后为了消除输入变量分布的顾虑,继续对该算法修改,通过对比得出改进后的算法的有效性。