随着信息产业的飞速发展,在现代科学和技术的许多领域广泛存在着信息的处理问题,根据不同的需要,人们在各种优化准则下研究这些信息的优化处理。由于信息的产生和收集常常受到各种噪声的干扰,数据一般是不确定的,而是具有一定统计特性的随机数据。在随机问题的参数估计方面,人们提出了均方误差、线性最小方差、最小二乘估计等优化准则,并在一定假设下得到了这些优化准则下最优估计的解析表达式。而在均方误差和线性最小方差意义下求最优解时,需要待估参数的误差方差阵已知,但在实际问题中是很难知道的;最小二乘法则不需要待估参数和误差的任何先验统计信息,非常便于实际应用。因此本文研究线性模型参数的最小二乘估计的理论及相应的发展过程,主要是以对线性模型设计矩阵和估计误差方差的不同要求为线索,讨论其最小二乘估计(LS)和最优线性无偏估计(BLUE)的解析表达式与等价性。对于给定的线性模型,在实际的应用中,我们所关心的并不是模型中所有的待估参数,而只是其中一些相对最重要的参数,因此考虑怎样去掉多余的参数,且使变换后的模型参数估计值与原来模型估计的等价或相差不多;还有就是在海量数据的处理上,直接用最小二乘法计算其中的部分参数时,需要很大的存储空间,因此我们研究简化模型的参数估计理论,解决上面的问题;并提出用相对效率比较原模型与简化模型参数估计的优劣,举例说明原模型的最优线性估计比简化模型的要差。