论文部分内容阅读
计量经济学家古扎拉蒂在他的专著(Basic Econometrics,Mc-Graw-Hill,NewYork,1995)中举了一个说明性例子:消费支出与收入和财富的关系。其中以消费支出为因变量,收入和财富为自变量建立线性回归模型。得出了一个令人十分惊讶的违背常理的结果:财富项的系数为负值,意味着随着财富积累越多而消费支出反而变小!为何出现这种现象?原来收入和财富这两个自变量存在严重多重共线性!多重共线性是线性回归建模中一个棘手的问题,它可能使自变量设计矩阵XTX呈病态,OLS方法估计的参数值可信度降低甚至失效,不仅会增大模型误差也会使模型丧失稳健性。因此,如何消除或降低多重共线性对建模的影响有重要的理论意义和实际价值。
对于多重共线性人们已提出了多种补救措施,总体上可分为两大类,每一类又包括几种方法。一类措施以增加外部信息着手,包括增加样本数据和运用先验信息等途径。另外一类措施是从减少内部信息着手,包括剔除变量方法,有偏估计方法和多项式回归方法。减少内部信息是目前处理多重共线性的主要途径。通过剔除变量可以减少内部信息,但现有的剔除变量方法在选择变量时存在主观性,并且可能面临设定偏误的问题。用有偏估计的方法来处理多重共线性问题时可以防止设定偏误的产生,它们的参数估计都有偏误,其中主成分回归方法还存在提取的主成分不能保证对因变量有最大解释能力的不足。用多项式回归处理多重共线性问题时,一般使用正交多项式,但它仅适用于单自变量的实验数据。鉴于此,本文尝试通过GMDH方法建模途径,探索处理多重共线性问题的新的有效方法:
(1)提出处理多重共线性问题的剔除变量线性GMDH参数模型方法。在证明了选择最优变量子集与剔除变量是对偶关系的基础上,论文提出了用线性GMDH参数模型选择最优变量子集来处理多重共线性问题的方法。现有剔除变量方法在选择变量时存在主观性,并且可能面临设定偏误的问题。本文证明并用实验验证了在满足经典线性回归模型的假设条件下,线性GMDH参数模型的参数估计量具有线性无偏的性质。最后用算例对所有子集回归、逐步回归和线性GMDH参数模型三种方法进行了比较验证。结果显示,线性GMDH参数模型能通过客观地选择变量来处理多重共线性问题。
(2)提出处理多重共线性问题的有偏估计C-GMDH方法。论文提出的有偏估计C-GMDH方法,使选取的主成分尽量携带自变量集信息,并确保它们对因变量有最大的解释能力。在算例上对主成分回归、PLS方法和C-GMDH方法三种有偏估计方法进行了比较研究。通过算例比较证实,相对于PLS法和主成分回归,用C-GMDH方法建立的有偏估计模型能确保提取的主成分对因变量有最大的解释能力,有效降低多重共线性的影响,并改善参数估计的有偏性。
(3)提出处理多重共线性问题的多项式回归B-GMDH方法。现有处理多重共线性问题的多项式回归模型,它通常适用于单变量且样本是等距取值的数据。论文提出了适用于多变量情形的多项式回归B-GMDH方法。它通过迭代运用非线性GMDH参数模型和线性GMDH参数模型,消除多项式回归模型中的多重共线性问题,并简化模型。通过算例证实了B-GMDH方法适用于多变量情形,建立的多项式模型剔除了导致多重共线性问题的变量项。B-GMDH模型的复杂度远小于普通的多项式回归模型,它简化了多项式回归模型,有利于进行系统的结构分析和控制。
(4)为了研究共线性问题对建模带来的不良影响,论文定义了有害共线性概念,并给出有害共线性的判定准则以及消除或降低其对回归分析影响的方法。