关于多重共线性模型的检验和处理的方法
计量经济学实验报告
题目：关于多重共线性模型的检验和处理方法姓名：张飞飞
学号：2008163050
专业：工商管理
指导教师：崔海燕
实验时间： 2010-12-22
二○一○年十二月二十五日
关于多重共线性模型的检验和处理的方法
一、实验目的：掌握多重共线性模型检验和处理的方法
二、实验原理：判定系数检验法、逐步回归法、解释变量、相关系数检验
三、实验步骤：
1.创建一个新的工作文件：打开Eviews软件，点击File下的New File,创建一个新的工作文件，选择Annual,在Start Date栏中输入1983，在End date栏中输入2000，点击OK,点击保存，完成创建新的工作文件。
2.输入数据：点击Quick下的Empty Group,导入中国粮食生产函数模型的具体数据，命名被解释变量为Y,解释变量为X1、X2、X3、X4、X5，其中：Y表示粮食产量；X1表示农业化肥施用量；X2表示粮食播种面积；X3表示成灾面积；X4表示农业机械总动力；X5表示农业劳动力.点击Name保存数据，命名为Group01。
3.采用普通最小二乘法估计模型参数：点击Quick下的Estimate Equation,输入方程y c x1 x2 x3 x4 x5.点击OK,生成EQ1. 如下表所示：
从结果可以看出：R-squared的值为0.982798，拟合优度比较高（一般为0.9以上），F-statistic 的值为137.1164，也比较大，说明模型上存在多重共线性，但无法看出变量之间的关系。
4.进行多重共线性检验：主要运用综合统计检验和采用解释变量之间的相关系数进行检验。
由综合统计检验法（步骤3)，可以看出存在多重共线性，继而进行解释变量之间的相关下系数检验。点击Quick下的Groupstatistics,选择Correlations,打开Series List界面，输入X1 X2 X3 X3 X4 X5,点击OK,生成Group02,结果如下图：
从结果可以看出：X1和X4之间的相关系数为0.960278，最接近1，说明X1和X4之间存在高度相关性。
5.进行多重共线性处理——逐步回归法
（1）选择基础方程。非解释变量y分别对x1、x2、x3、x4、x5进行回归分析，由计算结果可以看出，y和x1的判定系数为0.891941，为最大，所以选择y和x1的模型为基础方程。即：Y = 30867.31062 + 4.576114592*X1
然后在此基础上，引入其他解释变量进行回归分析，过程如下：
（2）在保留解释变量x1的基础上，引入解释变量x2，进行非解释变量y与解释变量x1、x2之间的回归分析，结果如下表:
可以看出t-Statistic的值为5.156760，绝对值大于2.说明x2对y的影响显著，所以保留x2。
（3）在保留解释变量x1、x2的基础上，引入解释变量x3,进行非解释变量y与解释变量x1、x2、x3的回归分析，结果如下：
可以看出t-Statistic的值为-3.568637，绝对值大于2，说明x3对y的影响显著，所以保留x3。
(4) 在保留解释变量x1、x2、x3的基础上，引入解释变量x4,进行非解释变量y与解释变量x1、x2、x3、x4的回归分析，结果如下：
可以看出t-Statistic的值为-1.548172，绝对值小于2，说明x4对y的影响不显著，所以不保留x4。
（5）在保留解释变量x1、x2、x3的基础上，引入解释变量x5,进行非解释变量y与解释变量x1、x2、x3、x5的回归分析，结果如下：
可以看出t-Statistic的值为0.368223，绝对值小于2，说明x5对y的影响不显著，所以不保留x5。
综上所述，x4，x5对y的影响不显著，舍去。所以只保留x1、x2、x3。最后保留x1、x2、x3的方程为：
Y = -11978.18057 + 5.255935121*X1 + 0.408432175*X2 - 0.1946087795*X3
附原始数据：
多重共线性的解决之法
第七章 多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews 软件解决多重共线性的实际问题。 第一节 多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X 1，X 2，……，X k 中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型 i ki k i i i X X X Y μββββ+++++= 22110 （7-1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共线性。 从矩阵形式来看，就是0' =X X ， 即1)(- （2）不完全多重共线性 不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系，即近似线性关系。 如对于多元线性回归模型（7-1）存在不全为零的数k λλλ,,,21 ，使得下式成立： X X X 2211=++++i ki k i i u λλλ （7-3） 其中i u 为随机误差项，则可以说解释变量k X ,,X ,X 21 之间存在不完全多重共线性。随机误差项表明上述线性关系是一种近似的关系式，大体上反映了解释变量间的相关程度。 完全多重共线性与完全非线性都是极端情况，一般说来，统计数据中多个解释变量之间多少都存在一定程度的相关性，对多重共线性程度强弱的判断和解决方法是本章讨论的重点。 二、多重共线性产生的原因 多重共线性在经济现象中具有普遍性，其产生的原因很多，一般较常见的有以下几种情况。 （一）经济变量间具有相同方向的变化趋势 在同一经济发展阶段，一些因素的变化往往同时影响若干经济变量向相同方向变化，从而引起多重共线性。如在经济上升时期，投资、收入、消费、储蓄等经济指标都趋向增长，这些经济变量在引入同一线性回归模型并作为解释变量时，往往存在较严重的多重共线性。 （二）经济变量间存在较密切关系 由于组成经济系统的各要素之间是相互影响相互制约的，因而在数量关系上也会存在一定联系。如耕地面积与施肥量都会对粮食总产量有一定影响，同时，二者本身存在密切关系。 （三）采用滞后变量作为解释变量较易产生多重共线性 一般滞后变量与当期变量在经济意义上关联度比较密切，往往会产生多重共线性。如在研究消费规律时，解释变量因素不但要考虑当期收入，还要考虑以往各期收入，而当期收入与滞后收入间存在多重共线性的可能很大。 （四）数据收集范围过窄，有时会造成变量间存在多重共线性问题。 三、多重共线性产生的后果 由前述可知，多重共线性分完全多重共线性和不完全多重共线性两种情况，两种情况都会对模 问题： 选取粮食生产为例，由经济学理论和实际可以知道，影响粮食生产y 的因素有：农业化肥施 用量x1，粮食播种面积x2，成灾面积x3，农业机械总动力x4，农业劳动力x5，由此建立以下方程： y=β0+β1x1+β2x2+β3x3+β4x4+β5x5，相关数据如下： 解： 1、检验多重共线性 （1）在命令栏中输入： ls y c x1 x2 x3 x4 x5，则有； 可以看到，可决系数R2 和 F 值都 很高，二自变量x1 到 x5 的 t 值 均较小，并且x4 和 x5 的 t 检验 不显著，说明方程很可能存在多 重共线性。 （2）对自变量做相关性分析： 将x1—— x5 作为组打开， view —— covariance analysis—— correlation ，结果如下： 可以看到x1 和 x4 的相关系数 为 0.96，非常高，说明原模型 存在多重共线性 2、多重共线性的修正 （1）逐步回归法 第一步：首先确定一个基准的解释变量，即从 x1， x2， x3， x4， x5 中选择解释 y 的最好的一个建 立基准模型。分别用 x1， x2， x3， x4， x5 对 y 求回归，结果如下： 从上面 5 个输出结果可以知道，y 对 x1 的可决系数R2=0.89（最高），因此选择 第一个方程作为基准回归模型。即： Y = 30867.31062 + 4.576114592* x1 在基准模型的基础上，逐步将x2， x3 等加入到模型中， 加入 x2，结果： 拟合优度R2=0.961395 ，显著提高； 并且参数符号符合经济常识，且均显著。 所以将模型修改为： Y= -44174.52+ 4.576460*x1+ 0.672680*x2 再加入 x3，结果： 拟合优度R2=0.984174 ，显著提高； 并且参数符号符合经济常识（成灾面积越大，粮食产 量越低），且均显著。 所以将模型修改为： Y=-12559.35+5.271306*x1+0.417257*x2-0.212103*x3 再加入 x4，结果： 拟合优度R2=0.987158 ，虽然比上一次拟 合提高了； 但是变量x4 的系数为 -0.091271 ，符号不 符合经济常识（农业机械总动力越高， 粮食产量越高），并且 x4 的 t 检验不显著。 因此应该从模型中剔除x4。 多重共线性问题的几种解决方法 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释 变量之间不存在线性关系，也就是说，解释变量X 1，X 2 ，……，X k 中的任何一个 都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 这里，我们总结了8个处理多重共线性问题的可用方法，大家在遇到多重共线性问题时可作参考： 1、保留重要解释变量，去掉次要或可替代解释变量 2、用相对数变量替代绝对数变量 3、差分法 4、逐步回归分析 5、主成份分析 6、偏最小二乘回归 7、岭回归 8、增加样本容量 这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的。 逐步回归分析方法的基本思想是通过相关系数r、拟合优度R2和标准误差三个方面综合判断一系列回归方程的优劣，从而得到最优回归方程。具体方法分为两步： 第一步，先将被解释变量y对每个解释变量作简单回归: 对每一个回归方程进行统计检验分析（相关系数r、拟合优度R2和标准误差），并结合经济理论分析选出最优回归方程，也称为基本回归方程。 第二步，将其他解释变量逐一引入到基本回归方程中，建立一系列回归方程，根据每个新加的解释变量的标准差和复相关系数来考察其对每个回归系数的影响，一般根据如下标准进行分类判别： １.如果新引进的解释变量使R2得到提高,而其他参数回归系数在统计上和经济理论上仍然合理，则认为这个新引入的变量对回归模型是有利的，可以作为解释变量予以保留。 ２.如果新引进的解释变量对R2改进不明显，对其他回归系数也没有多大影响，则不必保留在回归模型中。 ３.如果新引进的解释变量不仅改变了R2，而且对其他回归系数的数值或符号具有明显影响，则认为该解释变量为不利变量，引进后会使回归模型出现多重共线性问题。不利变量未必是多余的，如果它可能对被解释变量是不可缺少的，则不能简单舍弃，而是应研究改善模型的形式，寻找更符合实际的模型，重新进行估计。如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中一个可以被另一个很好地解释，则可略去其中对被解释变量影响较小的那个变量，模型中保留影响较大的那个变量。 下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具体应用过程。 具体实例 例1设某地10年间有关服装消费、可支配收入、流动资产、服装类物价指数、总物价指数的调查数据如表1，请建立需求函数模型。 表1 服装消费及相关变量调查数据 计量经济学实验报告成绩 课程名称计量经济学指导教师苏卫东实验日期 2014-6-24 院（系）财政与金融学院专业班级金融二专实验地点实验楼八机房 学生姓名单一芳学号 201212041018 同组人无 实验项目名称多重共线性的检验与修正 一、实验目的和要求 1、理解多重共线性的含义与后果 2、掌握Eviews软件的操作和多重共线性的检验与修正 二、实验原理 Eviews软件的操作和多重共线性的检验修正方法 三、主要仪器设备、试剂或材料 Eviews软件，计算机 四、实验方法与步骤 1、准备工作：建立工作文件，并输入数据 CREATE A 1974 1981; DATA Y X1 X2 X3 X4 X5 2、OLS估计： LS Y C X1 X2 X3 X4 X5; 3、计算简单相关系数 COR X1 X2 X3 X4 X5 4、多重共线性的解决 LS Y C X1; LS Y C X2; LS Y C X3; LS Y C X4; LS Y C X5; LS Y C X1 X3; LS Y C X1 X3 X2; LS Y C X1 X3 X4; LS Y C X1 X3 X5 五、实验数据记录、处理及结果分析 1、建立工作组，输入以下数据： obs Y X1 X2 X3 X4 X5 1974 98.45 560.2 153.2 6.53 1.23 1.89 1975 100.7 603.11 190 9.12 1.3 2.03 1976 102.8 668.05 240.3 8.1 1.8 2.71 1977 133.95 715.47 301.12 10.1 2.09 3 1978 140.13 724.27 361 10.93 2.39 3.29 1979 143.11 736.13 420 11.85 3.9 5.24 1980 146.15 748.91 497.16 12.28 5.13 6.83 1981 144.6 760.32 501 13.5 5.47 8.36 1982 148.94 774.92 529.2 15.29 6.09 10.07 1983 158.55 785.3 552.72 18.1 7.97 12.57 1984 169.68 795.5 771.16 19.61 10.18 15.12 1985 162.14 804.8 811.8 17.22 11.79 18.25 1986 170.09 814.94 988.43 18.6 11.54 20.59 1987 178.69 828.73 1094.65 23.53 11.68 23.37 2、OLS估计 LS Y C X1 X2 X3 X4 X5 Dependent Variable: Y Method: Least Squares Date: 06/24/14 Time: 18:45 Sample: 1974 1987 Included observations: 14 Variable Coefficient Std. Error t-Statistic Prob. C -3.650950 30.00144 -0.121692 0.9061 X1 0.125752 0.059087 2.128275 0.0660 X2 0.072656 0.037445 1.940317 0.0883 X3 2.681426 1.258639 2.130418 0.0658 X4 3.405866 2.444896 1.393052 0.2011 X5 -4.430561 2.194164 -2.019248 0.0781 R-squared 0.970397 Mean dependent var 142.7129 第七章 多重共线性及其处理 第一部分 学习辅导 一、本章学习目的与要求 1．理解多重共线性的概念； 2．掌握多重共线性存在的主要原因； 3．理解多重共线性可能造成的后果； 4．掌握多重共线性的检验与修正的方法。 二、本章内容提要 本章主要介绍计量经济模型的计量经济检验。即多重共线性问题。 多重共线性是多元回归模型可能存在的一类现象，分为完全共线与近似共线两类。模型的多个解释变量间出现完全共线性时，模型的参数无法估计。更多的情况则是近似共线性，这时，由于并不违背所有的基本假定，模型参数的估计仍是无偏、一致且有效的，但估计的参数的标准差往往较大，从而使得t 统计值减小，参数的显著性下降，导致某些本应存在于模型中的变量被排除，甚至出现参数正负号方面的一些混乱。显然，近似多重共线性使得模型偏回归系数的特征不再明显，从而很难对单个系数的经济含义进行解释。多重共线性的检验包括检验多重共线性是否存在以及估计多重共线性的范围两层递进的检验。而解决多重共线性的办法通常有逐步回归法、差分法以及使用额外信息、增大样本容量等方法。 （一）多重共线性及其产生的原因 当我们利用统计数据进行分析时，解释变量之间经常会出现高度多重共线性的情况。 1．多重共线性的基本概念 多重共线性(Multicollinearity )一词由弗里希（Frish ）于1934年在其撰写的《借助于完全回归系统的统计合流分析》中首次提出。它的原义是指一个回归模型中的一些或全部解释变量之间存在有一种“完全”或准确的线性关系。 如果在经典回归模型Y X βε=+中，经典假定（5）遭到破坏，则有()1R X k <+，此时称解释变量k X X X ,,,21ΛΛ间存在完全多重共线性。解释变量的完全多重共线性，也就是解释变量之间存在严格的线性关系，即数据矩阵X 的列向量线性相关。因此，必有一个列向量可由其余列向量线性表示。 同时还有另外一种情况，即解释变量之间虽然不存在严格的线性关系，但是却有近似的线性关系，即解释变量之间高度相关。 2．多重共线性产生的原因 多元线性回归模型产生多重共线性的原因很多，主要有： （1）经济变量的内在联系 这是产生多重共线性的根本原因。 （2）解释变量中含有滞后变量 （3）经济变量变化趋势的“共向性” 必须指出，多重共线性基本上是一种样本现象。因为人们在设定模型时，总是尽量避免将理论上具有严格线性关系的变量作为解释变量收集在一起，因此，实际问题中的多重共线性并不是解释变量之间存在理论上或实际上的线性关系造成的，而是由所收集的数据(解释变量观察值)之间存在近似的线性关系所致。 （二）多重共线性的影响 多重共线性会产生以下问题： （1）增大了OLS 估计量的方差 （2）难以区分每个解释变量的单独影响 （3）回归模型缺乏稳定性 （4）t 检验的可靠性降低 （三）多重共线性的判别 在应用多元回归模型中，人们总结了许多检验多重共线性的方法。 1．系数判定法 多重共线性检验与修正 数据来源：《中国统计年鉴2014》12-10、4-3、12-4、12-5、12-8、 Eviews操作： 1、基本操作： （1）录入数据：命令：data y l m f a ir （y代表粮食产量，l代表第一产业劳动力数量，m代表农业机械总动力，f代表化肥施用量，a代表农作物总播种面积，ir为有效灌溉面积/农作总播种面积得出的灌溉率） （2）做线性回归：命令：LS y c l m f a ir 2、检验多重共线性 （1）方差膨胀因子判断法 在生成的线性回归eq01中，view—coefficient diagnostics—variance inflation factors 看生成表格中的Centered VIF，发现L、M、F、A、IR的方差膨胀因子都很大，说明存在严重多重共线性。（eg：L的Centered VIF指以L为因变量，M、A、F、IR为自变量所做出的辅助回归的判定系数R2，然后1/1-R2得出的值。） （由课本内容可知，当完全不共线性时，VIF=1；完全共线性时，VIF=正无穷）（2）相关系数矩阵判断法 命令：cor l m f a ir 这个是通过看各个解释变量之间的相关系数来判断是否存在多重共线性的。可以看到大多数解释变量之间两两相关系数都大于0.9。相关系数极大说明解释变量之间存在很高的相关性，因而也就很可能存在共线性。 3、修正多重共线性 （1）逐步回归排除引起共线性的变量 ①菜单栏操作 在生成的线性回归eq01中，Estimate—Method—STEPLS 接下来会出现两个框框，上面的框框是固定住不做逐步回归的变量，一般设定为y和c 解决多元线性回归中多重共线性问题的方法分析 谢小韦，印凡成 河海大学理学院，南京 (210098) E-mail ：xiexiaowei@https://www.360docs.net/doc/ca8429136.html, 摘 要：为了解决多元线性回归中自变量之间的多重共线性问题，常用的有三种方法: 岭回 归、主成分回归和偏最小二乘回归。本文以考察职工平均货币工资为例，利用三种方法的 SAS 程序进行了回归分析，根据分析结果总结出三种方法的优缺点，结果表明如果能够使用 定性分析和定量分析结合的方法确定一个合适的k 值，则岭回归可以很好地消除共线性影 响；主成分回归和偏最小二乘回归采用成份提取的方法进行回归建模，由于偏最小二乘回归 考虑到与因变量的关系，因而比主成分回归更具优越性。 关键词：多重共线性；岭回归；主成分回归；偏最小二乘回归 1. 引言 现代化的工农业生产、社会经济生活、科学研究等各个领域中，经常要对数据进行分析、 拟合及预测，多元线性回归是常用的方法之一。多元线性回归是研究多个自变量与一个因变 量间是否存在线性关系,并用多元线性回归方程来表达这种关系，或者定量地刻画一个因变 量与多个自变量间的线性依存关系。 在对实际问题的回归分析中，分析人员为避免遗漏重要的系统特征往往倾向于较周到地 选取有关指标，但这些指标之间常有高度相关的现象，这便是多变量系统中的多重共线性现 象。在多元线性回归分析中，这种变量的多重相关性常会严重影响参数估计，扩大模型误差， 破坏模型的稳健性，从而导致整体的拟合度很大，但个体参数估计值的t 统计量却很小，并 且无法通过检验。由于它的危害十分严重，存在却又十分的普遍，因此就要设法消除多重线 性的不良影响。 常用的解决多元线性回归中多重共线性问题的模型主要有主成分回归、岭回归以及偏最 小二乘回归。三种方法采用不同的方法进行回归建模，决定了它们会产生不同的效果。本文 以统计职工平均货币工资为例，考察一组存在共线性的数据，运用SAS 程序对三种回归进 行建模分析，并对结果进行比较，总结出它们的优势与局限，从而更好地指导我们解决实际 问题。 2. 共线性诊断 拟合多元线性回归时，自变量之间因存在线性关系或近似线性关系，隐蔽变量的显著性， 增加参数估计的方差，导致产生一个不稳定的模型，因此共线性诊断的方法是基于自变量的 观测数据构成的矩阵T x x 进行分析，使用各种反映自变量间相关性的指标。共线性诊断常 用统计量有方差膨胀因子VIF (或容限TOL )、条件指数和方差比例等。 一般认为：若VIF>10，说明模型中有很强的共线性关系；若条件指数值在10与30间 为弱相关，在30与100间为中等相关，大于100为强相关；在大的条件指数中由方差比例 超过0.5的自变量构成的变量子集就认为是相关变量集[1]。 3. 三种解决方法 岭回归基本思想: 当出现多重共线性时，有0T X X ≈，从而使参数的1?()T T X X X Y β ?=很不稳定，出现不符合含义的估计值，给T X X 加上一个正常数矩阵(0)KI K >，则T X X KI +等 2014-8-8 商学院 王中昭 教学内容 一、多重共线性 二、实际经济问题中的多重共线性 三、多重共线性的后果 四、多重共线性的检验 五、克服多重共线性的办法和实例 §4.3 多重共线性 2014-8-8商学院 王中昭 对于模型Y i =β0+ β1x 1i + β2x 2i +…… βk x ki +μi 如果某两个或多个解释变量之间出现相关性，即：C 1x 1i +C 2X 2i +……C k X ki =0 其中C i 不全为0，即某一个解释变量是其他解释变量的线性组合，则称为完全多重共线性。 完全多重共线性的情况并不多见，一般是出现不同程度的多重共线性。 注意多重共线性不 是指因变量与解释 一、多重共线性概念 2014-8-8商学院 王中昭 Y=Xβ+μ完全共线性:∣X′X ∣=0，(X′X)-1不存在， 使B ^=(X′X)-1X′Y 无法求解。 例如：, 0)(0020 1631084104213211 x x x 3213322113 21≠'=+-=++??????? ??=X X x x x X i i i i i i x c x c x c 这里，完全多重共线性 2014-8-8商学院 王中昭完全多重共线性的情况不多，一般出现不同程度的多重共线性。 多重共线性:∣X′X∣≈0,(X′X)-1存在，但 (X′X)-1主对角线上的元素很大。 ????? ?='≈'?≈+??????? ??=400300000300000100040030000030000010002100010004X)X ( ,0)( 0,0x x - x 199 .2993001001.4004001099.1992001101.1001001 x x x 1 -3i 2i 1i 3 21｜｜这里，X X X 近似多重共线性 计量经济学所有检验方法 一、拟合优度检验 可决系数 TSS RSS TSS ESS R - ==12 TSS 为总离差平方和，ESS 为回归平方和，RSS 为残差平方和 该统计量用来测量样本回归线对样本观测值的拟合优度。 该统计量越接近于1，模型的拟合优度越高。 调整的可决系数)1/() 1/(12---- =n TSS k n RSS R 其中：n-k-1为残差平方和的自由度，n-1为总体平方和的 自由度。将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响。 二、方程的显著性检验(F 检验) 方程的显著性检验，旨在对模型中被解释变量与解释变量之间的线性关系在总体上是否显著成立作出推断。 原假设与备择假设：H 0:β1=β2=β3=…βk =0 H 1: βj 不全为0 统计量 )1/(/--= k n RSS k ESS F 服从自由度为(k , n-k-1)的F 分布，给定显著性水平α，可得到临界值 F α(k,n-k-1)，由样本求出统计量F 的数值，通过F>F α(k,n-k-1)或F ≤F α(k,n-k-1)来拒绝或接受原假设H 0，以判定原方程总体上的线性关系是否显著成立。 三、变量的显著性检验（t 检验） 对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。 原假设与备择假设：H0：βi =0 （i=1,2…k ）；H1：βi ≠0 给定显著性水平α，可得到临界值t α/2(n-k-1)，由样本求出统计量t 的数值，通过 |t|> t α/2(n-k-1) 或 |t|≤t α/2(n-k-1) 来拒绝或接受原假设H0，从而判定对应的解释变量是否应包括在模型中。 四、参数的置信区间 参数的置信区间用来考察：在一次抽样中所估计的参数值离参数的真实值有多“近”。 统计量 )1(~1??? ----'--= k n t k n c S t ii i i i i i e e βββββ 在(1-α)的置信水平下βi 的置信区间是 ( , ) ββααββ i i t s t s i i -?+?2 2 ，其中，t α/2为显著性水平 为α、自由度为n-k-1的临界值。 五、异方差检验 1. 帕克(Park)检验与戈里瑟(Gleiser)检验 试建立方程：i ji i X f e ε+=)(~2 或 i ji i X f e ε+=)(|~| 选择关于变量X 的不同的函数形式，对方程进行估计并进行显著性检验，如果存在某一种函数形式，使得方程显著成立，则说明原模型存在异方差性。 多重共线性的解决之 法 第七章多重共线性 教学目的及要求： 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews软件解决多重共线性的实际问题。 第一节多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中，其重要假定之一是回归模型的解释变量之间不存在线性关系，也就是说，解释变量X1，X2，……，X k中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定，即线性回归模型中某一个解释变量与其他解释变量间存在线性关系，就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设，将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 （1）完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示，存在严格的线性关系。 如对于多元线性回归模型 i ki k i i i X X X Y μββββ+++++= 22110 （7- 1） 存在不全为零的数k λλλ,,,21 ，使得下式成立： 0X X X 2211=+++ki k i i λλλ （7-2） 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系，即存在完全多重共 线性。 从矩阵形式来看，就是0'=X X ， 即1)(- 山西大学 实验报告 实验报告题目：多重共线性问题的检验和处理 学院： 专业： 课程名称：计量经济学 学号： 学生姓名： 教师名称：崔海燕 上课时间： 一、实验目的： 熟悉和掌握Eviews在多重共线性模型中的应用，掌握多重共线性问题的检 验和处理。 二、实验原理：1、综合统计检验法； 2、相关系数矩阵判断； 3、逐步回归法； 三、实验步骤： （一）新建工作文件并保存 打开Eviews软件，在主菜单栏点击File\new\workfile，输入start date 1978和end date 2006并点击确认，点击save键，输入文件名进行保存。 （二）输入并编辑数据 在主菜单栏点击Quick键，选择empty\group新建空数据栏，根据理论和经 验分析，影响粮食生产（Y）的主要因素有农业化肥施用量（X1）、粮食播种面积（X2）、 成灾面积（X3）、农业机械总动力（X4）和农业劳动力（X5），其中成灾面积的符号为 负，其余均应为正。下表给出了1983——2000中国粮食生产的相关数据。点击name 键进行命名，选择默认名称Group01,保存文件。 Y X1 X2 X3 X4 X5 1983 38728 1660 114047 16209 18022 31151 1984 40731 1740 112884 15264 19497 30868 1985 37911 1776 108845 22705 20913 31130 1986 39151 1931 110933 23656 22950 31254 1987 40208 1999 111268 20393 24836 31663 1988 39408 2142 110123 23945 26575 32249 1989 40755 2357 112205 24449 28067 33225 1990 44624 2590 113466 17819 28708 38914 1991 43529 2806 112314 27814 29389 39098 1992 44264 2930 110560 25895 30308 38669 1993 45649 3152 110509 23133 31817 37680 1994 44510 3318 109544 31383 33802 36628 1995 46662 3594 110060 22267 36118 35530 1996 50454 3828 112548 21233 38547 34820 1997 49417 3981 112912 30309 42016 34840 1998 51230 4084 113787 25181 45208 35177 1999 50839 4124 113161 26731 48996 35768 2000 46218 4146 108463 34374 52574 36043 2001 45264 4254 106080 31793 55172 36513 2002 45706 4339 103891 27319 57930 36870 2003 43070 4412 99410 32516 60387 36546 实验目的：在回归模型牵涉到多个自变量的时候，自变量之间可能会相互关联，即他们之间存在有多重共线性，本节实验的实验目的是如何用Eviews检测各个自变量之间是否存在的多重共线问题以及如何对多重共线性进行修正。 我们实验的原始数据如图所示，判断钢产量y与生铁产量X1，发电量X2，固定资产投资X3，国内生产总值X4,铁路运输量X5之间的关系。 实验步骤： 1：打开Eviews7.0. →File→Workfile，选择年度数据，在初始日期和结束日期分别输入“1978”和结束年份“1997”。点击“OK”确定。 2：在新建工作表中，点击Proc→Import→Read，选定需要导入的Excel工作表，在“Upper-left data cell”中输入数据在Excel中的初始位置“B2”，在“Excel 5+….”中输入“sheet1”，在“Name for serises、”中输入“y x1 x2 x3 x4 x5”点击“OK”即可。 3：在Eviews空白处输入：“ls y c x1 x2 x3 x4 x5”，回车即可，结果如下。 Dependent Variable: Y Method: Least Squares Date: 04/19/13 Time: 11:24 Sample: 1978 1997 Included observations: 20 Variable Coefficient Std. Error t-Statistic Prob. C 354.5884 435.6968 0.813842 0.4294 X1 0.026041 0.120064 0.216892 0.8314 X2 0.994536 0.136474 7.287380 0.0000 X3 0.392676 0.086468 4.541271 0.0005 X4 -0.085436 0.016472 -5.186649 0.0001 X5 -0.005998 0.006034 -0.994019 0.3371 R-squared 0.999098 Mean dependent var 5153.450 Adjusted R-squared 0.998776 S.D. dependent var 2512.131 S.E. of regression 87.87969 Akaike info criterion 12.03314 Sum squared resid 108119.8 Schwarz criterion 12.33186 Log likelihood -114.3314 Hannan-Quinn criter. 12.09145 F-statistic 3102.411 Durbin-Watson stat 1.919746 Prob(F-statistic) 0.000000 经查表可知，t（17）=1.345，结合上表可知，x1和x5没有通过t检验，而且F\检验较大，估计解释变量之间可能存在着多重共线性。相关性如下图所示： 可知X1 X2 X3 X4 X5,之间存在着较强的多重共线 山西大学 实 验 报 告 实验报告题目：多重共线性问题的检验和处理 学 院： 专 业： 课程名称： 计量经济学 学 号： 学生姓名： 教师名称： 崔海燕 上课时间： 题电源备，检查料试卷资料试 一、实验目的： 熟悉和掌握Eviews在多重共线性模型中的应用，掌握多重共线性问题的检 验和处理。 二、实验原理：1、综合统计检验法； 2、相关系数矩阵判断； 3、逐步回归法； 三、实验步骤： （一）新建工作文件并保存 打开Eviews软件，在主菜单栏点击File\new\workfile，输入start date 1978和end date 2006并点击确认，点击save键，输入文件名进行保存。 （二）输入并编辑数据 在主菜单栏点击Quick键，选择empty\group新建空数据栏，根据理论和 经验分析，影响粮食生产（Y）的主要因素有农业化肥施用量（X1）、粮食播种面 积（X2）、成灾面积（X3）、农业机械总动力（X4）和农业劳动力（X5），其中成灾 面积的符号为负，其余均应为正。下表给出了1983——2000中国粮食生产的相关 数据。点击name键进行命名，选择默认名称Group01,保存文件。 Y X1X2X3X4X5 1983387281660114047162091802231151 1984407311740112884152641949730868 1985379111776108845227052091331130 1986391511931110933236562295031254 1987402081999111268203932483631663 1988394082142110123239452657532249 1989407552357112205244492806733225 1990446242590113466178192870838914 1991435292806112314278142938939098 1992442642930110560258953030838669 1993456493152110509231333181737680 1994445103318109544313833380236628 1995466623594110060222673611835530 1996504543828112548212333854734820 1997494173981112912303094201634840 1998512304084113787251814520835177 1999508394124113161267314899635768 2000462184146108463343745257436043 2001452644254106080317935517236513 2002457064339103891273195793036870 200343070441299410325166038736546 多重共线性的判断与修正 一、多重共线性的判断 1． 综合统计检验法 LS Y C X1 X2 对模型进行OLS, 得到参数估计表 (1) 当2,R F 很大，而回归系数的t 检验值小于临界值时，可判定该模型存在多重共线性。 (2) 当完全共线性存在时，模型的OLS 无法进行，Eviews 会提示：矩阵的逆(1()T X X -)不 存在。 2. 简单相关系数检验法 LS Y C X1 X2 对模型进行OLS, 得到参数估计表中的2 R . 点击：Quick/Group Statistics/Correlation 在对话框中输入：X1 X2 , 点击OK, 即可得到简单相关系数矩阵 检验：若存在 i j x x r 接近于1, 或 22,i j x x r R >，则说明,i j x x 之间存在着严重的相关性。 3. 辅助回归法(方差扩大因子法） 设 121112...(1)(1)...j j k Xj X X X j X j Xk V ααααα-+=+++-+++++ (j ) LS Xj X1 X2…Xk 对(j) 进行OLS, 得到参数估计表 检验：若表中 (2,1)F F k n k α>--+, 则可确定存在多重共线性。 或者(方差扩大因子法）：计算211j j VIF R =-, (2j R 为以上方程的可决系数）, 若10j VIF ≥, 则可确定存在多重共线性。 4. 逐步回归法 1) 首先计算被解释变量对每个解释变量的回归方程，得到基本回归方程： LS Y C Xi OLS ，得到基本回归方程(i), i = 1,2,…,k 2) 从这些基本回归方程中选出最合理的方程, 即，2 R 取值最大，且t 检验显著。比方说，0j Y Xj ββ=+ 3) 在这个选出的方程中增加新的解释变量, 再进行OLS 分析： LS Y C Xj Xi ( i= 1,2,…,j-1, j+1,…k) 判断： 如果新加入的解释变量对2 R 改进最大, 且每个系数又是t 统计显著，则保留这个新的解释变量。转4) 如果新加入的解释变量不仅使2R 变小, 且t 统计不显著，以至于使某些系数达到不能 实验名称：多重共线性的检验与处理 实验时间：2011.12.10 实验要求： 主要是学习多重共线性的检验与处理，主要是研究解释变量与其余解释变量之间有严重多重共线性的模型，分析变量之间的相关系数。通过具体案例建立模型，然后估计参数，求出相关的数据。再对模型进行检验，看数据之间是否存在多重共线性。最后利用所求出的模型来进行修正。 实验内容： 实例：我国钢材供应量分析 通过分析我国改革开放以来（1978－1997）钢材供应量的历史资料，可以建立一个单一方程模型。根据理论及对现实情况的认识，影响我国钢材供应量 Y（万吨）的主要因素有：原油产量X1（万吨），生铁产量X2（万吨），原煤产量X3（万吨），电力产量X4（亿千瓦小时），固定资产投资X5(亿元)，国内生产总值 X6(亿元)，铁路运输量X7（万吨）。 （一）建立我国钢材供应量的计量经济模型： （二）估计模型参数，结果为： Dependent Variable: Y Method: Least Squares Date: 11/02/09 Time: 16:09 Sample: 1978 1997 Included observations: 20 Variable Coefficient Std. Error t-Statistic Prob. C 139.2362 718.2493 0.193855 0.8495 X1 -0.051954 0.090753 -0.572483 0.5776 X2 0.127532 0.132466 0.962751 0.3547 X3 -24.29427 97.48792 -0.249203 0.8074 X4 0.863283 0.186798 4.621475 0.0006 X5 0.330914 0.105592 3.133889 0.0086 X6 -0.070015 0.025490 -2.746755 0.0177 X7 0.002305 0.019087 0.120780 0.9059 R-squared 0.999222 Mean dependent var 5153.350 Adjusted R-squared 0.998768 S.D. dependent var 2511.950 S.E. of regression 88.17626 Akaike info criterion 12.08573 Sum squared resid 93300.63 Schwarz criterion 12.48402 Log likelihood -112.8573 F-statistic 2201.081 Durbin-Watson stat 1.703427 Prob(F-statistic) 0.000000 由此可见，该模型可绝系数很高，F检验值2201.081，明显显著。但当，系数的t检验不显著，而且系数的符号与预期的相反，这表明很可能存在严重的多重共线性。 （三）计算各解释变量的相关系数，选择数据，得相关系数矩阵（表3.1）。 实验报告 课程名称：计量经济学 实验项目：实验四多重共线性模型的 检验和处理 实验类型：综合性□设计性□验证性 专业班别：11本国贸五班 姓名： 学号： 实验课室：厚德楼A207 指导教师： 实验日期：2014/5/20 广东商学院华商学院教务处制 一、实验项目训练方案 小组合作：是□否 小组成员：无 实验目的： 掌握多重共线性模型的检验和处理方法： 实验场地及仪器、设备和材料 实验室：普通配置的计算机，Eviews软件及常用办公软件。 实验训练内容（包括实验原理和操作步骤）： 【实验原理】 多重共线性的检验：直观判断法（R2值、t值检验）、简单相关系数检验法、方差扩大因子法（辅助回归检验） 多重共线性的处理：先验信息法、变量变换法、逐步回归法 【实验步骤】 （一）多重共线性的检验 1.直观判断法（R2值、t值检验） 根据广东数据（见附件1），先分别建立以下模型： 【模型1】财政收入CS对第一产业产值GDP1、第二产业产值GDP2和第三产业产值GDP3的多元线性回归模型； （请对得到的图表进行处理，以上在一页内） 【模型2】固定资产投资TZG对固定资产折旧ZJ、营业盈余YY和财政支出CZ的多元线性回归模型。 观察模型结果，初步判断模型自变量之间是否存在多重共线性问题。 【模型1】从上图可以得到，估计方程的判定系数R 2 很高，但三个参数t检验值两个不显著，有一个较显著，其中 一个参数估计值还是负的，不符合经济理论。所以，出现了严重的多重共线性。 【模型2】1】从上图可以得到，估计方程的判定系数R 2 很高，方程显著性F检验也显著，但只有两个参数显著性 t检验比较显著，这与很高的判定系数不相称，出现了严重的多重共线性。 2.简单相关系数检验法 分别计算【模型1】和【模型2】的自变量的简单相关系数。 【模型1】 【模型2】 （请对得到的图表进行处理，以上在一页内） 根据计算的简单相关系数，判断模型是否存在多重共线性。 【模型1】可看出三个解释变量GDP1 、GDP2和GDP3之间高度相关，存在严重的多重共线性。 【模型2】可以看出三个解释变量ZJ 、YY和CZ之间也高度相关，特别是ZJ和CZ之间高度相关，必然也存在严重的多重共线性。(完整版)多重共线性检验与修正.doc
多重共线性问题的几种解决方法
多重共线性的检验与修正
第七章 多共线性及其处理
多重共线性检验与修正
解决多元线性回归中多重共线性问题的方法分析
计量经济学多重共线性
所有计量经济学检验方法(全)
最新多重共线性的解决之法
多重共线性问题的检验和处理
检验多重共线性
多重共线性题目的检验和处理
多重共线性的判断与修正
多重共线性的检验与处理
实验四-多重共线性模型的检验和处理