计量经济学第四章多重共线性

Size: px

Start display at page:

Download "计量经济学第四章多重共线性"

匠广
4 years ago
Views:

1 计量经济学第四章多重共线性

2 引子 : 国内生产总值增加会减少财政收入吗? 为了分析各主要因素对国家财政收入的影响, 建立财政收入 ( 亿元 ) (CZSR) 为被解释变量, 财政支出 ( 亿元 )(CZZC) 国内生产总值( 亿元 )(GDP) 税收总额 ( 亿元 )(SSZE) 等为解释变量的计量模型数据样本时期 :1978 年 -011 年的统计数据设定的理论模型为 : CZSR i 0 1CZZCi GDPi 3 SSZE i u i 采用普通最小二乘法得到以下估计结果

3 财政收入模型的 EViews 估计结果 Variable Coefficient Std. Error t-statistic Prob. 截距财政支出国内生产总值税收总额 R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood Hannan-Quinn criter F-statistic Durbin-Watson stat Prob(F-statistic)

4 模型估计与检验结果分析可决系数为 , 校正的可决系数为 , 模型拟合很好模型对财政收入的解释程度高达 99.9% F 统计量为 , 说明 0.05 水平下回归方程整体上很显著 t 检验结果表明, 各个解释变量对财政收入的影响均显著, 但是国内生产总值对财政收入的回归系数的符号为负, 即经济增长反而会使财政收入减少这显然与理论分析和实践经验不相符为什么会出现这样的异常结果? 如果模型设定和数据真实性没问题, 问题会出在哪里呢?

5 第四章多重共线性本章讨论四个问题 : 什么是多重共线性多重共线性产生的后果多重共线性的检验多重共线性的补救措施

6 第一节什么是多重共线性本节基本内容 : 多重共线性的含义产生多重共线性的背景

7 一多重共线性的含义在计量经济学中所谓的多重共线性 (Multi-Collinearity), 不仅包括完全的多重共线性, 还包括不完全的多重共线性在有截距项的模型中, 截距项可以视为其对应的解释变量总是为 1 对于解释变量 1, X, X3,, Xk, 如果存在不全为 0 的数 λ,λ,...λ, 使得 1 k 1Xi 3X3i kxki 0 (i 1,,,n) 则称解释变量 1, X, X3,, Xk 之间存在着完全的多重共线性或者说, 当时, 表明在数据矩阵中, 至少有 Rank( X ) k 一个列向量可以用其余的列向量线性表示, 则说明存在完全的多重共线性 X

8 不完全的多重共线性实际中, 常见的情形是解释变量之间存在不完全的多重共线性对于解释变量 1, X, X3, Xk 1,, k, 使得, 存在不全为 0 的数 1X i3x3 i... kxkiui 0 i1,,..., n u i 其中, 为随机变量这表明解释变量 1, X, X3, Xk 只是一种近似的线性关系注意 : 不存在线性关系, 并非不存在非线性关系, 非线性关系并不违反无多重共线性假定

9 回归模型中解释变量的关系可能表现为三种情形 : (1) r 0 xx, 解释变量间毫无线性关系, 变量间相 i j 互正交这时已不需要作多元回归, 每个参数 j 都可以通过 Y 对 X j 的一元回归来估计 r 1 () xx, 解释变量间完全共线性此时模型参 i j 数将无法确定 0< <1 r xx (3), 解释变量间存在一定程度的线性关 i j 系实际中常遇到的情形

10 二产生多重共线性的背景多重共线性产生的经济背景主要有几种情形 : 1. 经济变量之间具有共同变化趋势. 模型中包含滞后变量 3. 利用截面数据建立模型也可能出现多重共线性 4. 样本数据自身的原因

11 第二节多重共线性产生的后果本节基本内容 : 完全多重共线性产生的后果不完全多重共线性产生的后果

12 一完全多重共线性产生的后果 1. 参数的估计值不确定当解释变量完全线性相关时 OLS 估计式不确定从偏回归系数意义看 : 在和 X 完全共线性时, 无法保持不变, 去单独考虑对 Y 的影响 ( X 和的影响 X 3 不可区分 ) 从 OLS 估计式看 : 可以证明此时. 参数估计值的方差无限大 X 3 X β ˆ = 0 0 X 3 OLS 估计式的方差成为无穷大 : Var( ˆ )

13 二不完全多重共线性产生的后果如果模型中存在不完全的多重共线性, 可以得到参数的估计值, 但是对计量经济分析可能会产生一系列的影响 1. 参数估计值的方差增大 1 σ 1 σ xi r3 xi r3 Var( βˆ ) = = (1- ) (1- ) r 3 当增大时也增大 ^ Var( )

14 . 对参数区间估计时, 置信区间趋于变大 3. 假设检验容易作出错误的判断 4. 可能造成可决系数较高, 但对各个参数单独的 t 检验却可能不显著, 甚至可能使估计的回归系数符号相反, 得出完全错误的结论

15 第三节多重共线性的检验本节基本内容 : 简单相关系数检验法方差扩大 ( 膨胀 ) 因子法直观判断法逐步回归法

16 多重共线性表现为解释变量之间具有相关关系多重共线性检验的任务是 : (1) 检验多重共线性是否存在 () 估计多重共线性的范围, 即判断哪些变量之间存在共线性

17 一简单相关系数检验法含义 : 简单相关系数检验法是利用解释变量之间的线性相关程度去判断是否存在严重多重共线性的一种简便方法判断规则 : (1) 对两个解释变量的模型, 采用简单相关系数法 () 对多个解释变量模型, 采用综合统计检验法一般而言, 如果每两个解释变量的简单相关系数 ( 零阶相关系数 ) 比较高, 例如大于 0.8, 则可认为存在着较严重的多重共线性

18 注意 : 较高的简单相关系数只是多重共线性存在的充分条件, 而不是必要条件特别是在多于两个解释变量的回归模型中, 有时较低的简单相关系数也可能存在多重共线性因此并不能简单地依据相关系数进行多重共线性的准确判断

19 二方差扩大 ( 膨胀 ) 因子法统计上可以证明, 解释变量的方差可表示为 j j j 的参数估计式 ˆ σ 1 σ Var( β j ) = = VIF x 1-R x X j j βˆ j 其中的是变量 j 的方差扩大因子 1 (Variance Inflation Factor), 即 VIF j = 1- 其中 R j VIF j X R j 是多个解释变量辅助回归的可决系数

20 经验规则方差膨胀因子越大, 表明解释变量之间的多重共性越严重反过来, 方差膨胀因子越接近于 1, 多重共线性越弱经验表明, 方差膨胀因子 10 时, 说明解释变量与其余解释变量之间有严重的多重共线性, 且这种多重共线性可能会过度地影响最小二乘估计

21 三直观判断法 1. 当增加或剔除一个解释变量, 或者改变一个观测值时, 回归参数的估计值发生较大变化, 回归方程可能存在严重的多重共线性. 从定性分析认为, 一些重要的解释变量的回归系数的标准误差较大, 在回归方程中没有通过显著性检验时, 可初步判断可能存在严重的多重共线性

22 3. 有些解释变量的回归系数所带正负号与定性分析结果违背时, 很可能存在多重共线性 4. 解释变量的相关矩阵中, 自变量之间的相关系数较大时, 可能会存在多重共线性问题 5. 模型的可决系数较高,F 检验显著, 但某些重要解释变量的偏回归系数 t 检验不显著, 可能会存在多重共线性问题

23 四逐步回归检测法逐步回归的基本思想将变量逐个的引入模型, 每引入一个解释变量后, 都要进行 F 检验, 并对已经选入的解释变量逐个进行 t 检验, 当原来引入的解释变量由于后面解释变量的引入而变得不再显著时, 则将其剔除以确保每次引入新的变量之前回归方程中只包含显著的变量在逐步回归中, 高度相关的解释变量, 在引入时会被剔除因而也是一种检测多重共线性的有效方法

24 第四节多重共线性的补救措施本节基本内容 : 修正多重共线性的经验方法逐步回归法

25 一修正多重共线性的经验方法 1. 剔除变量法把方差扩大因子最大者所对应的自变量首先剔除再重新建立回归方程, 直至回归方程中不再存在严重的多重共线性注意 : 若剔除了重要变量, 可能引起模型的设定误差

26 . 增大样本容量如果样本容量增加, 会减小回归参数的方差, 标准误差也同样会减小因此尽可能地收集足够多的样本数据可以改进模型参数的估计 ˆ Var ( j ) x 问题 : 增加样本数据在实际计量分析中常面临许多困难 j 1 1 R j

27 3. 变换模型形式一般而言, 差分后变量之间的相关性要比差分前弱得多, 所以差分后的模型可能降低出现共线性的可能性, 此时可直接估计差分方程例如 : 原模型变形为 i ki k i i i u x x x Y i ki k i i i u x x x Y 1 1

28 问题 : 差分会丢失一些信息, 差分模型的误差项可能存在序列相关, 可能会违背经典线性回归模型的相关假设, 在具体运用时要慎重

29 4. 利用非样本先验信息通过经济理论分析能够得到某些参数之间的关系, 可以将这种关系作为约束条件, 将此约束条件和样本信息结合起来进行约束最小二乘估计

30 5. 横截面数据与时序数据并用首先利用横截面数据估计出部分参数, 再利用时序数据估计出另外的部分参数, 最后得到整个方程参数的估计例如 : 轿车销售数据 (Y t ) 平均价格 (P t ) 和消费者收入 (I t ) 设定模型 : 求出 Y 3 * t ln Yt 1 ln Pt 3 后带入模型, 有 t t 注意 : 这里包含着假设, 即参数的横截面估计和从纯粹时间序列分析中得到的估计是一样的 ln * * ln P u 其中 Yt ln Y ln I t 1 I ˆ 3 t u t

31 6. 变量变换变量变换的主要方法 : (1) 计算相对指标 () 将名义数据转换为实际数据 (3) 将小类指标合并成大类指标 (4) 将总量指标进行对数变换变量数据的变换有时可得到较好的结果, 但无法保证一定可以得到很好的结果

32 二逐步回归法 (1) 用被解释变量对每一个所考虑的解释变量做简单回归 () 以对被解释变量贡献最大的解释变量所对应的回归方程为基础, 按对被解释变量贡献大小的顺序逐个引入其余的解释变量若新变量的引入改进了 R 和 F 检验, 且回归参数的 t 检验在统计上也是显著的, 则在模型中保留该变量

33 若新变量的引入未能改进 R 和 F 检验, 且对其他回归参数估计值的 t 检验也未带来什么影响, 则认为该变量是多余变量若新变量的引入未能改进 R 和 F 检验, 且显著地影响了其他回归参数估计值的数值或符号, 同时本身的回归参数也通不过 t 检验, 说明出现了严重的多重共线性

34 第五节案例分析一研究的目的要求提出研究的问题为了规划中国未来国内旅游产业的发展, 需要定量地分析影响中国国内旅游市场发展的主要因素二模型设定及其估计影响因素分析与确定影响因素主要有国内旅游人数, 城镇居民人均旅游支出 X, 农村居民人均 X 3 X 4 旅游支出, 并以铁路里程 X 5 作为相关基础设施的代表理论模型的设定 Yt 1X t3x 3t4X 4t5X 5tu t 其中 : Yt 第 t 年全国国内旅游收入

35 中国旅游收入及相关数据1994 年 011 年数据的收集与处理年份国内旅游收入 Y( 亿元 ) 国内旅游人数 X( 万人次 ) 城镇居民人均旅游花费 X3 农村居民人均旅游花费 X4 铁路里程 X5 ( 万公里 ) ( 元 ) ( 元 )

36 OLS 估计的结果该模型可决系数较高,,F 检验值 5.85, 明显显著但是当 0.05 时 R R t ( n k) t (18 5).16 / 0.05 不仅 X5 的系数不显著, 而且 X3 X5 的符号与预期相反, 这表明可能存在严重的多重共线性

37 计算各解释变量的相关系数 X X3 X4 X5 X X X X 表明各解释变量间确实存在严重的线性关系

38 将每个解释变量分别作为被解释变量对其余的解释变量进行辅助回归, 回归所得到的可决系数和方差扩大因子的数值见下表被解释变量可决系数的值方差扩大因子 X X X X R 1 1 R 经验表明, 方差扩大因子 VIFj 10 时, 通常说明该解释变量与其余解释变量之间有严重的多重共线性, 这里 X X5 的方差扩大因子远大于 10, 表明存在严重多重共线性问题 VIF j j

39 三消除多重共线性将各变量进行对数变换, 再对以下模型进行估计 ln Yt 1 ln X t 3 ln X 3t 4 ln X 4t 5 ln X 5t Yt X X 3 X 4 X 5 将等数据取自然对数后, 采用 OLS 方法估计模型参数, 得到的回归结果 t

40 四回归结果的解释与分析最后消除多重共线性的结果该模型 R , R 0.997, 可决系数很高,F 检验值 , 明显显著当 0.05 时 t ( nk) t (18 5).16 / 0.05, 所有系数估计值高度显著对系数估计值的解释 : 在其他变量保持不变的情况下, 如果旅游人数每增加 1%, 则国内旅游收入平均增加 0.91%; 如果城镇居民旅游支出每增加 1%, 则国内旅游收入平均增加 0.41%; 如果农村居民旅游支出每增加 1%, 则国内旅游收入平均增加 0.9%; 如果铁路里程每增加 1%, 则国内旅游收入平均增加 1%

41 第四章小结 1. 多重共线性是指各个解释变量之间有准确或近似准确的线性关系. 多重共线性的后果 : 如果各个解释变量之间有完全的共线性, 则它们的回归系数是不确定的, 并且它们的方差会无穷大如果共线性是高度的但不完全的, 回归系数可估计, 但有较大的标准误差回归系数不能准确地估计

42 3. 诊断共线性的经验方法 : (1) 表现为可决系数异常高而回归系数的 t 检验不显著 () 变量之间的零阶或简单相关系数多个解释变量时, 较低的零阶相关也可能出现多重共线性, 需要检查偏相关系数 R (4) 如果高而偏相关系数低, 则多重共线性是可能的 (5) 用解释变量间辅助回归的可决系数判断

43 4. 降低多重共线性的经验方法 : (1) 利用外部或先验信息 ; () 横截面与时间序列数据并用 ; (3) 剔除高度共线性的变量 ( 如逐步回归 ); (4) 数据转换 ; (5) 获取补充数据或新数据 ; (6) 选择有偏估计量 ( 如岭回归 ) 经验方法的效果取决于数据的性质和共线性的严重程度

44 第四章结束了!

歯WP02-12-부속물.PDF

歯WP02-12-부속물.PDF KIEP Working Paper 02-12 Has Trade Intensity in ASEAN+3 Really Increased? Evidence from a Gravity Analysis Has Trade Intensity in ASEAN+3 Really Increased? Evidence from a Gravity Analysis Heungchong KIM

计量经济学 第四章 多重共线性

计量经济学第四章多重共线性