异方差和自相关

《异方差和自相关》由会员分享，可在线阅读，更多相关《异方差和自相关（46页珍藏版）》请在装配图网上搜索。

1、会计学1异方差和自相关异方差和自相关n n对于经典计量模型，我们的基本假设有：对于经典计量模型，我们的基本假设有：对于经典计量模型，我们的基本假设有：对于经典计量模型，我们的基本假设有：假设 对于解释变量的所有观测值，随机误差项有相同的方差。第1页/共46页n n此时可得：此时可得：此时可得：此时可得：n n在存在异方差的情况下：在存在异方差的情况下：在存在异方差的情况下：在存在异方差的情况下：因此，估计结果无偏，但不是有效的（随机误差项方差变大）。第2页/共46页n n误差项存在异方差：误差项存在异方差：U的方差的方差-协协方差矩阵方差矩阵Var(u)主对角线上的元素主对角线上的元素不相等不

2、相等。第3页/共46页n n异方差是违背了球型扰动项假设异方差是违背了球型扰动项假设的一种情形。在存在异方差的情的一种情形。在存在异方差的情况下：况下：n n（1）OLS 估计量依然是无偏、一估计量依然是无偏、一致且渐近正态的。致且渐近正态的。n n（2）估计量方差）估计量方差Var(b|X)的表达的表达式不再是式不再是2(XX)1，因为，因为Var(|X)2I。n n（3）Gauss-Markov 定理不再成定理不再成立，即立，即OLS不再是最佳线性无偏不再是最佳线性无偏估计（估计（BLUE）。）。第4页/共46页n n一般截面数据容易产生异方差一般截面数据容易产生异方差n n而时间序列数据

3、容易产生自相而时间序列数据容易产生自相关关第5页/共46页异方差的检验异方差的检验n n1。残差图。残差图n n2。怀特检验。怀特检验n n3。Breusch-Pagan（BP）检验）检验n n4。G-Q 检验检验(Goldfeld-Quandt,1965)n n5。Szroeters 秩检验秩检验(Szreter,1978)n n后两种现在已经基本不用。后两种现在已经基本不用。第6页/共46页n n1。画图：散点图和残差图。画图：散点图和残差图。第7页/共46页n n1。残差图：。残差图：n nrvfplot（residual-versus-fitted plot）n nrvpplot va

4、rname（residual-versus-predictor plot）n n作图命令一定要在回归完成之后作图命令一定要在回归完成之后进行进行n nrvfplot yline(0)第8页/共46页n n2。怀特检验：。怀特检验：第9页/共46页第10页/共46页第11页/共46页n n2。怀特检验命令：。怀特检验命令：n n做完回归后，使用命令：做完回归后，使用命令：n nestat imtest,white第12页/共46页Breusch and Pagan 检验检验根据异方差检验的基本思路，根据异方差检验的基本思路，根据异方差检验的基本思路，根据异方差检验的基本思路，Breusch an

5、d Breusch and PaganPagan（19791979）和）和）和）和Cook and Cook and WeisbergWeisberg（19831983）主要思路：用主要思路：用主要思路：用主要思路：用 e ei i2 2/avg(e/avg(ei i2 2)对一系列可能导致对一系列可能导致对一系列可能导致对一系列可能导致异方差的变量作回归。异方差的变量作回归。异方差的变量作回归。异方差的变量作回归。第13页/共46页n nH0H0：a1=a2=.=0 a1=a2=.=0 （不存在）（不存在）（不存在）（不存在）n nH1H1：a1a1，a2.a2.不全为不全为不全为不全为0

6、0 （存在）（存在）（存在）（存在）n nStep1Step1：估计原方程，提取残差，并求其平方：估计原方程，提取残差，并求其平方：估计原方程，提取残差，并求其平方：估计原方程，提取残差，并求其平方e ei i2 2。n nStep2Step2：计算残差平方和的均值：计算残差平方和的均值：计算残差平方和的均值：计算残差平方和的均值avg(eavg(ei i2 2)。n nStep3Step3：估计方程，被解释变量为：估计方程，被解释变量为：估计方程，被解释变量为：估计方程，被解释变量为e ei i2 2/avg(e/avg(ei i2 2)，解释变量依然为原解释变量。解释变量依然为原解释变量。

7、解释变量依然为原解释变量。解释变量依然为原解释变量。n nStep4Step4：构造统计量：构造统计量：构造统计量：构造统计量Score=0.5*RSSScore=0.5*RSS服从自由度为服从自由度为服从自由度为服从自由度为k k的的的的卡方分布。查表检验整个方程的显著性。卡方分布。查表检验整个方程的显著性。卡方分布。查表检验整个方程的显著性。卡方分布。查表检验整个方程的显著性。注意：在第注意：在第注意：在第注意：在第3 3步中，方便起见也可以用被解释变量的步中，方便起见也可以用被解释变量的步中，方便起见也可以用被解释变量的步中，方便起见也可以用被解释变量的拟合值作为解释变量。拟合值作为解释

8、变量。拟合值作为解释变量。拟合值作为解释变量。第14页/共46页n n3 3。BP BP 检验：做完回归后，使用命令：检验：做完回归后，使用命令：检验：做完回归后，使用命令：检验：做完回归后，使用命令：n nestat hettest,normalestat hettest,normal（使用拟合值（使用拟合值（使用拟合值（使用拟合值y y ）n nestat hettest,rhs estat hettest,rhs（使用方程右边的解释变量，而不（使用方程右边的解释变量，而不（使用方程右边的解释变量，而不（使用方程右边的解释变量，而不是是是是y y ）n n最初的最初的最初的最初的BP BP

9、 检验假设扰动项服从正态分布，有一定检验假设扰动项服从正态分布，有一定检验假设扰动项服从正态分布，有一定检验假设扰动项服从正态分布，有一定局限性。局限性。局限性。局限性。KoenkerKoenker（19811981）将此假定放松为）将此假定放松为）将此假定放松为）将此假定放松为iidiid，在，在，在，在实际中较多采用，其命令为：实际中较多采用，其命令为：实际中较多采用，其命令为：实际中较多采用，其命令为：n nestat hettest,iidestat hettest,iidn nestat hettest,rhs iidestat hettest,rhs iid第15页/共46页1.s

10、ysuse auto,clear reg price weight length mpg检查是否具有异方差。检查是否具有异方差。2。reg weight length mpg检查是否具有异方差。检查是否具有异方差。3。use production,clear reg lny lnk lnl检查是否具有异方差检查是否具有异方差第16页/共46页n n4。use nerlove,clearn nreg lntc lnq lnpl lnpf lnpkn n检验是否具有异方差检验是否具有异方差第17页/共46页异方差的处理异方差的处理n n1 1。使用。使用。使用。使用“OLS+OLS+异方差稳健标准

11、误异方差稳健标准误异方差稳健标准误异方差稳健标准误”（robust robust standard errorstandard error）：这是最简单，也是目前比较流）：这是最简单，也是目前比较流）：这是最简单，也是目前比较流）：这是最简单，也是目前比较流行的方法。只要样本容量较大，即使在异方差的行的方法。只要样本容量较大，即使在异方差的行的方法。只要样本容量较大，即使在异方差的行的方法。只要样本容量较大，即使在异方差的情况下，只要使用稳健标准误，则所有参数估计、情况下，只要使用稳健标准误，则所有参数估计、情况下，只要使用稳健标准误，则所有参数估计、情况下，只要使用稳健标准误，则所有参数估计

12、、假设检验均可照常进行。假设检验均可照常进行。假设检验均可照常进行。假设检验均可照常进行。n n sysuse nlsw88,clearn n reg wage ttl_exp race age industry hoursn n reg wage ttl_exp race age industry hours,r第18页/共46页n n2 2。利用广义最小二乘法（。利用广义最小二乘法（。利用广义最小二乘法（。利用广义最小二乘法（GLSGLS）n n广义最小二乘法是对原模型加权，使之变成一个新广义最小二乘法是对原模型加权，使之变成一个新广义最小二乘法是对原模型加权，使之变成一个新广义最小二乘法

13、是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用普通最小二乘的不存在异方差性的模型，然后采用普通最小二乘的不存在异方差性的模型，然后采用普通最小二乘的不存在异方差性的模型，然后采用普通最小二乘法估计其参数。法估计其参数。法估计其参数。法估计其参数。n n其含义为其含义为其含义为其含义为n nVar(b)=Var(b)=2 2(XX)(XX)-1-1(X(XX)(XX)X)(XX)-1-1 通过加权使得通过加权使得通过加权使得通过加权使得 =I=In n因此，因此，因此，因此，GLSGLS和和和和WLSWLS要求要求要求要求已知。已知。已知。已知。第19页/共46页n n加权最小二

14、乘法（加权最小二乘法（加权最小二乘法（加权最小二乘法（WLSWLS）：）：）：）：n nsysuse auto,clearsysuse auto,clearn nreg price weight length foreignreg price weight length foreignn nestat hettest,normalestat hettest,normaln n假设异方差由假设异方差由假设异方差由假设异方差由weightweight引起，即：引起，即：引起，即：引起，即：reg price weight length foreign aw=1/lengthestat hettes

15、t,normal第20页/共46页在本题中，造成异方差的更可能是解释变量的线性组合，例如：此时需要下载命令wls0findit wls0wls0 price weight length foreign,wvar(length foreign)type(e2)estat hettest,normal第21页/共46页n nGLS和和WLS的一个缺点是假设扰的一个缺点是假设扰动项的协方差矩阵为已知。这常动项的协方差矩阵为已知。这常常是一个不现实的假定。因此，常是一个不现实的假定。因此，现代计量经济学多使用现代计量经济学多使用“可行广可行广义最小二乘法义最小二乘法”（FGLS）。）。第22页/共46

16、页可行广义最小二乘法可行广义最小二乘法可行广义最小二乘法可行广义最小二乘法FGLSFGLSn n(1)对原方程用对原方程用OLS进行估计，进行估计，得到残差项的估计得到残差项的估计i，n n(2)计算计算ln(i2)n n(3)用用ln(2)对所有可能产生异方对所有可能产生异方差的的解释变量进行回归，然后差的的解释变量进行回归，然后得到拟合值得到拟合值 in n(4)计算计算i=exp(i)n n(5)用用1/i 作为权重作为权重,做做WLS回归。回归。第23页/共46页FGLS的步骤的步骤n npredict u,resn ngen lnu2=ln(u2)n nreg lnu2 x1 x2n

17、 npredict g,xbn ngen h=exp(g)n ngen invvar=1/hn nreg y x1 x2aweight=invvarn n使用使用FGLS方法对方法对nerlove.dta的方的方程重新进行估计。程重新进行估计。第24页/共46页n n结论：结论：n n1.GLS估计是估计是BLUE的（如果的（如果 矩矩阵已知且设置正确），但阵已知且设置正确），但FGLS不不一定是一定是BLUE的（的（FGLS 估计时要估计时要事先估计事先估计 矩阵的参数，需要做矩阵的参数，需要做一些假设）。一些假设）。n n2.Robust稳健性估计更加稳健，稳健性估计更加稳健，而而FGLS

18、更加有效，选择时要在稳更加有效，选择时要在稳健性和有效性之间进行权衡。健性和有效性之间进行权衡。第25页/共46页n n在实际应用中，避免异方差的两种方法。其一，使在实际应用中，避免异方差的两种方法。其一，使在实际应用中，避免异方差的两种方法。其一，使在实际应用中，避免异方差的两种方法。其一，使不同变量的测度单位接近。比如，不同国家的收入不同变量的测度单位接近。比如，不同国家的收入不同变量的测度单位接近。比如，不同国家的收入不同变量的测度单位接近。比如，不同国家的收入和消费数据。如果利用总收入和总消费进行分析，和消费数据。如果利用总收入和总消费进行分析，和消费数据。如果利用总收入和总消费进行分

19、析，和消费数据。如果利用总收入和总消费进行分析，由于不同国家的总量相差非常巨大，因此模型中难由于不同国家的总量相差非常巨大，因此模型中难由于不同国家的总量相差非常巨大，因此模型中难由于不同国家的总量相差非常巨大，因此模型中难免出现异方差。如果利用人均收入和人均消费进行免出现异方差。如果利用人均收入和人均消费进行免出现异方差。如果利用人均收入和人均消费进行免出现异方差。如果利用人均收入和人均消费进行分析，就可以使得减弱不同国家变量之间的测度差分析，就可以使得减弱不同国家变量之间的测度差分析，就可以使得减弱不同国家变量之间的测度差分析，就可以使得减弱不同国家变量之间的测度差异，从而降低异方差的程度

20、甚至消除异方差。异，从而降低异方差的程度甚至消除异方差。异，从而降低异方差的程度甚至消除异方差。异，从而降低异方差的程度甚至消除异方差。n n其二，可能的情况下对变量取自然对数。变量取对其二，可能的情况下对变量取自然对数。变量取对其二，可能的情况下对变量取自然对数。变量取对其二，可能的情况下对变量取自然对数。变量取对数降低了变量的变化程度，因此有助于消除异方差。数降低了变量的变化程度，因此有助于消除异方差。数降低了变量的变化程度，因此有助于消除异方差。数降低了变量的变化程度，因此有助于消除异方差。第26页/共46页自相关自相关n n经典假设经典假设 随机误差项彼此之间不相关随机误差项彼此之间不

21、相关随机误差项彼此之间不相关随机误差项彼此之间不相关如果存在自相关，则：时间序列数往往存在着自相关，即：一般时间序列数据中，i.i.d 假设不成立第27页/共46页n n如果存在自相关：随机误差项的如果存在自相关：随机误差项的方差方差-协方差矩阵的非主对角线协方差矩阵的非主对角线上的元素不为上的元素不为0。第28页/共46页n n自相关包含一阶自相关和高阶自相关。自相关包含一阶自相关和高阶自相关。自相关包含一阶自相关和高阶自相关。自相关包含一阶自相关和高阶自相关。n n一阶自相关：一阶自相关：一阶自相关：一阶自相关：高阶自相关：第29页/共46页n n考察英国政府如何根据长期利率考察英国政府如

22、何根据长期利率（r20）的变化来调整短期利率）的变化来调整短期利率（rs），数据集为），数据集为ukrates.dta（1）做如下回归：）做如下回归：，其中：，其中：n n回归方程为：回归方程为：use ukrates,clear tsset month reg D.rs LD.r20 第30页/共46页自相关的检验自相关的检验n n1。图形法：自相关系数和偏自。图形法：自相关系数和偏自相关系数相关系数 predict e1,res ac e1 pac e1 corrgram e1,lag(10)第31页/共46页n n2。t检验和检验和F检验检验(wooldridge)n n思想：思想：t检

23、验，如果存在一阶自相检验，如果存在一阶自相关，残差项与其一阶滞后项回归关，残差项与其一阶滞后项回归后系数显著，如果解释变量非严后系数显著，如果解释变量非严格外生，回归时可加入解释变量。格外生，回归时可加入解释变量。reg e1 L.e1 reg e1 L.e1 LD.r20 同理，可以用同理，可以用F检验检验是否存在检验检验是否存在高阶自相关高阶自相关 reg e1 L(1/2).e1第32页/共46页n n3。DW检验：只能检验一阶自相检验：只能检验一阶自相关的序列相关形式，并且要求解关的序列相关形式，并且要求解释变量严格外生。释变量严格外生。根据样本个数和自由度查表得到DL和DU，并且构造

24、不同的区域。第33页/共46页reg D.rs LD.r20dwstat第34页/共46页n n经验上经验上DW值值1.8-2.2之间接受原假设，不存之间接受原假设，不存在一阶自相关。在一阶自相关。n nDW值接近于值接近于0或者接近于或者接近于4，拒绝原假设，拒绝原假设，存在一阶自相关。存在一阶自相关。第35页/共46页n n4。Q检验和检验和Bartlett检验检验 reg D.rs LD.r20 predict e2,res wntestq e2 wntestq e2,lag(2)wntestb e2第36页/共46页n n如果不能保证解释变量严格外生，例如解释变量如果不能保证解释变量严

25、格外生，例如解释变量如果不能保证解释变量严格外生，例如解释变量如果不能保证解释变量严格外生，例如解释变量中包含被解释变量的滞后项，可以用以下方法：中包含被解释变量的滞后项，可以用以下方法：中包含被解释变量的滞后项，可以用以下方法：中包含被解释变量的滞后项，可以用以下方法：n n5 5。D-WD-W s hs h检验检验检验检验 estat durbinaltestat durbinalt estat durbinalt,lag(2)estat durbinalt,lag(2)第37页/共46页6。对于高阶自相关的检验方法：。对于高阶自相关的检验方法：B-G检验检验 bgodfrey bgodf

26、rey,lag(2)第38页/共46页自相关的处理自相关的处理n n1.1.使用使用使用使用OLS+OLS+异方差自相关稳健的标准误异方差自相关稳健的标准误异方差自相关稳健的标准误异方差自相关稳健的标准误（HACHAC）n n方法被称为方法被称为方法被称为方法被称为Newey-WestNewey-West估计法（估计法（估计法（估计法（Newey and Newey and WestWest，19871987）reg D.rs LD.r20 reg D.rs LD.r20 newey D.rs LD.r20,lag(1)newey D.rs LD.r20,lag(1)（假设存在一阶自相（假设存

27、在一阶自相（假设存在一阶自相（假设存在一阶自相关）关）关）关）newey D.rs LD.r20,lag(2)newey D.rs LD.r20,lag(2)（假设存在二阶自相（假设存在二阶自相（假设存在二阶自相（假设存在二阶自相关）关）关）关）系数完全相同，但标准差和系数完全相同，但标准差和系数完全相同，但标准差和系数完全相同，但标准差和t t值不同。值不同。值不同。值不同。第39页/共46页可行广义最小二乘法（可行广义最小二乘法（FGLS）：广）：广义差分法：义差分法：CO-PW方法方法Cochrane-Orcutt(1949)估计估计(舍弃第一期观察值舍弃第一期观察值)Prais-Win

28、sten(1954)估计估计(对第一期对第一期观察值进行处理观察值进行处理 sqrt(1-rho2)*y1)第40页/共46页第41页/共46页 Cochrane-Orcutt(1949)Cochrane-Orcutt(1949)估计估计估计估计(舍弃第一期观察值舍弃第一期观察值舍弃第一期观察值舍弃第一期观察值)prais D.rs LD.r20,corc prais D.rs LD.r20,corc prais D.rs LD.r20,rho(dw)corc prais D.rs LD.r20,rho(dw)corc Prais-Winsten(1954)Prais-Winsten(1954

29、)估计估计估计估计(对第一期观察值进行处理对第一期观察值进行处理对第一期观察值进行处理对第一期观察值进行处理 sqrt(1-rho2)*y1)sqrt(1-rho2)*y1)prais D.rs LD.r20 prais D.rs LD.r20 prais D.rs LD.r20,rho(dw)prais D.rs LD.r20,rho(dw)时间序列一般样本不会太大，因此不要轻易舍弃。时间序列一般样本不会太大，因此不要轻易舍弃。时间序列一般样本不会太大，因此不要轻易舍弃。时间序列一般样本不会太大，因此不要轻易舍弃。第42页/共46页多重共线性多重共线性n n直观上说：当模型的直观上说：当模型

30、的直观上说：当模型的直观上说：当模型的R R2 2非常高，但多数解释变量都非常高，但多数解释变量都非常高，但多数解释变量都非常高，但多数解释变量都不显著，甚至系数符号相反，可能存在多重共线性不显著，甚至系数符号相反，可能存在多重共线性不显著，甚至系数符号相反，可能存在多重共线性不显著，甚至系数符号相反，可能存在多重共线性n n完全的多重共线性完全的多重共线性完全的多重共线性完全的多重共线性statastata会自动会自动会自动会自动dropdrop掉，例如掉，例如掉，例如掉，例如 gen dom=1-foreigngen dom=1-foreign reg price weight lengt

31、h foreign dom reg price weight length foreign dom 多重共线性的检验：膨胀因子多重共线性的检验：膨胀因子多重共线性的检验：膨胀因子多重共线性的检验：膨胀因子 estat vifestat vif 经验上当经验上当经验上当经验上当 (1)VIF(1)VIF 的均值的均值的均值的均值 =2=2n n (2)VIF (2)VIF 的最大值的最大值的最大值的最大值 接近或者超过接近或者超过接近或者超过接近或者超过1010 认为有较为严重的多重共线性。认为有较为严重的多重共线性。认为有较为严重的多重共线性。认为有较为严重的多重共线性。第43页/共46页多重

32、共线性的处理多重共线性的处理多重共线性的处理多重共线性的处理n n1 1。不作处理：如果模型重点关注的是整体对被解。不作处理：如果模型重点关注的是整体对被解。不作处理：如果模型重点关注的是整体对被解。不作处理：如果模型重点关注的是整体对被解释变量的解释能力，而不是具体回归系数是否显释变量的解释能力，而不是具体回归系数是否显释变量的解释能力，而不是具体回归系数是否显释变量的解释能力，而不是具体回归系数是否显著，则可不处理。著，则可不处理。著，则可不处理。著，则可不处理。n n2 2。不作处理：如果存在多重共线性，但变量显著，。不作处理：如果存在多重共线性，但变量显著，。不作处理：如果存在多重共线

33、性，但变量显著，。不作处理：如果存在多重共线性，但变量显著，此时消除多重共线性，只会使变量更加显著，此此时消除多重共线性，只会使变量更加显著，此此时消除多重共线性，只会使变量更加显著，此此时消除多重共线性，只会使变量更加显著，此时可不作处理。时可不作处理。时可不作处理。时可不作处理。n n3 3。删除引起多重共线性的某个变量。删除引起多重共线性的某个变量。删除引起多重共线性的某个变量。删除引起多重共线性的某个变量。n n4 4。合并引起多重共线性的变量，例如，。合并引起多重共线性的变量，例如，。合并引起多重共线性的变量，例如，。合并引起多重共线性的变量，例如，a a和和和和b b是引是引是引是

34、引起多重共线性的变量，引入新变量起多重共线性的变量，引入新变量起多重共线性的变量，引入新变量起多重共线性的变量，引入新变量c=a/bc=a/b，同时删，同时删，同时删，同时删除除除除a a和和和和b b。n n5 5。增大样本容量。增大样本容量。增大样本容量。增大样本容量。第44页/共46页 reg price mpg weight length foreignreg price mpg weight length foreign estat vif estat vif 还可以利用解释变量的相关系数还可以利用解释变量的相关系数还可以利用解释变量的相关系数还可以利用解释变量的相关系数 pwcor

35、r mpg weight length foreign pwcorr mpg weight length foreign 结论：结论：结论：结论：weightweight和和和和lengthlength具有严重的多重共线性具有严重的多重共线性具有严重的多重共线性具有严重的多重共线性 可以考虑去掉可以考虑去掉可以考虑去掉可以考虑去掉weightweight。reg price mpg length foreignreg price mpg length foreign estat vif estat vif pwcorr mpg length foreign pwcorr mpg length foreign 多重共线性基本消除多重共线性基本消除多重共线性基本消除多重共线性基本消除第45页/共46页