第三章 模型中误差项假定的诸问题汇总

《第三章 模型中误差项假定的诸问题汇总》由会员分享，可在线阅读，更多相关《第三章 模型中误差项假定的诸问题汇总（33页珍藏版）》请在装配图网上搜索。

1、第三章模型中误差项假定的诸问题第一节广义最小二乘法前面的分析知道，多元线性回归的数学模型可以表示 为：Y = 0+ 0 X +p X +.+ p X +t 1 2 2t 3 3tk kt t(t=1,2,3,，n) 其中p是随机误差项，它代表的是对于Y的变化，Xt不能解 释的微小变动的全部。用矩阵表示，则上述回归模型可以表示为：其中，Y2Y = Y3 ,X=r 11:X21X22X31X32.,Xk 1:Xk 2:，U =r uuu231X2 nX3nXkn u 顷n JP20= 03，JPk运用最小二乘准则，我们得到的参数的估计量为:0 =(x X )-1 X Y对于随机误差项叩我们所做的假

2、定有三个：零均值、同方 t差和非自相关。这三个假定的矩阵表述为：(E ()E(u)E(U )0 000l0 7=0var (u )cov (uvar (U )=cov (u,u var (u )cov (u,u cov(u , u).cov (u.cov (uvar (u )=b 2=b 21l E 侦)J=J最l0在上述假定条件下，我们得出的参数估计值具有最优线性无 偏估计特性。现实情况的偏离:1、随机扰动项均值不为零时，通过将随机扰动项与常数项结合，不会对估计产生影响。2、同方差和非自相关假设不满足时，会对最小二乘估计产生重要影响。因此，不满足假定条件的分析可以归结为同方差和非自相关 的偏

3、离。用矩阵来表示为：E U =b : Q其中，Q为n阶正定矩阵。，当正定对称矩阵已知时，可以通过对给出的模型做变换，使 得变换后的模型满足标准线性回归模型的条件，进而，运用 最小二估计准则，求出满足最优线性无偏估计特性的参数估 计量。Y = X B + U假设有模型尸，其中随机扰动项不满足E（UU ）=。2Q同方差和非自相关条件，即有以因此，不能直接用最小二乘估计准则进行估计。现在，由于为n阶对称正定矩阵，故存在可逆矩阵D 使得下述式子成立：Q = DDY = X B + U对原有模型H进行变换，即等式两边同时左乘矩阵D T有：Y=XB+Un D-1Y = D-1X B+ D-1U令：Y =

4、D-iY, X = D-iX ,U = D-1U*。Y = X B + U从而，原有模型H转换为：Y*= X*B+ U *，新模型中的随机扰动项的协方差矩阵为：Var（U ）= E（U U ）= E D-1U QU ）=E -1UU（D1 ）= D-i E（UU ）（D1）=D-ib 2 Q（D-i） = b 2 D-iQ（D-i）uu=b 21，Q = DD n D-iQ（D-i） = D-iDD（D-i）、n D-iQ（D-i） = I vn这样，就可以运用最小二乘法进行估计，并得出参数估 计值：p =（X X X Y*将Y = D-i匕X = D-iX U = D-U代入得到：*/*D-

5、iYp =（X X ）】X Y = D-iX ） （D-iX ），（D-iX ）* *=（X （D-i） D-i X X （D-i） D-iY=（XQ-iX）】XQ-iY.- 一人- .-因此，这里我们得出的。称为参数的广义最小二乘估计量，*.人.一-一很明显，。具有最优线性无偏估计量特征。*上述在随机扰动项不满足假定条件的情况下，我们仍然 能够得到参数的最优线性无偏估计量的关键是，误差项协方 差矩阵Q已知，进而我们通过变换和处理使其化为满足假定 条件的模型。现实情况是误差项协方差矩阵Q未知。因此， 必须首先对Q进行讨论。第二节序列相关随机扰动项不满足同方差和非自相关条件，即有E(UU )=。

6、2Qu如果Q已知，我们仍然能够得到最优线性无偏估计量， 在现实情况下，Q通常未知，首先应该对其进行分析讨论。因此，对随机扰动项假设不满足的条件的讨论分为两个 方面：一个是同方差是否满足，一个是非自相关是否满足。 这两个方面用数学语言来说明，就是讨论误差项协方差矩阵 Q，因为，此矩阵上的主对角线上的元素是方差；非主对角 线的元素是协方差，说明的就是误差项之间的关系。本节先 讨论误差项非自相关不满足的情况。一、误差项之间产生序列相关的原因序列相关的定义：模型中随机误差项不满足关系式：E(p p)=0t s这时称误差项之间存在着序列相关。误差项存在自相关，主要有如下几个原因。(1) 模型的数学形式不

7、妥。若所用的数学模型与变量间 的真实关系不一致，误差项常表现出自相关。比如平均成本 与产量呈抛物线关系，当用线性回归模型拟合时，误差项必 存在自相关。(2) 惯性。大多数经济时间序列都存在自相关。其本期值往往受滞后值影响。突出特征就是惯性与低灵敏度。如国民 生产总值，固定资产投资，国民消费，物价指数等随时间缓地变化，从而建立模型时导致误差项自相关。（3）回归模型中略去了带有自相关的重要解释变量。 若丢掉了应该列入模型的带有自相关的重要解释变量，那么 它的影响必然归并到误差项ut中，从而使误差项呈现自相 关。当然略去多个带有自相关的解释变量，也许因互相抵消 并不使误差项呈现自相关。二、序列相关存

8、在时的回归分析结果与主要影响1、序列相关的主要形式：一阶自回归模型：Y=以+0X+uU = pu +其中，牛满足条件：E（8 ）= 0EJ ）=6E（8 8 ）= 0上述模型成为随机误差项的一阶自回归模型（？），是 一种重要的自相关模型2、序列相关的表现形式:Ut = PUt-1 +St。分三种情况：相关系数p的符号而定。3、序列相关的回归分析U pu +U =p(pu +S )+8 = +ps +p 2U2t1t tt1t2U =8 +p8 + P 2 (pu +8 )t tt1t3 t2=8 +p8 +p 28 +p 3UU = 8 + p8 + p 28+ p 38+t tt 1t 2t

9、 3又因为有：E(8 )= 0e( 2 )=6E(8 )= 0所以有：E (U )= E (8 + P8 + P28+ P38 + )= 01t2t3Var (u ) = Var V8 + p8 + p 28+ p38+1t2t3=b 2 1 + p 2 + p 2 + ) 8p 2 )进一步，我们可以得到U的协方差矩阵:E(UU) = b 2u.P n-1.P n - 2=b2 QP n-1P n-3=b 2u这里有bM-P 2 ）4、序列存在自相关时，如果继续采用最小二乘法，对模型的估计与检验到来以下的后果:1、参数估计不再具有最小方差性;2、序列正相关时，即p为正值时，最小二乘法估计时的

10、方差偏小，从而t检验值变大，容易出现拒零假设，从而造成解释变量的人为保留，导致伪回归的危险增大。=i3、t检验和F检验不能用。三、序列自相关的检验1、图示法图示法就是依据残差et对时间t的序列图作出判断。 由于残差et是对误差项ut的估计，所以尽管误差项ut观 测不到，但可以通过*的变化判断ut是否存在自相关。图示法的具体步骤是，（1）用给定的样本估计回归模型， 计算残差e , （t = 1, 2,T），绘制残差图；（2）分析t残差图。说明是属于：不存在自相关、存在正自相关、存在 负自相关。需要说明的是，经济变量由于存在惯性，所以经济变量的 变化常表现为正自相关。2、DW（Durbin-Wat

11、son）检验法DW 检验是 J. Durbin, G. S. Watson于 1950，1951 年提 出的。它是利用残差et构成的统计量推断误差项ut是否存 在自相关。使用DW检验，应首先满足如下三个条件。误差项ut的自相关为一阶自回归形式。因变量的滞后值yt-1不能在回归模型中作解释变量。样本容量应充分大（T 15）DW检验步骤如下。给出假设H0: p = 0（ut不存在自相关）H1: p 0 （*存在一阶自相关）用残差值et计算统计量DW。X（e - e ）tt 1DW = t=2 Xe 2 t t=1其中分子是残差的一阶差分平方和，分母是残差平方和。 把上式展开，得Xe2 +Xe 2

12、2Xee tt1t t1DW = t=2t=2t=2Xt=1因为有乙2区，t=2t=2t=12乙2 - 2乙e乙e(.、=2 1 -PV 7所以t1t t1t t1DW r 1=2= 21 1 i乙2I乙2t1vt1t=2t=2因为p的取值范围是-1, 1,所以DW统计量的取值范|是0, 4。p与DW值的对应关系见下表表p与DW值的对应关系及意义pP = 0p = 1p = -10 p 1DWut的表现DW = 2ut非自相关DW = 0ut完全正自相关DW = 4Ut完全负自相关0 DW 2 ut有某种程度的正自相关-1 p 02 DW 4ut有某种程度的负自相关实际中DW = 0, 2,

13、4的情形是很少见的。当DW取值在 （0, 2），（2, 4）之间时，怎样判别误差项u是否存在自 t相关呢？推导统计量DW的精确抽样分布是困难的，因为DW 是依据残差et计算的，而et的值又与xt的形式有关。DW检 验与其它统计检验不同，它没有唯一的临界值用来制定判别 规则。然而Durbin-Watson根据样本容量和被估参数个数， 在给定的显著性水平下，给出了检验用的上、下两个临界值 谯和d+L。判别规则如下：图1.2（1）若DW取值在（0, dL）之间，拒绝原假设H0 ,认为 ut存在一阶正自相关。（2）若DW取值在（4 - dL , 4）之间，拒绝原假设H0 , 认为u存在一阶负自相关。（

14、3）若DW取值在（d4- d之间，接受原假设H0 , 认为ut非自相关。（4）若DW取值在（ddp或（4 - d/4 - dL）之间， 这种检验没有结论，即不能判别u是否存在一阶自相关。t判别规则可用图表示。当DW值落在“不确定”区域时，有两种处理方法。加 大样本容量或重新选取样本，重作DW检验。有时DW值会离 开不确定区。选用其它检验方法。DW检验表4给出DW检验临界值。DW检验临界值与三个参 数有关。检验水平，样本容量T,原回归模型中解 释变量个数k （不包括常数项）。注意：因为DW统计量是以解释变量非随机为条件得出 的，所以当有滞后的内生变量作解释变量时，DW检验无效。不适用于联立方程模

15、型中各方程的序列自相关检验。DW 统计量不适用于对高阶自相关的检验。四、误差项序列相关模型的估计设误差项序列相关的模型为：Y =ot + |3x + u =otX +13 X + ut2t tIt2t tU pu +8t1 t其中，有满足条件:E(8 ) = 0E G 2 )= (J 2tE(& 8 )=0怎样对该经济模型进行估计呢？分为以下几种情况。1、序列相关系数p己知时的估计第一种方法：广义最小二乘估计2QU ，Q由第一节广义最小二乘估计，随机扰动项不满足假定条件 E(UU 时，随机扰动项的协方差矩阵为 为对称正定矩阵。孕果Q已知，则通过关系式：可以得到一个D-i，进而通过如下的形式可以

16、对原有模型进行转换:即令：Y* = D-1Y,X*= D-iX ,U*= D-1U tt tt tt。从而，原有模型Yt =以X1t + pX 2t+气转换为:Y*=X*1U *。其中转化后的模型符合假定条件，能够用最小二乘准则 估计出最优线性无偏估计量，此估计量为：& =（X Q-1X ）】X Q-1Y称为广义最小二乘估计量。因此，问题的关键是要找出Q，进而找出D -1由上一节的讨论知道，当存在一阶自回归的自相关时，随机扰动项的协方差矩阵为:E(UU )= b 2u1 p p2 p1p.P n-1p n - 2 p n-3P n-1p n - 2=b 2 Qu其中，p为一阶相关系数。这说明:

17、1pp2.p n-1Q =p1p.p n - 2.p n-1p n - 2p n-3.1 _由此，可以求得:-p2一p 1D-1 =10-P 1 用变换得到的：、X、进行回归，得出的参数估计量就 是广义最小二乘估计量。因此，可以作变换/一-p 1D=01-p0y1Y 2Yn-11 Y nY *1Y *2Y *n-1Y*n-P2-PD-1X1t-PX 一X J1X11X *12=12X1n-1XL 1n JX *Jn-1X *1n0=X *1t-p 1D-1X =2110-P0XX *X 21X21X *22=22=X *211XXn-1L 2 n JX *Un-1X *2n1第二种方法：CO变

18、换法（广义差分变换法）Y=a + |3x + u原有模型tit t(其中有广1 *匕)的滞后一期形式为：七=a + (3 %_ +七 此式子两边同乘以p得到：pK = pot + p|3x + put12t1t1 ?原有模型减去上述模型得到：Y-pY =(1p)a + 0(X -pX )+u -put tl2t2$-1 t tl作如下变换(广义差分变化？)y* = y py ,a*=(i-p)a,x * = x pxt t12/2/2f1得到：Y* =a* + P% * +tit t0 = 2,3, /)这个模型满足标准线性模型的所有假设，可以用最小二乘法 进行估计。注意：第一，序列相关系数P

19、已知时广义最小二乘法和co 变换法（广义差分变换法）的区别与联系。=J第二，CO变换法（广义差分变换法）也成为广义最小二乘法,损失项怎样弥补？2、序列相关系数p未知时的估计实际当中，随机扰动项之间的相关系数p不可能知道，因此，必须对其进行估计取值。有三种方法：第一种，直接接取p = 1。认为ut的一阶自回归形式是：广ut_1 +e 一然后进行变 换，这种变换方法称作一阶差分法。所得模型称作一阶差分模型。一阶差分法的优点是计算简便。第二种，用DW统计量估计p。由 DW = 2 (1 - p)，得p= 1 - (DW / 2)第三种，CO法，用残差直接自回归的方法估计p。对于下述模型而言：Y =a

20、 + P X + u =a X +。X + ut2t t1t2t tU = pu +8步骤：1、先对模型Y =a X + P X 2t + u.进行估计，得到残差序列t .；e2、对残差t进行自回归，按照模型et = p % +匕进Ap行回归，得到3、运用得到的进行变换，即令:Y= Y -p)Y 1,a*=(1 p)a,X?*= X2 _pX2 1 进而得到模型Y * = a* + B X 2+ =J最对此模型进行最小二乘估计并得到参数。利用参数计算残差et，再利用进行自回归，得到新的序列相关系数p*。4、比较两个相关系数的大小，对于给定的精度5如果，p p*p下述式子成立：5则停止计算，采用

21、估计量a、&。，如果不等式不成立，则用P*代替返回到步骤3进行差分变 换。案例：城镇家庭实际收入人均消费性支出与实际人均可支配 收入:第三节异方差一、有关异方差的含义1、定义异方差：在线性模型的基本假定中，在其他假定不变的情况 下，随机扰动项t关于方差不变的假定不成立。2、数学表达式Var (u ) = 2 (t = 1,2,3,仍E；是一个随时间或序数变化的量）也即有：.Var (u )。Var (u ) 兮,j = 1,2,3, n.、 2 = EX +R ) t b = 且txtT%2t(Z (X X)u )2I (Z(X-x)2)2 It/Zx 266=M Mtt从这里我们可以得到:(

22、fcs j2Z (X - X)2E (u2 )tt(乙(X - X)2)2t3、异方差产生的后果:首先，存在异方差时，由于参数估计值的方差发生了变换， 因此，但在利用最小二乘法时使用的仍然是满足假定条件的 参数估计值的方差来算出来的t统计量，因此这时的统计量 就会发生偏差，最终导致错误的估计结果。其次，上面已经说明，在存在异方差时，尽管最小二乘法估 计仍然具有线性性、无偏性和一致性，但不具有最小方差性。三、异方差存在时，方差比已知时的模型估计（加权最小二 乘法）假设有如下的异方差模型:Y = P +P X +ut / 1、 2 2ttVar(u ) = c2 =b2c2其中， 未知，ct已知。

23、在此条件下，对原有模型进行变换，可以得到满足标准线1性回归条件的新的模型。对原有模型两边同乘c 有：，utY1+pX ut -21 + tc1c2c ctttt 0t此模型的随机扰动项为苻 其方差为:tVar (U) = J_ Var (u )=从而符合准线性回归条件（同方差）。可以用最小二乘进 行估计，并得到有效估计量（BLUE性质估计量）。、2加权最小二乘法：对变换后的模型进行回归，等价于求=1 ft I 的 t-p 1 -p Xt .C 1 C 2 c / ttt 7最小值。此种方法又称为加权最小二乘法（为什么）。经验方法：L的替代变量的寻找O四、异方差性的检验1、图示法回归后根据解释变

24、量和残差之间的散点图来判断2、研究的实际问题3、Goldfeld-Quandt 检验注意：当摸型含有多个解释变量时，应以每一个解释变量为基准检验异方差。 此法只适用于递增型异方差。匹1=1 对于截面样本，计算F统计量之前，必须先把数据 按解释变量的值从小到大排序。4、Breusch-pagan 检验（LM 检验）取自然对数四、异方差模型的估计1、运用的是Breusch-pagan检验(LM检验)的基本思想。2、加权最小二乘法3、取自然对数消除异方差案例 全国各地区城镇居民人均消费函数，设消费为Y,收入为X.全国各地区城镇居民人均消费和人均收入数据(1996)消费Y收入X15729.527332

25、.0124679.615967.7133424.354442.8143035.593702.6952767.843431.8163493.024207.2373037.323805.5383110.923768.3196763.128178.48104057.55185.79115764.276955.79123607.434512.77134248.475172.93142942.113780.2153770.994890.28163009.353755.44173713.514364.04184098.265052.12196736.098157.81204339.425033.33213

26、815.284926.43223787.594482.7233572.784221.24244007.484977.95254536.686556.28263211.243809.64272838.523353.94283177.783834.21293038.953612.12303457.144649.86一、Y和X的散点图如下，60005000400030002000二、根据散点图尝试建立如下回归方程:AA八-Y =P +P X12三、根据初步建立的回归方程用最小二乘估计。Eviews输出结果为:Dependent Variable: YMethod: Least SquaresDate

27、: 10/25/12 Time: 22:09Sample: 1 30Included observations: 30VariableCoefficientStd. Errort-StatisticProb.C110.1434139.27630.7908270.4357X0.7833750.02759728.386340.0000R-squared0.966418Mean dependent var3925.738Adjusted R-squared0.965219S.D.dependent var1071.088S.E. of regression199.7549Akaike info cr

28、iterion13.49640Sum squared resid1117257.Schwarz criterion13.58981Log likelihood-200.4460F-statistic805.7843Durbin-Watson stat2.042059 Prob(F-statistic)0.000000根据输出结果，写出规范的估计方程为:Y = 110.1434+ 0.7834X(0.7908 )(28.3863 )R2=0.9664 R2 = 0.9652 S=199.7549 DW=2.04四、检验是否存在异方差1、用图示法方法是按大小排序后画出解释变量和残差项之间的散点 图

29、2、运用Breusch-pagan检验方法进行检验在这里，用残差平方和对X进行回归。输出结果为:Dependent Variable: E2Method: Least SquaresDate: 10/25/12 Time: 23:43Sample: 1 30Included observations: 30VariableCoefficientStd. Errort-StatisticProb.C-77636.4860600.05-1.2811290.2107X23.5855312.007591.9642180.0595R-squared0.121104Mean dependent var37

30、241.89Adjusted R-squared0.089715S.D. dependent var91097.12S.E. of regression86914.72Akaike info criterion25.64758Sum squared resid2.12E+11Schwarz criterion25.74100Log likelihood-382.7137F-statistic3.858152Durbin-Watson stat2.025451Prob(F-statistic)0.059502估计结果e 2 =77636.48 + 23.58553Xtt（）对此结果，计算得nR2

31、 = 3.363。此值大于显著性水平为0.06 的卡方分布临界值，故拒绝零假设（即上述回归方程中x 的系数为零），从而说明存在异方差。五、对异方差进行处理并进行估计根据关系式算出方差。；的估计值 ；tV R I R v I然后对原有模型Y =料+七X +匕作如下变换：u+ tbtY(r X=1 + p b b 2 b=J最这样，该方程的随机扰动项满足假设条件(?)。可以用最 小二乘进行估计。Dependent Variable: Y1Method: Least SquaresDate: 10/26/12 Time: 00:33Sample: 1 30Included observations:

32、 30VariableCoefficientStd. Errort-StatisticProb.C-1.3360870.470021-2.8426130.0083X10.8543930.01383461.762360.0000R-squared0.992713Mean dependent var25.54262Adjusted R-squared0.992453S.D. dependent var11.19428S.E. of regression0.972485Akaike info criterion2.846417Sum squared resid26.48038Schwarz crit

33、erion2.939830Log likelihood-40.69626F-statistic3814.589Durbin-Watson stat2.149077Prob(F-statistic)0.000000作为比较，取对数后的估计结果为:Dependent Variable: LOG(Y)Method: Least SquaresDate: 10/26/12 Time: 00:38Sample: 1 30Included observations: 30VariableCoefficientStd. Errort-StatisticProb.C0.1817050.2870270.6330580.5318LOG(X)0.9532030.03391828.103150.0000R-squared0.965761Mean dependent var8.244644Adjusted R-squared0.964538S.D. dependent var0.242842S.E. of regression0.045730Akaike info criterion-3.267773Sum squared resid0.058555Schwarz criterion-3.174360Log likelihood51.01660Durbin-Watson stat2.066235