《多元线性回归模型的各种检验方法》由会员分享，可在线阅读，更多相关《多元线性回归模型的各种检验方法（22页珍藏版）》请在装配图网上搜索。
1、对多元线性回归模型的各种检验方法对于形如(1)Y=0 +PX +P X +AA+P X +u0112 2k k的回归模型，我们可能需要对其实施如下的检验中的一,L：种或几种检验：一、对单个总体参数的假设检验：t检验在这种检验中，我们需要对模型中的某个（总体）参数是否满足虚拟假设,0 :，=%,做出具有统计意义 （即带有一定的信度）的检验，其中.为某个给定的 j已知晚特别是，当a 5时，称为参数的（狭义意义 j上的）显瞧检验,如果拒绝H 0，说明解释变量X对释变量Y M显著的线性影响，估计值0才敢使j用；反之，说明解释变量对被解释变量，不具有显著的线性影响，估计值&-对我们就没有意义。具体检验
2、j方法如下：(1) 给定虚拟假设H 0 : & j =。；P - E (P ) P - atjj(2) 计算统计量Se(pP )Se(pP )的数;jjSe (P j) =6*，其中 C = (XtX) -1 川(3)在给定的显著水平下(a不能大于0.1即10%，也即我们不能在信度小于90%以下的前提下做结论)，查出双尾t( n-k-1 )分布的临界值ta / 2(4)如果出现tt的情况，检验结论为拒绝 a /2L ；反之，无法拒绝H 0。检验方法的关键是统计量t=牛必须服从改Se (P )j的t分布函数,什么情况或条件下才会这样呢？这需要 我们建立的模型满足如下的条件(成假定):(1)随机抽
3、样性。我们有一个含次观测的随机样 X, X 2, A , X 诙,Y ): i = 1,2, A , n ,这保证了误差 自身的随机性,即无自相关性，Cov(u 一 E(u )(w 一 E(u.) = 0。(2)条件期望值为0。给定解释变量的任何值，误 差u的期望值为零。即有E (u X , X , A , X ) = 0这也保证了误差独立于解释变量XX 2,A , X，即模型中的解释变是外生性的，也使得E (u ) = 0。(3 )不存在完全共线性。在样本因而在总体中，没有一个解释变量是常数，解释变量之间也不存在严格 的线性关系。(4) 同方差性. Var(uX 1,X2,A ,Xk)=。2
4、 =常数。(5)正态性。误差u满足u Normal (0 ,。2)。在以上5个前提下，才可以推导出：B N P , Var (B ).jjj(P -P )/Sd(P ) N(0,1) . jjj(P -P )/Se(P ) tj jjn - k-1由此可见，t检验方法所要求的条件是极为苛刻的。二对参数的一个线性组合的假设的检验(z)Z Z Z 一 Z 一一 0辛 xg+vv+(x+ X) g+ xe+ gnx一 I 0成。： 蕾集omr(I七栏；Z Z II 0 0 0 UH g Y+ v+ gY+ g YH胃 Xiiwf 0一III三、对参数多个线性约束的假设检验：F检验需要检验的虚拟假设为
5、:H0PI疽 0，61+2, A，P k = 0。该假设对模型（1）施加了 q个排除性约束。模型（1）在该约转变为如下的新模型：Y = P +P X +p X +AA+P X + u ,0 1 1 2 2k-q k-q （3）模型（1）称为不受约束（如）的模型，而模型（3 ）称 为受约束（）的模型。模型（3）也称为模型（1 ）的 嵌套模型，或子模虱 分别用。LS 方法估模型（1） 和（2）后，可以计算出如下的统计量:（RSS - RSS ）/ q-RSS /（n - k - 1）urF 就足： FF。利用改的F 分布函数,q， n - k -1我们就可以拒绝或接受虚拟假设关键在于，不需要满足检
6、验所需要的假定(3),统计h 0 吓k +1= ，Pk +24，3k = 0了。所以，一般来讲，F检验比t检验更先使用，用的更普遍，可信度更高。利用关系式 RSS = TSS(1 -R2)， rRSS = TSS(1 - R2)， F统计还可以写成：G 2 - R 2 )/ qF =ur r(1 R 2)/( n - k 1)urI、对回归模型整体显著性的检验：F检验需要检验的虚拟假设为H : 31=0,32，a ,3k= 。相当于前一个检验问题的特例，q=k。嵌套模型变为ur3 0 + 。R： = ，RSS = TSS , R 2 = R 2。F 统计量变为：匚 R 2/ kF 二(1R2)
7、/(nk1)_ESS / k-RSS/(ik 1)五、检验一般的线性约束需要检验的虚拟假设比如为RT，3，A, P = 0。受约束模型变为： kY = 3 0 + X1 + u再变形为：YX1= 0 + U。F统计只可用:(RSS RSS )/ q=RSS/(n - kk 1)其中，RSS = TSSy x =Zy -Xp-(Y X )=以 Y. Y) (X/I。六、检验两个数据集的回归参数是否相等：皱(至庄) 检验体回虚拟假定是总体回归系数的真值相等。步骤如下:(1)基于两组样本数据，进行相同设定的回归，将者的，分别记为RSS、和RSS 2。(2)将两组样本数据合并，基于合并的样本数据，进行
8、相同设定的回归，将回归的RSS记为RSST(3)计算下面的F统计:(RSS - RSS - RSS )/(k +1)=(RSS、】RSS2)/(七 + (-2k-2)(4)如果f F，拒绝原假定。七、耳成态假定下多个线性约束的大样本假设检验:LM (拉格郎日乘数)检验F检验方法需要模型(1)中的“满足正态性假定。在不满足正态性假定时在大样本条件下可以使用LM 统计。虚拟假设依然是H 0 : %广0, %, 广0。LM统计仅要求对受约束模型的估计。具体步骤如下:(i)将 对施加限制后的解释变进行回归，并保留残差。即我们要进行了如下的回归估计 Y= +X +X 4AA+p X +0112 2kq
9、kq(ii)将对所有解释变量进行辅助回归，即进行加下回归估计u =6l +(x X +(x X +AA+(x X +C 0112 2k k0bs oi也晾墨留凯掴号委曷(A!)s ! ， 疽冬 n 苦 W+HSM+H)员arzkalg*.KiHssf fis -饕疣曜叔蕾盲釐olsss SWI 8NMS3SII8验（regression specilfication error test , RESET） 是一种常用的方法 RESET背后的思想相当简单。如果原模型（1）满足经典假定（3）,那么在模型（1）中添 加解释变量的耳谶性关系应该是不显著的。尽管这样做 通常能侦察出函数形式误设，但如果原
10、模型中有许多解 释变量，它又有使用掉大量自由度的缺陷另外，非幽性关系的形式也是多种多样的。RESET则是在模型（1） 中添加模型（1）的OLS拟合值的多项式，以侦察函数 形式误设的一般形式。为了实施RESET，我必决定在一个扩大的回归L：模型中包括多少个拟合值的函数。虽然对这个问题没有 正确的答案，但在大多数应用研究中，都表明平方项和瞄理*,睡.瞄理0乙Hc-u j（l）Hf煦g&辜矗署做瞩:l艮（i） nsmf（）smZI 0,期寰。5祺神p神曜 3）smH军通聊脚晋就A fa EMnxfKBsv（i）叫米mk袖岫h曜, si滴跆心娜岫o（彷sm隆瞧，a洁 曾印配醯做判用（B丑as礴鲫可引岫
11、凿骥mr犁源峰薛叫心CI A AC C I I 03+Tq+yq+xg+vv+xg+xg+giI。）同咽48 *44剧sio咽窿蛔（i）智障smz九,利用非嵌套模型检验函数形式误设寻求对函数形式误设的其他类型(比如，试图决定某 一解释变量究竟应以水平值形式还是对数形式出现)作 出检验，需要离开经典假设检验的辖域。有可能要相对 模型Y = 0 +P log(X ) + P log(X ) +AA + P log(X ) + 8 01122kk(5)检验模型(1),或者把两个模型反过来。然而，它们是 非嵌套的，所以我们不能仅使用标准的F检验。有两种 不同的方法。T种方法由 Mizon and Ri
12、chard (1986)提出，构造(6)一个综合模型，将每个模型作为一个特殊情形而包含其 中，然后检验导致每个模型的约束。对于模型（1）和 模型（5）而言，综合模型就是Y =y +y X +A +y X + +y log(X ) +A +y log(X ) + 日01 1k kk+11k+kk可以先检验H : y = 0，A，8= 0，作为对模型（1）的检验。也可以通过对检验H ：y = 0,A，8 = 0，作为对模型（5）的检验。另一种方法由 Davison and MacKinnon (1981)提出。认为，如果模型（1）是正确的，那么从模型（5） 得到的拟合值在模型（1 ）中应该是不显著
13、的。因此， 为了检验模型（1 ）的正确性，首先用OLS估计模型（5 ）以得到拟合值，并记为.。在新模型(7)YY =。+P X +P X +AA+。X +9 Y + 日01122k k 1中计算.的t统计量，利用t检验拒绝雌受假定。yh :。K显著的t统计量就是拒绝模型(1)的证据。类似的， 为了检验模型(5)的正确性，首先用OLS估计模型(1) 以得到拟合值，并记为.。在新模型yy - P + P log(X ) + P log(X ) +A A + P log(X ) +。y + pI )01122kk 1中计算.的t统计量，利用t检验拒绝或接受假定。yh :。=。以上两种检验方法可以用于
14、检验任意两个具有相同的 被解释变量的非嵌套模型。非嵌套检验存在一些问题。首先，不一定会出现一个 明显好的模型。两个模型可能都被拒绝，也可能没有一 个被拒绝。在后一种情形中，我们可以使用调整的R- 平方进行选择。如果两个模型都被拒绝，则有更多的工作要做。不过，.要的是知道使用这种或那种函数形式 的后果，如果关键性解释变量对被解释变的影响没有 多大差异，那么使用那个模型实际上并不要紧。第二个问题是，比如说使用Davison andMacKinnon检验拒绝了模型（5）,这并不意味着模型（1 ）就是正确的模虱模型（5 ）可能会因为多种误设 的函数形式而被拒绝。卜更为可能的问题是，在解释变量不同的模型之间进行比较时，如何实施非嵌套检验。一个典型的情况是，iog（y）-个解释变量是，一个解释变是。使用调整的R- r平方进行比较，需要小心从事。
多元线性回归模型的各种检验方法
