一元线性回归

《一元线性回归》由会员分享，可在线阅读，更多相关《一元线性回归（20页珍藏版）》请在装配图网上搜索。

1、2.3 一元线性回归模型的统一元线性回归模型的统计检验计检验 一、拟合优度检验一、拟合优度检验 二、变量的显著性检验二、变量的显著性检验 三、参数的置信区间三、参数的置信区间 回归分析回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。尽管从统计性质统计性质上已知，如果有足够多的重复 抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定就等于该真值。那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行统计检验统计检验。主要包括拟合优度检验拟合优度检验、变量的显著性检验显著性检验及参数的区间估计区间

2、估计。一、拟合优度检验一、拟合优度检验 对样本回归直线与样本观测值之间拟合程度的检验。：判定系数判定系数（可决可决系数系数）R2 2 问题：问题：采用普通最小二乘估计方法，已经保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？1 1、总离差平方和的分解、总离差平方和的分解 已知由一组样本观测值（Xi,Yi），i=1,2,n得到如下样本回归直线 iiXY10iiiiiiiyeYYYYYYy)()(如果Yi=i 即实际观测值落在样本回归“线”上，则拟合最好拟合最好。可认为，“离差”全部来自回归线，而与“残差”无关。对于所有样本点，则需考虑这些点与样本均值离差的平方和,可以证明：记22)(Y

3、YyTSSii总体平方和总体平方和（Total Sum of Squares）22)(YYyESSii回归平方和回归平方和（Explained Sum of Squares）22)(iiiYYeRSS残差平方和残差平方和（Residual Sum of Squares）TSS=ESS+RSS Y的观测值围绕其均值的总离差总离差(total variation)可分解为两部分：一部分来自回归线一部分来自回归线(ESS)，另一部，另一部分则来自随机势力分则来自随机势力(RSS)。在给定样本中，TSS不变，如果实际观测点离样本回归线越近，则ESS在TSS中占的比重越大，因此 拟合优度拟合优度：回归平

4、方和：回归平方和ESS/YESS/Y的总离差的总离差TSSTSSTSSRSSTSSESSR1记22、可决系数、可决系数R2 2统计量统计量 称 R2 为（样本）（样本）可决系数可决系数/判定系数判定系数（coefficient of determination)。可决系数可决系数的取值范围取值范围：0，1 R2 2越接近越接近1 1，说明实际观测点离样本线越近，拟，说明实际观测点离样本线越近，拟合优度越高合优度越高。在实际计算可决系数时，在1已经估计出后：22212iiyxR 在例2.1.1的收入收入-消费支出消费支出例中，9766.045900207425000)777.0(222212ii

5、yxR 注：可决系数注：可决系数是一个非负的统计量。它也是是一个非负的统计量。它也是随着抽样的不同而不同。为此，对可决系数的统随着抽样的不同而不同。为此，对可决系数的统计可靠性也应进行检验，这将在第计可靠性也应进行检验，这将在第3章中进行。章中进行。二、变量的显著性检验二、变量的显著性检验 回归分析回归分析是要判断解释变量解释变量X是否是被解释变被解释变量量Y的一个显著性的影响因素。在一元线性模型一元线性模型中，就是要判断X是否对Y具有显著的线性性影响。这就需要进行变量的显著性变量的显著性检验。检验。变量的显著性检验所应用的方法是数理统计变量的显著性检验所应用的方法是数理统计学中的学中的假设检

6、验假设检验。计量经计学中计量经计学中，主要是针对变量的参数真值，主要是针对变量的参数真值是否为零来进行显著性检验的。是否为零来进行显著性检验的。1、假设检验、假设检验 所谓假设检验假设检验，就是事先对总体参数或总体分就是事先对总体参数或总体分布形式作出一个假设，然后利用样本信息来判断布形式作出一个假设，然后利用样本信息来判断原假设是否合理，即判断样本信息与原假设是否原假设是否合理，即判断样本信息与原假设是否有显著差异，从而决定是否接受或否定原假设有显著差异，从而决定是否接受或否定原假设。假设检验采用的逻辑推理方法是反证法。假设检验采用的逻辑推理方法是反证法。先假定原假设正确，然后根据样本信息，

7、观察由此假设而导致的结果是否合理，从而判断是否接受原假设。判断结果合理与否，是基于判断结果合理与否，是基于“小概率事件不易小概率事件不易发生发生”这一原理的这一原理的 2、变量的显著性检验、变量的显著性检验),(2211ixN)2(1112211ntSxti 检验步骤：检验步骤：（1）对总体参数提出假设 H0：1=0，H1：10（2）以原假设H0构造t统计量，并由样本计算其值11St（3）给定显著性水平，查t分布表，得临界值t/2(n-2)(4)比较，判断 若|t|t/2(n-2)，则拒绝H0，接受H1；若|t|t/2(n-2)，则拒绝H1，接受H0；对于一元线性回归方程中的0，可构造如下t统

8、计量进行显著性检验：)2(0022200ntSxnXtii在上述收入-消费支出例中，首先计算2的估计值 134022107425000777.04590020222221222nxyneiii0425.00018.07425000/13402221ixS41.98742500010/53650000134022220iixnXSt统计量的计算结果分别为：29.180425.0777.0111St048.141.9817.103000St 给定显著性水平=0.05，查t分布表得临界值 t 0.05/2(8)=2.306|t1|2.306，说明家庭可支配收入在家庭可支配收入在95%95%的置信的置

9、信度下显著，即是消费支出的主要解释变量；度下显著，即是消费支出的主要解释变量；|t2|2.306,表明在95%的置信度下，无法拒绝截距项为零的假设。假设检验假设检验可以通过一次抽样的结果检验总体参数可能的假设值的范围（如是否为零），但它并没有指出在一次抽样中样本参数值到底离总体参数的真值有多“近”。要判断样本参数的估计值在多大程度上可以“近似”地替代总体参数的真值，往往需要通过构造一个以样本参数的估计值为中心的“区间”，来考察它以多大的可能性（概率）包含着真实的参数值。这种方法就是参数检验的置信区间估计置信区间估计。三、参数的置信区间三、参数的置信区间 1)(P 如 果 存 在 这 样 一 个

10、 区 间，称 之 为 置 信 区 间置 信 区 间（confidence interval）；1-称为置信系数置信系数（置信度置信度）（confidence coefficient），称为显著性水平显著性水平（level of significance）；置信区间的端点称为置信限置信限（confidence limit）或临界值临界值（critical values）。一元线性模型中一元线性模型中，i(i=1，2）的置信区间的置信区间:在变量的显著性检验中已经知道：)2(ntstiii 意味着，如果给定置信度（1-），从分布表中查得自由度为(n-2)的临界值，那么t值处在(-t/2,t/2)的

11、概率是(1-)。表示为：Pttt()221即Ptstiii()221Ptstsiiiii()221于是得到:(1-)的置信度下,i的置信区间是(,)iitstsii22 在上述收入收入-消费支出消费支出例中，如果给定=0.01，查表得：355.3)8()2(005.02tnt由于042.01S41.980S于是，1、0的置信区间分别为：（0.6345,0.9195)（-433.32,226.98）由于置信区间一定程度地给出了样本参数估计值与总体参数真值的“接近”程度，因此置信区间越小越好。要缩小置信区间，需 （1 1）增大样本容量）增大样本容量n n，因为在同样的置信水平下，n越大，t分布表中的临界值越小；同时，增大样本容量，还可使样本参数估计量的标准差减小；（2 2）提高模型的拟合优度）提高模型的拟合优度，因为样本参数估计量的标准差与残差平方和呈正比，模型拟合优度越高，残差平方和应越小。