多元回归课件

《多元回归课件》由会员分享，可在线阅读，更多相关《多元回归课件（31页珍藏版）》请在装配图网上搜索。

1、多元回归1第4章 多元回归：估计与假设检验1）多元回归模型的概念2）如何估计多元回归模型，估计过程与一元模型有什么不同3）多元回归模型的假设检验与一元模型有什么不同4）多元回归模型与一元模型相比有哪些独特之处5）如果决定多元模型的解释变量个数多元回归中国汽车的保有量会达到1.4亿辆吗?中国经济的快速发展，使居民收入不断增加，数以百万中国经济的快速发展，使居民收入不断增加，数以百万计的中国人开始得以实现拥有汽车的梦想，中国也成为世界计的中国人开始得以实现拥有汽车的梦想，中国也成为世界上成长最快的汽车市场。上成长最快的汽车市场。中国交通部副部长在中国交通可持续发展论坛上做出预中国交通部副部长在中国

2、交通可持续发展论坛上做出预测测:“2020年，中国的民用汽车保有量将比年，中国的民用汽车保有量将比2003年的数字年的数字增长倍，达到增长倍，达到1.4亿辆左右亿辆左右”。是什么因素导致中国汽车数量的增长是什么因素导致中国汽车数量的增长?多元回归 影响中国汽车行业发展的因素并不是单影响中国汽车行业发展的因素并不是单一的，经济增长、消费趋势、市场行情、一的，经济增长、消费趋势、市场行情、业界心态、能源价格、道路发展、内外环业界心态、能源价格、道路发展、内外环境，都会使中国汽车行业面临机遇和挑战境，都会使中国汽车行业面临机遇和挑战。分析中国汽车行业未来的趋势分析中国汽车行业未来的趋势,应具体分析这

3、样一些问题：应具体分析这样一些问题：中国汽车市场发展的状况如何？中国汽车市场发展的状况如何？（用销售量观测）（用销售量观测）影响中国汽车销量的主要因素是什么？影响中国汽车销量的主要因素是什么？（如收入、价格、费用、道路状况、能源、政策环境等）（如收入、价格、费用、道路状况、能源、政策环境等）各种因素对汽车销量影响的性质怎样？各种因素对汽车销量影响的性质怎样？（正、负）（正、负）各种因素影响汽车销量的具体数量关系是什么？各种因素影响汽车销量的具体数量关系是什么？所得到的数量结论是否可靠？所得到的数量结论是否可靠？中国汽车行业今后的发展前景怎样？应当如何制定汽车的中国汽车行业今后的发展前景怎样？应

4、当如何制定汽车的产业政策？产业政策？很明显，只用一个解释变量已很难分析汽车产业的发展很明显，只用一个解释变量已很难分析汽车产业的发展,还需要寻求有更多个解释变量情况的回归分析方法。还需要寻求有更多个解释变量情况的回归分析方法。多元回归 多元线性回归模型多元线性回归模型:表现在线性回归模型中的解释变量有多个。一般表现形式一般表现形式：ikikiiiXXXY 22110i=1,2,n其中:k为解释变量的数目，j称为回归参数回归参数（regression coefficient）。0是截距，表示解释变量为零时Y的平均值 4.1 多元线性回归模型 多元回归62、偏回归系数、偏回归系数B2、B3称为偏回

5、归系数称为偏回归系数B2表示当其他条件不变时，表示当其他条件不变时，X2变动一个单位变动一个单位Y的均值的改变量；的均值的改变量；B3表示当其他条件不变时，表示当其他条件不变时，X3变动一个单位变动一个单位Y的均值的改变量的均值的改变量。多元回归7q多元线性回归模型：多元线性回归模型：ikikiiiuXBXBXBBY 33221lY：因变量因变量lX2，Xk ：自变量自变量4.2 多元线性回归模型的若干假定 多元回归8多元回归模型的假定多元回归模型的假定4.1 回归模型是参数线性的，并且正确设定。回归模型是参数线性的，并且正确设定。4.2 X是非随机变量，或与扰动项不相关。是非随机变量，或与扰

6、动项不相关。4.3 误差项的期望值为误差项的期望值为0。4.4 同方差假定。同方差假定。4.5 无自相关假定。无自相关假定。4.6 解释变量之间不存在完全共线性。解释变量之间不存在完全共线性。4.7 误差项服从正态分布。误差项服从正态分布。多元回归94.3 多元回归参数的估计iiiiuXBXBBY 33221q最小二乘准则：q真实值与拟合值的离差平方和最小。nininiiXbXbbYYYiiiiie12121233221多元回归10回归系数的OLS估计量33221XbXbYb 23223223232322)(iiiiiiiiiiixxxxxxyxxyxb 23223223222233)(iii

7、iiiiiiiixxxxxxyxxyxb 多元回归11OLS估计量的代数性质 nininiiXbXbbYYYkikiiiie121212221 0000321QQQQbbbbk（1）OLS残差和为零残差和为零。0 ie（2）X和和OLS残差的协方差为零残差的协方差为零。0 iiXe多元回归12OLS估计量的方差与标准误KNesi 222)1()(22222rxsbraVi )1()(22323rxsbraVi 23222232)1(),(xxrrsbbvoC 多元回归13多元回归OLS估计量的性质 在古典线性回归模型的基本假在古典线性回归模型的基本假定下，定下，OLS估计量是最优线性估计量是最

8、优线性无偏估计量。无偏估计量。多元回归144.6 多元回归的假设检验1131()nbBttse b 假设误差项假设误差项u服从正态分布，则服从正态分布，则OLS估计量服从正态分布估计量服从正态分布2232()nbBttse b3333()nbBttse b多元回归15实例：美国未偿付抵押贷款债务实例：美国未偿付抵押贷款债务 1、提出问题：提出问题：q为了研究未偿付抵押贷款余额与个人收入和为了研究未偿付抵押贷款余额与个人收入和抵押贷款费用的关系。抵押贷款费用的关系。qY：美国非农业未偿还抵押贷款（单位：亿美元）美国非农业未偿还抵押贷款（单位：亿美元）qX2：个人收入（单位：亿美元）个人收入（单位

9、：亿美元）qX3：抵押贷款费用（抵押贷款费用（%）q预期预期X2的系数为正，的系数为正，X3的系数为负。的系数为负。多元回归162、数据表 X2X3Y2285.712.661365.52560.414.71465.52718.715.141539.32891.712.571728.23205.512.381958.73439.611.552228.33647.510.172539.93877.39.312897.64172.89.193197.34489.310.133501.74791.610.053723.44968.59.323880.95264.28.244011.15480.37.2

10、4185.75753.17.494389.76115.17.8746223、回归结果、回归结果 VariableCoefficientStd.Errort-StatisticProb.C155.6083578.37930.2690420.7921X20.8258160.06357312.990030X3-56.4332931.4572-1.7939710.0961R-squared0.9894372952.175Adjusted R-squared0.9878111132.051S.E.of regression124.980712.66156Sum squared resid203062.2

11、12.80642Log likelihood-98.29245608.8292Durbin-Watson stat0.4020190 Schwarz criterion F-statistic Prob(F-statistic)Included observations:16 Mean dependent var S.D.dependent var Akaike info criterionDependent Variable:YMethod:Least SquaresDate:09/26/05 Time:14:09Sample:1980 1995多元回归18偏回归系数的意义（1）Y对X2回归

12、q得到回归残差序列 RY-X2，q表示Y中未被X2解释的部分；多元回归19（2）X3 对X2回归q得到回归残差序列 RX3-X2，qRX3-X2表示X3中未被X2解释的部分，即X3中独立于X2的部分；多元回归20 （3）RY-X2对RX3-X2 回归qRX3-X2的系数就是二元回归方程中X3的系数。RY-X2对RX3-X2 回归的实质：qY中不能被X2解释的部分作为因变量，以X3中不能被X2解释的部分作为自变量的回归q即X3对Y的独立贡献。q偏回归系数。33221XbXbbY 多元回归21qb2（X2 的系数）：q表示在其他条件不变时，收入每增加1美元，抵押贷款债务平均地增加83美分；qb3（

13、X3的斜率系数）：q表示在其他条件不变时，抵押贷款费用每上升一个百分点，抵押贷款债务将平均下降56亿美元。qb1：截距项。多元回归22工资方程qeduc:受教育的年数qexper:工作经历qtenure:现任职务的任期q当一个人在同一企业多待一年，对工资的影响？tenureereducgeaw022.0exp004.0092.0284.0%多元回归23拟合优度拟合优度R2和调整的和调整的R2qR2 拟合优度（判定系数、决定系数）TSSRSSTSSESSR 12q总离差平方和总离差平方和=残差平方和残差平方和+回归平方和回归平方和q TSS=ESS+RSS222)()()(YYYYYYiiii

14、多元回归24拟合优度 R2q解释变量引起的变动占总变动的百分比解释变量引起的变动占总变动的百分比q取值在取值在01之间，越接近之间，越接近1拟合程度越高拟合程度越高q在回归方程中加入更多的自变量会不断提高在回归方程中加入更多的自变量会不断提高R2 YYYYTSSRSSTSSESSRiii22211多元回归25调整的调整的R2q用残差平方和与总平方和各自的自由度进行调整。q以免增加解释变量数，提高拟合优度。112 NTSSkNRSSR YYYYTSSRSSTSSESSRiii22211kNNTSSRSS 11kNNR 1)1(12多元回归26 引入调整拟合优度的作用kNNRR 1)1(122q添

15、加解释变量，拟合优度增加q调整的拟合优度当变量个数增加到一定程度时，开始下降多元回归27多元回归的总体显著性检验多元回归的总体显著性检验q检验联合假设：检验联合假设：B2=B3=0qF检验检验q把模型作为一个整体进行假设检验，把模型作为一个整体进行假设检验，检验模型中被解释变量与解释变量检验模型中被解释变量与解释变量之间的线性关系是否显著的成立。之间的线性关系是否显著的成立。iiiiuXBXBBY 33221多元回归28F检验统计量的构造uXkBXBXBBYki 332210:0,0,0:1320至至少少其其中中一一个个不不为为HbbbHk ),1()()1(22knkFknkFYYYY HHFknkF00;,),1(否则，不拒绝否则，不拒绝拒绝拒绝若若 总离差平方和=残差平方和+回归平方和222)()()(YYYYYYiiii多元回归291-FFf(F)F检验的拒绝域多元回归30F与与R2的关系的关系 )()1(22knkFYYYY )()1()1(22knRkR F检验：可用于检验检验：可用于检验R2的显著性的显著性R2是否显著不为是否显著不为0。多元回归31什么时候增加新的解释变量通常而言，在增加解释变量后，调整的R2值增加，就可以增加新的解释变量。当增加变量系数t值的绝对值大于1时，调整的R2值就会增加。