线性回归模型２课件

《线性回归模型２课件》由会员分享，可在线阅读，更多相关《线性回归模型２课件（77页珍藏版）》请在装配图网上搜索。

1、线性回归模型课件第2章一元线性回归模型(2)思考题：1、CLRM关于随机误差项的五个假设是什么？2、影响SRF中斜率估计量方差的两个因素是什么？3、OLS估计量具有哪两个优良性质？4、假设检验的基本原理是什么？5、显著性水平和第一类错误指的是什么？线性回归模型课件思考题：6、对稻草人假设进行检验的标准是什么？7、拟合优度的含义和度量指标是什么？8、正态性检验的目的是什么？线性回归模型课件复习第2章(1)思考题：1、回归分析中的变量有何特点？2、被解释变量的两个组成部分的含义是什么？3、刻划被解释变量的两个参数分别是什么？4、样本回归模型与总体回归模型有何区别？5、最小二乘估计法的核心思想是什么

2、？6、回归模型参数的估计量是什么？线性回归模型课件复习第2章(1)思考题：7、一元线性回归具有哪三个性质？8、如何解释回归模型参数的含义？线性回归模型课件 假设1、随机误差项与解释变量X之间不相关 问题： 回归分析的基本原理是什么？2.1 2.1 古典线性回归模型（古典线性回归模型（CLRMCLRM）线性回归模型课件 假设2、随机误差项具有零均值 E(i)=0 i=1,2, ,n 如果假设2不成立： 0 线性回归模型课件 假设3、随机误差项具有同方差 Var (i)=2 i=1,2, ,n 线性回归模型课件 假设4、各个随机误差项之间无自相关 Cov(i, j)=0 ij i,j= 1,2,

3、,n 线性回归模型课件 假设5、服从正态分布 iN(0, 2 ) i=1,2, ,n 如果假设5不成立: 样本容量n30 中心极限定理 被解释变量服从正态分布线性回归模型课件 Y = f(X) + 被称为被称为随机随机误差项，代表所有其他影响因素的总误差项，代表所有其他影响因素的总和和因此，因此，Y Y是一个随机变量是一个随机变量刻划随机变量的两个参数： 期望值期望值 方差方差2.2 普通最小二乘估计量的方差线性回归模型课件 计量研究目标1、X对Y的具体影响：iiXXYE10)|(2、其他因素对Y的平均影响幅度： VarVar（Y Y） VarVar（ ） Y Y的标准差：的标准差：线性回归模

4、型课件1、随机误差项、随机误差项 的方差的方差 2的估计的估计2称为总体方差总体方差，反映了随机变量Y围绕其均值波动的平均幅度。 Y Y的方差：的方差： VarVar（Y Y） VarVar（ ） 线性回归模型课件 由于随机误差项 i不可观测，只能从 i的估计残差ei i出发，对总体方差进行估计。 线性回归模型课件iiiiieXeYY10iiiiiXXYEY10)|(理想但未知的总体回归模型近似但已知的样本回归模型线性回归模型课件 可以证明可以证明，双变量模型中2的无偏估计量为222nei线性回归模型课件 回归标准误：SER222nei222nei:SERRSSn2线性回归模型课件Eviews

5、 估计Salary 的标准误线性回归模型课件iiXXYE10)|(2、OLS估计量的方差估计量的方差线性回归模型课件XYxyxiii10212、OLS估计量的方差估计量的方差线性回归模型课件)var()var()var()var(21021iiiiiiikXkYk221020)/1 ()var()var()var(iiiiiikXnXwYw22222iiixxx22222222221iiiiixnXxnXnxxXn斜率和截距估计量的方差线性回归模型课件)var()var()var()var(21021iiiiiiikXkYk221020)/1 ()var()var()var(iiiiiikXn

6、XwYw22222iiixxx22222222221iiiiixnXxnXnxxXn斜率和截距估计量的方差请解释斜率方差的决定因素线性回归模型课件斜率方差的决定因素1、解释变量的变化程度解释变量的变化程度越大，对斜率的估计越精确线性回归模型课件01线性回归模型课件01线性回归模型课件 斜率方差的决定因素2、总体方差总体方差越小，对斜率的估计越精确线性回归模型课件01线性回归模型课件XY线性回归模型课件斜率估计量的标准差2x)(sd线性回归模型课件斜率估计量的标准误线性回归模型课件 2.3 OLS估计量的性质估计量的性质 当模型参数估计出后，需考虑参数估计值的精度，即是否能代表总体参数的真值。可

7、从如下几个方面考察估计量的优劣性： （1）无偏性）无偏性，即它的均值或期望值是否等于总体的真实值； （2）有效性）有效性，即它是否在所有线性无偏估计量中具有最小方差。说明：线性指估计量为随机变量Y的线性函数线性回归模型课件估计量估计总体的公式总体均值的估计量：样本均值线性回归模型课件估计量估计总体的公式总体均值的估计量：样本均值线性回归模型课件估计量与估计值随机样本：无数个样本一个具体的样本：1、样本中每个随机变量都取定一个观察值2、根据估计量的公式计算估计值线性回归模型课件 高斯高斯马尔可夫定理马尔可夫定理 给定CLRM的假设1-4，最小二乘估计量是具有最小方差的线性无偏估计量。线性回归模型

8、课件2 2、无无偏偏性性，即估计量0、1的均值（期望）等于总体回归参数真值0与1 1111)()()(iiiiEkkEE0000)()()()(iiiiEwEwEE线性回归模型课件无偏性成立的关键条件 CLRM的假设1： 和Xi不相关线性回归模型课件案例分析学生的数学考试成绩被解释变量：在一次高中10年级标准化数学考试中通过学生的百分比解释变量：有资格接受联邦政府午餐补助学生的百分比math10 = 0 + 1 lnchprg+ 1的含义1 0线性回归模型课件EviewsMATH10 = 32.14 0. 319*LNCHPRG请解释0.319的含义其他影响因素：例如学生的贫穷率学生的贫穷率与

9、受补助学生比例正相关，学生的贫穷率与数学考试通过率负相关线性回归模型课件3 3、有有效效性性（最最小小方方差差性性） ，即在所有线性无偏估计量中，最小二乘估计量0、1具有最小方差。 线性：帽是Y的线性函数XYxyxiii1021线性回归模型课件 1的正态分布),(2211ixN2.4 OLS估计量的概率分布线性回归模型课件2.5 假设检验不同的样本，得到不同的估计值，根据某一个具体样本得到的估计值质量如何？可以通过特定的检验指标来衡量线性回归模型课件x(收入收入)y（支出）（支出）80100 120 140 160 180 200 220 240 26050100150200第一个样本回第一个

10、样本回归直线归直线第一个样本第一个样本第二个样本第二个样本第二个样本回第二个样本回归直线归直线线性回归模型课件 显著性检验法显著性检验法 回归分析回归分析是要判断解释变量解释变量X是否是被解被解释变量释变量Y的一个显著性的影响因素。 计量经计学中计量经计学中，主要是针对变量的参数真，主要是针对变量的参数真值是否为零来进行显著性检验的。值是否为零来进行显著性检验的。稻草人假设：斜率参数为零稻草人假设：斜率参数为零 线性回归模型课件解释变量的显著性如果1等于零，则X对Y没有影响1的估计值不等于零但是1真的不等于零吗？问题：如何说服我们相信你高考的数学成绩不是零分？iiiXY10线性回归模型课件 1

11、、假设检验概述、假设检验概述 假设检验采用的逻辑推理方法是反证法。假设检验采用的逻辑推理方法是反证法。 先假定原假设正确，然后根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设。 判断结果合理与否，是基于判断结果合理与否，是基于“小概率事件不易发小概率事件不易发生生”这一原理的。这一原理的。如果结果是个小概率事件，那我们认为这是不可如果结果是个小概率事件，那我们认为这是不可能发生的。会发生不可能发生的事情，一定是假设能发生的。会发生不可能发生的事情，一定是假设前提错了。前提错了。上述上述“小概率事件小概率事件”的概率被称为检验的的概率被称为检验的“显著显著性水平性水平”，或

12、者，或者“犯第一类错误的概率犯第一类错误的概率”（拒绝了（拒绝了正确的虚拟假设）正确的虚拟假设）线性回归模型课件 问题显著性水平或犯错误概率在反证法推理中应当设定得越小越好，还是越大越好？线性回归模型课件t分布线性回归模型课件t分布t分布的均值为0t分布的方差为n/(n-2); n=30, 1.07nnn线性回归模型课件2a(1 a)t分布t落在红色区域中的概率为5|t| 2被认为是一个小概率事件02.5-22.5线性回归模型课件假设检验的基本思想1、设计一个服从特定分布的随机变量，例如t2、选择一个取值范围，上述随机变量落在该取值范围内的概率很小，例如53、根据样本数据计算上述随机变量的数值

13、4、判断该数值是否落在上述取值范围之内5、如果是，则认为发生了不可能发生的事情。因此得出结论：假设前提错了线性回归模型课件 2、解释变量的显著性检验、解释变量的显著性检验 ),(2211ixN)2n( t)(sext1112i211线性回归模型课件斜率1的显著性检验在上述t统计量中假设1等于零，得到)2n( t)(sext1112i211 t )(se11= 线性回归模型课件统计量t的解释t是一个随机变量，对应于不同的样本，t取不同的值给定一个具体样本，t是斜率的估计值和斜率的样本标准差的比率。被称为t比率 t )(se11= 线性回归模型课件ca(1 a)t分布临界值c|t| c的概率？在实

14、践中，一般取5，确定一个小概率事件tt(n-2)给定样本容量n和显著性水平，就可以计算c0a/2(1 a)-ca/2线性回归模型课件yi= 0+ 1xi iH0:1= 0 H1:1 0c0a/2(1 a)-ca/2双侧检验拒绝域拒绝域+ 线性回归模型课件 双边检验的步骤 （1）对总体参数提出假设 H0： 1=0， H1：10（2）以原假设H0构造t统计量，并由样本计算其值)(set11（3）给定显著性水平a，查t分布表，得临界值ct a/2(n-2)(4) 比较，判断 若 |t| t a/2(n-2)，则拒绝H0 ，接受H1 ； 若 |t| t a/2(n-2)，则拒绝H1 ，接受H0 ；线性

15、回归模型课件简易判断法则当n 30时，t分布近似于正态分布给定显著性水平为5，临界值c约为2如果t的绝对值大于2，就可以拒绝稻草人假设，说明斜率1显著地不等于零因此，解释变量X对被解释变量Y具有影响线性回归模型课件案例分析工资被解释变量：工资（1976年每小时美元数）解释变量：教育（年数）计量模型： wage = 0 + 1 educ + t10.17问题：如何对待稻草人假设？线性回归模型课件 关于5202.5%95%-22.5%拒绝域拒绝域线性回归模型课件p值p值是给定t比率后，能拒绝稻草人假设的最小显著性水平(犯错误水平）即给定显著性水平为p，根据样本计算的t比率刚好可以拒绝稻草人假设如果

16、显著性水平大于p，则仍然可以拒绝如果显著性水平小于p，则不可以拒绝问题：对于计量研究而言，p值越大还是越小好？线性回归模型课件案例分析工资被解释变量：工资（1976年每小时美元数）解释变量：教育（年数）计量模型： wage = 0 + 1 educ + p0.0000线性回归模型课件思考题假设p值为0.01，如果研究者采用的显著性水平为5，我们能否拒绝虚拟假设？如果研究者采用的显著性水平为0.5，我们能否拒绝虚拟假设线性回归模型课件 2.6 2.6 判定系数判定系数 对样本回归直线与样本观测值之间拟合程度的检验。 ：判定系数判定系数 R2 2 问题：问题：采用普通最小二乘估计方法，已经保证了模

17、型最好地拟合了样本观测值，为什么还要检验拟合程度？线性回归模型课件计算判定系数1.总离差平方和的分解我们知道：样本观测值（xi , yi）,i=1,2,n,的回归直线为：而观测值而观测值 Yi 可分解为：可分解为：iiiyy iiXY10eYY线性回归模型课件x(收入收入)y（支出）（支出）1x12x233x4x4iiXY10eeee线性回归模型课件可变为：而iiiyy iiiyyyy)(eeYYYYYY被解释变量围绕其均值的波动波动中被回归线所解释的部分波动中没有被回归线所解释的部分线性回归模型课件可以证明：其中22)(YYyTSSii总平方和总平方和（Total Sum of Square

18、s）22)(YYyESSii解释平方和解释平方和（Explained Sum of Squares）22)(iiiYYeRSS残差平方和残差平方和（Residual Sum of Squares ）TSS = ESS + RSS线性回归模型课件TSS=ESS+RSS Y的观测值围绕其均值波动的总平方和总平方和可分解为两部分：一部分来自回归线一部分来自回归线(ESS)，另一部分则来，另一部分则来自随机势力自随机势力(RSS)。 从解释平方和RSS与残差平方和ESS的意义可知，在TSS中ESS所占的比重越大，则样本回归直线与样本观测值拟合程度就越好。线性回归模型课件TSSRSSTSSESSR1记2

19、2、判定系数、判定系数R2 2称 R2 为（样本）（样本）判定系数判定系数/可决系数可决系数得越好。直线与样本观测值拟合表明回归越大就是拟合优度。, 10222RRR线性回归模型课件R的解释: 反映变量间的线性关系1、R 0Y和X没有线性关系2、R 1Y和X具有完全的线性关系含义：Y = 0 + 1X1 线性回归模型课件案例分析CEO的薪水被解释变量：CEO的薪水（千美元）解释变量：净资产回报率（百分数）样本回归函数： Salary 963.191 18.501 roeEviewsR0.013因此，净资产回报率仅解释了薪水变化的1.3线性回归模型课件案例分析选举结果两位候选人A和B被解释变量：

20、选举结果（得票百分数）解释变量：竞选支出（支出百分比）样本回归函数： voteA 26.81 + 0.46shareAEviewsR0.86因此，竞选支出的比例解释了竞选结果变化的86线性回归模型课件2.7 正态性检验：JB检验基本原理：JB统计量服从卡方分布线性回归模型课件JB检验的步骤1、虚拟假设：随机误差项服从正态分布2、设定检验的显著性水平： 53、计算p值4、拒绝标准：p 5线性回归模型课件Eviews 1、完成模型的估计2、viewresidual testsnormality test线性回归模型课件案例分析CEO的薪水被解释变量：CEO的薪水（千美元）解释变量：净资产回报率（百分数）样本回归函数： Salary 963.191 18.501 roeEviewsP=0.00线性回归模型课件2.8 预测移至第3章