《线性回归模型及参数估计》由会员分享，可在线阅读，更多相关《线性回归模型及参数估计（15页珍藏版）》请在装配图网上搜索。
1、二元线性回归模型的估计 最简单的多元线性回归模型是 二元线性回归模型 ， 即具有一个被解释变量和两个解释变量的线性回归模 型： iiXiXiY 22110 ， i =1 ， 2 ， n 。 一、 二元线性回归模型的参数估计 1偏回归系数的估计 对于二元线性回归模型： iiXiXiY 22110 ， i =1 ， 2 ， n ， 其中的参数 0 、 1 、 2 称 为 偏回归系数 。 所谓 偏回归系数 ，是指多元线性回归模型中解释变量前 的系数。 其含义是：当其他解释变量保持不变时，某一解释 变量变化一个单位而使被解释变量 Y平均改变的数值，即某一 解释变量对被解释变量 Y的影响程度。 n i
2、i XiiXiYn i i YiYn i i e 1 2)22110( 1 2)( 1 2 达到最小 。 要估计二元线性回归模型 i i X i X i Y 2 2 1 1 0 中的 参数 0 、 1 、 2 ， 常用的方法仍然是 普通最小二乘法 。 设根据给定一组样本数据 （ Y i ， X 1 i ， X 2 i ）， i =1 ， 2 ， ， n ， 采用普通最小二乘法估计得到的样本回归模型为 i e i X i X i Y 2 2 1 1 0 ， 则 参数估计量 0 、 1 、 2 应 该使 残差平方和 根据 极值存在的必要条件 ，应该有 02)22110(2 2 2 01)22110
3、(2 1 2 0)22110(2 0 2 iXiXiXiY i e iXiXiXiY i e iXiXiY i e 从而得到 正规方程组 02)22110( 01)22110( 0)22110( iXiXiXiY iXiXiXiY iXiXiY 0 2 0 1 0 i X i e i X i e i e 如果 X 1 与 X 2 之间不存在线性关系 ，那么，由上述正规方程 组可以解出 0 、 1 、 2 ： 其中 ， XiXix ， YiYiy ， iXnX 1 ， iYnY 1 。 如果 X 1 与 X 2 之间存在线 性关系 ，那么，上述计算 1 、 2 的公式的分子、分母将变为 0 ，从
4、而 无法求解 。 2 21 2 2 2 1 211 2 12 2 2 21 2 2 2 1 212 2 21 1 22110 )()( )()( )()( )()( iiii iiiiiii iiii iiiiiii xxxx xxxyxxy xxxx xxxyxxy XXY 2 随机误差项 i 的方差 2 的无偏估计 3 2 2 n ie 其中 ， 2ie 的 简捷 计算 公式 为 iiiiii xyxyye 221122 3 偏回归系数 1 、 2 的方差和标准误差 偏回归系数 1 、 2 的方差计算公式为： 偏回归系数 1 、 2 的标准误差计算公式为： )1()1( V a rSe )
5、2()2( V a rSe 2 21 2 2 2 1 22 1 2 2 21 2 2 2 1 22 2 1 )()( )( )( )()( )( )( iiii i iiii i xxxx x V a r xxxx x V a r 二、 Beta系数和弹性系数 在多元回归分析中，需要说明各个解释变量 的相对重要性，或者 比较被解释变量对各个解释 变量的敏感性 。 然而，偏回归系数与变量的原有计量单 位有直接联系，计量单位不同，彼此不能直 接比较。 为此，需要引进 Beta系数 和 弹性系数 。 1 Beta系数 Beta系数是由偏回归系数转换来的。 用 j 表示 B e t a 系数，则 2
6、2 iy jix j YS XjS jj 其中 1 2)( 1 2 n iXjiX n jix XjS 1 2)( 1 2 n YiY n iyYS 可见， Beta系数是用解释变量标准差（ SXj）和被解释变 量标准差（ SY）的比例对估计的偏回归系数进行调整后 得到的，其数值与变量的单位无关，因而可以直接比较， 用于说明多元回归模型中解释变量的相对重要性。 对于 二元线性回归模型 ，可以按下列公式计算 Beta系数： 2 2 111 iy ix 2 2 222 iy ix 由于 jXjY XjSjYSj 所以， B e t a 系数 j 的含义是： 若解释变量 X j 变化 1 个标准 差
7、（即 XjSjX ），则被解释变量 Y 变化 j 个标准差（即 YSjY ）。 例如 02.11 ， 24.02 ，则表示：解释变量 X 1 变化 1 个 标准差，将引起被解释变量 Y 变化 1 . 0 2 个标准差；解释变 量 X 2 变化 1 个标准差，将引起被解释变量 Y 变化 0 .2 4 个标 准差。因此，可以说， Y 对于 X 1 变化的敏感程度远大于 Y 对于 X 2 变化的敏感程度。 2 弹性系数 弹性系数是某一变量的相对变化引起另一变量的相对 变化的度量，即变量的变化率之比。 用 j 表示弹性系数，则 Y jXj Y jX jdX dY jX jdX Y dYj 平均弹性 是
8、指在样本均值附近的弹性，即 Y jXjj 弹性系数与原解释变量的计量单位没有任何关系，因此 很适宜用来说明被解释变量对解释变量变化的敏感程度。 例 如 78.1 1 ， 45.0 2 ，则表示：在样本均值附近， X 1 每 增加 1% ，将使被解释变量 Y 增加 1 . 7 8 % ；而 X 2 每增加 1% ， 将使被解释变量 Y 增加 0 . 4 5 % ，所以，被解释变量 Y 对于解 释变量 X 1 变化的敏感程度远大于对解释变量 X 2 变化的敏感 程度。 3 偏相关系数 在二元线性回归分析中，也可以用 偏相关系数 来分析 被解释变量 Y对于哪一个解释变量（ X1和 X2）的变化 更敏
9、感。 偏相关系数：是指在控制或消除其他变量影响的情况 下，衡量多个变量中的某两个变量之间线性相关程度 的指标。 )1)(1( 22 212 2121 21 XXYX XXYXYX XYX rr rrr r 如果 21 XYX r 12 XYX r ，则表示 被解释变量 Y 与解释变量 X 1 之间的线性关系更密切，被解释变量 Y 对于解释变量 X 1 的 变化更敏感； 如果 21 XYX r 12 XYX r ， 则表示 被解释变量 Y 与解释变量 X 2 之间的线性关系更密切，被解释变量 Y 对于解释变量 X 2 的 变化更敏感。 当 X 2 保持不变时， Y 与 X 1 之间的偏相关系数为
线性回归模型及参数估计
