复多元线性回归分析估计问题

《复多元线性回归分析估计问题》由会员分享，可在线阅读，更多相关《复多元线性回归分析估计问题（31页珍藏版）》请在装配图网上搜索。

1、第 七 章 复 (多 元 线 性 )回 归 分 析 ：估 计 问 题 引 言 消 费 的 影 响 因 素 ： 除 收 入 外 ， 还 有 财 富 ，社 会 地 位 等 一 个 商 品 的 需 求 ： 除 价 格 之 外 ， 还 有 互补 品 、 替 代 品 等 的 价 格 复 回 归 分 析 或 多 元 回 归 分 析 更 为 常 用 7.1三 变 量 (二 元 线 性 )回 归 模 型 ：符 号 与 假 定 将 双 变 量 的 总 体 回 归 模 型 推 广 ， 可 得 三 变 量 PRF为 ： )(0),cov(),cov( )var( 0),cov( 0),|( 32 32 2 32 3

2、3221 的 线 性 组 合可 以 写 成 其 余 解 释 变 量 没 有 一 个 解 释 变 量之 间 无 精 确 的 线 性 关 系与模 型 被 正 确 地 设 定 对 每 一 个XX XuXuu jiuu iXXuE uXXY iiiii ji iii iiii 巴 伦 坦 图Y 2 X3 1X2A 表 示 无 共 线 性 Y 5 4 X3 3 X2B 表 示 有 共 线 性 无 共 线 性 要 求 如 果 两 个 独 立 变 量 有 线 性 关 系 ， 而 又 同时 出 现 在 一 个 模 型 中 ， 就 遇 到 了 完 全 共线 性 的 问 题 。 而 我 们 的 假 设 是 无 共

3、 线 性 。 因 此 不 能 让有 共 线 性 的 两 个 变 量 同 时 出 现 在 一 个 模型 中 。 7.2对 复 回 归 方 程 的 解 释 给 定 经 典 回 归 模 型 的 诸 假 定 ， 那 么 ， 在 三 变 量 PRF的两 边 对 Y求 条 件 期 望 得 ： iiiii XXXXYE 3322132 ),|( 即 给 出 以 变 量 X2和 X3的 固 定 值 为 条 件 的 Y的 条 件 均 值 或期 望 值 。 因 此 如 同 双 变 量 情 形 那 样 ， 复 回 归 分 析 是 以多 个 解 释 变 量 的 固 定 值 为 条 件 的 回 归 分 析 ， 并 且

4、我 们所 获 得 的 是 诸 变 量 X值 固 定 时 Y的 平 均 值 或 Y的 平 均 响 应 。 7.3偏 回 归 系 数 的 含 义 2度 量 着 在 保 持 X3不 变 的 情 况 下 ， X2每 变化 1个 单 位 时 ， Y的 均 值 E(Y|X2， X3)的 变 化 。 3度 量 着 在 保 持 X2不 变 的 情 况 下 ， X3每 变化 1个 单 位 时 ， Y的 均 值 E(Y|X2， X3)的 变 化 。 变 量 的 控 制 问 题 ： (P182) 什 么 是 控 制 ? 气 球 的 体 积 :受 温 度 和 压 力 的 影 响 在 一 般 的 情 况 下 温 度 和

5、 压 力 可 能 都 发 生 变 化 对 温 度 进 行 控 制 ,看 :随 着 压 力 变 化 体 积 是 如 何 变 化的 ? 对 压 力 进 行 控 制 ,看 :随 着 温 度 的 变 化 积 是 如 何 变 化的 ? 在 实 验 室 可 以 做 到 . 对 于 经 济 问 题 则 不 能 在 实 验 室 进 行 变 量 控 制 只 能 通 过 数 学 的 方 法 进 行 变 量 控 制 . 7.4偏 回 归 系 数 的 OLS与 ML估 计 OLS估 计 量 样 本 回 归 函 数 各 参 数 的 OLS估 计 iiii uXXY 33221 2322322 3222233 23223

6、22 3232322 33221 )()( )()( )()( )()( iiii iiiiiii iiii iiiiiii xxxx xxxyxxy xxxx xxxyxxy XXY OLS估 计 量 的 方 差 和 标 准 误 P185OLS估 计 量 的 性 质 P186187过 均 值 ： 三 变 量 回 归 线 通 过 均 值 点无 偏 性 ： 估 计 Yi的 均 值 等 于 真 实 i的 均 值残 差 的 总 和 为 残 差 与 X2i和 X3i都 不 相 关残 差 与 估 计 的 i不 相 关 7.5复 判 定 系 数 R2与 复 相 关 系 数 R 222 2 22112 2

7、22212 221 1)var( TSSESS RSS ESS RSSESSTSS Rx y xyxyR u xyxyy uyjj i iiii i iiiii ii 为 残 差 平 方 和为 回 归 平 方 和 7.6一 个 例 子 1970-1982年 美 国 “ 期 望 扩 充 ” 菲 利 普 斯曲 线 （ P189） Yt:t时 期 的 真 实 通 货 膨 胀 率 (%) X2时 期 t的 失 业 率 (%) X3时 期 t的 期 望 通 货 膨 胀 率 (%) 年 份 Y X2 X31970 5.92 4.9 4.781971 4.92 5.9 3.841972 3.30 5.6 3

8、.131973 6.23 4.9 3.441974 10.97 5.6 6.841975 9.14 8.5 9.471976 5.77 7.7 6.511977 6.45 7.1 5.921978 7.60 6.1 6.081979 11.47 5.8 8.091980 13.46 7.1 10.011981 10.24 7.6 10.81 1982 5.99 9.7 8.00 7.7设 定 偏 误 的 结 果 对 上 数 据 进 行 重 新 的 回 归 分 析 7.8 R2及 校 正 R2 knnRsR ny knuR Ru Xu XYYy yuR Y iiii ii ii 1)1(11 )

9、1/( )/(1: .;, . RSS.,)(, 1TSSRSS1 2222 222 222 22 2 22 于 是数 应 考 虑 样 本 个也 将 增 大随 之 所 定 义 的很 可 能 减 小加 变 量 个 数 的 增随 着个 数 相 关却 与 模 型 中 出 现 的 回 归即 但变 量 的 个 数 无 关与 模 型 中就 是这 里 7.9偏 相 关 系 数 (P197200) 简 单 相 关 系 数 ： r1j（ Y与 Xj之 间 的 相 关 ） , rij 表 示 Xi与 Xj的 相 关 。 偏 相 关 系 数 ： r1j,i（ 在 Xi不 变 的 条 件 下 ， Y与 Xj之 间 的

10、 偏 相 关 ） , rij,1 表 示 在 Y不 变 条件 下 ， Xi与 Xj的 偏 相 关 。 具 体 的 偏 相 关 系 数 的 表 达 式)1)(1( )1)(1( )1)(1( 213212 1312231.23 223212 2312132.13 223213 2313123.12 rr rrrr rr rrrr rr rrrr 台 湾 地 区 农 业 部 门 的 产 出 与 实 际 劳 动 日 投 入 资 本 投 入年 份 实 际 总 产 值 Y （ 百 万 元 新 台 币 ） 劳 动 日 X2（ 百 万 日 ） 实 际 资 本 投 入 X3（ 百 万 元 新 台 币 ）195

11、8 16607.7 275.5 17803.71959 17511.3 274.4 18096.81960 20171.2 269.7 18271.81961 20932.9 267 19167.31962 20406 267.8 19647.61963 20831.6 275 20803.51964 24806.3 283 22076.61965 26465.8 300.7 23445.2 1966 27403 307.5 249391967 28628.7 303.7 26713.71968 29904.5 304.7 29957.81969 27508.2 298.6 31585.919

12、70 29035.5 295.5 33474.51971 29281.5 299 3482.181972 31535.8 288.1 41794.3 对 P201上 习 题 用 非 线 性 模 型LOG(Y)=C(1)+C(2)*LOG(X2)+C(3)*LOG(X3)CoefficientStd. Error t-Statistic Prob. C(1) -8.400994 2.717713 -3.091200 0.0093C(2) 0.673103 0.153144 4.395244 0.0009C(3) 1.181610 0.302037 3.912136 0.0021R-squared

13、 0.982447 Mean dependent var 9.949177Adjusted R-squared 0.979522 S.D. dependent var 0.566292S.E. of regression 0.081037 Akaike info criterion -2.010959 Sum squared resid 0.078804 Schwarz criterion -1.869349Log likelihood 18.08220 Durbin-Watson stat 1.298078 对 P201上 习 题 用 线 性 模 型Method: Least Squares

14、Included observations: 15Y=C(1)+C(2)*X2+C(3)*X3Coefficient Std. Error t-Statistic Prob. C(1) -32137.37 2993.351 -10.73625 0.0000C(2) 2.440613 6.125327 0.398446 0.6973C(3) 0.344034 0.038947 8.833417 0.0000R-squared 0.990013 Mean dependent var 24292.53 Adjusted R-squared 0.988348 S.D. dependent var 13

15、864.75S.E. of regression 1496.620 Akaike info criterion 17.63666Sum squared resid 26878446 Schwarz criterion 17.77827Log likelihood -129.2750 Durbin-Watson stat 0.972644 对 以 上 两 个 结 果 的 R2大 小 的 解 释 2 22112 2 22112 22 TSSRSS1TSSESS RSS ESS RSSESSTSS i iiiii iiiii ii y xyxyR u xyxyy uy 为 残 差 平 方 和为 回

16、归 平 方 和 问 题 哪 个 模 型 拟 合 较 好 以 及 为 什 么 只 用 简 单 确 定 系 数 是 难 以 判 断 的 对 各 种 统 计 量 的 解 释 第 8章 复 回 归 分 析 ： 推 断 问 题 8.1正 态 性 假 定 )( )( )( 3/)3( ,3 33 2 22 1 11 222 3,21 set set set nn 分 布的遵 循 自 由 度 为本 身 也 是 正 态 分 布 的估 计 量 8.2： 1956-1970年 美 国 个 人 消 费 与 个 人 可 支 配 收入 的 关 系 数 据 （ 见 CI） ， 模 型 如 下 ： 对 于 如 上 模 型

17、研 究 者 也 许 想 发 现 变 量 怎 样 在 时 间 上 变 动 。 趋 势 变 量 ， 一 般 用 来 代 替 一 个 影 响 着 Y的 基 本 变 量 。 但 也 许 这 个基 本 变 量 难 以 得 到 （ 如 技 术 ） ， 但 技 术 可 能 随 时 间 的 增 加 而 增 加 。 引 入 趋 势 变 量 的 另 一 原 因 就 是 避 免 谬 误 相 关 问 题 。 如 也 许 两 个 变量 之 间 并 不 相 关 ， 二 者 都 是 随 时 间 的 增 加 而 有 某 种 相 同 的 变 化 趋势 。 这 样 引 入 时 间 变 量 以 后 ， 就 可 以 避 免 这 种

18、谬 误 。 通 过 上 述 例 子 对 此 进 行 分 析 。 ii XXXXYE 3322132 ),|( 8.3复 回 归 中 的 假 设 检 验 ： 总 评1. 检 验 关 于 个 别 偏 回 归 系 数 的 假 设2. 检 验 所 估 计 的 复 回 归 模 型 的 总 显 著 性 ， 也 就 是 要 判明 是 否 全 部 偏 斜 率 系 数 同 时 为 零 。3. 检 验 两 个 或 多 个 系 数 是 否 相 等4. 检 验 诸 偏 回 归 系 数 是 否 满 足 某 种 约 束 条 件5. 检 验 所 估 计 的 回 归 模 型 在 时 间 上 或 在 不 同 横 截 面 单元

19、上 的 稳 定 性6. 检 验 回 归 模 型 的 函 数 形 式 8.4检 验 关 于 个 别 偏 回 归 系 数 的 假 设 引 用 假 定 uiN(0,2)， 就 可 用 t检 验 统 计 量对 任 一 个 别 的 偏 回 归 系 数 的 假 设 进 行 检验 。 步 骤 如 下 ： 假 设 ： H0： 2=0及 H1： 20。 零 假 设 为 保持 X3不 变 选 择 显 著 性 水 平 、 确 定 否 定 域 、 计 算 检 验 统计 量 假 设 检 验 与 置 信 区 间 有 非 常 密 切 的 关 系 8.5检 验 样 本 回 归 的 总 显 著 性 单 独 假 设 ： H0：

20、2= 3=0 检 验 一 个 个 假 设 ， 不 等 于 联 合 地 检 验 同 样 的 这 些 假 设 。 联 合 检 验 ： 任 一 个 单 一 假 设 都 受 其 他 假 设 所 含 信 息 的 影 响 。 检 验 所 测 复 回 归 的 总 显 著 性 的 方 差 分 析 法 ： F检 验 （ P234） 检 验 复 回 归 的 总 显 著 性 （ P236）R 2和 F之 间 的 一 个 重 要 关 系 式 （ P237）)-RSS/( 1)-(/ESSRSS/dfdf/ESS knkF 8.5检 验 样 本 回 归 的 总 显 著 性 R2和 F之 间 的 一 个 重 要 关 系 式 检 验 一 个 用 R2表 示 的 复 回 归 的 总 显 著 性 （ P238） 一 个 变 量 的 “ 增 量 ” 或 “ 边 际 ” 贡 献 （ P238239）)3/()1( 2/22 nRRF 8.6检 验 两 个 回 归 系 数 是 否 相 等 检 验 假 设 的 形 式 P242244 8.7受 约 束 的 最 小 二 乘 法（ P244250） T检 验 方 法 F检 验 法 ： 受 约 束 最 小 二 乘 法 例 8.3 例 8.4