随机抽样与抽样分布

《随机抽样与抽样分布》由会员分享，可在线阅读，更多相关《随机抽样与抽样分布（43页珍藏版）》请在装配图网上搜索。

1、1 第 三 章 2 从 本 章 起 ， 我 们 转 入 课 程 的 第 二 部 分 数 理 统计 学 。 数 理 统 计 学 与 概 率 论 是 两 个 有 密 切 联 系 的 姐妹 学 科 。 大 体 上 可 以 说 ， 概 率 论 是 数 理 统 计 学 的 基础 ， 而 数 理 统 计 学 是 概 率 论 的 重 要 应 用 . 数 理 统 计 学 是 一 门 关 于 数 据 资 料 的 收 集 、 整 理 、分 析 和 推 断 的 科 学 。 但 人 们 常 常 将 统 计 这 一 概 念 误解 为 大 量 数 据 的 收 集 以 及 对 这 些 数 据 作 一 些 简 单 的运 算

2、(如 求 和 、 求 平 均 值 、 求 百 分 比 等 )， 或 用 图 表 、表 格 等 形 式 把 它 们 表 示 出 来 。 其 实 这 些 工 作 仅 仅 是统 计 学 工 作 的 非 主 要 部 分 ， 统 计 学 还 包 括 怎 样 设 计试 验 、 采 集 数 据 以 及 怎 样 对 获 得 的 数 据 进 行 分 析 、推 断 等 其 它 许 多 工 作 。 3 数 理 统 计 的 方 法 及 考 虑 的 问 题 不 同 于 一 般 的 资料 条 件 ， 它 更 侧 重 于 应 用 随 机 现 象 本 身 的 规 律 性 来考 虑 资 料 的 收 集 、 整 理 和 分 析

3、， 从 而 找 出 相 应 的 随机 变 量 的 分 布 律 或 数 字 特 征 。 从 理 论 上 讲 ， 只 要 对随 机 现 象 进 行 足 够 多 次 的 观 察 ， 被 研 究 的 随 机 现 象的 规 律 性 一 定 能 清 楚 地 呈 现 出 来 ， 但 实 际 上 所 允 许的 观 察 永 远 只 能 是 有 限 次 的 ， 有 时 甚 至 是 少 量 的 ，因 此 我 们 关 心 的 问 题 是 怎 样 有 效 地 利 用 有 限 的 资 料 ，尽 可 能 作 出 精 确 而 可 靠 的 结 论 。 根 据 问 题 的 不 同 要 求 以 及 对 观 察 值 所 采 取 的

4、不同 处 理 方 法 ， 就 产 生 了 数 理 统 计 的 各 个 分 支 ： 参 数估 计 、 假 设 检 验 、 方 差 分 析 、 回 归 分 析 等 。 本 课 程主 要 介 绍 前 两 种 方 法 ， 至 于 其 它 方 法 ， 由 于 教 学 时数 所 限 ， 不 再 讨 论 。 4 一 、 总 体 与 样 本 在 统 计 学 中 ， 我 们 将 问 题 所 涉 及 的 研 究 对 象 的 全体 称 为 总 体 (或 母 体 ), 而 把 组 成 总 体 的 每 个 研 究 对 象称 为 个 体 。 3.1 随 机 抽 样 例 如 ， 在 研 究 某 批 灯 泡 的 平 均 寿

5、命 时 ， 该 批 灯 泡的 全 体 就 组 成 了 总 体 ， 而 其 中 每 只 灯 泡 就 是 个 体 。研 究 某 批 灯 泡 的 质 量总 体 个 体 5 但 是 在 统 计 学 里 ， 我 们 关 心 的 不 是 个 体 的 种 种 具体 特 征 ,而 仅 仅 是 它 的 某 一 项 (或 某 几 项 )数 量 指 标 X以及 X的 分 布 情 况 .例 如 上 述 例 子 中 的 灯 泡 的 寿 命 。 由 于 个 体 的 抽 取 是 随 机 的 ,所 以 总 体 X是 一 个 随 机变 量 ,我 们 要 研 究 的 就 是 X的 分 布 或 数 字 特 征 . 以 后 我们 把

6、 总 体 和 数 量 指 标 X等 同 起 来 . 类 似 地 ， 在 研 究 某 地 区 中 学 生 的 营 养 状 况 时 ，若 关 心 的 数 量 指 标 是 身 高 和 体 重 ， 我 们 用 X和 Y分 别表 示 身 高 和 体 重 ， 那 么 此 总 体 就 可 用 二 维 随 机 变 量(X,Y)或 其 联 合 分 布 函 数 F(x,y)来 表 示 . 6 再 举 一 个 例 子 。 设 有 一 物 体 ， 它 的 重 量 未 知 ，要 通 过 多 次 测 量 去 估 计 它 。 那 么 在 这 个 问 题 中 总体 是 什 么 呢 ？ 有 人 可 能 回 答 ， 与 研 究

7、的 问 题 有 关 的 对 象 就这 个 物 体 ， 故 这 个 物 体 ， 或 其 重 量 ， 就 构 成 总 体 。这 个 回 答 不 对 。 实 际 上 ， 每 一 次 测 量 所 得 结 果 是 一 个 个 体 ，而 总 体 是 由 “ 一 切 可 能 的 测 量 值 ” 组 成 。 这 只 是一 个 想 象 中 存 在 的 集 合 ， 因 为 不 可 能 去 进 行 无 限次 测 量 。 它 的 个 体 是 通 过 试 验 “ 制 造 ” 出 来 的 。 这 种 情 况 在 实 际 应 用 中 非 常 之 多 。 给 这 种 总体 同 样 可 规 定 分 布 ， 例 如 上 述 例

8、子 中 说 “ 测 量 结果 服 从 正 态 分 布 ” 是 容 易 理 解 的 。 7 一 般 情 况 下 ,对 总 体 的 每 一 个 个 体 都 进 行 观 察 或 试验 是 不 可 能 的 ,这 是 因 为 经 济 上 、 时 间 上 不 允 许 (如 个体 的 数 量 很 大 ),或 观 察 试 验 是 带 破 坏 性 的 (如 灯 泡 的 寿命 、 炮 弹 的 射 程 ).因 此 ,必 须 对 总 体 进 行 抽 样 观 察 . 例 如 ,对 总 体 X进 行 了 n次 观 察 ,得 到 一 组 数 据 ),( 21 nxxx . 由 于 我 们 是 利 用 抽 样 来 对 总 体

9、 的 分 布 进 行 推 断 ,所 以 抽 样 必 须 是 随 机 的 . 比 如 ,要 研 究 一 大 批 灯 泡 的寿 命 ,抽 样 时 就 希 望 每 个 灯 泡 等 可 能 地 被 抽 到 ,只 有 这样 才 能 通 过 抽 样 比 较 客 观 地 了 解 总 体 . 因 此 ,抽 样 值 ),( 21 nxxx 应 视 为 一 组 随 机 变 量 ,我 们 把 它 称 为 总 体 X的 一 个 样 本 (或 子 样 ),其 中 n称 为 该 样 本 的 容 量 。 82. 独 立 性 ： X1,X2,Xn是 相 互 独 立 的 随 机 变 量 . 由 于 抽 样 的 目 的 是 为

10、了 对 总 体 的 分 布 进 行 统计 推 断 ， 为 了 使 抽 取 的 样 本 能 很 好 地 反 映 总 体 的信 息 ， 必 须 考 虑 抽 样 方 法 . 最 常 用 的 一 种 抽 样 方 法 叫 作 “ 简 单 随 机 抽样 ” ， 它 要 求 抽 取 的 样 本 满 足 下 面 两 点 :1. 代 表 性 ： X1,X2,Xn中 每 一 个 与 所 考 察 的 总 体有 相 同 的 分 布 .由 简 单 随 机 抽 样 得 到 的 样 本 称 为 简 单 随 机 样 本 ，今 后 如 不 加 声 明 ， 均 指 简 单 随 机 样 本 。 二 、 简 单 随 机 抽 样 9

11、事 实 上 我 们 抽 样 后 得 到 的 资 料 都 是 具 体 的 、确 定 的 值 . 如 我 们 从 某 班 大 学 生 中 抽 取 10人 测 量身 高 ， 得 到 10个 数 ， 它 们 是 样 本 取 到 的 值 而 不 是样 本 . 我 们 只 能 观 察 到 随 机 变 量 取 的 值 而 见 不 到随 机 变 量 .总 体 、 样 本 、 样 本 值 的 关 系 10 统 计 是 从 手 中 已 有 的 资 料 样 本 值 ， 去 推 断总 体 的 情 况 总 体 分 布 F(x)的 性 质 . 总 体 分 布 决 定 了 样 本 取 值 的 概 率 规 律 ， 也 就 是

12、样 本 取 到 样 本 值 的 规 律 ， 因 而 可 以 由 样 本 值 去 推 断总 体 . 样 本 是 联 系 二 者 的 桥 梁总 体 （ 理 论 分 布 ） ？ 样 本 样 本 值 11 3.2 样 本 的 数 字 特 征 样 本 是 总 体 的 代 表 和 反 映 ， 但 我 们 在 抽 取 样 本后 ， 并 不 直 接 利 用 样 本 进 行 推 断 ， 而 需 要 对 样 本 进行 一 番 “ 加 工 ” 和 “ 提 炼 ” ， 把 样 本 中 所 包 含 的 关于 我 们 所 关 心 的 事 物 的 信 息 集 中 起 来 ， 这 便 是 针 对不 同 的 问 题 构 造 样

13、 本 的 某 个 函 数 ， 称 之 为 统 计 量 。 严 格 地 说 ， 一 个 统 计 量 就 是 样 本 ),( 21 nXXX 的 一 个 函 数 ， 且 要 求 它 不 包 含 总 体 的 任 何 未 知 参 数 。 因 此 ， 统 计 量 也 是 一 个 随 机 变 量 。 下 面 列 出 一 些 常 用 的 统 计 量 。 一 、 统 计 量 12 样 本 均 值 ni iXnX 11样 本 方 差 ni i XXnS 1 22 )(11 ni i XnXn 1 2211推 导 ： ni i XX1 2)( ni ii XXXX1 22 )2( nini ini i XXXX

14、1 211 2 2 21 2 2 XnXnXXni i .21 2 XnXni i 它 反 映 了 总 体均 值 的 信 息它 反 映 了 总 体方 差 的 信 息二 、 样 本 数 字 特 征 13 设 总 体 X 的 均 值 和 方 差 均 存 在 , EX , 定 理 1 ,)( XE ，nXD 2)( .)( 22 SE证 nXXX , 21 相 互 独 立 ,且 与 总 体 X同 分 布 ,故 有 ,)()( XEXE i ,)()( 2 XDXD i ni ,2,1 )1()( 1 ni iXnEXE所 以 ni iXEn 1 )(1 ,)1()( 1 ni iXnDXD ni i

15、XDn 12 )(1 .2n 2DX ,对 样 本 ),( 21 nXXX 及 其 样 本 均 值 X 和 样 本 有 方 差 2S , 14 ,)( XE ，nXD 2)( .)( 22 SE)(11)( 1 222 ni i XnXEnSE ，)()(11 1 22 ni i XnEXEn而 )( 2iXE 22 )()()( XEXDXE 2)()( ii XEXD ，22 ，22 n )()(11)( 1 22222 ni nnnSE .2 15 统 计 量 的 分 布 ,称 为 抽 样 分 布 .如 何 在 总 体 的 分布 已 知 时 ,求 出 统 计 量 的 分 布 函 数 ,

16、这 对 于 数 理 统 计学 中 的 所 谓 小 样 问 题 （ 即 在 样 本 容 量 较 小 的 情 况 下所 讨 论 的 各 种 统 计 问 题 ） 的 研 究 很 有 用 处 . 一 般 情 况 下 ,要 确 定 出 统 计 量 的 分 布 是 很 困 难 的 一 件 事 ,但 是 在 总 体 X 服 从 正 态 分 布 （ 此 时 称 X 是 正 态 总 体 ） 时 ,已 求 出 与 2,SX 有 关 的 一 些 统 计 量 的 精 确 分 布 ,这 些 精 确 分 布 中 重 要 且 常 用 的 就 是 本 节 要 介 绍 的 2 分 布 、 t 分 布 、 F 分 布 . 3.3

17、 抽 样 分 布 16 由 于 正 态 分 布 具 有 可 加 性 ， 即 相 互 独 立 的 正 态变 量 的 线 性 组 合 仍 为 正 态 变 量 ， 而 前 已 证 明 设 总 体 ),( 2NX ， 样 本 ),( 21 nXXX ， 则 样 本 均 值 ),( 2nNX . 定 理 1 证 ,)( XE ，nXD 2)( 所 以 .),( 2nNX 标 准 化 .)1,0(/ NnXU 一 、 样 本 均 数 分 布 17 2 分 布二 、定 义 设 随 机 变 量 nXXX , 21 相 互 独 立 ， 且 都 222212 nXXX 服 从 自 由 度 为 n的 2 分 布 ，

18、 .)( 22 n服 从 标 准 正 态 分 布 )1,0(N ， 则 称 随 机 变 量 记 为其 密 度 函 数 为 00 0e)2(2 1);( 2 122 xxxnnxf xnn ， ， 18 00 0e)2(2 1);( 2 122 xxxnnxf xnn ， ， 来 定 义 .0,de)( 0 1 xttx xt其 中 伽 玛 函 数 通 过 积 分)(x 19 2 分 布 的 性 质 : (1) 可 加 性 ： 设 )( 1 221 n , )( 2 222 n ,且 21 , 22 相 互 独 立 ,则 ，)( 2122221 nn 可 推 广 到 多 个 变 量 ； (2)

19、若 )( 22 n ,则 nE )( 2 , nD 2)( 2 . 应 用 中 心 极 限 定 理 可 得 ，则 当 n充 分 大 时 ， 有 ，)( 2 nX 若nnX2 近 似 地 ,)1,0(N 20 ),( 2N设 相 互 独 立 , 都 服 从 正 态 分 布nXXX , 21 则 .)()(1 21 222 nXni i (3)证 ni iX1 2)( ,),( 2NXi ,)1,0( NXi 且 相 互 独 立 ，所 以 ni iX1 22 )(1 .)( 2 n 21 设 总 体 ),( 2NX ， 样 本 ),( 21 nXXX ， X 和 2S 分 别 是 样 本 均 值

20、和 样 本 方 差 ,则 有 定 理 1） X 与 2S 相 互 独 立 ； 2） )1( )1( 22 2 nSn . 证 略 .21 22 2 )()1( ni i XXSn比 较 ： )()(1 2 1 222 nXni i 22t(n)的 密 度 函 数 为 ： .)1()2( 2)1();( 21 2 nnxnnnnxf 记 为 T t(n).nY Xt 三 、 t 分 布定 义 设 )1,0( NX , )( 2 nY ,且 X 与 Y 相 互 独 立 ,则 称 随 机 变 量 服 从 自 由 度 为 n的 t分 布 ， 23偶 函 数 ,关 于 x=0对 称 .当 n 较 大 时

21、 ,t 分 布 接 近 于 标 准 正 态 分 布 .若 )( ntT ,则 0)( TE , 2)( nnTD )2( n . .)1()2( 2)1();( 212 nnxnnnnxf 24 设 总 体 ),( 2NX ， 样 本 ),( 21 nXXX ， X 和 2S 分 别 是 样 本 均 值 和 样 本 方 差 ,则 有 定 理 .)1(/ ntnSXt 证 ，)1,0(/ NnX ，)1()1( 22 2 nSn 由 定 理 1,由 定 理 2, 且 n X/ 与 2 2)1( Sn 相 互 独 立 ， 25 且 n X/ 与 2 2)1( Sn 相 互 独 立 ， ，)1,0(

22、/ NnX ，)1()1( 22 2 nSn 由 t 分 布 的 定 义 , )1( )1(/ 2 22 n SnnXt nSX/ .)1( nt 26 设 两 个 正 态 总 体 ),( 211 NX , ),( 222 NY 定 理 相 互 独 立 ,分 别 抽 取 样 本 ),( 121 nXXX 和 ),( 221 nYYY ， 各 自 的 样 本 均 值 和 样 本 方 差 分 别 记 为 22 , YX SSYX ,则 ，时当 22221 ，）（ )2(11)( 21 21 21 nntnnSYXt w 2 )1()1( 21 22212 nn SnSnS YXw其 中 称 为 联

23、 合 样 本 方 差 。 27 证 由 定 理 1, ，) , ( 1211 nNX ，) , ( 2222 nNY 由 正 态 分 布 的 可 加 性 ,可 得 .) , ( 22212121 nnNYX 标 准 化 ,即 得 .)1,0()()( 222121 21 NnnYXU 且 X与 Y 相 互 独 立 ， 28 ，)1()1( 1221 21 nSn X ，)1()1( 2222 22 nSn Y 且 22 , YX SS 相 互 独 立 ， 由 2 分 布 的 可 加 性 ,有 .)2()1()1( 21222 2221 21 nnSnSnV YX 因 为 22221 , 记 2

24、 )1()1( 21 22212 nn SnSnS YXw , 则 有 .)2()2( 2122 221 nnSnnV w 29 )2()2( 2122 221 nnSnnV w 且 U与 V相 互 独 立 ,则 )2/( 21 nnV Ut 21 2111)( nnSYX w ）（ .)2( 21 nnt .)1,0()()( 222121 21 NnnYXU 30 定 义 设 )( 12 nX , )( 22 nY ,且 X 与 Y 相 互 独 立 ,则 称 随 机 变 量 21/nY nXF F(n1,n2)的 概 率 密 度 为 0 0 0 )1()()()( )()( 2 22 2

25、2121121212121 21 xxxxxf nnnnnnnnnn nn n， ， 四 、 F 分 布服 从 自 由 度 为 的 F 分 布 ， ),( 21 nn 记 为 .),( 21 nnFF 31性 质 ： 如 果 ),( 21 nnFX ,则 ),(1 12 nnFX . 0 0 0 )1()()()( )()( 222 2 2121121212121 21 xxxxxf nnnnnnnnnn nn n， ， 21/nY nXF 32 设 两 个 正 态 总 体 ),( 211 NX , ),( 222 NY 定 理 相 互 独 立 ,分 别 抽 取 样 本 ),( 121 nXX

26、X 和 ),( 221 nYYY ， 各 自 的 样 本 均 值 和 样 本 方 差 分 别 记 为 22 , YX SSYX ,则 .)1,1( 21222122 nnFSSF YX 33 )1,1( 21222122 nnFSSF YX ，)1()1( 1221 21 nSn X ，)1()1( 2222 22 nSn Y 且 2XS 与 2YS 相 互 独 立 , 由 F分 布 的 定 义 ， 证 明 ： )1()1( )1()1( 222 22 121 21 nSn nSn YX 2221 22 / YX SS .)1,1( 21 nnF 34xO )(x z1、 标 准 正 态 分

27、布的 分 位 点 ： 对 于 给 定 的 , ,10 称 满 足 条 件 UUP 查 表 ，05.0U 025.0U三 、 分 位 点 ，645.1 .96.1 35xO )(2 n 设 ,)( 22 n 对 于 给 定 的 , ,10 称 满 足 条 件 )( 22 nP 的 点 )( 2 n 为 )( 2 n 分 布 的 上 分 位 点 。 2、 分 布 的 分 位 点 : 2 )(xf 36xO )(xf )(2 n 例 如 ， )25(205.0 )20( 2025.0 ,652.37 .170.34 37 3、 t 分 布 的 分 位 点 ： xO )(nt 设 ,)( ntt 对

28、于 给 定 的 , ,10 称 满 足 条 件 )( nttP 的 点 )(nt 为 t 分 布 的 上 分 位 点 。 查 表 ， )25(05.0t )20(025.0t ,7081.1 .086.2当 n充 分 大 时 ，.)( Unt 38xO ),( 21 nnF 设 ,),( 21 nnFF 对 于 给 定 的 , ,10 称 满 足 条 件 ),( 21 nnFFP 的 点 ),( 21 nnF 为 ),( 21 nnF 分 布 的 上 分 位 点 。 4、 F 分 布 的 分 位 点 ： )(xf 39 例 如 ，xO ),( 21 nnF )(xf )19,20(05.0F

29、.16.2 当 靠 近 1时 ,有 下 列 公 式 ： .),(1),( 1 mnFnmF 例 如 ， )24,14(95.0F )14,24(105.0F .426.035.21 40 小 结样 本 均 值 ni iXnX 11样 本 方 差 ni i XXnS 1 22 )(11 ni i XnXn 1 2211,)( XE ，nXD 2)( .)( 22 SE ,)( XE ,)( 2XD设 总 体 的 期 望 和 方 差 分 别 为则 有 41 统 计 三 大 分 布 ：(1)(2) nXXX , 21 相 互 独 立 ,且 ,)1,0( NXi 则 222212 nXXX .)( 2

30、 n.)( ntnYXt 设 )1,0( NX , )( 2 nY ,且 X,Y相 互 独 立 , 设 )( 1 2 nX , )( 2 2 nY ,且 X,Y相 互 独 立 , .),(/ 2121 nnFnY nXF (3) 42 设 总 体 ),( 2NX ， 样 本 ),( 21 nXXX ， )1,0(/ NnXU 抽 样 分 布 定 理 ：(1) )1()1( 22 2 nSn (2)(3) .)1(/ ntnSXt ，),( 2nNX 43 (4)独 立 ,分 别 抽 取 样 本 ),( 121 nXXX 和 ),( 221 nYYY ， )1,0(/ )()( 222121 21 NnnYXU ，）（ )2(11)( 2121 21 nntnnSYXt w 设 两 个 正 态 总 体 ),( 211 NX , ),( 222 NY 相 互 (5) .)1,1( 21222122 nnFSSF YX 2 )1()1( 21 22212 nn SnSnS YXw其 中