参数估计PPT课件

《参数估计PPT课件》由会员分享，可在线阅读，更多相关《参数估计PPT课件（74页珍藏版）》请在装配图网上搜索。

1、2021/7/231 第七章第七章 参数估计参数估计2021/7/232XP(),XE(),XN(,2)用所获得的样本值去估计参数取值称为参数估计参数估计.参参数数估估计计点估计点估计区间估计区间估计用某一数值作为用某一数值作为参数的近似值参数的近似值在要求的精度范围内在要求的精度范围内指出参数所在的区间指出参数所在的区间 参数估计的基本思想参数估计的基本思想2021/7/2331 参数的点估计参数的点估计2021/7/2341.1 矩估计法矩估计法 设设(X(X1 1,X,X2 2,X,Xn n)是来自总体是来自总体X X的一个样本的一个样本,根据根据大数定律大数定律,对任意对任意0,0,有

2、有0|)(|limXEXPn并且对于任何并且对于任何k,k,只要只要E(XE(Xk k)存在存在,同样有同样有11lim|()|0,1,2,.nkkiniPXE Xkn因此因此,很自然地想到用样本矩来代替总体矩很自然地想到用样本矩来代替总体矩,从而从而得到总体分布中参数的一种估计得到总体分布中参数的一种估计.2021/7/235 定义：用样本矩来代替总体矩定义：用样本矩来代替总体矩,从而得到总体从而得到总体分布中参数的一种估计分布中参数的一种估计.这种估计方法称为这种估计方法称为矩法估矩法估计计.它的思想实质是用样本的经验分布和样本矩去它的思想实质是用样本的经验分布和样本矩去替换总体的分布和总

3、体矩替换总体的分布和总体矩.今后称之为今后称之为替换原则替换原则.设总体设总体X X具有已知类型的概率函数具有已知类型的概率函数p(x;p(x;1 1,k k),(),(1 1,k k)是是k k个未知参个未知参数数.(X.(X1 1,X,X2 2,X,Xn n)是来自总体是来自总体X X的一个样本的一个样本.假若假若X X的的k k阶矩阶矩k k=E(X=E(Xk k)存在存在,则对于则对于ik,E(Xik,E(Xi i)都存在都存在,并并且是且是(1 1,k k)的函数的函数i i(1 1,k k).).2021/7/236得到含有未知参数得到含有未知参数(1 1,k k)的的k k个方程

4、个方程.解这解这k k个联立方程组就可以得到个联立方程组就可以得到(1 1,k k)的一组解的一组解:),.,(.),.,(),.,(2121222111nkknnXXXXXXXXX用上面的解来估计参数用上面的解来估计参数i i就是矩法估计就是矩法估计.kkkkkkAXEAXEAXE),.,()(.),.,()(),.,()(21221221211设2021/7/237解解 总体X的期望为)(XE从而得到方程 niiXn11所以的矩估计量为 XXnnii112021/7/2380,00,),(xxexfx解解 其概率密度函数为 总体X的期望为 1)(0dxexXEx从而得到方程 niiXn11

5、1XXnii111所以的矩估计量为 2021/7/239解解 由于 2222)()()()(XEXDXEXE故令 22121niiXnXniiniiXXnXXnX122122)(112021/7/2310例例:设某炸药厂一天中发生着火现象的次数X服从（用矩法）。试估计参数未知，有以下样本值；的泊松分布，参数为 250126225490756543210knkk次着火天数发生着火的次数niiXXnAEX11122.1)16901750(2501,xX则令。估计值所以22.1,X解解 2021/7/2311 矩法的优点矩法的优点是简单易行是简单易行,并不需要事先知道总体并不需要事先知道总体是什么分

6、布。是什么分布。缺点缺点是，当总体类型已知时，没有充分利用分布是，当总体类型已知时，没有充分利用分布提供的信息。一般场合下提供的信息。一般场合下,矩估计量不具有唯一矩估计量不具有唯一性。性。其主要原因在于建立矩法方程时，选取那些总体其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性。矩用相应样本矩代替带有一定的随意性。2021/7/2312它是在总体类型已知条件下使用的一种参数估它是在总体类型已知条件下使用的一种参数估计方法计方法。它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的。年提出的。GaussFisher 然而然而,这个方这个方法常归功于英

7、国统计学家法常归功于英国统计学家费歇费歇。费歇费歇在在1922年重新发现了这一年重新发现了这一方法，并首先研究了这种方法方法，并首先研究了这种方法的一些性质。的一些性质。1.2最大似然法最大似然法2021/7/2313最大似然法的基本思想最大似然法的基本思想先看一个简单例子：先看一个简单例子：是谁打中的呢？是谁打中的呢？某位同学与一位猎人一起外出打某位同学与一位猎人一起外出打猎。一只野兔从前方窜过。猎。一只野兔从前方窜过。如果要你推测，如果要你推测，你会如何想呢你会如何想呢?只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下 。2021/7/2314你就会想，只发一枪便打中，猎人命中的概率一

8、你就会想，只发一枪便打中，猎人命中的概率一般大于这位同学命中的概率。看来这一枪是猎人般大于这位同学命中的概率。看来这一枪是猎人射中的。射中的。这个例子所作的推断已经体现了最大似然法的基这个例子所作的推断已经体现了最大似然法的基本思想本思想：一次试验就出现的事件有较大的概率。一次试验就出现的事件有较大的概率。2021/7/23152021/7/23162021/7/23170)(Ldd令2021/7/23182021/7/2319求极大似然估计的一般步骤归纳如下：2021/7/2320,.2,1,0,!kkekXPk),.,;()(21nxxxLLniniiixxnL11)!ln(ln)(ln

9、例例:设随机变量X服从泊松分布:其中0是一未知参数,求的极大似然估计.解解 设(x1,x2,xn)是样本(X1,X2,Xn)的一组观测值.于是似然函数两边取对数得)!(1exniixinniixexnii112021/7/232101)(ln1niixndLd令0)(ln22xdLdx且X从而得出的极大似然估计量为 解这一方程得2021/7/2322解解 总体X服从参数为的指数分布，则有 000);(xxexfx所以似然函数为 niixneL1)(2021/7/2323取对数 niixnL1ln)(ln令 0)(ln1niixnLdd解得的极大似然估计值为 xxnnii11极大似然估计量为 X

10、Xnnii112021/7/2324)x(21exp)2(1)x,.,x,x;,(LLn1i2i22/n2n212 例例:设(X1,X2,Xn)是来自正态总体N(,2)的一个样本,其中,2是未知参数,参数空间=-0.求与2的极大似然估计.解解 正态分布的似 然函数为n1i2i22)x(21lnn2)2ln(2nLln两边取对数得2021/7/2325由微积分知识易验证以上所求为与2的极大似然估计.niiniixnLxL12422120)(212ln0)(1ln分别求关于与2的偏导数,得似然方程组2n1ii2n1ii)xx(n1xxn1解这一方程组得2021/7/23260,00,1);(其他x

11、xpnixxxxLinn,.,2,1,0,1),.,;(21n,.,2,1i,xmaxxx0ini1)n(imax1inixmax),.,(121ininXXXX 例例:设总体X具有均匀分布,其概率密度函数为求未知参数的极大似然估计.解解 设(X1,X2,Xn)是来自总体X的一个样本.似然函数为 要使L(;x1,x2,xn)达到最大,就要使达到最小,由于所以的极大似然估计值为：参数的极大似然估计量为：2021/7/23272估计量的评选标准估计量的评选标准 对于总体的同一个未知参数，由于对于总体的同一个未知参数，由于采用的估计方法不同，可能会产生采用的估计方法不同，可能会产生多个不同的估计量。

12、这就提出了一多个不同的估计量。这就提出了一个问题，当总体的同一个参数存在个问题，当总体的同一个参数存在不同的估计量时，究竟采用哪一个不同的估计量时，究竟采用哪一个更好？这涉及到用什么样的标准来更好？这涉及到用什么样的标准来评价估计量的好坏问题，对此，我评价估计量的好坏问题，对此，我们介绍几个常用的评价标准：们介绍几个常用的评价标准：无偏无偏性性、有效性有效性和和一致性一致性。2021/7/23282.1无偏性无偏性 在评价一个估计量的好坏时,我们当然希望估计量与被估参数越接近越好.但估计量是一个随机变量,它的取值随样本的观测值而变,有时与被估参数的真值近些,有时远些,我们只能从平均意义上看估计

13、量是否与被估参数尽量接近,最好是等于被估参数.于是有无偏估计量的概念.),.,(,),.,(.),.,(:212121否则称为有偏的无偏估计的为则称若的估计量为设定义nnnXXXXXXEXXX2021/7/2329其他,00,0,1);(xxf2211)(020 xdxxXEXX2,2即22)(2)(2)(XEXEE由于.2的无偏估计量是所以求得X 例例:设总体X具有均匀分布,其密度函数为解解用矩法估计得求的无偏估计.总体X的均值2021/7/2330)1(1nikiXnE 例例:设总体X的k阶矩E(Xk)存在,证明样本的k阶矩是E(Xk)的无偏估计.证明证明所以,证明样本的k阶矩是E(Xk)

14、的无偏估计.因为)(11nikiXEn)(kXE)(11nikiXEn)(11nikXEn2021/7/2331)(1)(1)(122122niiniiXXnEXXnEBEniiXDXXnS122.)()(11的无偏估计是 例例:设总体的方差D(X)存在,试证样本二阶中心矩B2是总体方差D(X)的有偏估计.证明证明所以,B2是总体方差D(X)的有偏估计.注注:)()()()1(22122XEXEXEXnEnii22)()()()(XEXDXEXD)(1)(1)(XDnnXDnXD2021/7/23322.2有效性有效性 一个参数的无偏估计量不是唯一的,假若参数有两个无偏估计量 ,我们认为其观测

15、值更密集在参数真值附近的一个较为理想.由于方差是随机变量取值与其数学期望的偏离程度的度量,所以无偏估计以方差小者为好.这就引出了估计量的有效性这一概念.,),()(,),.,(),.,(:定义21212121222111有效比称简有较高的效率比则称使不等式成立有一个且至少有若对的无偏估计量都是与设DDXXXXXXnn2021/7/2333证明证明 由于总体服从泊松分布，故)(,)(XDXE于是有 niiXnEXEE111)()()(11niXEnnn12021/7/2334同理 2)(212XXEE但是)()(1XDDnnXD)(22)(XD)2()(212XXDD)()(21DD2021/7

16、/2335.,321都有效较且)()()(321EEE显然有1332121;613121;XXXXX 例例:设(X1,X2,X3)是来自总体X的一个样本,证明下面的三个估计量都是总体均值E(X)的无偏估计量证明证明3/)()()(1XDXDD且36/)(14)6/3/2/()(3212XDXXXDD)()()(13XDXDD.,),()()(321321有效较所以故有DDD2021/7/23362.3一致性一致性 估计量的无偏性和有效性都是在样本容量固定的前提下提出的.我们自然希望随着样本容量的增大,一个估计量的值稳定于待估参数的真值.这就对估计量提出了一致性的要求.),.,(0|lim,0.

17、),.,(,),;(:2121一致估计的为参数则称总有若对于任意的估计量为为待估参数有概率函数设总体定义nnnXXXPXXXxpX2021/7/23372021/7/23383参数的区间估计参数的区间估计 点估计有使用方便、直观等优点点估计有使用方便、直观等优点,但他并没有提但他并没有提供关于估计精度的任何信息供关于估计精度的任何信息,为此提出了未知参为此提出了未知参数的区间估计法数的区间估计法.例例 对明年小麦的亩产量作出估计为:即即 若设X表示明年小麦亩产量,则估计结果为P(800X1000)=80%明年小麦亩产量八成为明年小麦亩产量八成为800-1000斤斤.区间估计区间估计2021/7

18、/23392021/7/2340.,1,1),(1),.,(),.,(,10,),.,(,),(:212121称为置信水平置信上限的置信一下限和分别称为置信度为和间的置信区的置信度为为参数则称区间使得量存在两个统计若对于事先给定的本的一个样为取自这个总体参数为未知具有概率函数设总体定义nnnXXXXXXPXXXXxpX2021/7/2341.,1),.,(),.,(:2121则犯错误的概率为的真值含着参数包区间因此若认为的真值的概率为包含参数区间随机解释为的区间估计的意义可以参数nnXXXXXX.1,1,的概率包含以而只能说区间的概率落入随机区间以所以不能说参数不是随机变量由于2021/7/2

19、342.1),.,(),.,(,),.,(),.,(21212121参数包含以概率不能说区间要么没有包含参数含了参数要么包的区间得到的一个确定对于一次具体的抽样所nnnnxxxxxxxxxxxx.)%1(100),.,(),.,(,2121的区间包含未知参数大约有这些区间中将得到许多不同的区间在重复取样下nnxxxxxx2021/7/23432021/7/23442021/7/2345这时必有 1),(),(212211nnXXXXXXP2021/7/23463.1正态总体均值正态总体均值的区间估计的区间估计 2021/7/23473.1.1方差已知时均值的区间估计方差已知时均值的区间估计由总

20、体服从正态分布可得)1,0(/NnXU使得查分位点对于给定的置信度,12/z1|2/zUP0/2z/2/2z/22021/7/23481/2/znXP得到 从而 12/2/znXznXP置信区间为的这样得到了置信度为1),(2/2/nzXnzX2021/7/2349 例例:设轴承内环的锻压零件的平均高度X服从正态分布N(,0.42).现在从中抽取20只内环,其平均高度为32.3毫米.求内环平均高度的置信度为95%的置信区间.96.1)975.0(,95.01025.02/zz查表得解解算得又,20,4.0,3.32nx12.32204.096.13.322/nzx48.32204.096.13

21、.322/nzx)48.32,12.32(%95 的置信区间为的一个置信度为所以2021/7/2350解解 06.06n经计算可得 95.14x,96.1025.02/uz查表得 从而 75.1496.1606.095.142/znx15.1596.1606.095.142/znx故所求置信区间为 15.15,75.142021/7/2351例例:已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为：115,120,131,115,109,115,115,105,110cm;；，置信度为假设标准差%9570的置信区间。试求总体均值由样本值算得已知.05.0,9,70n.1

22、15)110120115(91x，由此得置信区间：查正态分布表得临界值96.1)57.119,43.110()9/796.1115,9/796.1115(解解 2021/7/23523.1.2方差未知时均值的区间估计.1,),(),.,(2221的置信区间的置信度为要求为未知常数的样本是取自正态总体设NXXXn1)1(|/|),1(,1,)(11)1(/2/2/122ntnSXPnttXXnSntnSXTnii使得布表查出分由对给定的置信其中由于这时2021/7/23530/2/2t/2(n1)t/2(n1)1)1()1(2/2/nSntXnSntXP经过变形得)1(,)1(12/2/nSnt

23、XnSntX的置信区间为的置信度为这样得到了2021/7/2354解解 经计算得 04.0,15.122sx,8n查表可得 4995.3)7()1(005.02/tnt从而90.114995.0804.015.12)1(2/ntnsx40.124995.0804.015.12)1(2/ntnsx所以的置信度为0.99置信区间是40.12,90.112021/7/2355例例:用仪器测量温度，重复测量7次，测得温度分别为：115,120,131,115,109,115,115,105,110cm;设温度).,(2NX.%95在范围时，试求温度的真值所在置信度为.是测量值是温度的真值，设x由样本值

24、算得：已知.05.0,7n.29.1,8.1122Sx。由此得置信区间：得临界值查447.2)05.0,6(t)85.113,75.111()729.1447.28.112,729.1447.28.112(解解 2021/7/23563.2正态总体方差的区间估计正态总体方差的区间估计 3.2.1均值已知时方差的区间估计.1,),(),.,(20221的置信区间的置信度为要求为已知常数的样本是取自正态总体设NXXXn1)()(),()(,1)()(22/222/122/122/2221202nnPnnnXnii使得和分布表得两个分位点查对于给定的置信度由于这时2021/7/2357/2)1(22

25、/n )1(22/1 n /21)()()()(22/1120222/120nXnXPnini经过变形得)()(,)()(122/112022/1202nXnXnini 的置信区间为的置信度为这样得到了2021/7/23583.2.2均值未知时方差的区间估计.1,),(),.,(2221的置信区间的置信度为要求为未知常数的样本是取自正态总体设NXXXn1)1()1(),1()1(,1)1()1(22/222/122/122/22222nnPnnnSn使得和分布表得两个分位点查对于给定的置信度由于这时2021/7/23591)1()1()1()1(22/12222/2nSnnSnP经过变形得/2

26、)1(22/n )1(22/1 n /2)1()1(,)1()1(122/1222/22nSnnSn的置信区间为的置信度为这样得到了2021/7/2360解解 由题意得 1.0,9.01,5n查表得 4877.9)4()4(205.022/7107.0)4()4(295.022/1算得 038.04877.909.04)1()1()1(22/222/12nsnnXXnii506.07107.009.04)1()1()1(22/1222/112nsnnXXnii所求置信区间为(0.038,0.506)2021/7/2361例例:设某机床加工的零件长度，),(2NX今抽查16个零件，测得长度（单位

27、：mm）如下：12.15,12.12,12.01,12.08,12.09,12.16,12.03,12.01,12.06,12.13,12.07,12.11,12.08,12.01,12.03,12.06,在置信度为95%时，试求总体方差 的置信区间.2由样本值算得：已知.05.0,16n.00244.02S由此得置信区间：得查得查.5.27)025.0,15(;26.6)975.0,15(22120058.0,0013.026.600244.015,5.2700244.015解解2021/7/23623.3两个正态总体均值差的区间估计两个正态总体均值差的区间估计 2021/7/2363由于样

28、本函数)2(11)(212121nntnnSYXTW其中 2)1()1(212222112nnSnSnSW对于给定的置信度1-有1)2(212/nntTP即 1)2(11)(212/2121nntnnSYXPW置信区间为 21212/21212/11)2(,11)2(nnSnntYXnnSnntYXWW2021/7/23642021/7/23651199.2)16(,05.0,36.21697025.02221tsssw解解 10,821nn求得 57.6,5.14021sx77.4,9.13922sy2021/7/2366由于样本函数)1,0()()(22212121NnnYXU12/uUP

29、2221212/2221212/,nnuYXnnuYX2021/7/23672021/7/2368解解 96.110,8025.02/21uunn求得,5.140 x9.139y42858.11025.2845.296.12221212/nnu6.0 yx2021/7/23693.4 两个正态总体方差之比的区间估计两个正态总体方差之比的区间估计)1,1(/2122222121nnFSSF1)1,1()1,1(212/212/1nnFFnnFP)1,1(/,)1,1(/212/12221212/2221nnFSSnnFSS2021/7/23702021/7/2371解解 10,821nn求得 57.6,5.14021sx77.4,9.13922sy查表得,20.4)9,7(025.0F21.082.41)7,9(1)9,7(025.0975.0FF计算得2021/7/23723.5 单侧置信区间单侧置信区间 2021/7/23732021/7/2374解解)1(/ntnsXt此时 于是 1)1(/ntnsXP1)1(ntnsXP1318.2)4(,9950,1160,5,95.0105.02tsxn)1(ntnsx1318.25995011601065