参数估计实用

《参数估计实用》由会员分享，可在线阅读，更多相关《参数估计实用（74页珍藏版）》请在装配图网上搜索。

1、XP(),XE(),XN(,2)用所获得的样本值去估计参数取值称为参数估计.参参数数估估计计点估计点估计区间估计区间估计用某一数值作为参用某一数值作为参数的近似值数的近似值在要求的精度范围内在要求的精度范围内指出参数所在的区间指出参数所在的区间 参数估计的基本思想第1页/共74页第一页，编辑于星期日：十二点 五十三分。1 参数的点估计第2页/共74页第二页，编辑于星期日：十二点 五十三分。1.1 矩估计法矩估计法 设设(X(X1 1,X,X2 2, ,X,Xn n) )是来自总体是来自总体X X的一个样本的一个样本, ,根据大数根据大数定律定律, ,对任意对任意0,0,有有0| )(|limX

2、EXPn并且对于任何并且对于任何k,k,只要只要E(XE(Xk k) )存在存在, ,同样有同样有11lim |()|0,1,2,.nkkiniPXE Xkn因此因此, ,很自然地想到用样本矩来代替总体矩很自然地想到用样本矩来代替总体矩, ,从而得从而得到总体分布中参数的一种估计到总体分布中参数的一种估计. .第3页/共74页第三页，编辑于星期日：十二点 五十三分。 定义：用样本矩来代替总体矩定义：用样本矩来代替总体矩, ,从而得到总体从而得到总体分布中参数的一种估计分布中参数的一种估计. .这种估计方法称为这种估计方法称为矩法估计矩法估计. .它的思想实质是用样本的经验分布和样本矩去替换它的

3、思想实质是用样本的经验分布和样本矩去替换总体的分布和总体矩总体的分布和总体矩. .今后称之为今后称之为替换原则替换原则. . 设总体设总体X X具有已知类型的概率函数具有已知类型的概率函数p(x;p(x;1 1, ,k k), (), (1 1, ,k k)是是k k个未知参个未知参数数.(X.(X1 1,X,X2 2, ,X,Xn n) )是来自总体是来自总体X X的一个样本的一个样本. .假若假若X X的的k k阶矩阶矩k k=E(X=E(Xk k) )存在存在, ,则对于则对于ik, E(Xik, E(Xi i) )都存在都存在, ,并且并且是是(1 1, ,k k) )的函数的函数i

4、i (1 1, ,k k).).第4页/共74页第四页，编辑于星期日：十二点 五十三分。得到含有未知参数得到含有未知参数(1 1, ,k k) )的的k k个方程个方程. .解这解这k k个个联立方程组就可以得到联立方程组就可以得到(1 1, ,k k) )的一组解的一组解: :),.,(.),.,(),.,(2121222111nkknnXXXXXXXXX用上面的解来估计参数用上面的解来估计参数i i就是矩法估计就是矩法估计. .kkkkkkAXEAXEAXE),.,()(.),.,()(),.,()(21221221211设第5页/共74页第五页，编辑于星期日：十二点 五十三分。解 总体X

5、的期望为 )(XE从而得到方程 niiXn11所以的矩估计量为 XXnnii11第6页/共74页第六页，编辑于星期日：十二点 五十三分。0, 00,),(xxexfx解 其概率密度函数为 总体X的期望为 1)(0dxexXEx从而得到方程 niiXn111XXnii111所以的矩估计量为 第7页/共74页第七页，编辑于星期日：十二点 五十三分。解 由于 2222)()()()(XEXDXEXE故令 22121niiXnXniiniiXXnXXnX122122)(11第8页/共74页第八页，编辑于星期日：十二点 五十三分。例 : 设某炸药厂一天中发生着火现象的次数X服从 （用矩法）。试估计参数未

6、知，有以下样本值；的泊松分布，参数为 250126225490756543210knkk次着火天数发生着火的次数niiXXnAEX11122. 1) 16901750(2501 ,xX则令。估计值所以22. 1,X解 第9页/共74页第九页，编辑于星期日：十二点 五十三分。 矩法的优点矩法的优点是简单易行是简单易行, 并不需要事先知道总体是并不需要事先知道总体是什么分布。什么分布。缺点缺点是，当总体类型已知时，没有充分利用分布提供是，当总体类型已知时，没有充分利用分布提供的信息。一般场合下的信息。一般场合下, 矩估计量不具有唯一性。矩估计量不具有唯一性。其主要原因在于建立矩法方程时，选取那些总

7、体其主要原因在于建立矩法方程时，选取那些总体矩用相应样本矩代替带有一定的随意性。矩用相应样本矩代替带有一定的随意性。第10页/共74页第十页，编辑于星期日：十二点 五十三分。它是在总体类型已知条件下使用的一种参数估它是在总体类型已知条件下使用的一种参数估计方法计方法 。它首先是由德国数学家它首先是由德国数学家高斯高斯在在1821年提出的。年提出的。GaussFisher 然而然而, 这个方法这个方法常归功于英国统计学家常归功于英国统计学家费歇费歇。 费歇费歇在在1922年重新发现了这一方年重新发现了这一方法，并首先研究了这种方法的一法，并首先研究了这种方法的一些性质。些性质。1.2最大似然法最

8、大似然法第11页/共74页第十一页，编辑于星期日：十二点 五十三分。最大似然法的基本思想最大似然法的基本思想先看一个简单例子：先看一个简单例子：是谁打中的呢？是谁打中的呢？某位同学与一位猎人一起外出打猎。某位同学与一位猎人一起外出打猎。一只野兔从前方窜过。一只野兔从前方窜过。如果要你推测，如果要你推测，你会如何想呢你会如何想呢? ?只听一声枪响，野兔应声倒下只听一声枪响，野兔应声倒下 。第12页/共74页第十二页，编辑于星期日：十二点 五十三分。你就会想，只发一枪便打中，猎人命中的概率一般你就会想，只发一枪便打中，猎人命中的概率一般大于这位同学命中的概率。看来这一枪是猎人射中大于这位同学命中的

9、概率。看来这一枪是猎人射中的。的。 这个例子所作的推断已经体现了最大似然法的基这个例子所作的推断已经体现了最大似然法的基本思想本思想 ：一次试验就出现的事件有较大的概率。一次试验就出现的事件有较大的概率。 第13页/共74页第十三页，编辑于星期日：十二点 五十三分。第14页/共74页第十四页，编辑于星期日：十二点 五十三分。第15页/共74页第十五页，编辑于星期日：十二点 五十三分。0)(Ldd令第16页/共74页第十六页，编辑于星期日：十二点 五十三分。第17页/共74页第十七页，编辑于星期日：十二点 五十三分。求极大似然估计的一般步骤归纳如下： 第18页/共74页第十八页，编辑于星期日：十

10、二点 五十三分。,.2 , 1 , 0,!kkekXPk),.,;()(21nxxxLLniniiixxnL11) !ln(ln)(ln 例:设随机变量X服从泊松分布:其中0是一未知参数,求的极大似然估计.解 设(x1,x2,xn)是样本 (X1,X2,Xn)的一组观测值.于是似然函数两边取对数得)!(1exniixinniixexnii11第19页/共74页第十九页，编辑于星期日：十二点 五十三分。01)(ln1niixndLd令0)(ln22xdLdx且X从而得出的极大似然估计量为 解这一方程得第20页/共74页第二十页，编辑于星期日：十二点 五十三分。解 总体X服从参数为的指数分布，则有

11、 000);(xxexfx所以似然函数为 niixneL1)(第21页/共74页第二十一页，编辑于星期日：十二点 五十三分。取对数 niixnL1ln)(ln令 0)(ln1niixnLdd解得的极大似然估计值为 xxnnii11极大似然估计量为 XXnnii11第22页/共74页第二十二页，编辑于星期日：十二点 五十三分。)x(21exp)2(1)x,.,x,x;,(LLn1i2i22/n2n212 例:设(X1,X2,Xn)是来自正态总体N(,2)的一个样本,其中,2是未知参数,参数空间=- 0.求与2的极大似然估计.解 正态分布的似 然函数为n1i2i22)x(21lnn2)2ln(2n

12、Lln两边取对数得第23页/共74页第二十三页，编辑于星期日：十二点 五十三分。由微积分知识易验证以上所求为与2的极大似然估计.niiniixnLxL12422120)(212ln0)(1ln分别求关于与2的偏导数,得似然方程组2n1ii2n1ii)xx(n1xxn1解这一方程组得第24页/共74页第二十四页，编辑于星期日：十二点 五十三分。0, 00,1);(其他xxpnixxxxLinn,.,2 , 1,0 ,1),.,;(21n,.,2 , 1i ,xmaxxx0ini1)n(imax1inixmax),.,(121ininXXXX 例:设总体X具有均匀分布,其概率密度函数为求未知参数的

13、极大似然估计.解 设 (X1,X2,Xn)是来自总体X的一个样本.似然函数为 要使L(; x1,x2,xn)达到最大,就要使达到最小,由于所以的极大似然估计值为：参数的极大似然估计量为：第25页/共74页第二十五页，编辑于星期日：十二点 五十三分。2估计量的评选标准 对于总体的同一个未知参数，由于采用的估计方法不同，可能会产生多个不同的估计量。这就提出了一个问题，当总体的同一个参数存在不同的估计量时，究竟采用哪一个更好？这涉及到用什么样的标准来评价估计量的好坏问题，对此，我们介绍几个常用的评价标准：无偏性、有效性和一致性。第26页/共74页第二十六页，编辑于星期日：十二点 五十三分。2.1无偏

14、性无偏性 在评价一个估计量的好坏时,我们当然希望估计量与被估参数越接近越好.但估计量是一个随机变量,它的取值随样本的观测值而变,有时与被估参数的真值近些,有时远些,我们只能从平均意义上看估计量是否与被估参数尽量接近,最好是等于被估参数.于是有无偏估计量的概念.),.,(,),.,(.),.,(:212121否则称为有偏的无偏估计的为则称若的估计量为设定义nnnXXXXXXEXXX第27页/共74页第二十七页，编辑于星期日：十二点 五十三分。其他, 00 ,0,1);(xxf2211)(020 xdxxXEXX2,2即22)(2)(2)(XEXEE由于.2的无偏估计量是所以求得X 例:设总体X具

15、有均匀分布,其密度函数为解用矩法估计得求的无偏估计.总体X的均值第28页/共74页第二十八页，编辑于星期日：十二点 五十三分。)1(1nikiXnE 例:设总体X的k阶矩E(Xk)存在,证明样本的k阶矩是E(Xk)的无偏估计.证明所以,证明样本的k阶矩是E(Xk)的无偏估计.因为)(11nikiXEn)(kXE)(11nikiXEn)(11nikXEn第29页/共74页第二十九页，编辑于星期日：十二点 五十三分。)(1)(1)(122122niiniiXXnEXXnEBEniiXDXXnS122.)()(11的无偏估计是 例:设总体的方差D(X)存在,试证样本二阶中心矩B2是总体方差D(X)的

16、有偏估计.证明所以,B2是总体方差D(X)的有偏估计. 注:)()()()1(22122XEXEXEXnEnii22)()()()(XEXDXEXD)(1)(1)(XDnnXDnXD第30页/共74页第三十页，编辑于星期日：十二点 五十三分。2.2有效性有效性 一个参数的无偏估计量不是唯一的,假若参数有两个无偏估计量 ,我们认为其观测值更密集在参数真值附近的一个较为理想.由于方差是随机变量取值与其数学期望的偏离程度的度量,所以无偏估计以方差小者为好.这就引出了估计量的有效性这一概念. .,),()(,),.,(),.,(:定义21212121222111有效比称简有较高的效率比则称使不等式成立

17、有一个且至少有若对的无偏估计量都是与设DDXXXXXXnn第31页/共74页第三十一页，编辑于星期日：十二点 五十三分。证明 由于总体服从泊松分布，故 )(,)(XDXE于是有 niiXnEXEE111)()()(11niXEnnn1第32页/共74页第三十二页，编辑于星期日：十二点 五十三分。同理 2)(212XXEE但是 )()(1XDDnnXD)(22)(XD)2()(212XXDD)()(21DD第33页/共74页第三十三页，编辑于星期日：十二点 五十三分。.,321都有效较且)()()(321EEE显然有1332121;613121;XXXXX 例:设(X1,X2, X3)是来自总体

18、X的一个样本,证明下面的三个估计量都是总体均值E(X)的无偏估计量证明3/ )()()(1XDXDD且36/ )(14)6/3/2/()(3212XDXXXDD)()()(13XDXDD.,),()()(321321有效较所以故有DDD第34页/共74页第三十四页，编辑于星期日：十二点 五十三分。2.3一致性一致性 估计量的无偏性和有效性都是在样本容量固定的前提下提出的.我们自然希望随着样本容量的增大,一个估计量的值稳定于待估参数的真值.这就对估计量提出了一致性的要求.),.,(0|lim, 0.),.,(,),;(:2121一致估计的为参数则称总有若对于任意的估计量为为待估参数有概率函数设总

19、体定义nnnXXXPXXXxpX第35页/共74页第三十五页，编辑于星期日：十二点 五十三分。第36页/共74页第三十六页，编辑于星期日：十二点 五十三分。3参数的区间估计 点估计有使用方便、直观等优点, ,但他并没有提供关于估计精度的任何信息, ,为此提出了未知参数的区间估计法. .例 对明年小麦的亩产量作出估计为:即 若设X表示明年小麦亩产量,则估计结果为P(800X1000)=80%明年小麦亩产量八成为800-1000斤.区间估计第37页/共74页第三十七页，编辑于星期日：十二点 五十三分。第38页/共74页第三十八页，编辑于星期日：十二点 五十三分。.,1,1),(1),.,(),.,

20、(, 10 ,),.,( ,),(:212121称为置信水平置信上限的置信一下限和分别称为置信度为和间的置信区的置信度为为参数则称区间使得量存在两个统计若对于事先给定的本的一个样为取自这个总体参数为未知具有概率函数设总体定义nnnXXXXXXPXXXXxpX第39页/共74页第三十九页，编辑于星期日：十二点 五十三分。., ,1),.,(),.,(:2121则犯错误的概率为的真值含着参数包区间因此若认为的真值的概率为包含参数区间随机解释为的区间估计的意义可以参数nnXXXXXX.1,1,的概率包含以而只能说区间的概率落入随机区间以所以不能说参数不是随机变量由于第40页/共74页第四十页，编辑于

21、星期日：十二点 五十三分。.1),.,(),.,(,),.,(),.,(21212121参数包含以概率不能说区间要么没有包含参数含了参数要么包的区间得到的一个确定对于一次具体的抽样所nnnnxxxxxxxxxxxx.)%1 (100),.,(),.,(,2121的区间包含未知参数大约有这些区间中将得到许多不同的区间在重复取样下nnxxxxxx第41页/共74页第四十一页，编辑于星期日：十二点 五十三分。第42页/共74页第四十二页，编辑于星期日：十二点 五十三分。第43页/共74页第四十三页，编辑于星期日：十二点 五十三分。这时必有 1),(),(212211nnXXXXXXP第44页/共74

22、页第四十四页，编辑于星期日：十二点 五十三分。3.1正态总体均值正态总体均值的区间估计的区间估计 第45页/共74页第四十五页，编辑于星期日：十二点 五十三分。方差已知时均值的区间估计方差已知时均值的区间估计由总体服从正态分布可得 ) 1 , 0(/NnXU使得查分位点对于给定的置信度,12/z1|2/zUP0/2z/2/2z/2第46页/共74页第四十六页，编辑于星期日：十二点 五十三分。1/2/znXP得到 从而 12/2/znXznXP置信区间为的这样得到了置信度为1),(2/2/nzXnzX第47页/共74页第四十七页，编辑于星期日：十二点 五十三分。 例:设轴承内环的锻压零件的平均高

23、度X服从正态分布N(,0.42).现在从中抽取20只内环,其平均高度为32.3毫米.求内环平均高度的置信度为95%的置信区间.96. 1)975. 0(,95. 01025. 02/zz查表得解算得又,20, 4 . 0, 3 .32nx12.32204 . 096. 13 .322/nzx48.32204 . 096. 13 .322/nzx)48.32,12.32(%95 的置信区间为的一个置信度为所以第48页/共74页第四十八页，编辑于星期日：十二点 五十三分。解 06. 06n经计算可得 95.14x,96. 1025. 02/ uz查表得 从而 75.1496. 1606. 095.

24、142/znx15.1596. 1606. 095.142/znx故所求置信区间为 15.15,75.14第49页/共74页第四十九页，编辑于星期日：十二点 五十三分。例: 已知幼儿身高服从正态分布，现从56岁的幼儿中随机地抽查了9人，其高度分别为： 115,120,131,115,109,115,115,105,110cm;；，置信度为假设标准差%9570的置信区间。试求总体均值由样本值算得已知.05. 0, 9, 70n.115)110120115(91x，由此得置信区间：查正态分布表得临界值96. 1)57.119,43.110()9/796. 1115,9/796. 1115(解 第5

25、0页/共74页第五十页，编辑于星期日：十二点 五十三分。方差未知时均值的区间估计.1,),(),.,(2221的置信区间的置信度为要求为未知常数的样本是取自正态总体设NXXXn1)1(|/|),1(,1,)(11) 1(/2/2/122ntnSXPnttXXnSntnSXTnii使得布表查出分由对给定的置信其中由于这时第51页/共74页第五十一页，编辑于星期日：十二点 五十三分。0/2/2t/2(n1)t/2(n1)1) 1() 1(2/2/nSntXnSntXP经过变形得) 1(,) 1(12/2/nSntXnSntX的置信区间为的置信度为这样得到了第52页/共74页第五十二页，编辑于星期日

26、：十二点 五十三分。解 经计算得 04. 0,15.122sx, 8n查表可得 4995. 3)7() 1(005. 02/tnt从而90.114995. 0804. 015.12) 1(2/ntnsx40.124995. 0804. 015.12) 1(2/ntnsx所以的置信度为0.99置信区间是40.12,90.11第53页/共74页第五十三页，编辑于星期日：十二点 五十三分。例: 用仪器测量温度，重复测量7次，测得温度分别为： 115,120,131,115,109,115,115,105,110cm; 设温度).,(2NX.%95在范围时，试求温度的真值所在置信度为.是测量值是温度的

27、真值，设x由样本值算得：已知.05. 0, 7n.29. 1, 8 .1122Sx。由此得置信区间：得临界值查447. 2)05. 0 , 6(t)85.113,75.111()729. 1447. 28 .112,729. 1447. 28 .112(解 第54页/共74页第五十四页，编辑于星期日：十二点 五十三分。3.2正态总体方差的区间估计正态总体方差的区间估计 均值已知时方差的区间估计.1,),(),.,(20221的置信区间的置信度为要求为已知常数的样本是取自正态总体设NXXXn1)()(),()(,1)()(22/222/122/122/2221202nnPnnnXnii使得和分布

28、表得两个分位点查对于给定的置信度由于这时第55页/共74页第五十五页，编辑于星期日：十二点 五十三分。/2) 1(22/ n ) 1(22/1 n /21)()()()(22/1120222/120nXnXPnini经过变形得)()(,)()(122/112022/1202nXnXnini 的置信区间为的置信度为这样得到了第56页/共74页第五十六页，编辑于星期日：十二点 五十三分。均值未知时方差的区间估计.1,),(),.,(2221的置信区间的置信度为要求为未知常数的样本是取自正态总体设NXXXn1)1() 1(),1() 1(,1) 1() 1(22/222/122/122/22222n

29、nPnnnSn使得和分布表得两个分位点查对于给定的置信度由于这时第57页/共74页第五十七页，编辑于星期日：十二点 五十三分。1) 1() 1() 1() 1(22/12222/2nSnnSnP经过变形得/2)1(22/ n )1(22/1 n /2) 1() 1(,) 1() 1(122/1222/22nSnnSn的置信区间为的置信度为这样得到了第58页/共74页第五十八页，编辑于星期日：十二点 五十三分。解 由题意得 1 . 0, 9 . 01, 5n查表得 4877. 9)4()4(205. 022/7107. 0)4()4(295. 022/1算得 038. 04877. 909. 0

30、4) 1() 1() 1(22/222/12nsnnXXnii506. 07107. 009. 04) 1() 1() 1(22/1222/112nsnnXXnii所求置信区间为(0.038,0.506)第59页/共74页第五十九页，编辑于星期日：十二点 五十三分。例: 设某机床加工的零件长度，),(2NX今抽查16个零件，测得长度（单位：mm）如下：12.15, 12.12, 12.01, 12.08, 12.09, 12.16, 12.03, 12.01, 12.06, 12.13, 12.07, 12.11, 12.08, 12.01, 12.03, 12.06,在置信度为95%时，试求

31、总体方差 的置信区间.2由样本值算得：已知.05. 0,16n.00244. 02S由此得置信区间：得查得查. 5 .27)025. 0 ,15(;26. 6)975. 0 ,15(22120058. 0 ,0013. 026. 600244. 015,5 .2700244. 015解第60页/共74页第六十页，编辑于星期日：十二点 五十三分。3.3两个正态总体均值差的区间估计两个正态总体均值差的区间估计 第61页/共74页第六十一页，编辑于星期日：十二点 五十三分。由于样本函数 )2(11)(212121nntnnSYXTW其中 2) 1() 1(212222112nnSnSnSW对于给定的

32、置信度1-有1)2(212/nntTP即 1)2(11)(212/2121nntnnSYXPW置信区间为 21212/21212/11)2(,11)2(nnSnntYXnnSnntYXWW第62页/共74页第六十二页，编辑于星期日：十二点 五十三分。第63页/共74页第六十三页，编辑于星期日：十二点 五十三分。1199. 2)16(,05. 0,36. 21697025. 02221tsssw解 10, 821nn求得 57. 6, 5 .14021sx77. 4, 9 .13922sy第64页/共74页第六十四页，编辑于星期日：十二点 五十三分。由于样本函数 ) 1 , 0()()(2221

33、2121NnnYXU12/uUP2221212/2221212/,nnuYXnnuYX第65页/共74页第六十五页，编辑于星期日：十二点 五十三分。第66页/共74页第六十六页，编辑于星期日：十二点 五十三分。解 96. 110, 8025. 02/21uunn求得 , 5 .140 x9 .139y42858. 11025. 2845. 296. 12221212/nnu6 . 0 yx第67页/共74页第六十七页，编辑于星期日：十二点 五十三分。3.4 两个正态总体方差之比的区间估计两个正态总体方差之比的区间估计 ) 1, 1(/2122222121nnFSSF1) 1, 1() 1, 1

34、(212/212/1nnFFnnFP) 1, 1(/,) 1, 1(/212/12221212/2221nnFSSnnFSS第68页/共74页第六十八页，编辑于星期日：十二点 五十三分。第69页/共74页第六十九页，编辑于星期日：十二点 五十三分。解 10, 821nn求得 57. 6, 5 .14021sx77. 4, 9 .13922sy查表得 ,20. 4)9 , 7(025. 0F21. 082. 41)7 , 9(1)9 , 7(025. 0975. 0FF计算得第70页/共74页第七十页，编辑于星期日：十二点 五十三分。3.5 单侧置信区间单侧置信区间 第71页/共74页第七十一页，编辑于星期日：十二点 五十三分。第72页/共74页第七十二页，编辑于星期日：十二点 五十三分。解 ) 1(/ntnsXt此时 于是 1) 1(/ntnsXP1) 1(ntnsXP1318. 2)4(,9950,1160, 5,95. 0105. 02tsxn) 1(ntnsx1318. 25995011601065第73页/共74页第七十三页，编辑于星期日：十二点 五十三分。感谢您的观看。第74页/共74页第七十四页，编辑于星期日：十二点 五十三分。