多维随机变量及其分布

《多维随机变量及其分布》由会员分享，可在线阅读，更多相关《多维随机变量及其分布（20页珍藏版）》请在装配图网上搜索。

1、第四章 大数定律与中心极限定理4.1 特征函数4.1.1 特征函数的定义定义411设X是一个随机变量，称 申(t)二 E(eitx ),g t +8为X的特征函数注意：(1)因为|eitX| 1，所以E(eitx)总是存在的，即任一随机变量的特征函数总是存在的。(2) 离散随机变量的特征函数为申(t) =,8 t +8 ；kk=1连续随机变量的特征函数 (t) = J +8eitxp(x)dx,8 t +8。8(3) 与随机变量的数学特征一样，特征函数只依赖于随机变量的分布，分布相同则特征函数相同，所以也称为分布的特征函数。常用分布的特征函数(一)(1) 单点分布： P(X = a) = 1，

2、其特征函数为申(t) = eita(2) 0-1 分布： P(X = x) = px (1 p)1x , x = 0,1，其特征函数为申(t) = peit + q,其中q = 1 p九k(3) 泊松分布P(九):P(X = k) = e-九,k = O，1，其特征函数为k!E九keikt e 九=e 九 e 九elt = e 九(eit i)2k!k=O(4)均匀分布U(a，b):因为密度函数为r i,/、, a x bP(x) = (b a0, else所以特征函数为申(t) = Jb eltX dx =abae ibt e iatit(b a)(5)标准正态分布N(0,1):因为密度函数

3、为P( x) = - e2兀2 , 8 x+8所以特征函数为申(t) = - f+g eitx； dx = e2兀g1a/2k卜eg(xit )22 dxX22 dx = ep( x) =(1)|9 (t )| = J= I p(x)dx =9(0) =1+geitx p (x)dx 00, x 0所以特征函数为申(t) = I+g eitx 九 e -九xdx=九J+g cos(tx)e - mdx + iI+g sin(tx)e - mdx 00入tit=九+1 = (1) -1人2 + 12人2 + 12九以上的积分中用到了复变函数中的欧拉公式：eitx = cos(tx) + isin

4、(tx)。4.1.2 特征函数的性质9 (t)表示X的特征函数X性质 411 9(t) 9(0) = 1 。性质41.29(t) =9(t),其中丽表示9(t)的共轭。性质413若Y = aX + b，其中a,b是常数，则9 (t) = eibt9 (at) YX，性质414独立随机变量和的特征函数为特征函数的积，即设X与Y相互独 立，则9(t) =9 (t)9 (t)X +YXY性质415若E(X i)存在，则X的特征函数9 (t)可/次求导，且对1 k l 有9 (k)(0) =ikE(Xk)。性质4.1.5提供了一个求随机变量的各阶矩的途径，特别可用下式去求数学期望和方差：E(X)=皿；

5、Var(X) = p(0) +(9(0)2。i性质的证明：仅对连续场合证明，离散时类似。9 (-t) = J+ge -itx p( x)dx = PZXpXdX = 9 (t)gS(3) 9 (t) = E(eit(aX+b) ) = eibt E (e iatX ) = eibt9(at)Y(4) 因为X与Y相互独立，所以eitx与eitY也是独立的，从而有E(eit(X+Y) ) = E(eitX )E(e itYXY(5) 因为E (X1)存在，也就是+g x-g于是含参变量t的广义积分J +geitx p( x)dx可以对t求导l次，于是对0 k I,-gJ+8 x1 p(x)dx 0

6、。k j k jk=1 j=1注意：(1)随机变量的分布惟一地确定它的特征函数； (2)两个分布的数学期望和方差及各阶矩都相等，也无法证明此两个分布相 等，但两个分布函数相等当且仅当它们所对应的特征函数相等。定理413(逆转公式)设F(x),9 (t)分别为随机变量X的分布函数和特征函 数，则对F(x)的任意两个连续点x x，有121e - itx - e - itxF(x ) - F(x ) = lim JT -1-29(t)dt21TT8 2兀-Tit注意：该定理给出了由特征函数求分布函数的公式。定理 414(惟一性定理) 随机变量的分布函数由其特征函数唯一决定。注意：该定理说明了分布函数

7、与特征函数是一一对应的。定理415若X为连续随机变量，其密度函数为p(x)，特征函数为9 (t)。如果严9(匸)|dt 0，都有alim Pl n p |0，有limP p l8 = 0，它等价于n* nalimpl n - p l e = 0 ,亦即 limPl n 一 p | 0nnii=1lim P 1工X 1工 E(X ) 二 1。nT+gn 1定理422(切比雪夫大数定律)设X 为一列两两不相关的随机变量序，则i=1n列，若每个X的方差存在，且有共同的上界，即Var(X ) c,i = 1,2,iiX 服从大数定律。若令n例2设X 是独立同分布的随机变量序列，E(X4) v+g,nn

8、E(X )二卩,Var(X ) = 2，考察Y 二(X 卩)2,n 二 1,2,nnn n则随机变量序列Y 服从大数定律。n证明显然Y 是独立同分布随机变量序列，其方差nVar(Y )二 Var(X 卩)2 二 E(X 卩” -Q4nnn由于E(X4)存在，故E(X3)和E(X2)皆存在，从而E(X 卩)4也存在，由nnnn切比雪夫大数定律知lim PnT+g1 My 1 1Le (y )n i nii=1i=1其中-1Ly =丄工(X R)2，-工E(Y) =b 2 n i n in ii =1i =1i =1故Y 服从大数定律。n三、马尔可夫大数定律定理423(马尔可夫大数定律)对随机变量

9、序列X ，若马尔可夫条件成 n立，即丄Var(工X ) T 0，n 2ii=1则X 服从大数定律。n注意：该定理的条件中没有任何同分布、独立性、不相关的假定。例3设X 为一同分布、方差存在的随机变量序列，且X仅与X 和nnn 1X 相关，而与其他的X不相关。试问该随机变量序列X 是否服从大数定 n +1in律？解 X 为相依随机变量序列，考虑其马尔可夫条件nn2i n 2i=1记 Var(X ) =b 2，则 |Cov (X , X )ni j1 M 1Var(乙X ) nc 2 + 2(n 一 1)c 2 t 0,(n T +g)n2i n 2i=1 即马尔可夫条件成立，故 X 服从大数定律

10、。nVar(X )=丄Var(X ) + 2艺 Cov(X , X ) oii i +1i=1i=1i=1 0有lim P 1工X 1工 E(X ) n|(X + Y )-(a + b)8 u (IX -a|)2所以0 8)nn8 8 ) + P(|Y - b ) T 0(n T+x)n2n2即P|(X + Y )一(a + b) 0，有nnP(X2 8) = P(|X |屁)T 0(n T+a)nn第二，若X Ta，则有cX Tca，这是因为在c丰0时，有nnP(|cX 一 ca| 8) = P(|X 8 /|c|) T 0(n T +a)nn而当c = 0时，结论显然成立。第三，若X T

11、a，则有X2 T a 2。这是因为有以下一系列结论:nnX -aTP 0， (X -a)2TP 0， 2(X -a)TP 0，nnn(X -a)2 + 2a(X -a) = X2 -a2 T0 ，即 X2 Ta2nnnn第四，由第三和(1)知，X 2 厶a2, Y2 厶b2, (X + Y )2 厶(a + b)2n n n n 从而有11X x Y =(X x Y )2 一 X 2 一 Y 2 p_ (a + b)2 一 a 2 一 b 2 = abn n 2 n n n n 2(3) 为了证明 X n这是因为V8 0，有P(-Y bn一 Y 厶 a 一 b(b 丰 0)，我们先证：1/Y

12、一 1/b(b 丰 0), nn=P(Y - bnYbnY - bnb2 + b(Y 一 b)nY - bnb2 + b(Y 一 b)n8, |Y 一 b 8, |Y - b 8 )n8 ) + P(| Y - b 8 )b 2 -8 |bn=P(|Y 一 b| (b2 -8 |b )8) + P(|Y 一 b| 8) t 0(n t+s)nn这就证明了 1/Y 一t 1/b(b丰0)，再与X Ta结合，利用即得的分布函数分别为 F(x)， F (x) ，1 都有PnX 一 Y 厶 a 一 b(b 丰 0)nn4.3.2 按分布收敛、弱收敛定义 4.3.2 设随机变量 X, X ,X12F (

13、x)，。若对F(x)的任一连续点x,2 lim F (x) = F (x),nn T+8 则称 F (x)弱收敛于F(x)，记作nF (x) F (x)。n也称X 按分布收敛于X,记作nXXn 注意：以上两个概念是在两种不同场合给出的两个不同名称，但其本质含 义是一样的，都要求在F(x)的连续点上有该极限成立。下面的定理说明依概率收敛是一种比按分布收敛更强的收敛性。 定理 4.3.2 X T X n X T Xnn 注意：以上定理的逆命题不成立。如下例 例 1 设 X 的分布列为P(X = 一1) =1/2， P(X =1) =1/2令X =-X，则X与X同分布，即X与X有相同的分布函数，故n

14、nnX L X。n但 V = ) = P(2|X|) = 1 不趋于0,n即 X 不是依概率收敛于 X 。n注意：例 1 说明一般按分布收敛与依概率收敛是不等价的，但下面定理说 明：当极限随机变量为常数(服从退化分布)时，按分布收敛与依概率收敛是等价。定理4.3.3若c为常数，则X Tc的充要条件是：X TcnX 的分布函数为 nn证明 必要性已经由定理 4.3.2 给出，下证充分性。记F(x), n = 1,2,。因为常数c的分布函数(退化分布)为0, x c所以V 0，有 P(| X c| ) = P( X c + ) + P (X c-)nnn c + /2) + P(X ) T 0n即

15、X PTc。定理证毕。n4.3.3 判断弱收敛的方法定理434(特征函数连续性定理)分布函数列F (x)弱收敛于分布函数nF(x)的充要条件是F (x)的特征函数序列申(t)收敛于F(x)的特征函数nn申(t)。注意：该定理表明分布函数与特征函数的一一对应关系有连续性。 例2若XP (X)，证明：九X - X1lim P(x 0，记iiX nykY * = k”no则对任意实数y有lim P(Y* y)二(y)二 nnT+gJ ye v2kg2 dt4.4.3 二项分布的正态近似定理442(棣莫弗-拉普拉斯极限定理)设n重伯努利试验中，事件A在每次试 验中出现的概率为P(0 P 1)，记卩为n

16、次试验中事件A出现次数，且记nY*ny nyn=、；npq则对任意实数 y 有lim P(Y* y)二(y)二nnT+ggye2 dt注意：(1)由于离散和连续的区别，用正态作为二项分布的近似计算中 般先作如下修正后再用正态近似P(k y k )=P(k 0.5 y k +0.5)1n21n2(2)若记0 =0(y)，则由棣莫弗-拉普拉斯极限定理给出的近似式 P(Y* 85)沁 1 -(3) = 1 -(-于)=(1.83) = 0.966二、给定n，0，求y例 3 某车间有同型号的机床 200 台，在一小时内每台机床约有70%的时间 是工作的，假定各机床工作是相互独立的，工作时每台机床要消耗

17、电能15kW, 问至少要多少电能，才可以有95%的可能性保证此车间正常生产。解记n = 200, Y为200台机床中同时工作的机床数，则Yb(200,0.7)， nn E(Y )=140， Var(Y ) = 42。nn因为Y台机床同时工作需要消耗15 Y电能，所以设供电数为y，则正常生 nn产为15Y y，由题设P15Y 0.95，其中nnP15Y 0.95 n 1.645J42从中解得y 2252，即此车间每小时至少需要2252电能，才有95%的可能性保证此车间正常生产。三、给定y,0，求n例4设某集成电路出厂时一级品率为0.7，装配一台仪器需要100只一级品 集成电路，问购置多少只才能以

18、 99.9%的概率保证装该仪器是够用(不能因一级 品不够而影响工作)。解 设购置n只，并用随机变量X表示n只中非一级品的只数；现要求购 置的n只集成电路中一级数不少于100只，亦即非一级品数X n -100的概率FIX 99.9%。由有题意知，非一级品率为0.3,贝Vpx 0.999杳表得 % 100 = 3.090，即 0.49n2141.89n +1000 二 0，解之得 一J0.21nn = 168，即至少要购置168只集成电路。4.4.4 独立不同分布下的中心极限定理林德贝格条件：设X 是一个独立的随机变量序列，它们具有有限的数学 n期望和方差：E(X ) = r，Var(X ) =

19、c 2, i = 1,2,，设X为连续随机变量,iiiii其密度函数为p (x)，若对任意的e 0，有 ilim -工J (x -r )2 p (x)dx = 0，nT+we 2 B 2i1n i=1 X R ItBi n则称 X 满足林德贝格条件。n定理443(林德贝格中心极限定理)设独立随机变量序列X 满足林德贝n格条件，则对任意的 x ，有lim 尸丄工(X R ) 0 ，满足lim Y E(IX r nT+w B2+6 ,=11 1ni =1则对任意的 x ，有lim 尸丄工(X R ) 60)ii=1为使用中心极限定理，我们可以设想从X 开始的随机变量都与X 同分 10099布，且相互独立，下面我们用 = 1来验证随机变量序列X 满足李雅普诺夫 n条件(4.4.5)，因为B =乞 Var(X)=.：工 p (1 - p ) T +s(n T +s)niiii=1V i=1E(|X p |3) = (1 - p )3 p + p3(1 p ) 60) = P4沁 1(2.5 7 3)5= 0.0 0 5iJ16.665J16.6 6 5i=1由此看出此学生通过考试的可能性很小，大约只有千分之五。