概率论与数理统计学习课件

《概率论与数理统计学习课件》由会员分享，可在线阅读，更多相关《概率论与数理统计学习课件（77页珍藏版）》请在装配图网上搜索。

1、概率论与数理统计第一章 概率论的基本概念 1. 2. ; ;3. 01;1 1 1 2AnSeASAB ABAB AB AnfAnP AP SABP ABP AP BP AP AABP AP 样本空间 随机事件事件的关系：事件的运算：频率：概率的定义：满足当时，概率的性质： 当时 1211 3 = 4. |,()(|) ()()(|), (|)()(|)5. nniijjinjjjjBP ABP AP BP ABP ABP BAP ABP A P BAP ABBBSP B P A BP AP BP A BP BAP BP A B条件概率： 当为 的一划分时，事件独立性古典概型第二章 随机变量及

2、其分布随机变量 概率分布函数 离散型随机变量 连续型随机变量 随机变量的函数esxX=X(e)为S上的单值函数，X为实数 * * 本质：将试验结果数量化本质：将试验结果数量化随机变量随机变量设随机试验的样本空间为S=e，如果对于每一个样本点 ，均有唯一的实数 与之对应，称 为样本空间S上的随机变量。RX Se )(eXX 1) 它是一个变量 2) 它的取值随试验结果而改变 3）随机变量在某一范围内取值，表示一个随机事件随机变量的特征:随机变量的分布函数, () Xx P Xxx随机变量对实变量应为 的函数, ( )()XxF xP XxX随机变量对任意实数称函数为 的概率分布函数，简分义：称定

3、布函数。( )F x 的几何意义：xX( )F x 的性质：一个普通的函数！一个普通的函数！一个随机事件一个随机事件离散型随机变量及其分布 定义：取值可数(可列)的随机变量为离散量离散量离散量的概率分布(分布律)10 ,1iiipp样本空间S X=x1，X=x2，X=xn， 由于样本点两两不相容111( )()iiiiP SP Xxp1、写出可能取值即写出了样本点2、写出相应的概率即写出了每一个样本点出现的概率P1x2xix1p2pipX# # 概率分布三个主要的离散型随机变量三个主要的离散型随机变量 01(p) 分布 二项分布Xpq01p样本空间中只有两个样本点(p+q=1)背景样本空间只有

4、两个样本点的情况,都可以用0-1 分布分布来 描述。设A在n重贝努利试验中发生X次，则并称X服从参数为p的二项分布二项分布，记()(1) 01kkn knP XkC ppkn， ， ，0 1() 1nnkkn knkpqC p qqp 注：其中),(pnbX 泊松分布(Poisson分布)若随机变量X的概率分布律为称X服从参数为的泊松分布泊松分布，记() 0 ,1, 2 , 0!kePXkkk ，()X 连续型随机变量及其概率密度定义： 对于随机变量X的分布函数 若存在非负的函数 使对于任意实数 有： (),fx( ),F x, x( )f x其中 称为X的概率密度函数，简称概率密度概率密度。

5、 则称X为连续型随机变量， ( )( )xF xf x dx 与物理学中的质量线密度的定义相类似( )f x 的性质：1) ( )0f x +2) ( )1f x dx21122112 () ( ) ()0 xxxx xxP xXxf t dtP Xa3) 对于任意的实数 ，4) ( ) ( )( )f xx F xf x在连续点 ，( )f x即在的连续点( )f xXx表示 落在点 附近的概率的多少( )yf x1x2x1面积为12 P xXxxxxXxPxxFxxFdxxdFxfxx)()()()()(limlim00三个重要的连续量 均匀分布(一维几何概型) 定义：X具有概率密度 称X

6、在区间(a,b)上服从均匀分布均匀分布， 记为XU(a,b) 1()c lcacc lblP cXc ldtcb ab a 设 -与 无关0 ( ) 1 xaxaF xaxbbaxb1 ( , )( )0 xa bf xba其他 f x0bxa1b a F x0bxa1指数分布定义：设X的概率密度为其中0为常数，则称X服从参数为的指数分布指数分布。记为 0( )0 0 xexf xx1 0( )0 0 xexF xx 00(|)P Xtt Xt00()()P XttP Xt001()1()tF tteF t()P Xt X具有如下的无记忆性：)(EPX 2 (,) XN 当时 (0 1) ZN

7、Z记， ，称 服从标准正态分布()()()baPaXb 221 2xZxe的概率密度：221 ( )2txZxedt的分布函数： 1xx( )yx( )x()x0yxxx 正态分布随机变量的函数分布 一般，若已知X的概率分布，Y=g(X)，求Y的概率分布的过程为：12 ,(),()();jjiYYyyyYyXDP YyP XD1. 若为离散量，则先写出的可能取值：再找出的等价 事件得2. ()() (), ()()()YYYYYFyP YyYyXDFyP XDYfy若为 连 续 量 ， 则 先 写 出的 概 率 分 布 函 数 ：，找 出的 等 价 事 件得； 再 求 出的 概 率 密 度 函

8、 数；关键是找出等价事件。( ),( )0 ( )0)() XXfxxgxgxYg XY 定理：设，或。， 则 具有概率密度为：( ( )( ) , ( ) 0, XYfh yh yyfy其他m in (),() m a x (),()()()gggghyxygx 其 中，第三章 多维随机变量及其分布二维随机变量分布函数 分布律 概率密度边缘分布函数 边缘分布律 边缘概率密度条件分布函数 条件分布律 条件概率密度随机变量的独立性Z=X+Y的概率密度M=max(X,Y)的概率密度N=min(X,Y)的概率密度数学期望方差协方差相关系数矩第四章 随机变量的数字特征定义：定义：定义：定义：111()

9、 1,2,kkkkkkkkkkkXP Xxpkx pXE Xx pE Xx p绝对收设离散型随机变量 的分布律为：若级数则称级数的和为随机变量的，数学期记望为即 敛， , ( )()( )( )Xf xx fxf x dxE Xxfx dxxf x dxXE Xx dx设连续型随机变量 的概率概率为若积分(即)则称积分 的值为随机变量 的，记为 数学期望 即 绝对收敛 数学期望简称期望，又称均值。数学期望简称期望，又称均值。数学期望 (),YXYg Xg定理：设 是随机变量 的函数：是连续函数(), 1, 2,kkP Xxpk11()( ) ()()kkkkkkg xpE YE g Xg xp

10、若绝对收敛，则有( )Xf x是连续型随机变量，它的概率密度为( )E YYX定理的在于我们求时，不必算出 的分布律重或概率密度，而只要利用 的分布律或概率密度就要意义可以了。( ) ( )g x f x dx若 绝对收敛( )( ()( ) ( )E YE g Xg x f x dx则有X是离散型随机变量，它的分布律为：上述定理也可以推广到两个或两个以上随机变量的函数的情况。 ,X Y若二维离散型随机变量的分布律为：,(, ),ZX YZg X Yg定理：设 是随机变量的函数：是连续函数(,), ,1,2,ijijP Xx Yypi j11( ) (, )( ,)ijijijE ZE g X

11、 Yg x yp则有这里设上式右边的级数绝对收敛，( )( (, )( , ) ( , )E ZE g X Yg x y f x y dxdy 则有这里设上式右边的积分绝对收敛,X Y若二维连续型随机变量的概率密度为：()( , )E Xxf x y dxdy 特别地，数学期望的特性：数学期望的特性： ()()( )E aXbYcaE XbE Yc将上面三项合起来就是：这一性质可以推广到任意有限个随机变量线性组合的情况( )CE CC设 是常数，则有1.()()XCE CXCE X设 是一个随机变量， 是常数，则有2.,()()( )X YE XYE XE Y设是两个随机变量，则有3.,()(

12、) ( )X YE XYE X E Y设是相互独立的随机变量，则有4.)()(XDX 定义：定义：设X是一个随机变量,若EX-E(X)2存在,则称EX-E(X)2为X的方差方差.记为D(X)或Var(X),即D(X)= Var(X)= EX-E(X)2称为X的标准差标准差或均方差均方差.定理定理:22()() ()D XE XE X对于对于离散型随机变量随机变量X X，() 1,2,kkP Xxpk其分布律为：21()()kkkD XxE Xp( ),f x其概率密度为2()()( )D XxE Xf x dx对于连续型连续型随机变量X，方差方差方差的性质：方差的性质： 22, ,()()(

13、)X Ya b cD aXbYca D Xb D Y综合上述三项，设相互独立，是常数，则( )0CD C 1. 设 是常数，则2()()XCD CXC D X2. 设是随机变量， 是常数，则有,()()( )2()( ),()()( )X YD XYD XD YEXE XYE YX YD XYD XD Y3. 设是两个随机变量， 则有 特别，若相互独立，则有4. ()0()1 ()D XP XCCE X且012121222222220111122(,) 1,2, ,(,)nnnnnniiinCC XC XC XN CXNinCCCCCCCC若且它们相互则它们的线性组合独立是不全：为0的常数n独

14、立的 个正态变量的线性组合仍服从正态分布： 几种常见分布的均值与方差几种常见分布的均值与方差数学期望数学期望 方差方差 分布率或 密度函数 分布 01分布 p p(1-p)二项分布b(n,p) npnp(1-p)泊松分布 均匀分布U(a,b)指数分布正态分布1()(1)0,1kkP Xkppk1()(1)0,1,.,kkknP XkC ppkn( ) ()!0,1,.,kP Xkekk1 (),( )0,baaxbf x其它a+b22(b-a)12( )EP,0( )0,xexf x其它1212( ,)N 22()21( )2xf xex 2协方差及相关系数协方差及相关系数 定义： ()( )

15、(, )(, )()( ) .(, )() ( )XYXYEXE XYE YXYCov X YCov X YEXE XYE YCov X YD X D YXY量称为随机变量 与 的协方差，记为：，即称为随机变量 与 的相关系数.是一个无量纲的量协方差的性质：协方差的性质： (, )( ,)(,)()1. Cov X YCov Y XCov X XD X， (,2. )()() ( )Cov X YE XYE X E Y (,)(, ) ,3. Cov aX bYabCov X Ya b是常数1212 (, )(, )(,4.)Cov XXYCov X YCov XY 1,()12.110 0X

16、YXYXYa bP YabXbb 存在常数，使 特别的，时，；时， 相关系数的性质：1. 1XY0 X YXYXYXY定 义 ：， 称与不 相 关注 意 ，与不 相 关 ， 只 是 对 于 线 性 关 系 而 言 的与相 互 独 立 是 就 一 般 关 系 而 言 的0XYXY随机变量 与 不相关，即的等价条件有：1. (, )0Cov X Y 2. ()() ( )E XYE X E Y3. ()()( )D XYD XD YXYXYXYXY从而可知，当 与 相互独立与 一定不相关反之，若 与 不相关， 与 却不一定相互独立矩矩XY定义：设 和 是随机变量() 1,2, () kkE XkX

17、若存在，则阶 原它为 的点称矩；() 1,2,kkEXE XkX若存在， 则称它为 的 阶中心矩；,1,2,klE X Yk llXYk若存在 存在， 则称它为 和 的阶混合矩；() ( ) ,1,2,klEXE XYE YkklXlY若存在， 阶 则称它为的混合中心矩；显然，最常用到的是一、二阶矩第六章 数理统计的基本概念 总 体 样 本 统 计 量 2分布t 分布F 分布总体和样本总体：研究对象的全体。如一批灯泡。个体：组成总体的每个元素。如某个灯泡。抽样：从总体X中抽取有限个个体对总体进行观察的取值过程。随机样本：随机抽取的n个个体的集合(X1,X2,Xn), n为样本容量简单随机样本：

18、满足以下两个条件的随机样本(X1,X2,Xn)称 为简单随机样本。1. 每个Xi与X同分布2. X1,X2,Xn是相互独立的随机变量说明：后面提到的样本均指简单随机样本，由概率论知，若总体X具有概率密度f(x)，则样本（X1,X2,Xn）具有联合密度函数： 121,nnniifx xxf x统计量：样本的不含任何未知参数的函数。常用统计量：设（X1,X2,Xn）为取自总体X的样本111. XniiXn样本均值1113. 1,2,1 () 1,2,nkkiinkkiikAXknkBXXkn样本矩阶矩：阶中心矩：22112. () ,1niiSXXSn样本方差为样本标准差222,.,(),()()

19、_,()_,()_.nXXXE XD XE XD XE S1（二）设X是总体 的样本，若，则2n2常用的分布 12222221,0,1 1,2, 11nnniiiXXXNinnn设随机变量X相互独立，X 则称 服从自由度为 的， 定 指式右端包含分布记为自的独立变度义：由量的个数2分布2分布的一些重要性质： 22221. ,2nEn Dn设则有22211221212122. ,YnYnY YYYnn设且相互独立，则有22分布的可加性性质 称为，可推广到有限个的情形： 221211,mmiimiiiiYnY YYYn设且相互独立，则 22222,01,nnfdynynn为分布的上 分对给定的概率

20、称满足条件的点上 分位数的值可查位数分布表 20,1 ,NYnXTntTtYnY n设X并且X相互独立， 服从自由度为 的 分布，记 则称随变量为机定义： , 01,tnf t n dttnt ntt对给定的称满足条件的点为分布的上。 分布的上 分位数可位数查分分布表t分布 tn f xx0t分布的分位数10n 313x( )f x1n 4n 2021t分布的密度函数1( )( )tntn z,0,1 ,01XNZP XZZ此外 设若满足条件 则称点为标准正态分布的上 分位数。1ZZ 121212,1212, 01,;,Fn nf x n ndxFn nF n nFn nF 对于给定的称满足条

21、件的点为分布的上 分位数。的值可查 分布表111221( ,)(,)Fn nF n n 221211212212, ,/,/nYnYX nFn nFFF n nY nnn设X且X独立， 则称随机变量服定义：从自由度的 分布，记为 其中 称为第一自由度，称为第二自由度F分布11221( ,),(,)FF n nFF n n性质：则正态总体样本均值和方差的分布222122222 , 1. X,-1 2. 1 6 3. X.6 nnX XXNSNnSnS 设是总体的样本，X分别是样定理：本均值和样本方差，则有：和 相互独立221/11/tn XnSXnt nSn且两者独立，由 分布定义得：221,1

22、 ,6.7nXXNSn Xt nS 设是总体的样本，X和分别是样本 均值和样本方差，则有：定理：22216.60,1 ,1/nSXNnn证明：由定理知，1222111122221222211222121222121222212 , 1 1,12(0,1), 3 6.8 nnXXYYNNSSSFF nnSXYNnnXY 设样本和分别来自总体和 并且它们相互独立，其样本方差分别为理：时，定则：当121212221122221221111 ,2WWWWt nnSnnnSnSSSSnn其中第七章 参数估计 矩估计法 极大似然估计法 置信区间 置信度参数的点估计1212,1,2,niiiniXXXikX

23、XXi 点估计的问题就是根据样本，对每一个未知参数，构造出一个统计量，作为参数 的估计，称为。的估计量 点估计有两种方法： 矩估计法和极大似然估计法 121212121;, 1,2, ,1 1,2, ,1121,212kkkvvknnvviiXF xXkE XE XvkXXXXvAXvkkAknA 设总体 的分布函数为是待估计的未知参数，假定总体 的 阶原点矩存在，则有：对于样用样本矩作为总体矩的估计，即本其 阶样本：矩是：令 12122 ,12kkAkkk 解此方程即得的一个矩估计量一 矩估计法：矩估计法： 1122211 , , , ,nnininlnL x xxln fxlnLL x x

24、xLL x xx说明在求的最大值时，通常转称为对数似然函换为求：数通常的最大，记为，值121212,( , ),knnXf xp xx xxX XX 设总体 的概率密度为或分布率为未知参数，为参数空间，即 的取值范围极大似然。设是样本的一个估计法：观察值：1211121. 2.,(, ) ), nnniiiinL x xxfxp xL x xx 作似然函数或称为求使 的极达到最大大似的 值，然估计量求极大似然估计的一般步骤归纳如下： 估计量的评选标准对总体的未知参数可用不同方法求得不同的估计量，如何评价好坏？ 通常用三条标准检验：无偏性无偏性，有效性有效性，相合性相合性 无偏性无偏性,nEli

25、Em E 若那 么若则称 为 估 计 量的 偏 差渐 近称是的无 偏 估 计 量 12,nEXXX满足 则称定义是 的一若参数 的估计个无偏量：估计量。 在评价一个估计量的好坏时,我们当然希望估计量与被估参数越接近越好.但估计量是一个随机变量,它的取值随样本的观测值而变,有时与被估参数的真值近些,有时远些,我们只能从平均意义上看估计量是否与被估参数尽量接近,最好是等于被估参数.于是有无偏估计量的概念. 有效性有效性121212,DD 设是的 两 个 无 偏 估 计 ， 如 果对 一 切成 立 则 称：比定 义有 效 。 一个参数的无偏估计量不是唯一的,假若参数有两个无偏估计量 ,我们认为其观测

26、值更密集在参数真值附近的一个较为理想.由于方差是随机变量取值与其数学期望的偏离程度的度量,所以无偏估计以方差小者为好.这就引出了估计量的有效性这一概念. 一致性 估计量的无偏性和有效性都是在样本容量固定的前提下提出的.我们自然希望随着样本容量的增大,一个估计量的值稳定于待估参数的真值.这就对估计量提出了一致性的要求.),.,(0|lim, 0.),.,(,),;(:2121一致估计的为参数则称总有若对于任意的估计量为为待估参数有概率函数设总体定义nnnXXXPXXXxpX 置信区间置信度 1122111121121;01 , ,11 , ,1 7 1nnnnXF xXXXXPXXXX 定义：设

27、总体 的分布函数含有一个未知参数 ，对给定的值如果有两个统计量， 使得： 随机区间是 的双侧置信区间 则；称称为置信度 ；和2分别称为双侧置信下限和双侧置信上限 。区间估计单侧置信区间11111 7 1, 7,1, 2,1,nnXXPXX 为 的单侧置信下限在以上定义中，若将式改为：则称随机区间是 的置信度为单侧置 的 。信区间 。2221172,1, , , 731nnXXPXX又若将式改为：则称随机区间是 的置信度为 为 的的单侧置信上限单。侧置信区间。这时必有 1),(),(212211nnXXXXXXP 正态总体均值方差的区间估计2 ,N 一 单个正态总体的情形2212, 1nXXXN

28、XS 来自和分别为样本均值和方差 置信度为1. 均值 的置信区间 21 已知时, 0,1XXNn是 的无偏估计 由 21XPZn 有221P XZXZnn 即22,XZXZnn置信区间为： 1-?思考题：均值 的置信度的置信下限是什么呢: X-nz答案 22 未知时1Xt nSn由 22111XPtntnSn 有22111SSP XtnXtnnn 即221 ,1SSXtnXtnnn置信区间为： 0t1220t 22. 方差的置信区间设 未知22211nSn由 22212221111nSPnn 有2222221211111nSnSPnn 即222221211,11nSnSnn置信区间为： 1-?

29、2思考题:方差的置信度的置信上限是什么221:(n-1)S.(1)n答案221122 ,NN 二 两个正态总体的情形1212222121112222211211,11, , 1.nnnnijijXXXNY YYNXX YYSSnn 来自来自和分别为第一 二个总体的样本方差 置信度为121. 的置信区间 22121 ,已知时22121212,XYNnn由 122212120,1XYNnn有 2212212XYZnn置信区间为： 2222122 ,未知1212126.8, 211wXYt nnSnn此时由第六章定理221122221211 ,2wwwnSnSSSSnn其中12212112wXYtn

30、nSnn置信区间为： 21222. 的置信区间12, 设未知22121222121,1SSF nn由 2212121222122121,11,11SSP FnnFnn 有 22112212122212211,1,11,1SSFnnFnnSS置信区间为： 22211122212122221221111,11,1SSPFnnFnnSS 即 待估 参数 其他 参数W 的 分 布置信区间单侧置信限 一个正态总体 两个正态总体21221222已知2212,已知22122未知12, 未知2XZn21SXtnn222221211,11nSnSnn122未知未知2212212XYZnn212212221212

31、1221,1,111,1SFnnSSFnnS21212112wX Y tnnSnn 0,1XZNn1Xtt nSn222211nSn122212120,1XYZNnn22121222121,1SSFF nn121212211wXYtt nnSnnXZnXZn11SXtnnSXtnn22212221111nSnnSn2212121222121212XYZnnXYZnn22112211222221122122211,111,1SFnnSSFnnS121212121212112112wwX Y t n nSn nX Y t n nSn n 正态总体均值、方差的置信区间与单侧置信限1置信度 随机过程

32、状态和状态空间 样本函数 有限维分布函数 均值函数 方差函数 自相关函数自协方差函数 互相关函数互协方差函数 正态过程 独立增量过程 泊松过程 维纳过程第十二章 随机过程及其统计描述 一维、二维或一般的多维随机变量的研究是概率论的研究内容，而随机序列、随机过程则是随机过程学科的研究内容。从前面的描述中看到，它的每一样本点所对应的，是一个数列或是一个关于t的函数。 ( , ),( , ),TX e t eS tTetSTtT X e tX e t eS tT设 是一无限实数集，是对应于 和 的实数， 即为定义在 和 上的二元函数。 若此函数对任意固定的是一个随机变量， 定义： 则称是随机过程；,

33、( , )Tet X e t为参数集，对固过程定的 和称为的状态；( , )X e t 所有可能的值状的全体称为态空间；( , )( )X e tX t今后将简记为( , ),tX e t eS tTe对于随机过程进行一次试验，即 给定，它是 的函数，称为随机过程的样本函数。随机过程的概念随机过程的统计描述分布函数两种描述特征数() 一 随机过程的分布函数族1212121111222221( , ,)( ),( )(2,3,), ,( ),( ),( ),1,2,( ),( ,; , ,) ( ),( )XnnnniXnnnniF x xxt ttP X tx X txX tn nt ttTn

34、X tX tX txR inX t tTF x xx t tttTX t tnxnT一般地，对任意个不同的时刻，维随机变量的分布函数：称为随机变；，量的称为的维分布函数维分布函数族1212( ,; , ,),1,2, ( ),XnniFx xx t ttntTX t tT有限维分布一般地，称为随机过程的它完全确定了随机过程函数族的统计特性( ),( ),( , ),( , )(XXF x tP X txxRX t tTtTX t tTF x t tT 设随机，过程对每一固定的称为随机一过程的称维分布函数一为，维分布函数族22222( ),( )( )( )( )( )( )( )( )( )(

35、 ) XXXXXXXX t tTtE X ttE XttDtEX tttt均值函数均方值函给定随机过程-数方差函数标准差函数-各数字特征之间的关系如下：(二二) 随机过程的数字特征随机过程的数字特征12121212121122,( , )( )( )( , )( ),( ) ( )( )( )( )( )( )XXXXXXt tTRt tE X t X tCt tCov X tX tEX ttX tt又设任自相关函数自协意方差函数 2,XXtRt t 121212,XXXXCt tRt ttt 22,XXXXtCt tRt tt2( ), ( )( )X t tTtT E XtX t随机过程，

36、如果对每一都存在， 则称是， 二阶矩过程的均值函数和相关二阶函数定总义：是程 矩过存在的。1212( ),1, , ( ),( ),( )( ),nnX t tTnt ttTX tX tX tnX t tT 是一随机过程，若它的每一个有限维分布 都是正态分布，即对任意整数及任意服从 维正态分布， 则称是正态过程的全部统计特性完全由它的均值函数和自协方差正函定义：态过程数所确定。( ), ( ),( ), ( )( ), ( ) X t Y ttTtT X t Y tX t Y ttT 设是依赖于同一参数的随机过程，对于不同的()是不同的二维随二机变量，称为维随机过程(三三) 二维随机过程的分布

37、函数和数字特征二维随机过程的分布函数和数字特征1211121212121212( ), ( ) , ,; , ,( ),( ),( ); ( ), ( ),( )( ,; , ,;,; , ,)nmnmnnmmX t Y ttTt tt t ttTnmX tX tX tY tY tY tF x xx t tty yytmtnt 给定二维随机过程，是 中任意两组实数，则维随机变量的分布函数：称为二维随机过程的维分布函数12111212( ), ( ) , ,; , ,( ),( ),( )( ), ( ),()( )( )nmnmX t Y ttTn mt ttT t ttTnX tX tX t

38、mY tY tY tX tY t 给定二维随机过程对任意的正整数，任意的数组维随机变量与 维随机变量相互独立，称随机变量和是相互独立的( ), ( )X t Y t关于数字特征，除了各自的均值函数和自相关函数，还有如下两个数字特征:1212( ), ( ),( , )0,( )( )XYX t Y tt tTCt tX tY t如果二维随机过程对任意的恒有称和是不相关的。121212121212( , )( ) ( ) ,( , ) ( )( ) ,XYYXRt tE X t Y tt tTRt tE Y t X tt tT互相关函数12112212121212121212( , )( )(

39、) ( )( ) ( , )( )( ) ,( , )( , )( )( ) ,XYXYXYXYYXYXYXCt tEX ttY ttRt tttt tTCt tRt tttt tT互协方差函数3 泊松过程及维纳过程0110211( ),0,0( )( )0,( )( ),( )( ),( )(),( ),0nnnX t ts tstX tX sntttnX tX tX tX tX tX tX ts tt给定二阶矩过程，对，上的增量；独立的增量过若称随机变量为随机过程在区间对任意选定的正整数 和任意选定的个增量相互独立，称为；它具有“在互不重叠的区间上，状态的增量是相互独立”的程这直观地说，一

40、特征；0,()()( )( )( )()(0)0,(X tXhsX tsXshthX thX shX tX stsstts 若对任意的实数和与具有相同的分布，称；这时，增量的分布函数与的分布函数相同，即只依赖于时间差而不依赖于 和 本身，当增量具有平稳性时，称相应的独立增量过增量程是具有平稳性齐次的；独立增量过程的性质：( ),0(0)0,X t tX若是独立增量过程，且则：( )( )( ) (0)1. X tX tX sst的有限维分布函数族可以由增量的 分布所确定；( )( , )( ,2.) XXXDtCs tDm in s t设已 知 ， 则000( ),0 2. 0,( )() 3

41、. (0)0( ),0N ttttN tN tttNN tt 若计数过程满足下列三个条件：1. 它是泊松过程也可用另一形式定义独立增量过程对任意的增量则称是强度为 的：一泊松过程泊松过程的定义泊松过程强度为 的泊松过程的数字特征： 0001. ,E N t tE N tN ttt 00002. ,000 ,NNDNttDNtNttttNtENtt DtDNtt 特 别 地 ， 由 假 设， 可 得 ：3. , ,0NNCs tDmin s tmin s ts t 24. , ,0NNNNRs tCs tstmin s tsts t N t设是强度为 的泊松过程 1 ,nnnWWnWft是第 个

42、质点出现的等待时间，下面给出的概率密度 0,nnWnWFtP WtP N tnnttn 的分布函数 即第 个质点出现的时间内至少 个质点出现 0!0 0nktWk nk ntP N tketFtkt于是 111 0! 1 !0 0nnnnk kkkWtttk nk nWWdFttktteeetdtkkftnt 因此，的概率密度为：,nWn即服从分布。 11 00 0tWWetftt特别地，质点首次出现地等待时间服从指数分布： 11110111 0 0 2 1,2, 0 1 iiiiitiiiiTTitP TtP N ttN tetFtTWWiWii 。 下面来求 的分布，设第个质点出现的时刻为

43、，记 称为相继出现的第个质点和第点间间距 个质点的 则 ,1,2 , 0 00 0iitiTT itetTftt即 于是 的概率密度为： 点间间距序列服从同一个指 数分布。 定理一：强度为的泊松流(泊松过程)的点间间距是相互独立的随机变量，且服从同一指数分布 定理二：如果任意相继出现的两个质点的点间间距是相互独立，且服从同一个指数分布： 这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指数分布。 00 0tetf tt则质点流构成强度为的泊松过程 2( ),0 1. 2. 00,0 3. (0)0W t tts

44、W tW sNtsW给定二阶矩过程，如果它满足：具有独立增量对任意，增量 且 称此过程为定义：维纳过程 维纳过程维纳过程的性质：1. 维 纳 过 程 是 齐 次 的 独 立 增 量 过 程2. ()维 纳 过 程 是 正 态 过 程 ， 因 此 其 分 布 完 全 由 它 的 均 值 函 数 和 自 协 方 差 函 数 即 自 相 关 函 数 所 确 定 223. ( )0 ( ) , ,0WWWWWtE WtDtD WttCs tRs tDmins tmins ts t维 纳 过 程 的 数 字 特 征 : (宽)平稳过程 时间均值 时间相关函数 各态历经性 谱密度第十四章 平稳随机过程平稳

45、随机过程的概念 , X ttT是一随定义：机过程，121,2, ,nn nt ttTh对任意的，和任意实数12, ,nth ththT当时 1212,nnX tX tX tX thX thX th和具有相同的分布函数， 12121212,; , ,;,nnnnF x xx t ttF x xx th ththX ttT平即： 则称随机过程具有， 稳性严平稳随机过程 称此过程为，简称严平稳过程 1212212121,0 ,00,XXXXXX ttTtE X tE XRt tE X tX tE XX ttRttRtt记为记为 设严平稳过程是二阶矩过程 则常严平稳过程的数字数特征： , ,XXX t

46、tTt tTE X tE X t X tRX ttT 给定二阶矩过程，如果对任意的常数 则称为宽平稳过程 严平稳过程二阶矩存在宽平稳过程；反之不一定成立. 今后，平稳过程均指宽平定义：稳过程。 ,XYXYXYX tY ttTRRt tE X t X tRX tY t和是两个平稳过程 如果它们的互相关函数也只是时间差的函数，记为 即 称和是， 或称这两个过程平是稳相关的联合定义：宽 平稳的随机积分定义：两种定义下的随机变量在存在的情况下，以概率1相等 1. ,( ) , ,baX ttTx taX ta bbTYX t dt Y给定二阶矩过程，如果它的每一个样本函数在上的随机过程在上积分都存在，

47、称， 的积分存 记为是一在随机变量； 012112012.,1,2,0,iniiiiiiniimax tia battttbttttt inYlimEYXtYX ta b 考虑内的一组分点： 且记 若存在随机变量 ，使 称 为在上的均方积分 ,.babbXaabaXttTRs tEYEXtd s d tdXtabYYXttd t 是 二 阶 矩 过 程 ，若 自 相 关 函 数 的 二 重 积 分 存 在 ， 即存 在 ，则在上 均 方 积 分 存 在 即 存 在 随 机 变 量且定 理 ： 12TTTX tX t X tlimX t X tdtT随机过程的时间相关函数：= 12TTTXtXt

48、limXtdtT 随 机 过 程的 时 间 均 值 ： 定 义 ：=1. ( )( )1( )XX tE X tX t如果以概率 成立， 均值具有 则各称过程的态历经性 X t设是定义：一平稳过程 2. ( )()( )()1( )0XX t X tE X t X tRX t如果对任意实数 ，以概率 成立， 则称过程的， 自相关函数具有各 特别当时，称态历经性均方值具有各态历经性( )3. ( )X tX t如果的均值和自相关函数都具有各态历经性， 是各态 则称历经过程 222lim0XXXXXXXXXXXlimRlim Rlim Clim Clim Rlim CXRlim RtX t在存在的

49、条件下， 若,则定理一条件成立，即 若,则定理一条件不成立,即注意： 均值具有各态历经性均值不具有因此在或存在条件下，均值各态历经性的条件为：，即当时间差 充分大时，和各态推历经性论：呈 Xlim R现不相对随机相位正弦波而言，不存在，但它的均值是各关性态历经的 2201102TXXTX tlimRdTT均值各态历经定理 平稳过程的均值具有各态历经性 的充要条件是：定理一： 2211101111 102 XXTTX tRlimBRdTTBE X t X tX tX t自相关函数各态历经定理 平稳过程的自相关 函数具有各态历经性的充要条件是： 定理二 ： 其中 00001 ( ) 1 ( )()

50、 TTTTttX tlimX t dtTX t X tlimX t X tdtT 在实际应用中通常只考虑定义在上的平稳过程，此时上面的所有时间平均都应以上的时间平均来代替。即而相应的各态历经定理可表示为下述形式： 2011 10XTXXTPXtlimRdTT 三 ： 定 理 2111011 10XTXTPXtXtRlimBRdTT 定四 ： 理 222. ,111 ,222,TitXTTXTXttxtXtxtXtFTXtedtXtdtFTdTT 平 稳 过 程 的 功 率 谱 密 度 设 平 稳 过 程前 面 讨 论 的可 以 看 成 它 的 样 本 函 数 ， 于 是 对 平 稳 过 程作

51、讨 论 ， 只 要 把换 成即 可 ， 即 ： 22111,222, TXTTTlim EXt dtlimFTdTTT 等式两边取数学期望，再让得： 22211 220TTTTTTXXX tlim EXt dtlimEXtdtTTR等式左边称为平稳过程的平均功率平稳过程的功率谱密度 220 ,1 ,21 02XXXTXXXXRSlimEFTTSRdtSX 在频率域中称之为平稳即平稳过程的平均功率等于该过程的均方值过程在处的功率谱密或等式右边中的被积式记为：利用记号及简化结果得：度此式称为平稳过程的平均功率的谱表达式( (二二) ) 谱密度的性质谱密度的性质 2. 12XXiiXXXXSRSRedRSed和自相关函数是一傅里叶变换对， 即 ； 它们统称为维纳辛钦公式 21. ,XXXXSFTFT FT是的实的、非负的偶函数 事实上，因为 是的实的、非负的偶函数，所以它的均值的极限 也必是实的、非负的偶函数 XS谱密度有以下重要性质：222aaeta)(211)(t