第二部分随机变量

《第二部分随机变量》由会员分享，可在线阅读，更多相关《第二部分随机变量（54页珍藏版）》请在装配图网上搜索。

1、1第二章：随机变量n上节课内容2随机变量n统计推断是与数据相关的。随机变量就是将样本空间/随机事件与数据之间联系起来的纽带n随机变量是一个映射 ，将一个实数值 赋给一个试验的每一个输出n例2.2：抛10次硬币，令()表示序列 中正面向上的次数，如当 =HHTHHTHHTT，则()=6。:XW R X3随机变量的概率描述n事件的概率 随机变量的概率描述n给定一随机变量 及实数子集，定义 AXAX,1()()()()()1;XAXAXAww-=WPPP()()()()()1;XxXxXxww-=W=PPP其中X表示随机变量，x表示X可能的取值()()()()01 4,1,1 2,XTTXHT TH

2、PPPP=()()21 4XHH=PPP()()TT1/40TH1/41HT1/41HH1/42P(=)01/411/221/44随机变量的分布函数n随机变量 的(cumulative distribution function,CDF)定义为nCDF是一个非常有用的函数：包含了随机变量的所有信息。CDF的性质：略（见书）n:0,1XFR()()XFxXx=P有时记为F()()3.7 CDF CDF,()()XFYGx F xG xAXAYA=公式 假定有，有。如果，那么，有PP()()dXYxFxF xXYXYXY=如果任意 有,那么机量 和 同分布不意味与 相等，而是在概率意下相同对这两个

3、随变记为这着义。5例：随机变量的CDFn例2.6：公正地抛硬币2次，令 表示正面向上的次数，则nCDF()()()()0=21 411 2001 4013 41212XXXXxxFxxx，则数=分布函如下：PPP6离散型随机变量的概率函数n离散型随机变量的(or,pmf)定义为()()XfxXx=P()()()iXXixxFxXxfx=P有时记为 f()0Xxfx纬R，()1Xiifx=7例：离散型随机变量的pmfn例2.10：公正地抛硬币2次，令 表示正面向上的次数，则n概率函数为：()()()()0=21 411 2001 4013 41212XXXXxxFxxx，则数=分布函如下：PPP

4、()1 401 211 420Xxxfxxotherwise=8连续型随机变量的概率（密度）函数n对连续型随机变量，如果存在一个函数 ，使得对所有的，且对任意 有n则函数 被称为密度(,pdf)。nCDF与pdf之间的关系：()()bXaaXbfx dx=-PPXF()()XXfxFx=注意：是可能的()1Xfx()()0,XXxfxx=P9例：连续型随机变量的CDF和pmfn例2.12：设 有PDF:n显然有n有该密度的随机变量为(0,1)上的均匀分布：Uniform(0,1)，即在0和1之间随机选择一个点。n其CDF为：()01XXfxfdx=，()1 010Xforxfxotherwis

5、e=()000111XxFxxxx 10分位函数(quantile function)n令随机变量 的CDF为，CDF的反函数或分位函数(quantile function)定义为n其中 。若 严格递增并且连续，则 为一个唯一确定的实数，使得 。n 为增函数()1inf:()XXFqx Fxq-=0,1q()1XFq-()XFxq=()11 2F-1XF-11随机变量的变换：老的随机变量，：新的随机变量，n离散：()XXFx:()Yr X=()()()()YfyYyr Xy=PP()()()()1;x r xyXry-=PP12离散型随机变量的变换n例2.45：假设的取值比 少，因为该变换不是

6、一一映射。-11/401/211/401/211/2()()()-1=11 401 2XXX，PPP=()()()()()2-1=01 21-111 2,YXYXYXX，则，=+=令即PPPPP13连续型随机变量的变换nCDF方法:()yAx r xy()()YYfyFy()()()(;()()yYAXFyYyr Xyx r xyfx dxPPP14连续型随机变量的变换n当 为单调增函数/减函数，定义 的反函数 ，则n当、存在一一映射时，上述结论仍可用Jacobian方法n分区间：在每个 区间内为单调函数，可分区间利用上述结论1sr-=()()()YXds yfyfs ydy1516例：连续型

7、随机变量的变换n例2.46：n则n令n则n或直接用Jacobian方法(),0 xXfxex-=()logYr XX=:yyAx xe=:logyAxxy=()()(log)YFyYyXy=PP()()1yyyeXXeFee-=-P()yyeYfye e-=()()()()1,yyyyyeYXs yryefyfeee e-=()()0()1xxXXFxXxfs dse-=-P17例：连续型随机变量的变换n例：概率积分变换 有连续CDF ，定义随机变量为 ，则 为0,1上的均匀分布，即n对随机数产生特别有用（Chp2第15题）XF()XYFX=(),01YyyyP18x()XFx0.51.001

8、x2x19常见分布族n离散型随机变量 Ch2,p25n均匀(Uniform)分布n贝努利(Bernoulli)分布n二项(Binnomial)分布 n超几何(HyperGeometric)分布n几何(Geometric)分布n泊松(Possion)分布2c20常见分布族n每个分布族21正态分布n亦称高斯分布，m221()()exp22xf xs221()()exp22xf x()2,XNm s22正态分布n最重要的分布之一1,.,nXX2,nXNnsm骣桫23标准正态分布n当 时，正态分布称为标准正态分布，通常用 表示服从标准正态分布的变量，记为 。npdf和CDF分别记为0,1ms=()0,

9、1ZN()2,XNm s()()0,1ZXNms=-()2,XZNmsm s=+()0,1ZN()2,1,2,.,iiiXNinm s=2111,nnniiiiiiXNms=骣桫邋()(),zzfF24二元随机向量的联合分布n离散型随机变量的联合分布：令为一对离散型随机变量，联合概率函数(pmf)定义为n联合概率分布函数(CDF)为：(X,Y)：随机向量()()(),f x yXxYyXx Yy=且PP()(),X YFx yXx Yy=P25n例2.18：对如下有两个随机变量的二元分布，变量 和取值为0、1，n则 。1,11,14 9fXYP12/31/32/35/92/9X=11/32/9

10、1/9X=0Y=1 Y=0联合分布边缘分布26二元随机向量的联合分布n连续型随机变量的联合分布：令对一对连续型随机变量，联合概率密度函数(pdf)定义为(,)0 ,f x yx y，,(,),X YFx yXx YyP,(,)AAX YAf x y dxdyRRP,1fx y dxdy 27边缘分布n离散型随机变量：()()()()()()()()()()(),.23,2.4,2.5 X YXyyYxxX YfXfxXxXx Yyf x yYfyYyXx Yyf x y=邋邋定：如果有合分布密度函那么 的密度函定如下：的密度函定：PPPP义联数，边缘数义边缘数义为28边缘分布n连续型随机变量：

11、联合分布包含了随机向量概率分布的信息联合分布唯一确定了边缘分布，但反之通常不成立()()()()(),=2.6XYXYfxf x y dyfyf x y dxFF蝌2.25 定 型机量，密度函是：相的分布函分和义 对连续随变边缘数和应边缘数别标记为29独立n n PDF可以因式分解()()()()2.29,.2.6ABXYXA YBXAYBXY挝=挝C 定 如果于任意 和足以下件，机量和 是相互立的，PPP义对满条则称两个随变独记为。()()(),2.30PDF,X YX YXYXYfx yfx yfx fyXY=C 定理 与 的合所有且足，设联对当仅当满时。30独立()()()()()()(

12、)()()()()()2-22.33,2.34200,00,0,2,xyxyXYghf x yxyXYXYexyf x yotherwiseXYg xeh yef x yxyXY-+=+=C定理 与成的范是矩形（可能限大）,如果有函和（不必是概率密度函）足例 与 有合概率密度且与 是的矩形域，有因而，设组围无数数满=gh 则 与 相互独立联，当时=gh，31随机变量之间的关系n独立n 当且仅当n不独立：随机变量之间的关系用条件分布描述n条件分布：XYC()()(),X YXYfx yfx fy=()()(),|,|X YX YYfx yfx yfy=()()()()(),|,|X YX YYY

13、 XXfx yfx y fyfy x fx=32条件分布n离散型随机变量的条件概率函数：n对连续型随机变量，条件概率定义相同，但解释不同()()()|ABA BB=PPP第一节课中随机事件的条件概率：,|2.35 0,|=|=YX YX YYfyfx yXx Yyfx yXx YyYyfy定：，件概率函定PPP义当时条数义为。33条件分布n()|X Yfx yf()|X Yfx yf()()|,()|1()()XYYX YYYfx y dyfyfx y dxfyfy=f34例：条件分布()()()()|2.390,1|,11010101|10 XY XXUniformXY XxUniform

14、xYxfxxyfy xxf=-:例 服,得 的值后，生成那么 的分布是什么？首先注意到，所以设从当获。边缘其他其他()()()()()()(),|,101,|10,1 X YY XXYX Yxyx yfy x fxxYdxdufyfx y dxxu=-=12(,):(,),(,),(,)Bu vug x yvgx yx yA=xxxyyxuvJyyuvuvux抖抖抖抖=-抖抖抖抖12(,),(,)Ug X Y VgX Y=12(,),(,)xh u vyh u v=()()()()12,UVXYfu vfh u vh u vJ=Zf思考题：求两个正态分布的和与乘积的分布54下节课内容n作业：nChp2：第4、7、14、15题