概率论与数理统计：4.3 协方差、相关系数和矩

《概率论与数理统计：4.3 协方差、相关系数和矩》由会员分享，可在线阅读，更多相关《概率论与数理统计：4.3 协方差、相关系数和矩（44页珍藏版）》请在装配图网上搜索。

1、 前面我们介绍了随机变量的数学期望和方差，前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之间关系的数字特对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本讲要讨论的征中，最重要的，就是本讲要讨论的协方差和相关系数协方差和相关系数4.3 协方差、相关系数和矩协方差、相关系数和矩 一一.协方差与相关系数的概念协方差与相关系数的概念1.定义定义 设二维随机变量设二维随机变量(X,Y),它的分量的数学期望为它的分量的数学期望为E(X),E(Y)，若，若E(XE(X)(YE(Y)存在，则存在，则称它为称它为X,Y的协方差，记为的协方差，记为Cov(X,Y),即即 Cov

2、(X,Y)=E(XE(X)(YE(Y)2.计算计算(1)若二维离散型随机变量若二维离散型随机变量(X,Y)的联合分布律为的联合分布律为,.2,1,),(jiyYxXPpjiij 且且C o v(X,Y)存在存在,则则 jiijjipYEyXExYXCov,)()(),(2)若二维连续型随机变量若二维连续型随机变量(X,Y)的联合概率密度的联合概率密度为为 f(x,y),且且C o v(X,Y)存在，则存在，则 ),()()(),(dxdyyxfYEyXExYXCov(3)Cov(X,Y)=E(XY)E(X)E(Y)Cov(X,Y)=E(XY)-E(X)E(Y)可见，若可见，若X与与Y 独立，独

3、立，Cov(X,Y)=0.Cov(X,Y)=E XE(X)YE(Y)=E(XY)E(X)E(Y)E(Y)E(X)+E(X)E(Y)=E(XY)E(X)E(Y)即即=EXYXE(Y)YE(X)+E(X)E(Y)(5)Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)(2)Cov(X,Y)=Cov(Y,X)3.简单性质简单性质(4)Cov(aX,bY)=ab Cov(X,Y)a,b是常数是常数(6)若若X,Y 的协方差的协方差Cov(X,Y)存在，则存在，则E(XY)=E(X)E(Y)+Cov(X,Y)(3)Cov(X,X)=D(X)(1)Cov(X,a)=0若若X1,X2,Xn两两

4、独立两两独立,，上式化为，上式化为D(X+Y)=D(X)+D(Y)+2Cov(X,Y)4、随机变量随机变量和的方差与协方差的关系和的方差与协方差的关系),(2)()(11jininijiiiXXCovXDXDniniiiXDXD11)()(求求 cov(X,Y)1 0 p qX P 1 0 p qY P 例例1 1 已知已知 X,Y 的联合分布为的联合分布为XYpij 1 010 p 0 0 q0 p 0,D(Y)0,则称则称)()(),(YDXDYXCovXY 在不致引起混淆时，记在不致引起混淆时，记 为为 .XY 2、定义、定义 若若 XY=0 则称则称X,Y 不相关；不相关；若若 XY

5、0 称称X,Y正相关；正相关；若若 XY 0 则称则称X,Y负相关。负相关。例例4:设设(X,Y)在圆域在圆域 0)();,(D222rryxyx上服从均匀分布，判断上服从均匀分布，判断X,Y是否不相关。是否不相关。解：由例解：由例2知知cov(X,Y)=00XY故故即：即：X和和Y不相关不相关 ),;(22,221,1N 例例5 设设(X,Y)服从二维正态分布服从二维正态分布 求求X和和Y的相关系数的相关系数 解：易知解：易知21,EYEXdxdyyxfyxYX),()(),cov(21 ),(2211tysx令2221,DYDXdsdtesttts22221)()1(2122112)(ut

6、s令dudteutttu22221)1(2221)(12 dtetduetu222212)1(22211221 X和和Y不相关不相关 =0 所以有所以有)()(),cov(YDXDYXXY则则X,Y 相互独立相互独立X,Y 不相关不相关 对于二元正态分布，其独立性和不相关性对于二元正态分布，其独立性和不相关性是等价的。是等价的。例例6 6 设设(X,Y)N(1,4;1,4;0.5),Z=X+Y,求求 XZ解解,4)()(,1)()(YDXDYEXE2),cov(,21YXXY6),cov(),cov(),cov(YXXXZX12),cov(2)()()()(YXYDXDYXDZD231226X

7、Z 例例7：设：设X U0,2,Y=cos(X),求求 XY 解：易知解：易知 )(XE3)(2 XD)cos(XEEY dxxxf)(cos 2021cosdxx0)cos()(XXEXYE dxxxfx)(cos 2021cosdxxx0 故故 XY=0 例例8：设：设X N(0,4),Y （4）,XY=1/2,求求E(X+Y)2 解：易知解：易知EX=0,DX=4EY=4,DY=4E(X+Y)2=D(X+Y)+(E(X+Y)2=D(X)+D(Y)+2cov(X,Y)+(E(X)+E(Y)2DYDXYXXY ),cov(22221 =283.随机变量随机变量X,Y 独立与独立与X,Y 相关

8、的关系相关的关系(1)假设假设 XY 存在，若存在，若X,Y相互独立相互独立,则则 XY=0，即即X,Y不相关。不相关。反之，若反之，若X,Y不相关不相关,那么那么X,Y不一定独立。不一定独立。(2)特别，若特别，若(X,Y)服从二维正态分布服从二维正态分布 ),;(22,221,1N 则有则有X,Y 相互独立相互独立 =0 X,Y不相关。不相关。2 相关系数的性质相关系数的性质：考虑以考虑以X的线性函数的线性函数a+bX来近似来近似Y，近似的近似的误差为误差为e=EY-(a+bX)2=E(Y2)+b2E(X2)+a2-2bE(XY)+2abE(X)-2aE(Y)求求a，b使使e最小最小令令

9、0)(2)(2)(20)(2)(222XaEXYEXbEbeYEXbEaae解得解得)(),(0XDYXCovb )()(00XEbYEa 将将a0，b0代入代入e，用用a0+b 0X来近似来近似Y，则最小误则最小误差为差为)()1()()(min22002,YDXbaYEbXaYEXYba 1|).1(0)()1()(2200 YDXbaYEXY 1|XY 1.2存在常数存在常数a,b(b0）使使PY=a+bX=1 XY=1 的充要条件是，的充要条件是，PY=a+bX=1(a0)这时称这时称X与与Y完全正相关；完全正相关；XY=-1的充要条件是，的充要条件是，PY=a+bX=1(a0)这时这

10、时称称X与与Y完全负相关。完全负相关。完全正相关和完全负相关统称为完全相关，完全正相关和完全负相关统称为完全相关，当当X与与Y完全相关时，完全相关时，(X,Y)可能取的值以概率可能取的值以概率1地地集中在一条直线上。集中在一条直线上。3.相关系数的意义相关系数的意义 若若|的值越接近于的值越接近于1,e越小，越小，X与与Y之间越近似有之间越近似有线性关系；我们说线性关系；我们说X与与Y的线性相关程度越高。的线性相关程度越高。2 为为 的严格减函数的严格减函数，它是用来刻画它是用来刻画X,Y线性相关程度的一个量。线性相关程度的一个量。|XY用用a0+b0X来近似来近似Y，误差误差e=D(Y)(1

11、-)若若|2|的值越接近于的值越接近于0,e越大，越不能认为越大，越不能认为X与与Y之之间有近似线性关系；我们说间有近似线性关系；我们说X与与Y的线性相关程度越的线性相关程度越弱。弱。e=D(Y)(1-)2,1 Y与与X之间以概率之间以概率1有严格线有严格线性关系性关系;当当 XY=0时时,X,Y之间的关系较复杂；可能之间的关系较复杂；可能X,Y相互独立；可能相互独立；可能(X,Y)在平面上的某个区域内服从在平面上的某个区域内服从均匀分布；可能均匀分布；可能X,Y之间有某种非线性的函数关系之间有某种非线性的函数关系。1.k 阶原点矩阶原点矩而而E(|X|k)称为称为X的的k阶绝对原点矩；阶绝对

12、原点矩；Ak=E(X k),k=1,2,2.k 阶中心矩阶中心矩而而E|X-E(X)|k 称为称为X的的k 阶绝对中心矩；阶绝对中心矩；易知易知 E(X)=A1,D(X)=B2.Bk=EX E(X)k,k=1,2,3.k+l 阶阶混合混合原点矩原点矩 E(X k Y l),k,l=0,1,2,；4.k+l 阶阶混合混合中心矩中心矩 EX E(X)k Y E(Y)l,k,l=0,1,2,；易知易知 Cov(X,Y)=EX E(X)Y E(Y)是是1+1阶混合中心矩。阶混合中心矩。可见矩对于随机变量而言是一般的数字特可见矩对于随机变量而言是一般的数字特征，而数学期望、方差、协方差等都是一些特征，而

13、数学期望、方差、协方差等都是一些特殊的矩。殊的矩。关于矩有下述结论：设关于矩有下述结论：设k为正整数。为正整数。(1)若若E(X k)存在，则对小于存在，则对小于k的一切非负整数的一切非负整数l，E(X l)存在存在.(2)原点矩与中心矩可相互表示。原点矩与中心矩可相互表示。习 题 课baXPxxbaxxxXFX,5111,111,1,10/11,0)(1求参数且的分布函数为：已知随机变量例的密度求设例的密度函数；求且设例求且设例XYxxxxfXXPXXPXPabaUXXPXPNXln000,)1(2)(451)2()1(,2144130),0(,303.042),2(22230 XP),()

14、2(),(),(100,10,1),(),(5yxfYFxFyxyeexyxeeyxFYXYXyyyx联合密度函数）边缘分布求（其他的分布函数为：设例)|(),|(4,)3(),(),()2(,1,00,),(),(6|xyfyxfYXyfxfcyxcxeyxfYXXYYXYXy）求（是否相互独立？问）求（其他设例例例7 设设X，Y是两个随机变量，且是两个随机变量，且YaX+b (a0,a,b为常数为常数)，D(X)存在且不为存在且不为0，求，求相关系数。相关系数。？是否相互独立？为什么问）（求设例ZXZDZEYXZNYNXXZXY,)3(;)2();(),(1,2321),16,0(),9,1(8几个重要的关系：几个重要的关系：对于随机变量对于随机变量X与与Y，下列四个命题等价：，下列四个命题等价：)()()()4();()()()3(;)2(;0),()1(YDXDYXDYEXEXYEXXYXCov不相关与例例9 在区间在区间0,a上任取两点，求两点间距离上任取两点，求两点间距离 的数学期望。的数学期望。XYxyxDYX相关系数上服从均匀分布，求）在区域（例0,10:,10