多元正态分布定义和性质课堂PPT

《多元正态分布定义和性质课堂PPT》由会员分享，可在线阅读，更多相关《多元正态分布定义和性质课堂PPT（53页珍藏版）》请在装配图网上搜索。

1、1第一章第一章 多元正态分布多元正态分布 n随机向量的有关概念随机向量的有关概念 n多元正态分布定义多元正态分布定义 n多元正态分布的性质多元正态分布的性质 n多元正态分布的参数估计多元正态分布的参数估计2第一节第一节 随机向量的有关概念随机向量的有关概念n随机向量及随机向量的数学期望（均值）随机向量及随机向量的数学期望（均值）n随机向量的协方差矩阵随机向量的协方差矩阵 n随机向量的相关矩阵随机向量的相关矩阵 3随机向量随机向量定义：定义：设设 为为 个随机变量，个随机变量，由它们组成的向量由它们组成的向量 称作随机向量。称作随机向量。p21X,.,X,Xp)X,.,X,(Xp2141.1.随

2、机向量的数学期望随机向量的数学期望。数学期望（均值）的维随机向量，则为设)()()()(2121ppxExExEXEXpxxxX 1.1.1定定义义5随机矩阵的数学期望随机矩阵的数学期望111212122212 qqpppqzzzzzzZpqzzz设为阶随机矩阵，1.1.2定定义义()ZE Z则 的数学期望（均值）为111212122212()()()()()()()()()()qqpppqE zE zE zE zE zE zE ZE zE zE z6随机向量期望的性质随机向量期望的性质1.1.1 Xp性质（线性性）设为维随机向量，B Aqpq为阶常数矩阵，为 阶常数向量，则()()BE AX

3、BA E X。7随机向量期望的性质随机向量期望的性质()()E AXBAE X B1.1.2 ()()()XYpE XYE XE Y性质（可加性）设、为 维随机向量，则。1.1.3 ,XpqAmpBqn性质设 是阶随机矩阵为阶常数矩阵，为阶常数矩阵 则有82 2随机向量的协方差矩阵随机向量的协方差矩阵 1212(,)(,)pqXx xxYyyy设和均为随 1.1.3定定义义(,)()()COV X YEXE XYE Y111111221122112222221122()()()()()()()()()()()()()()()()()()qqqqppppppqqxyxyxyxyxyxyExyxy

4、xy1212()(,)()(,)pqE XE YXY 机向量，和则和的协方差矩阵为9 )()()()()()()()(11111111qqppppqqyEyxExEyEyxExEyEyxExEyEyxExE1111(,)(,)(,)(,)qppqCov x yCov x yCov xyCov xy10)()(),(XEXXEXEXXCOV )()()()()()()()(11111111ppppppppxExxExExExxExExExxExExExxExE)(),(),()(111pppxDxxCOVxxCOVxDppij )(11协方差矩阵的性质协方差矩阵的性质CYXCOVAdCYbAXC

5、OVsrdbCAqpYXqspr ),(),(1.1.4则则阶阶常常数数向向量量，和和分分别别为为、为为常常数数矩矩阵阵，、维维随随机机向向量量，维维和和分分别别为为、设设性性质质12协方差矩阵的性质（续）协方差矩阵的性质（续）aaXaDpaaaaXCOVpXp)()X,(1.1.521维常数向量，则是为正定矩阵，若可逆时，且当为对称且是半正定矩阵则，维随机向量，为设性质133.3.随机向量的相关矩阵随机向量的相关矩阵 4.1.1定定义义的相关矩阵。的相关矩阵。为为维随机向量，则称维随机向量，则称为为设设XpXpppp 11121221112 。的的相相关关系系数数，和和为为其其中中，jiij

6、jiijxx jjiiijij14相关矩阵与协方差矩阵的关系相关矩阵与协方差矩阵的关系2121 DD 21212111ppD 其其中中，15第二节第二节 多元正态分布定义多元正态分布定义 16一元正态分布密度函数一元正态分布密度函数222)(21)(xexf17一元正态分布密度函数图形一元正态分布密度函数图形)(xfO x5.0 1 2 121 图图18二元正态分布密度函数二元正态分布密度函数 2222222211121211222121)(2)()1(21exp121),(xxxxxxf19二元正态分布密度函数图形二元正态分布密度函数图形20一元正态分布密度函数变形一元正态分布密度函数变形

7、)()(21exp)()2(1221221 xx222)(21)(xexf21多元正态分布定义多元正态分布定义1 1的的概概率率密密度度函函数数为为维维随随机机向向量量若若Xp )()(21exp)2()(1212xxxfp。维维多多元元正正态态分分布布，记记为为服服从从则则称称),(pNXpX pxxx21X p 21ppij )(这里，这里，1.2.1定定义义22多元正态分布定义多元正态分布定义2 2定义定义1.2.21.2.2 若若 维随机向量维随机向量 的的任何线性组合均服从一元正态分布，任何线性组合均服从一元正态分布，则称则称 服从多元正态分布。服从多元正态分布。pXX23二元正态分

8、布的两种表示方法二元正态分布的两种表示方法),(222121 NX方方法法一一：),(2 NX方法二：方法二：其其中中，21 22212121 24思考题思考题若若 表示男性成人的身高，表示男性成人的身高，表示男性成表示男性成人的体重，现有甲、乙两地区，且两地区人的体重，现有甲、乙两地区，且两地区均有，均有，对于甲地，对于甲地区来说，区来说，对于乙地区来说，对于乙地区来说，你如何评价甲、乙两地区男性成人的体形。你如何评价甲、乙两地区男性成人的体形。1x2xcm1701 kg652 9.0 9.0 25第三节第三节 多元正态分布的性质多元正态分布的性质26b:,b)(2 xccNx为任一非零常数

9、，那么为任一非零常数，那么，假设假设 ),b(22 ccN 27),b(bbr),(CCCNCXCprNXrp均有维常数向量，以及常数矩阵阶那么，对于任一若1.3.1性质性质:)(XbpbNXp 那那么么维维常常数数向向量量，为为，假假设设),(bbbN 1.3.1例例28多元正态分布的边缘分布多元正态分布的边缘分布的相应子矩阵。子向量，协方差矩阵为的相应值为也服从正态分布，其均的任一子向量则若XXXNXp),(1.3.2性质性质29n但反过来成立但反过来成立吗？吗？。布，即：分量都服从一元正态分的任一，则特别地，若),(),(iiiipNxXNX30一元正态分布的可加性一元正态分布的可加性

10、均均有有：全全为为零零的的常常数数个个不不，则则对对任任何何相相互互独独立立，且且，若若,),(,2,1212nrrrraaanNxnrx nrrrnrrrnrrraaNxa12211,31多元正态分布的可加性多元正态分布的可加性 均有：均有：阶常数矩阵阶常数矩阵个个则对任何则对任何，相互独立，且相互独立，且，维随机向量维随机向量若若,),(,2,121nrrprrAAApmnNXnrXp nrrrrnrrrmnrrrAAANXA111)(,性质性质1.3.31.3.3321211,(,),11,2,.,11(,)nprpnnrrrpirXXXNAIrnnA XXNnn独立同分布于，则。2.3

11、.1例例1111(,)nnrrprpirA XI XNnn。nrrrrnrrrpnrrrAAANXA111)(,。)1,(11nNXInpnrrp33思考题：思考题：34独立与不相关之间的关系独立与不相关之间的关系n二元正态分布二元正态分布随机向量的两个分量之间随机向量的两个分量之间的独立性与不相关性。的独立性与不相关性。02121 xxxx 独独立立和和35独立与不相关之间的关系（续）独立与不相关之间的关系（续）：性质性质4.3.1rr等等价价。即即：独独立立性性与与不不相相关关性性，独独立立等等价价于于则则，srpXXNXXX 0,0),(1221222112112121 rsss等等价价

12、。即即：独独立立性性与与不不相相关关性性，独独立立等等价价于于则则，srpXXNXXX 0,0),(1221222112112121 36如果正态随机向量如果正态随机向量 的协方差阵的协方差阵 是对角阵，是对角阵，则则 的各分量是相互独立的随机变量。的各分量是相互独立的随机变量。pxxxX21 X37例题例题1.3.31.3.3：38条件分布条件分布的的条条件件分分布布：时时，则则给给定定，：性性质质1222221121121210),(5.3.1XxXNXXXp ),(12122121122122121 xNrrr等等价价。即即：独独立立性性与与不不相相关关性性，独独立立等等价价于于则则，s

13、rpXXNXXX 0,0),(1221222112112121 rsss：性质性质5.3.139),(12122121122122121 xNr40解：解：)11,x(NXXX213231312231312213323132321 41第四节第四节 多元正态分布的参数估计多元正态分布的参数估计 42则常见的样本统计量有，其中的样本为来自于多元正态总体设piiiipnxxxXNXXX2121,0,),(,43样本均值样本均值niiXnX11piiiixxxX2144样本离差矩阵样本离差矩阵 niiiXXXXV1)(45样本协方差矩阵样本协方差矩阵 VnsSppij11)(niiiXXXXn1)(

14、1146样本相关矩阵样本相关矩阵 其中：其中：2121)(ssppijSDDrR 21212111ppsssDjjiiijijsssr 2121)(ssppijSDDrR47一元正态总体参数估计的回顾一元正态总体参数估计的回顾的的随随机机样样本本，则则：是是来来自自于于正正态态总总体体设设),(,221 Nxxxn;)2(2相互独立相互独立和和sx，),()3(2nNx )1()1(222 nsn ;)1(22的无偏估计的无偏估计和方差和方差总体均值总体均值分别是分别是和样本方差和样本方差样本均值样本均值 sx48一元正态总体一元正态总体参数的极大似然估计参数的极大似然估计的的极极大大似似然然

15、估估计计。和和方方差差总总体体均均值值分分别别是是和和的的随随机机样样本本，则则：是是来来自自于于正正态态总总体体设设2221),(,Nxxxnx2)1(snn 49的一个随机样本，则：总体是来自于多元正态设),(,21pnNXXX;)1(的无偏估计的无偏估计和总体协方差矩阵和总体协方差矩阵总体均值总体均值分别是分别是和样本协方差矩阵和样本协方差矩阵样本均值样本均值 SX;)2(相互独立相互独立和和 SX，)1,()3(nNXp),1()1(nWVSnp1.4.1定理50定义：设定义：设 分别来自协方差阵相等的分别来自协方差阵相等的P维正态总体维正态总体 ，则则 维随机矩阵维随机矩阵遵从非中心

16、维希特分布，记为遵从非中心维希特分布，记为 。其中，其中，。当。当 时称为中心维希特分布，时称为中心维希特分布，记为记为 。)p,.,2,1i()X,.,X,X(Xpi2i1ii ),(Nip pp n1iiiXXW)Z,n(Wp 0i ),n(Wp n1iiiZ 51的一个随机样本，则：总体是来自于多元正态设),(,21pnNXXX的的极极大大似似然然估估计计。协协方方差差矩矩阵阵和和总总体体分分别别是是总总体体均均值值和和 SnnX)1(2.4.1定理52例例1.4.1:1.4.1:53解：解：8.746.115X51X51ii 7.154.134.138.14)XX)(XX(41S51iii