第三章-多元正态分布课件

《第三章-多元正态分布课件》由会员分享，可在线阅读，更多相关《第三章-多元正态分布课件（32页珍藏版）》请在装配图网上搜索。

1、第三章 多元正态分布v3.1 多元正态分布的定义v3.2 多元正态分布的性质v3.3 复相关系数和偏相关系数v3.4 极大似然估计及估计量的性质v3.5 和(n 1)S的抽样分布v*3.6 二次型分布x3.1 多元正态分布的定义v一元正态分布N(,2)的概率密度函数为v若随机向量 的概率密度函数为则称x服从p元正态分布，记作xNp(,)，其中，参数和分别为x的均值和协差阵。2221 211 2221e212exp,2xf xxxx 12(,)px xx x 21 2112exp2pfxxx例（二元正态分布）v设xN2(,)，这里易见，是x1和 x2的相关系数。当|0)作如下的剖分：2111,n

2、nniipiiiiiiikNkkx111112222122,kkkpkpkpkkpkxxx 则子向量x1和x2相互独立，当且仅当12=0。该性质指出，对于多元正态变量而言，其子向量之间互不相关和相互独立是等价的。v（7）设xN p(,),0，则v例3.2.5 设xN3(,)，其中则x2和x3不独立，x1和(x2,x3)独立。v*（8）略 12pxx 300051011v*（9）略v*（10）略v（11）设xN p(,),0，作如下剖分则给定x2时x1的条件分布为 ，其中12和112分别是条件数学期望和条件协方差矩阵，112通常称为偏协方差矩阵。11 21122222111 211122221x

3、 1 211 2,kN111112222122,kkkpkpkpkkpkxxx这一性质表明，对于多元正态变量，其子向量的条件分布仍是（多元）正态的。v例3.2.7 设xN3(,)，其中试求给定x1+2x3时 的条件分布。116420,4412214 231xxx3.3 复相关系数和偏相关系数 v一、复相关系数v二、偏相关系数一、复相关系数v（简单）相关系数度量了一个随机变量x1与另一个随机变量x2之间线性关系的强弱。v复相关系数度量了一个随机变量x1与一组随机变量x2,xp之间线性关系的强弱。v将x,(0)剖分如下：111212212211,1111xpppxxv x1和x2的线性函数 间的最

4、大相关系数称为 x1和x2间的复(或多重)相关系数(multiple correlation coefficient)，记作12,p,它度量了一个变量x1与一组变量x2,xp间的相关程度。v可推导出v例3.3.1 随机变量x1,xp的任一线性函数F=l1x1+lp xp与x1,xp的复相关系数为1。证明1 212122211 2,1211max,pxl l x0 2 l x1,1 11 11,max,11FpppppFpF a xa xF l xl x a 0二、偏相关系数v将x,(0)剖分如下：称 为给定x2时x1的偏协方差矩阵。记 ，称 为偏协方差，它是剔除了 的（线性）影响之后，xi和x

5、j之间的协方差。1111222122,kkpkpkkpkxxx111 211122221 11 21,ij kp1,ij kp21,kpxxxv给定x2时xi 和xj的偏相关系数（partial correlation coefficient）定义为其中 。vijk+1,p度量了剔除xk+1,xp的（线性）影响之后，xi和xj间相关关系的强弱。v对于多元正态变量x，由于112也是条件协方差矩阵，故此时偏相关系数与条件相关系数是同一个值，从而ijk+1,p同时也度量了在xk+1,xp值给定的条件下xi和xj间相关关系的强弱。1,1,1,1,1,ij kpij kpii kpjj kpi jk11

6、 21,ij kp3.4 极大似然估计及估计量的性质v本课程第二章和第三章前三节的内容属概率论的范畴。v从第三章3.4 开始的内容属数理统计的范畴，特点是推断和分析从样本出发。v一、样本x1,x2,xn的联合概率密度v二、和的极大似然估计 v三、相关系数的极大似然估计 v四、估计量的性质v设xNp(,),0，x1,x2,xn是从总体x中抽取的一个简单随机样本（今后简称为样本），即满足：x1,x2,xn独立，且与总体分布相同。v令称之为（样本）数据矩阵或观测值矩阵。11121121222212ppnnnpnxxxxxxxxxxxXx一、样本x1,x2,xn的联合概率密度v极大似然估计是通过似然函

7、数来求得的，似然函数可以是样本联合概率密度 f(x1,x2,xn)的任意正常数倍，我们不妨取成相等，记为L(,)。可具体表达为：12121 211211,12exp212exp2nniinpiiinnpiiiLff x xxxxxxx二、和的极大似然估计v一元正态情形：v多元正态情形：其中 称为样本均值向量（简称为样本均值），称为样本离差矩阵。222,221,max,1,niiLLxxxn ,max,1,LLn xAx1niiiAxxxx三、相关系数的极大似然估计v1.简单相关系数v2.复相关系数v3.偏相关系数1.简单相关系数v相关系数ij的极大似然估计为其中 。称S为样本协方差矩阵、rij

8、为样本相关系数、为样本相关矩阵。12211()()()()nkiikjjijijkijnniijjiijjkiikjjkkxxxxsrssxxxx 121,1ijpijx xxsnxSA ijrR2.复相关系数v将x,(0),S剖分如下：则复相关系数12,p的极大似然估计为r12,p,称之为样本复相关系数。其中 111211121221222122111,1111111xspppppsxSxsS1 21 2112122212122211 2,1 2,1111,pprs s S s3.偏相关系数v将x,(0),S剖分如下：则偏相关系数ijk+1,p的极大似然估计为rijk+1,p，称之为样本偏相

9、关系数，其中111121112221222122,kkkpkpkpkkpkkpkxSSxSxSS1,1,1,1,1,ij kpij kpii kpjj kpi jk 。111 2111222211,1,1,1,1,111 2111222211,1,ij kpij kpij kpii kpjj kpij kpsri jksss SSS S S四、估计量的性质v1.无偏性v2.有效性v3.一致性v4.充分性1.无偏性v设 是未知参数（可以是一个向量或矩阵）的一个估计量，如果 ，则称估计量 是被估参数的一个无偏估计，否则就称为有偏的。v样本均值 是总体均值的无偏估计，即有 v由于 ，故 不是的无偏估计。若将该估计量稍加修正为则S将是的一个无偏估计，即有E(S)=。Ex Ex 1nEn111niiinSxxxx3.5 和(n 1)S的抽样分布v一、的抽样分布v二、(n 1)S的抽样分布xx一、的抽样分布v1.正态总体 设xNp(,),0，x1,x2,xn是从总体x中抽取的一个样本，则v2.非正态总体（中心极限定理）设x1,x2,xn是来自总体x的一个样本，和存在，则当n很大且n相对于p也很大时，上式近似地成立。1,pNnxx