《三章节多元正态分布》由会员分享，可在线阅读，更多相关《三章节多元正态分布（32页珍藏版）》请在金锄头文库上搜索。
1、三章节多元正态分布 Still waters run deep.流静水深流静水深,人静心深人静心深 Where there is life, there is hope。有生命必有希望。有生命必有希望3.1 多元正态分布的定义v一元正态分布N(,2)的概率密度函数为v若随机向量 的概率密度函数为则称x服从p元正态分布，记作xNp (, )，其中，参数和分别为x的均值和协差阵。例3.1.1（二元正态分布 ）v设xN2(, )，这里易见，是x1和 x2的相关系数。当|0)作如下的剖分： 则子向量x1和x2相互独立，当且仅当12=0。该性质指出，对于多元正态变量而言，其子向量之间互不相关和相互独立是
2、等价的。v（7）设xN p (, ), 0，则v例3.2.5 设xN3(,)，其中则x2和x3不独立，x1和(x2,x3)独立。v*（8）略v*（9）略v*（10）略v（11）设xN p (, ), 0，作如下剖分则给定x2时x1的条件分布为 ，其中12和112分别是条件数学期望和条件协方差矩阵，112通常称为偏协方差矩阵。这一性质表明，对于多元正态变量，其子向量的条件分布仍是（多元）正态的。v例3.2.7 设xN3(, )，其中试求给定x1+2x3时 的条件分布。3.3 复相关系数和偏相关系数 v一、复相关系数v二、偏相关系数一、复相关系数v（简单）相关系数度量了一个随机变量x1与另一个随机
3、变量x2之间线性关系的强弱。v复相关系数度量了一个随机变量x1与一组随机变量x2, ,xp之间线性关系的强弱。v将x, (0)剖分如下：v x1和x2的线性函数 间的最大相关系数称为 x1和x2间的复(或多重)相关系数(multiple correlation coefficient)，记作12,p, 它度量了一个变量x1与一组变量x2, ,xp间的相关程度。v可推导出v例3.3.1 随机变量x1,xp的任一线性函数F=l1x1+ lp xp与x1,xp的复相关系数为1。证明二、偏相关系数v将x, (0)剖分如下：称 为给定x2时x1的偏协方差矩阵。记 ，称 为偏协方差，它是剔除了 的（线性）
4、影响之后，xi和xj之间的协方差。v给定x2时xi 和xj的偏相关系数（partial correlation coefficient）定义为其中 。vijk+1,p度量了剔除xk+1, ,xp的（线性）影响之后，xi和xj间相关关系的强弱。 v对于多元正态变量x，由于112也是条件协方差矩阵，故此时偏相关系数与条件相关系数是同一个值，从而ijk+1,p同时也度量了在xk+1, ,xp值给定的条件下xi和xj间相关关系的强弱。 3.4 极大似然估计及估计量的性质v本课程第二章和第三章前三节的内容属概率论的范畴。v从第三章3.4 开始的内容属数理统计的范畴，特点是推断和分析从样本出发。v一、样本
5、x1,x2, ,xn的联合概率密度v二、 和的极大似然估计 v三、相关系数的极大似然估计 v四、估计量的性质v设xNp(, ) , 0，x1,x2, ,xn是从总体x中抽取的一个简单随机样本（今后简称为样本），即满足：x1,x2, ,xn独立，且与总体分布相同。v令称之为（样本）数据矩阵或观测值矩阵。一、样本x1,x2, ,xn的联合概率密度v极大似然估计是通过似然函数来求得的，似然函数可以是样本联合概率密度 f (x1,x2,xn)的任意正常数倍，我们不妨取成相等，记为L(, )。可具体表达为：二、和的极大似然估计v一元正态情形：v多元正态情形：其中 称为样本均值向量（简称为样本均值）， 称
6、为样本离差矩阵。三、相关系数的极大似然估计v1.简单相关系数v2.复相关系数v3.偏相关系数1.简单相关系数v相关系数ij的极大似然估计为其中 。称S为样本协方差矩阵、rij为样本相关系数、 为样本相关矩阵。2.复相关系数v将x, (0),S剖分如下：则复相关系数12,p的极大似然估计为r12,p,称之为样本复相关系数。其中 3.偏相关系数v将x, (0),S剖分如下： 则偏相关系数ijk+1,p的极大似然估计为rijk+1,p ，称之为样本偏相关系数，其中 。 四、估计量的性质v1.无偏性v2.有效性v3.一致性v4.充分性1.无偏性v设 是未知参数 （可以是一个向量或矩阵）的一个估计量，如果 ，则称估计量 是被估参数 的一个无偏估计，否则就称为有偏的。 v样本均值 是总体均值的无偏估计，即有 v由于 ，故 不是的无偏估计。若将该估计量稍加修正为则S将是的一个无偏估计，即有E(S)=。3.5 和(n 1)S的抽样分布v一、 的抽样分布v二、 (n 1)S的抽样分布一、 的抽样分布v1.正态总体 设xNp (, ), 0 ，x1,x2, ,xn是从总体x中抽取的一个样本，则v2.非正态总体（中心极限定理） 设x1,x2, ,xn是来自总体x的一个样本，和存在，则当n很大且n相对于p也很大时，上式近似地成立。
