《三章节多元正态分布》由会员分享,可在线阅读,更多相关《三章节多元正态分布(32页珍藏版)》请在金锄头文库上搜索。
1、三章节多元正态分布 Still waters run deep.流静水深流静水深,人静心深人静心深 Where there is life, there is hope。有生命必有希望。有生命必有希望3.1 多元正态分布的定义v一元正态分布N(,2)的概率密度函数为v若随机向量 的概率密度函数为则称x服从p元正态分布,记作xNp (, ),其中,参数和分别为x的均值和协差阵。例3.1.1(二元正态分布 )v设xN2(, ),这里易见,是x1和 x2的相关系数。当|0)作如下的剖分: 则子向量x1和x2相互独立,当且仅当12=0。该性质指出,对于多元正态变量而言,其子向量之间互不相关和相互独立是
2、等价的。v(7)设xN p (, ), 0,则v例3.2.5 设xN3(,),其中则x2和x3不独立,x1和(x2,x3)独立。v*(8)略v*(9)略v*(10)略v(11)设xN p (, ), 0,作如下剖分则给定x2时x1的条件分布为 ,其中12和112分别是条件数学期望和条件协方差矩阵,112通常称为偏协方差矩阵。这一性质表明,对于多元正态变量,其子向量的条件分布仍是(多元)正态的。v例3.2.7 设xN3(, ),其中试求给定x1+2x3时 的条件分布。3.3 复相关系数和偏相关系数 v一、复相关系数v二、偏相关系数一、复相关系数v(简单)相关系数度量了一个随机变量x1与另一个随机
3、变量x2之间线性关系的强弱。v复相关系数度量了一个随机变量x1与一组随机变量x2, ,xp之间线性关系的强弱。v将x, (0)剖分如下:v x1和x2的线性函数 间的最大相关系数称为 x1和x2间的复(或多重)相关系数(multiple correlation coefficient),记作12,p, 它度量了一个变量x1与一组变量x2, ,xp间的相关程度。v可推导出v例3.3.1 随机变量x1,xp的任一线性函数F=l1x1+ lp xp与x1,xp的复相关系数为1。证明二、偏相关系数v将x, (0)剖分如下:称 为给定x2时x1的偏协方差矩阵。记 ,称 为偏协方差,它是剔除了 的(线性)
4、影响之后,xi和xj之间的协方差。v给定x2时xi 和xj的偏相关系数(partial correlation coefficient)定义为其中 。vijk+1,p度量了剔除xk+1, ,xp的(线性)影响之后,xi和xj间相关关系的强弱。 v对于多元正态变量x,由于112也是条件协方差矩阵,故此时偏相关系数与条件相关系数是同一个值,从而ijk+1,p同时也度量了在xk+1, ,xp值给定的条件下xi和xj间相关关系的强弱。 3.4 极大似然估计及估计量的性质v本课程第二章和第三章前三节的内容属概率论的范畴。v从第三章3.4 开始的内容属数理统计的范畴,特点是推断和分析从样本出发。v一、样本
5、x1,x2, ,xn的联合概率密度v二、 和的极大似然估计 v三、相关系数的极大似然估计 v四、估计量的性质v设xNp(, ) , 0,x1,x2, ,xn是从总体x中抽取的一个简单随机样本(今后简称为样本),即满足:x1,x2, ,xn独立,且与总体分布相同。v令称之为(样本)数据矩阵或观测值矩阵。一、样本x1,x2, ,xn的联合概率密度v极大似然估计是通过似然函数来求得的,似然函数可以是样本联合概率密度 f (x1,x2,xn)的任意正常数倍,我们不妨取成相等,记为L(, )。可具体表达为:二、和的极大似然估计v一元正态情形:v多元正态情形:其中 称为样本均值向量(简称为样本均值), 称
6、为样本离差矩阵。三、相关系数的极大似然估计v1.简单相关系数v2.复相关系数v3.偏相关系数1.简单相关系数v相关系数ij的极大似然估计为其中 。称S为样本协方差矩阵、rij为样本相关系数、 为样本相关矩阵。2.复相关系数v将x, (0),S剖分如下:则复相关系数12,p的极大似然估计为r12,p,称之为样本复相关系数。其中 3.偏相关系数v将x, (0),S剖分如下: 则偏相关系数ijk+1,p的极大似然估计为rijk+1,p ,称之为样本偏相关系数,其中 。 四、估计量的性质v1.无偏性v2.有效性v3.一致性v4.充分性1.无偏性v设 是未知参数 (可以是一个向量或矩阵)的一个估计量,如果 ,则称估计量 是被估参数 的一个无偏估计,否则就称为有偏的。 v样本均值 是总体均值的无偏估计,即有 v由于 ,故 不是的无偏估计。若将该估计量稍加修正为则S将是的一个无偏估计,即有E(S)=。3.5 和(n 1)S的抽样分布v一、 的抽样分布v二、 (n 1)S的抽样分布一、 的抽样分布v1.正态总体 设xNp (, ), 0 ,x1,x2, ,xn是从总体x中抽取的一个样本,则v2.非正态总体(中心极限定理) 设x1,x2, ,xn是来自总体x的一个样本,和存在,则当n很大且n相对于p也很大时,上式近似地成立。