《概率论与数理统计：第四章协方差相关系数》由会员分享，可在线阅读，更多相关《概率论与数理统计：第四章协方差相关系数（39页珍藏版）》请在金锄头文库上搜索。
1、第三节第三节协方差与相关系数协方差与相关系数 前面我们介绍了随机变量的数学期望前面我们介绍了随机变量的数学期望和方差，对于多维随机变量，反映分量之和方差，对于多维随机变量，反映分量之间关系的数字特征中，最重要的，就是本间关系的数字特征中，最重要的，就是本讲要讨论的讲要讨论的协方差和相关系数协方差和相关系数 任意两个随机变量任意两个随机变量X和和Y的协方差的协方差,记为记为Cov(X,Y), 定义为定义为 Cov(X1+X2,Y)= Cov(X1,Y) + Cov(X2,Y) Cov(X,Y)= Cov(Y,X)一、协方差一、协方差2.简单性质简单性质 Cov(aX,bY) = ab Cov(X
2、,Y) a,b是常数是常数Cov(X,Y)=E X-E(X)Y-E(Y) 1.定义定义(4) Cov(X+b,Y)= Cov(X,Y)(5) Cov(X,X)= D(X,X) Cov(X,Y)=E(XY) -E(X)E(Y) 可见，若可见，若X与与Y独立，独立， Cov(X,Y)= 0 .反之未必成立。反之未必成立。3. 计算协方差的一个简单公式计算协方差的一个简单公式由协方差的定义及期望的性质，可得由协方差的定义及期望的性质，可得Cov(X,Y)=E X-E(X)Y-E(Y) =E(XY)-E(X)E(Y)-E(Y)E(X)+E(X)E(Y) =E(XY)-E(X)E(Y)即即若若X1,X2
3、, ,Xn两两独立两两独立,，上式化为，上式化为D(X+Y)= D(X)+D(Y)+ 2Cov(X,Y)4. 随机变量随机变量和的方差与协方差的关系和的方差与协方差的关系 协方差的大小在一定程度上反映了协方差的大小在一定程度上反映了X和和Y相互间的关系，但它还受相互间的关系，但它还受X与与Y本身度量单位本身度量单位的影响的影响. 例如：例如：Cov(kX, kY)=k2Cov(X,Y)为了克服这一缺点，对协方差进行标准化，为了克服这一缺点，对协方差进行标准化，这就引入了这就引入了相关系数相关系数 .称为称为X的标准化，易知的标准化，易知EX*=0，DX*=1.且且二二、相关系数、相关系数为随机
4、变量为随机变量X和和Y的相关系数的相关系数 .定义定义: 设设D(X)0, D(Y)0, 称称在不致引起混淆时，记在不致引起混淆时，记 为为 .相关系数的性质：相关系数的性质：证证: 由方差的性质和协方差的定义知由方差的性质和协方差的定义知,即得。即得。2. 即Y 与X 有线性关系的概率等于1，这种线性关系为相关系数相关系数 是刻划了是刻划了X和和Y间间线性关系线性关系程程度的数字特征，度的数字特征，越大，越大， X和和Y间间线性关线性关系越明显。系越明显。当当 时，时， Y有有随着随着X增加而增增加而增大的趋势；当大的趋势；当 时，时， Y有随着有随着X增加而增加而减小的趋势；减小的趋势；3
5、. X和和Y独立时，独立时， =0，但其逆不真，但其逆不真.由于当由于当X和和Y独立时，独立时，Cov(X,Y)= 0.故故= 0但由但由并不一定能推出并不一定能推出X和和Y 独立独立.请看下例请看下例.例例3 3. .设设(X,Y)(X,Y)服从区域服从区域D:0x1,0yxD:0x1,0yx上上的均匀分布的均匀分布, ,求求X X与与Y Y的相关系数的相关系数. .D1x=y解解: :解解1)2)例例43. X和和Y独立时，独立时， =0，但其逆不真，但其逆不真.由于当由于当X和和Y独立时，独立时，Cov(X,Y)= 0.故故= 0但由但由并不一定能推出并不一定能推出X和和Y 独立独立.请
6、看下例请看下例.例例2 设设X服从服从(-1/2, 1/2)内的均匀分布内的均匀分布,而而Y=cos X,（请课下自行验证）（请课下自行验证）因而因而 =0，即即X和和Y不相关不相关 .但但Y与与X有严格的函数关系，有严格的函数关系，即即X和和Y不独立不独立 .不难求得，不难求得，Cov(X,Y)=0，但对下述情形，独立与不相关等价但对下述情形，独立与不相关等价若若(X,Y)服从二维正态分布，则服从二维正态分布，则X与与Y独立独立X与与Y不相关不相关前面，我们已经看到：前面，我们已经看到：若若X与与Y独立，则独立，则X与与Y不相关，不相关，但由但由X与与Y不相关，不一定能推出不相关，不一定能推
7、出X与与Y独立独立. 例例5例例6 设随机变量设随机变量X和和Y相互独立且相互独立且XN(1,2),YN(0,1). 试求试求Z=2X-Y+3的概率密度的概率密度. 故故X和和Y的联合分布为正态分布，的联合分布为正态分布，X和和Y的的任意线性组合是正态分布任意线性组合是正态分布.解解: XN(1,2),YN(0,1)，且，且X与与Y独立独立,D(Z)=4D(X)+D(Y)=8+1=9E(Z)=2E(X)-E(Y)+3=2+3=5 即即 ZN(E(Z), D(Z)ZN(5, 32)故故Z的概率密度是的概率密度是ZN(5, 32)例例3. 将一枚均匀硬币重复掷将一枚均匀硬币重复掷n次，以次，以X和
8、和 Y分别表示正面向上和反面向上的次分别表示正面向上和反面向上的次 数，求数，求X和和Y的相关系数的相关系数XY。 解解:例例4. 设设( (X, ,Y) )的联合概率密度为的联合概率密度为 求求E(2X3Y), D(2X3Y).解解:易见，易见，X与与Y相互独立。相互独立。 三、课堂练习三、课堂练习1、2、3、 设 ( X ,Y ) N ( 1,1,4,4; 0.5 ), Z = X + Y , 求 XZ1、解、解2、解、解3.解解3三、矩三、矩在数学期望一讲中，我们已经介绍了在数学期望一讲中，我们已经介绍了矩和中心矩的概念矩和中心矩的概念.这里再给出混合矩、混合中心矩的概念这里再给出混合矩
9、、混合中心矩的概念.1. K阶原点矩阶原点矩 Ak=E(Xk), k=1, 2, 而E(|X|k)称为X的K阶绝对原点矩阶绝对原点矩；2. K阶中心矩阶中心矩 Bk=EX-E(X)k, k=1, 2, 而E|X-E(X)|k称为X的K阶绝对中心矩阶绝对中心矩；协方差协方差Cov(X,Y)是是X和和Y的的二阶混合中心矩二阶混合中心矩.4、若、若存在，存在，称它为称它为X和和Y的的k+L阶混合中心矩阶混合中心矩. 称它为称它为X和和Y的的k+L阶混合（原点）矩阶混合（原点）矩.3、设、设X和和Y是随机变量，若是随机变量，若 k,L=1,2,存在，存在，可见，可见，四、协方差矩阵四、协方差矩阵 将二
10、维随机变量（将二维随机变量（X1,X2）的四个二阶中心矩的四个二阶中心矩排成矩阵的形式排成矩阵的形式:称此矩阵为（称此矩阵为（X1,X2）的协方差矩阵的协方差矩阵.这是一个这是一个对称矩阵对称矩阵 类似定义类似定义n维随机变量维随机变量(X1,X2, ,Xn) 的协方差矩阵的协方差矩阵.为为(X1,X2, ,Xn) 的的协方差矩阵协方差矩阵称矩阵称矩阵都存在都存在,i, j=1,2,n若若这一讲我们介绍了协方差和相关系数这一讲我们介绍了协方差和相关系数相关系数是刻划两个变量间相关系数是刻划两个变量间线性相关程度线性相关程度的一个重要的数字特征的一个重要的数字特征.注意独立与不相关并不是等价的注
11、意独立与不相关并不是等价的.当当(X,Y)服从二维正态分布时，有服从二维正态分布时，有X与与Y独立独立X与与Y不相关不相关小小 结结考虑以考虑以X的线性函数的线性函数a+bX来近似表示来近似表示Y，以均方误差以均方误差e =EY-(a+bX)2来衡量以来衡量以a+bX近近似表示似表示Y的好坏程度的好坏程度,e值越小表示值越小表示 a+bX与与Y的近似程度越好的近似程度越好. 用微积分中求极值的方法，求出使用微积分中求极值的方法，求出使e 达达到最小时的到最小时的a,b .相关系数刻划了相关系数刻划了X和和Y间间“线性相关线性相关”的程度的程度. =E(Y2)+b2E(X2)+a2- 2bE(XY)+2abE(X) - 2aE(Y)e =EY-(a+bX)2 解得解得这样求出的最佳逼近为这样求出的最佳逼近为L(X)=a0+b0X 这样求出的最佳逼近为这样求出的最佳逼近为L(X)=a0+b0X这一逼近的剩余是这一逼近的剩余是若若 =0， Y与与X无线性关系无线性关系;Y与与X有严格线性关系有严格线性关系;若若可见可见,若若0| |1,| |的值越接近于的值越接近于1, Y与与X的线性相关程度越高的线性相关程度越高;| |的值越接近于的值越接近于0, Y与与X的线性相关程度越弱的线性相关程度越弱.E(Y-L(X)2= D(Y)(1- )
