《43第四章第三节概率统计》由会员分享，可在线阅读，更多相关《43第四章第三节概率统计（27页珍藏版）》请在金锄头文库上搜索。
1、第四章第四章 随机变量的数字特征随机变量的数字特征4.3 4.3 协方差及相关系数协方差及相关系数上页上页下页下页返回返回上页上页下页下页返回返回第四章第四章 随机变量的数字特征随机变量的数字特征 内容摘要内容摘要: 对于二维随机变量对于二维随机变量(X, Y), 我我们除了讨论们除了讨论X与与Y的数学期望和方差以外的数学期望和方差以外, 还还需研究描述需研究描述X与与Y之间相互关系的数字特征之间相互关系的数字特征. 有关这方面的数字特征有协方差、相关系数有关这方面的数字特征有协方差、相关系数和各阶矩和各阶矩.4.3 4.3 协方差及相关系数协方差及相关系数上页上页下页下页返回返回上页上页下页
2、下页返回返回4.3.1 提出问题提出问题 1. 如何分析两个随机变量之间的如何分析两个随机变量之间的相互关系呢相互关系呢? 2. 如何刻画两个随机变量之间线性相关如何刻画两个随机变量之间线性相关的程度呢的程度呢? ?4.3.2 预备知识预备知识 1. 数学期望数学期望, 方差方差, 标准差标准差; 2. 线性函数线性函数, 矩阵及对称矩阵矩阵及对称矩阵.上页上页下页下页返回返回上页上页下页下页返回返回 定义定义1 量量EX- -E(X)Y- -E(Y)称为称为随机变量随机变量X与与Y的的协方差协方差. 记为记为Cov(X, Y), 即即 Cov(X, Y)= EX- -E(X)Y- -E(Y)
3、. (4.3.1)而而 称为随机变量称为随机变量X与与Y的的相关系数相关系数.注意注意: XY是一个是一个无量纲无量纲的量的量. 4.3.3 提出概念提出概念上页上页下页下页返回返回上页上页下页下页返回返回证证证明证明: (1) X*Y*=Cov(X*,Y*); (2) X*Y*=XY . 例例4.3.1 设设X *, Y *为为X与与Y的标准化的标准化随机变量随机变量, 即即由对称性得到由对称性得到 E(Y*)=0, D(Y*)=1. 先证先证(1)(1):上页上页下页下页返回返回上页上页下页下页返回返回再证再证(2): =EX*-E(X*) Y*-E(Y*)=E(X*Y*) =XY . 上
4、页上页下页下页返回返回上页上页下页下页返回返回4.3.4 分析性质分析性质 定理定理1 对于任意两个随机变量对于任意两个随机变量X和和Y, 下列下列等式成立等式成立(设协方差存在设协方差存在):(1) Cov(X, X)=D(X).(2) Cov(X, Y)=Cov(Y, X).(3) 若若X与与Y相互独立相互独立, 则则Cov (X,Y)=0.(4) Cov(X, a)=0, a为常数为常数. 利用数学期望的性质知利用数学期望的性质知, 结论结论(1)，(2)，(3)和结论和结论(4)成立成立.1. 协方差的性质协方差的性质 上页上页下页下页返回返回上页上页下页下页返回返回(8) D(XY)
5、=D(X)+D(Y)2Cov(X, Y). (4.3.4)(5) Cov(X, Y)=E(X Y)- -E(X)E(Y). (4.3.3)(6) Cov(aX, bY)=abCov(X, Y), a, b是常数是常数.(7) Cov(X+Y, Z)=Cov(X, Z)+Cov(Y, Z). 证证 证明证明(5): Cov(X,Y)=EX- -E (X)Y- -E(Y) =EXY- -YE(X)- -XE(Y)+E(X)E(Y) =E(XY)- -E(X)E(Y)- -E(Y)E(X)+E(X)E(Y) =E(XY)- -E(X)E(Y). 利用协方差和数学期望的性质利用协方差和数学期望的性质,
6、 易证结论易证结论(6),结论结论(7)(7)和结论和结论(8)成立成立.上页上页下页下页返回返回上页上页下页下页返回返回 定理定理2 设随机变量设随机变量X与与Y的相关系数的相关系数XY存在存在, 则有则有 (1) XY = YX ; (2) |XY |1; (3) |XY |=1的充分必要条件是的充分必要条件是: 存在常数存在常数a (a0), b, 使使PY=aX+b=1.2. . 相关系数的性质及实际意义相关系数的性质及实际意义 讲评讲评 我们常利用结论我们常利用结论(5) 计算协方差计算协方差.上页上页下页下页返回返回上页上页下页下页返回返回证证 结论结论(1)可由协方差的性质可由协
7、方差的性质(2)推知推知. 现证结论现证结论(2). 设设X *, Y *为为X与与Y的的标准化随机变量标准化随机变量, 由例由例4.3.1和定理和定理1中性质中性质(8)得得到到 0D(X *Y *)=D(X *)+D(Y *)2Cov(X *, Y *) =D(X*)+D(Y*)2X*Y* = 1+12XY =2(1XY).由此可得由此可得 上页上页下页下页返回返回上页上页下页下页返回返回由由(2)可知可知D(X *Y *)=2(1XY), 可见可见,XY =1的充分必要条件是的充分必要条件是取取 可知上式又等价于可知上式又等价于 PY=aX+b=1. 再由再由 质质(5)知知, 上式等价
8、于上式等价于 及方差的性及方差的性 再证结论再证结论(3). 上页上页下页下页返回返回上页上页下页下页返回返回 (1) 从这个证明我们还知道从这个证明我们还知道, 若若a 0, 有有XY =1, 这时称这时称X与与Y正线性相关正线性相关; 若若a 0, 则称则称X与与Y正相关正相关; 若若XY 0, 则称则称X与与Y负相关负相关. 当当XY =0时时, 我们称我们称X与与Y不相关不相关. 显然显然, 它它等价于等价于X与与Y的协方差为零的协方差为零.讲评讲评 上页上页下页下页返回返回上页上页下页下页返回返回 相关系数的实际意义相关系数的实际意义是是：|XY|的的大小大小 反映了反映了X与与Y的
9、的线性相关程度线性相关程度. 当当|XY| 较大时较大时, 则则X与与Y的线性相关程度的线性相关程度较好；当较好；当|XY|较小时较小时, 则则X与与Y的线性相关程度的线性相关程度较差较差. (2) 对于标准化随机变量对于标准化随机变量 和和 有有相关系数等于协方差相关系数等于协方差, 即即 XY =X*Y* =Cov(X*, Y*).上页上页下页下页返回返回上页上页下页下页返回返回 (5) 对于正态分布对于正态分布, 若若(X, Y)服从正态分布服从正态分布, 那么那么X 和和Y相互独立的相互独立的充要条件充要条件是相关系数是相关系数 XY = 0. (4) 当当X与与Y相互独立时相互独立时
10、, X与与Y不相关不相关. 但但 是是, 若若X与与Y不相关不相关, X与与Y不一定相互独立不一定相互独立. (3) 相关系数相关系数XY刻划的是刻划的是X与与Y之间的之间的线性关系的强弱线性关系的强弱.上页上页下页下页返回返回上页上页下页下页返回返回 例例4.3.2 再继续解读例再继续解读例3.3.1和例和例4.2.2：设二维随机变量设二维随机变量(X, Y)的分布律为的分布律为 X Y01p.j12pi.1上页上页下页下页返回返回上页上页下页下页返回返回(1) 计算计算X与与Y的协方差以及相关系数；的协方差以及相关系数； (2) 问随机变量问随机变量X与与Y是否独立，是否独立，是否不相关呢
11、？是否不相关呢？(1) 已知已知X的数学期望为的数学期望为 解解而而于是，随机变量于是，随机变量X与与Y的协方差为的协方差为上页上页下页下页返回返回上页上页下页下页返回返回随机变量随机变量X与与Y的相关系数为的相关系数为 (2) 由例由例3.3.1知知, 随机变量随机变量X与与Y相互独立相互独立. 随机变量随机变量X与与Y的相关系数的相关系数XY=0, 即随机变量即随机变量X与与Y不相关不相关. 应注意：随机变量应注意：随机变量X与与Y“不相关不相关”与与“独独立立”并并不等价不等价. 参见下例参见下例. . 上页上页下页下页返回返回上页上页下页下页返回返回 由例由例4.1.2知知, 随机变量
12、随机变量X和和Y的数学期的数学期望望 E(X)=0和和E(Y)=0. 例例4.3.3再继续解读例再继续解读例3.3.2和例和例4.1.2: 设二维随机变量设二维随机变量(X, Y)的概率密度为的概率密度为解解 已知随机变量已知随机变量X与与Y不相互独立不相互独立, 再问连续型再问连续型随机变量随机变量X与与Y是否不相关是否不相关? ?上页上页下页下页返回返回上页上页下页下页返回返回 从而得到从而得到Cov(X,Y)=0, 即有即有 = =0. .这表明随这表明随机变量机变量X和和Y是是不相关不相关的的, 虽然随机变量虽然随机变量X与与Y不不相互独立相互独立.分析上述例题分析上述例题, 得到如下
13、的两个问题得到如下的两个问题: 问题问题1是是, 为什么随机变量为什么随机变量X与与Y不相互独立呢？不相互独立呢？ 感性上可以这样来理解感性上可以这样来理解: 随机点随机点(X,Y)落入落入单位圆单位圆x2+y21内内, X与与Y之间存在着制约关系之间存在着制约关系X2+Y21. 因此随机变量因此随机变量X与与Y不相互独立不相互独立. .上页上页下页下页返回返回上页上页下页下页返回返回 问题问题2是是, ,既然随机变量既然随机变量X与与Y不相互独立不相互独立,也就是存在着制约关系也就是存在着制约关系,为什么它们又不相关呢为什么它们又不相关呢? 要注意，现在的制约关系是要注意，现在的制约关系是X
14、2+Y21, 而不是说而不是说“存在线性关系存在线性关系”. X和和Y不相关不相关只是说明二者之间只是说明二者之间没有线性关系没有线性关系, 是否有其是否有其他他( (如平方关系如平方关系) )关系并没有回答关系并没有回答.上页上页下页下页返回返回上页上页下页下页返回返回 例例4.3.4 设二维随机变量设二维随机变量 (X, Y)服从服从二维二维正态分布正态分布, 即即 (X, Y)N (1, 2,12,22, ). 试分析各个参数的意义试分析各个参数的意义. 结果是结果是：E(X)=1, E(Y)=2, D(X)=12, D(Y)=22, XY=. 定定理理3 若若(X, Y)服服从从二二维
15、维正正态态分分布布, 那那么么X与与Y相互独立的充要条件是相互独立的充要条件是X与与Y不相关不相关.上页上页下页下页返回返回上页上页下页下页返回返回4.3.3矩的概念矩的概念 这里再介绍随机变量的另外的几个这里再介绍随机变量的另外的几个数字特征数字特征, 它们在后面的数理统计学习中它们在后面的数理统计学习中经常用到经常用到. 定义定义2 设设X和和Y是随机变量是随机变量, 若若 E(Xk ) ( k=1,2,)存在存在, 称它为称它为X的的k阶原点矩阶原点矩, 简称简称k阶矩阶矩. 上页上页下页下页返回返回上页上页下页下页返回返回 若若 EX- -E(X)k ( k =2,3,)存在存在, 称
16、它为称它为X的的k阶中心矩阶中心矩. 若若 E(X kY l) ( k ,l=1,2,)存在存在, 称它为称它为X和和Y的的k+l阶混合矩阶混合矩. 若若 EX- -E(X)kY- -E(Y)l ( k , l =1,2,)存存在在, 称它为称它为X和和Y的的k+l阶混合中心矩阶混合中心矩. 显然显然, X的数学期望的数学期望E(X)是是X的一阶原点的一阶原点矩矩,方差方差D(X)是是X的二阶中心矩的二阶中心矩, 协方差协方差Cov(X, Y)是是X和和Y的二阶混合中心矩的二阶混合中心矩. 上页上页下页下页返回返回上页上页下页下页返回返回 下面介绍下面介绍n维随机变量的维随机变量的协方差矩阵协
17、方差矩阵. cij=Cov(Xi, Xj) =E Xi- -E(Xi)Xj- -E(Xj), i, j=1,2, n 都存在都存在, 则称矩阵则称矩阵 为为n维随机变量维随机变量(X1, X2, Xn )的的协方差矩阵协方差矩阵. 由于由于cij=cji(ij, i, j=1,2,n), 因而上述矩阵因而上述矩阵是一个是一个对称矩阵对称矩阵. 上页上页下页下页返回返回上页上页下页下页返回返回 讲评讲评 一般情况下一般情况下, n维随机变量的维随机变量的分布是不知道的分布是不知道的, 或者是太复杂或者是太复杂, 以致在数以致在数学上不容易处理学上不容易处理, 因此在实际应用中协方差因此在实际应用
18、中协方差矩阵就显得重要了矩阵就显得重要了. 4.3.6 内容小结内容小结 方差方差D(X)=EX- -E(X)2描述随机变量描述随机变量X与它的与它的数学期望数学期望E(X)的偏离程度的偏离程度, 我们常用公式我们常用公式 D(X)=E(X2)- -E(X)2 计算方差计算方差, 注意注意E(X2)和和E(X)2的区别的区别. 计算协方计算协方差常用公式差常用公式 Cov(X,Y)=E(XY)- -E(X)E(Y). 上页上页下页下页返回返回上页上页下页下页返回返回 思考题：思考题： (1) 当当X与与Y相互独立时相互独立时, X与与Y是否是否 不相关？不相关？ 若若X与与Y不相关不相关, X
19、与与Y是否一定相互是否一定相互独立独立? (2) 对于正态分布对于正态分布, 若若(X, Y)服从正态分布服从正态分布, 那么那么X和和Y相互独立的充要条件是相互独立的充要条件是X与与Y不相关不相关吗吗?4.3.7 作业布置作业布置 习题习题4.3 2、5、6、10 . 参考文献与联系方式参考文献与联系方式1 郑一郑一,王玉敏王玉敏,冯宝成冯宝成. 概率论与数理统计概率论与数理统计. 大大连理连理 工大学出版社，工大学出版社，2015年年8月月.2 郑一郑一,戚云松戚云松,王玉敏王玉敏. 概率论与数理统计学习概率论与数理统计学习指指 导书导书. 大连理工大学出版社，大连理工大学出版社，2015年年8月月.3 郑一郑一,戚云松戚云松,陈倩华陈倩华,陈健陈健. 概率论与数理统计概率论与数理统计教教 案案 作业与试卷作业与试卷. 大连理工大学出版社，大连理工大学出版社，2015年年8 月月.4 王玉敏王玉敏,郑一郑一,林强林强. 概率论与数理统计教学实概率论与数理统计教学实验验 教材教材. 中国科学技术出版社，中国科学技术出版社， 2007年年7月月. 联系方式联系方式：
