chp41.2方差相关系数矩

《chp41.2方差相关系数矩》由会员分享，可在线阅读，更多相关《chp41.2方差相关系数矩（43页珍藏版）》请在金锄头文库上搜索。

1、机动 目录 上页 下页 返回 结束 方差，相关系数，矩 第二节二、二、 车贝晓夫不等式车贝晓夫不等式 一一 、方差、方差 三、三、 相关系数相关系数 四、四、 矩矩 五、五、 条件数学期望，最佳线性预测条件数学期望，最佳线性预测1机动 目录 上页 下页 返回 结束 例如例如: : 甲、乙两门炮同时向一目标射击10发炮弹，哪门炮射击效果好一些呢?甲炮射击结果乙炮射击结果 中心中心其落点距目标的位置如图，又如又如: : 甲、乙两个合唱队都由5名成员组成，身高如下：甲：1.60、1.62、1.59、1.60、1.59乙：1.80、1.60、1.50、1.50、1.60哪个合唱队演出效果好？2机动 目

2、录 上页 下页 返回 结束 一、方差一、方差 方差的算术平方根为X 的方差。记为D(X)或Var(X)。定义定义 设X 是一个随机变量，若 则称称为均方差或标准差。存在，记为注：注： 方差实际上就是X的函数 g(X)=X-E(X)2 的期望。方差反映了随机变量的取值与平均值的偏离程度。常用计算公式：常用计算公式：3机动 目录 上页 下页 返回 结束 证明：证明： 推论：推论：常用计算公式：常用计算公式：（柯西施瓦兹不等式）后面证明4机动 目录 上页 下页 返回 结束 1 1（0-10-1）分布）分布 参数为p 0 1几种常见分布的方差几种常见分布的方差2 2二项分布二项分布5机动 目录 上页

3、下页 返回 结束 3 3泊松分布泊松分布4 4均匀分布均匀分布6机动 目录 上页 下页 返回 结束 指数分布指数分布7机动 目录 上页 下页 返回 结束 正态分布正态分布注：服从正态分布的随机变量完全由它的数学期望和方差所决定。特别，当8机动 目录 上页 下页 返回 结束 已知例例1求的次数，对X 独立观察 4 次，Y 表示X 的观察值大于解 由题意可知9机动 目录 上页 下页 返回 结束 1. 设C是常数,则D(C) =0 ; 2. 若C是常数,则 D(CX )=C 2D(X ); 5. 若X与Y 独立，则方差的性质方差的性质注：注：这条性质同样不是一个充要条件。推广推广 若X1,X2,Xn

4、 相互独立,则3、D(X +c)= D(X), 这里c为常数。4、D(X )=0后面证明10机动 目录 上页 下页 返回 结束 6. 若 ，则 。证明因为注：注：这个性质表明数学期望具有一个重要的极值性质：在 中，当 时达到极小；这也说明在 的定义中取 的合理性。11机动 目录 上页 下页 返回 结束 例例2、已知X b(n,p)，求D(X)。则所以,解：解：，则= np(1-p).注：注：利用方差和的性质时要注意相互独立的条件。12机动 目录 上页 下页 返回 结束 二、车贝晓夫不等式二、车贝晓夫不等式 概率论中有许多不等式，下面的车贝晓夫不等式是其中最基本和最重要的一个。定理定理 对于任何

5、具有有限方差的随机变量 ，都有其中 是任一正数。证明证明 若 是 的分布函数，则显然有证毕证毕13机动 目录 上页 下页 返回 结束 车贝晓夫不等式还常写成下面的形式或 因为车贝晓夫不等式只利用数学期望及方差就描述了随机变量的变化情况，因此它在理论及实际应用中都很有价值。 车贝晓夫不等式利用随机变量 的数学期望及方差对 的概率分布进行估计。它断言不管 的分布是什么， 落在 中的概率均不小于 14机动 目录 上页 下页 返回 结束 从车贝晓夫不等式还可以看出，当方差愈小时，事件的概率也愈小，从这里可以看出方差是描述随机变量与其期望值离散程度的一个量，这与我们的理解完全一致。特别地，若 ，则对于任

6、意的 ，恒有 即所以方差为零的随机变量是常数。因此15机动 目录 上页 下页 返回 结束 定义定义 设二维随机变量 则称它为X与Y的协方差，即若存在，三、相关系数三、相关系数记为 方差反映了随机向量各个分量对于各自的数学期望的离散程度，它对于了解随机向量的分布有一定的帮助。但对于随机向量，我们除了关心它的各个放量的情况外，还希望知道各个分量之间的联系，这光靠数学期望与方差是办不到的，于是引进了协方差和相关系数的概念16机动 目录 上页 下页 返回 结束 常用计算公式常用计算公式推广推广1、为常数3、2、协方差的性质协方差的性质17机动 目录 上页 下页 返回 结束 定义定义称其中n维随机变量维

7、随机变量说明：说明：所以C是一个对称矩阵。2、对角线上元素就是3、协方差矩阵是一个非负定矩阵。多维正态分布密度函数中的矩阵 即为协方差矩阵。18机动 目录 上页 下页 返回 结束 称为X与Y的相关系数。事实上，对任何实数 有因而，对于协方差矩阵 有更常用的是如下“标准化”了的协方差。定义定义 相关系数就是标准化的随机变量 与 的协方差。 以后定义常数与任何随机变量的相关系数为零。19机动 目录 上页 下页 返回 结束 例例3 求服从多项分布的随机向量的各个分量之间的协方差和相关系数。 这里整数 ，且仅当 时上式才成立，否则为0。解解显然因此注意到因此由于20机动 目录 上页 下页 返回 结束

8、因而有相关系数为 下面研究相关系数的性质相关系数的性质，先证明一条常用的定理。定理定理 （柯西-施瓦兹不等式） 对任意的随机变量 与 ，都有等式成立当且仅当这里 是某一个常数。21机动 目录 上页 下页 返回 结束 证明证明对任意的实数 ，定义 显然对一切 ，因此二次方程 或者没有是根或者有一个重根。所以此外，方程 有一个重根 存在的充要条件是这时， ，因此证毕 由该定理立刻可以推出：若两随机变量的方差存在，则它们的协方差也存在。22机动 目录 上页 下页 返回 结束 把柯西-施瓦兹不等式应用到 及 ，可以得到相关系数的如下重要性质。性质性质1对于 与 的相关系数 ，成立并且 当且仅当而 当且

9、仅当 性质1表明，当 时， 与 存在着线性关系，这时如果给定一个随机变量之值，另一个随机变量的值便完全决定。有线性关系是一个极端， 又是一个极端。23机动 目录 上页 下页 返回 结束 定义定义 若随机变量 与 的相关系数 ，则我们称 与 不相关不相关。性质性质2对随机变量 与 ，下面的事实等价：不相关；证明略。 独立性和不相关性都是随机变量间联系“薄弱”的一种反映，自然希望知道这两个概念之间的联系。性质性质3若 与 独立，则 与 不相关。 性质3工科书中已经给出了证明。其逆不成立，请看下面的例子。24机动 目录 上页 下页 返回 结束 例例4 设 服从 中的均匀分布， 这里 是定数。试判断

10、与 的独立性与相关性。解解因而， 与 的相关系数为25机动 目录 上页 下页 返回 结束 说明：说明：，X 与Y 的线性关系越显著；，X 与Y 的线性关系越不显著；相关系数之间线性关系的一种度量.是X与Y于是当 时当 时存在线性关系。但是，当 或 时， ，这时 与 不相关。但是这时却有 ，因此 与 不独立。两个随机变量不相关，它们之间可能存在其它关系。即使26机动 目录 上页 下页 返回 结束 不相关性是就线性关系而言的，而独立性是就一般关系而言的。但是如果它们服从二元正态分布，那么它们之间的独立性和不相关性是等价的。性质性质4 对于二元正态分布，不相关性与独立性等价。以后，我们将把这个结果推

11、广到多元场合。 下面，我们给出一个边际分布是正态分布，二维联合分布不是多元正态分布的例子。 该性质已经在工科书中证明过。 27机动 目录 上页 下页 返回 结束 关于 ，不难验证：（1）是二元密度函数。（2）边际分布都是正态分布。（3）相关系数为0。（4）不独立。（5）不是二元正态密度函数。例例5令28机动 目录 上页 下页 返回 结束 在抽样调查中的应用在抽样调查中的应用 抽样调查是社会经济中用的最多的统计方法。为对总体的某个指标（主要是总值、平均值、比率和百分比）进行估算特设计某种抽样方案，以随机的方式抽取若干个体进行调查，利用所得数据算出估计值，并希望给出估计的精度。这是抽样调查的大意。

12、 下面的例子可以概括水稻产量、家庭收入、收视率等等具体情况，采用的是简单随机抽样。例例6袋中有 张卡片，各记以数字 ，不放回地从中抽出 张，求其和的数学期望和方差。解解 取一张时，其数字的均值及方差分别为及29机动 目录 上页 下页 返回 结束 若以 记 张卡片的数字之和，以 记第 次抽得的卡片上的数字，则由于抽签与顺序无关，因此故所以这里，我们又一次用到抽签与顺序无关。30机动 目录 上页 下页 返回 结束 在 中令 ，这时 是一个常数，因此 ，于是因而最后得到 与有放回抽取的方差 相比，多出了一个因子 ，称为有限修正因子。 当 时，它等于1；而当 时， 它取值为0。在不放回场合，添加抽取的

13、信息量较大，即方差小，这与直观符合。 特别地，若取 则可以得到超几何分布的均值和方差的表达式。31机动 目录 上页 下页 返回 结束 现代证券组合理论现代证券组合理论 马库威茨在50年代引进的均值-方差模型成了现代证券组合理论的基石。 假定有 种证券可以投资，并把它们的收益率看作是随机变量，通常记为 ，相应的均值和方差分别记为 并以 记 与 的相关系数。 一个相当自然的假定是：投资者都追求高收益而规避风险，也即希望有高的均值而不愿有大的方差。 但是，证券市场的历史记录表明，对于个别证券而言，高收益总是伴随着高风险。根本的出路在于采用证券组合，即把全部资金分散投资于各种证券。 假定投资于上述 种

14、证券的资金的比例分别为32机动 目录 上页 下页 返回 结束 则总的收益率为显然其平均收益率为而方差则为 因此寻找最优证券组合的问题化为： 求投资比例 ，使 等于某个目标值而 达到最小，或者 控制在一个可以接受的水平而使 达到最大。 马库威茨模型兼顾了金融市场中收益和风险两大要素，而且形式简便，为金融学的发展开创了新局面，他也因此获得了1990年度的诺贝尔经济学奖。33机动 目录 上页 下页 返回 结束 四、矩四、矩 数学期望，方差，协方差是随机变量常用的数字特征，它们都是某种矩。 矩是最广泛使用的一种数字特征，在概率论和数理统计种占有重要地位。常用的矩有两种：原点矩和中心矩定义定义对正整数

15、，称 为 阶原点矩。数学期望是一阶原点矩。定义定义 对正整数 ，称 为 阶中心矩。方差是二阶中心矩。定理定理中心矩和原点矩可相互表达。34机动 目录 上页 下页 返回 结束 事实上， 此外对正数 ，还可以定义 阶原点绝对矩 及 阶中心绝对矩 ，它们较少使用。 对于多维随机变量，可以定义各种混合矩，例如称为 阶混合中心矩。协方差是二阶混合中心矩，是其中最重要的一种。证毕35机动 目录 上页 下页 返回 结束 例例7解解密度函数为故原点矩和中心矩相同。显然，当 为奇数时， ；当 为偶数时， 设 为服从正态分布 ，求其 阶原点矩和 阶中心矩。36机动 目录 上页 下页 返回 结束 五、条件数学期望，

16、最佳线性预测五、条件数学期望，最佳线性预测定义定义 在 的条件下， 的条件数学期望定义为 若以 记随机变量 的如下函数：当 时，它取值 ，这样定义的 是随机变量。定理定理 （全期望公式） 这个定理表明：条件期望的期望（作为一个随机变量）的期望等于无条件期望。这是条件期望的一个极端重要的性质，有着广泛的应用。事实上，它对应着全概率公式。37机动 目录 上页 下页 返回 结束 定理定理我们称 是 关于 的回归。设 与 是联合分布着的平方可积的随机变量，如果以 作为 的预测预测，其中 为博雷尔函数，那么，使预测预测之均方误差 达到最小的 应是 。定理定理 （随机多个随机变量之和的期望） 假设 为相互

17、独立的随机变量序列，它们都与某个可积随机变量 同分布。如果 为取值自然数的随机变量， 有限且 与每个 独立，那么我们有 关于最佳线性预测最佳线性预测，大家可以回去自己学习。38机动 目录 上页 下页 返回 结束 例例1 1设随机变量的概率密度为问 X 和 Y 是否相互独立，是否不相关？解解 先求关于X 和Y 的边缘概率密度 选例选例39机动 目录 上页 下页 返回 结束 因为所以X 和 Y 不相互独立。 求X 和Y 的相关系数 40机动 目录 上页 下页 返回 结束 所以故X 和 Y 不相关。= 0.41机动 目录 上页 下页 返回 结束 例例2 2设随机变量相互独立，且解解42机动 目录 上页 下页 返回 结束 例例3 3 将一枚硬币重复掷 n 次，以 分别表示正面向上和反面向上的次数，求的相关系数。解解:满足故Cov(X,Z)=2, D(X)=4, D(Z)=243