《概率论7》由会员分享，可在线阅读，更多相关《概率论7（25页珍藏版）》请在金锄头文库上搜索。
1、随机变量的期望 PART A 回忆第三章学到的内容， 给定概率空间(,F,P)， 随机变量是定义于样本空间， 取值于 实数域的函数。 由于样本空间中的样本点在统计实验中以一定的概率出现， 这种随机性也被 随机变量扩展到了实数轴上， 形成了分布函数的概念。根据分布函数的特性， 随机变量可以 分为离散、 连续(绝对连续)和奇异连续等多种类型。其中离散和连续两种随机变量在实际中 最为常见。无论是离散，还是连续随机变量，其分布规律都比较复杂。离散随机变量需要一 组概率值， 连续分布函数需要概率密度函数才能够对其分布规律作出准确表达。 如何能够降 低这种复杂性呢？ 有没有可能能够使用两三个简单的数， 来
2、对随机变量分布规律的基本特征 进行描述呢？很显然，这种描述是粗糙的，无法完整反映随机变量分布规律的全部特性。但 是， 简单易用是其最明显的特点。当处理较为复杂的随机变量， 特别是分布函数的计算较为 困难的时候， 这里给出的数字特征有分布函数无法替代的优势。 而期望正是这类数字特征的 代表。本章将就随机变量的期望展开讨论。 期望的基本定义 随机变量的期望是其最基本， 也是最重要的数字特征， 大多数其他数字特征都是由期望 导出的。 定义1.1 (期望)设概率空间为(,F,P)，随机变量X的分布函数为FX(x)，则X的期望 定义为 E(X) = xdFX(x),(1-1) 期望(Expectatio
3、n)有时也称为均值(Mean)，通常记为E(X)。 (1-1)的积分规定为Stieltjes积分。Stieltjes积分要求FX(x)是有界变差函数，而作为分布 函数的FX(x)有单调不减性， 自然满足有界变差条件。因此(1-1)的定义是良好的。 如果X是离散随机变量， 其分布规律为 P(X = xk) = pk,k N, 那么 FX(x) = k=1 pkU(x xk),(1-2) 则在广义函数的意义下有 dFX(x) = k=1 pk(x xk)dx 离散随机变量的期望可以写为 E(X) = k=1 xkpk= k=1 xkP(X = xk),(1-3) 2 如果X是连续随机变量， 那么F
4、X(x)可导， 即存在fX(x)， 满足 d dxFX(x) = fX(x), FX(x) = x fX(t)dt,(1-4) 连续随机变量的期望可以写为 E(X) = xfX(x)dx,(1-5) 如果令离散随机变量的“密度”为 fX(x) = k=1 pk(x xk),(1-6) 则(1-3)和(1-5)是统一的。 期望本质上是一种平均。 但是一般意义上的平均， 即简单地将随机变量所有可能的取值 相加， 可能会出现不合理的结果， 原因是随机变量取不同值的可能性有差异， 不应将其平等 对待。期望考虑了随机变量取不同值的可能性(即其概率分布)，用加权平均取代简单平均， 将概率分布作为权值， 从
5、而能够用一个数比较充分地反映随机变量取值的平均水平， 形成对 随机变量的直观认识。 例1.1 (Bernoulli分布的期望)设随机变量X服从Bernoulli分布，其分布为 P(X = 1) = p,P(X = 0) = 1 p, 则根据定义，其期望为 E(X) = 1 P(X = 1) + 0 P(X = 0) = 1p + 0 (1 p) = p, 例1.2 (几何分布的期望)设随机变量X服从几何分布，其分布为 P(X = k) = (1 p)k1p,k N, 则根据定义，其期望为 E(X) = k=1 kP(X = k) = k=1 k(1 p)k1p = p d dp( k=1 (1
6、 p)k) = p d dp (1 p 1 ) = 1 p 例1.3 (Poisson分布的期望)设随机变量X服从Poisson分布，其分布为 P(X = k) = k k! exp(), 3 则根据定义，其期望为 E(X) = k=1 kP(X = k) = k=1 k k k! exp() = exp() k=1 k1 (k 1)! = exp()exp() = 随机变量的期望并不总是存在。对于离散随机变量， 期望的计算涉及级数求和(1-3)， 则 期望存在意味着该级数应绝对收敛。对于连续随机变量， 期望是积分(1-5)， 则期望的存在性 需要绝对可积性质来保证。所以， 尽管期望是应用最为
7、广泛的随机变量数字特征， 但是它并 不是随机变量的特征性质。 例1.4 (不存在期望的离散随机变量)设离散随机变量X Z的概率分布为 P(X = k) = 3 22k2 ,P(X = 0) = 1 2, (1-7) 容易验证 k= P(X = k) = 3 22 ( k=1 1 k2 + 1 k= 1 k2 ) + 1 2 = 1, 同时， E(X) = k= kP(X = k) = k=1 1 k + 1 k= 1 k (1-8) 级数(1-8)不收敛，因此X的期望不存在。 例1.5 (不存在期望的连续随机变量)设连续随机变量X Z的概率密度为 fX(x) = 1 (1 + x2), (1-
8、9) 不难看出 fX(x)dx = 1 1 1 + x2 dx = 1 arctan(x) ? ? ? ? = 1, 同时， E(X) = xfX(x)dx = 1 1 1 + x2 dx(1-10) 积分(1-10)发散，因此X的期望不存在。 即使随机变量的期望存在， 但是如果其值为， 有时也会给分析与决策带来困扰。 例1.6 (St.Peterberg悖论)这是概率论历史上最著名的悖论之一。它最早是由享誉 世界的Bernoulli家族成员Nicolaus Bernoulli(1687 1759)于1713年在写给Pierre R emond de Montmort(16781719)(法国
9、数学家， 早期概率论研究的活跃人物， 擅长使用组合方法进行概 4 率计算)的信件中首次提出， 后由其堂弟Danial Bernoulli(17001782)在俄罗斯St.Peterberg科 学院的刊物上发表，从而为人们所熟知。 St.Peterberg盛行的一种赌博规则如下：参与者在缴纳一笔入场费用后， 开始反复抛掷均 匀硬币，直到正面向上为止。 如果一共抛掷了n次，则参与者能够获得2n元。 换言之，每次抛 掷后，如果游戏未结束，参与者获得的收益都将翻番，那么最合理的入场费用是多少呢？ 入场费用的“合理”指的是赌场的毛收益应该是0。设赌场需要付给赌博参与者的款项 为X，那么X的概率分布为 P
10、(X = 2n) = 1 2n ,n = 1,2, ,(1-11) 因此 E(X) = n=1 2nP(X = 2n) = n=1 2n 1 2n = n=1 1 = ,(1-12) 所以说赌场付出款项的期望是，这使得进场费用无法确定，总不能先让交无穷多的钱才允 许游戏吧？ St.Peterberg悖论之所以出现，根本的原因在于X的期望不是有限值。 这给赌场的费用收 取带来了极大的困扰。如果改为每次投掷都收费，收费标准为c元/次，那么赌场的毛收益为 lim n( n k=1 (2kP(X = 2k) c) = lim n(1 c)n = , (1-13) 仍然没有明确的结论。 历史上出现过一些
11、解决悖论的方法。例如 Buff on等人提出，赌场可以遵照“资源有限” 原则，给付出款项加上最高限额。例如，最高限额为220(约为100万)，那么 E(X) = 19 n=1 2nP(X = 2n) + 220 n=20 P(X = 2n) =19 + 220 2 220 = 21, 这样，合理的入场费为21元。 期望的线性性质 期望最重要的特性是其线性性质， 该性质在期望的计算中起着重要作用。 定理1.1 (期望的线性性质)设概率空间为(,F,P)， 随机变量Xk,k = 1, ,n， 如果对 于任意的k，Xk的期望都存在，则 E(X1+ X2+ + Xn) = E(X1) + + E(Xn
12、),(1-14) 应当指出， 期望的线性性质不需要对随机变量之间的关联附加任何限制， 具有很好的普 适性。如果c是确定性常数， 那么不难验证 E(c) = c,E(cX) = cE(X), 5 因此，c1,c2, ,cn R， 有 E(c1X1+ c2X2+ + cnXn) = c1E(X1) + + cnE(Xn),(1-15) (1-14)的证明方法很多。最简单的方法是引入多元随机变量的联合分布。如果只考虑随机变 量的一维分布， 那么直接套用定义(1-1)有一定的难度。Part B中给出了期望的概率空间定义， 能够简单解决问题， 此处从略。 例1.7 (二项分布的期望)设随机变量X服从参数
13、为(n,p)的二项分布，其分布为 P(X = k) = (n k ) pk(1 p)nk, 由于二项分布和Bernoulli分布间存在如下对应， X = B1+ + Bn,(1-16) 其中Bk为独立的Bernoulli分布随机变量 （事实上，独立性在这里不起作用） ，因此 E(X) = E(B1+ + Bn) = E(B1) + + P(Bn) = np, 作为对比，我们套用期望的定义直接计算 E(X) = n k=0 k (n k ) pk(1 p)nk = np n k=0 (n 1 k 1 ) pk1(1 p)nk = np(p + 1 p)n1= np, 不难感觉，使用期望的线性性质
14、可以简化计算。 例1.8 (负二项分布的期望)设随机变量X服从参数为(n,p)的负二项分布，X的分布为 P(N = k) = (k 1 n 1 ) pn(1 p)kn, 由于负二项分布与几何分布间存在如下对应， X = Y1+ + Yn, 其中Yk为独立的几何分布随机变量。所以 E(X) = E(Y1+ + Yn) = E(Y1) + + P(Yn) = n p , 6 直接计算相对麻烦， E(X) = n k=0 k (k 1 n 1 ) pn(1 p)kn = n p n k=0 (k n ) pn+1(1 p)kn= n p , 例1.9 (超几何分布的期望)设随机变量X服从参数为(n,
15、r,m)的超几何分布，即从装 有n个球（其中r个红球，其余为黑球）的罐中随机取m个球，其中红球的数目。X的分布 为 P(X = k) = (r k )( n r m k ) ( n m ), 将X进行分解，以便能够有效利用期望的线性性质。 X = R1+ + Rm,Rk= 1第k颗抽出的是红球 0第k颗抽出的是黑球 , 很明显 P(Rk= 1) = 1 P(Rk= 0) = r n, 且有 E(Rk) = 1 P(Rk= 1) + 0 P(Rk= 0) = r n, 所以 E(X) = E(R1+ + Rn) = E(R1) + + P(Rn) = mr n 同样的，如果直接计算， E(X) = n k=0 k (r k )( n r m k ) ( n m )= m n k=0 k (r k )( n r m k ) m ( n m ) = m n k=0 r (r 1 k 1 )( n r m k ) n ( n 1 m
