概率论与数理统计知识点总结(免费)

《概率论与数理统计知识点总结(免费)》由会员分享，可在线阅读，更多相关《概率论与数理统计知识点总结(免费)（17页珍藏版）》请在金锄头文库上搜索。

1、概率论与数理统计 第一章 概率论的基本概念 2样本空间、随机事件 1事件间的关系 BA 则称事件B 包含事件 A，指事件 A 发生必然导致事件 B 发生 Bxxx 或ABA称为事件A与事件B的和事件，指当且仅当 A，B 中至少有一个发生时，事件BA发生 Bxxx 且ABA称为事件A与事件B的积事件，指当 A，B 同时发生时，事件BA发生 Bxxx 且ABA称为事件 A 与事件 B 的差事件，指当且仅当 A 发生、B 不发生时，事件BA发生 BA，则称事件 A 与 B 是互不相容的，或互斥的，指事件 A 与事件 B 不能同时发生，基本事件是两两互不相容的 且S BA BA， 则称事件A 与事件B

2、 互为逆事件，又称事件 A 与事件 B 互为对立事件 2运算规则 交换律ABBAABBA 结合律)()( )()(CBACBACBACBA 分配律 )()B(CAACBA）（ )()( CABACBA 徳摩根律BABAABA B 3频率与概率 定义 在相同的条件下，进行了 n 次试验，在这 n 次试验中，事件A 发生的次数An称为事件 A 发生的频数，比值nnA称为事件 A 发生的频率 概率：设 E 是随机试验，S 是它的样本空间，对于 E 的每一事件 A 赋予一个实数，记为 P（A） ，称为事件的概率 1概率)(AP满足下列条件： （1）非负性：对于每一个事件 A 1)(0AP （2）规范性

3、：对于必然事件 S 1)S(P （3）可列可加性：设nAAA,21是两两互不相容的事件，有nkknkkAPAP11)()(（n可以取） 2概率的一些重要性质： （i） 0)(P （ii） 若nAAA,21是两两互不相容的事件， 则有nkknkkAPAP11)()(（n可以取） （iii） 设 A， B 是两个事件若BA， 则)()()(APBPABP，)A()B(PP （iv）对于任意事件 A，1)(AP （v）)(1)(APAP （逆事件的概率） （vi）对于任意事件 A，B 有)()()()(ABPBPAPBAP 4 等可能概型（古典概型） 等可能概型：试验的样本空间只包含有限个元素，试验

4、中每个事件发生的可能性相同 若事件 A 包含 k 个基本事件，即21kiiieeeA，里个不同的数，则有中某，是，kkn2 , 1iii,21 中基本事件的总数包含的基本事件数S)(1jAnkePAPkji 5条件概率 （1） 定义：设 A,B 是两个事件，且0)(AP，称)()()|(APABPABP为事件 A 发生的条件下事件 B 发生的条件概率 （2） 条件概率符合概率定义中的三个条件 1。非负性：对于某一事件 B，有0)|(ABP 2。规范性：对于必然事件 S，1)|(ASP 3 可列可加性：设,21BB是两两互不相容的事件，则有11)()(iiiiABPABP （3） 乘法定理 设0

5、)(AP，则有)|()()(BAPBPABP称为乘法公式 （4） 全概率公式： niiiBAPBPAP1)|()()( 贝叶斯公式： niiikkkBAPBPBAPBPABP1)|()()|()()|( 6独立性 定义 设 A，B 是两事件，如果满足等式)()()(BPAPABP，则称事件 A,B 相互独立 定理一 设 A，B 是两事件，且0)(AP，若 A，B 相互独立，则 BPABP)|( 定理二 若事件 A 和 B 相互独立，则下列各对事件也相互独立：A与与，与，BABAB 第二章 随机变量及其分布 1 随机变量 定义 设随机试验的样本空间为X(e)X e.S是定义在样本空间S 上的实值

6、单值函数，称X(e)X 为随机变量 2 离散性随机变量及其分布律 1 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散型随机变量 kk)(pxXP满足如下两个条件（1）0kp， （2）1kkP=1 2 三种重要的离散型随机变量 （1）(01)分布 设随机变量 X 只能取 0 与 1 两个值，它的分布律是) 101 , 0kp-1p)k(k- 1kpXP（，）（， 则称 X 服从以 p 为参数的(01)分布或两点分布。 （2）伯努利实验、二项分布 设实验 E 只有两个可能结果：A 与A，则称 E 为伯努利实验.设1)p0pP(A)（，此时p-1)AP(.

7、将 E 独立重复的进行 n 次，则称这一串重复的独立实验为 n 重伯努利实验。 n2 , 1 , 0kqpkn)kX(k-nk，P满足条件（1）0kp， （2）1kkP=1 注意到k-nkqpkn是二项式nqp）（ 的展开式中出现kp的那一项， 我们称随机变量 X 服从参数为 n，p 的二项分布。 （3）泊松分布 设随机变量 X 所有可能取的值为 0,1,2，而取各个值的概率为 ,2 , 1 , 0,k!e)kX(-kkP其中0是常数，则称 X 服从参数为的泊松分布记为）（X 3 随机变量的分布函数 定 义 设X是 一 个 随 机 变 量 ， x是 任 意 实 数 ， 函 数x-x,PX)x(

8、F 称为 X 的分布函数 分布函数)()(xXPxF， 具有以下性质(1) )(xF是一个不减函数 （2）1)(, 0)(1)(0FFxF，且 （3）是右连续的即)(),()0(xFxFxF 4 连续性随机变量及其概率密度 连续随机变量：如果对于随机变量 X 的分布函数 F（x） ，存在非负可积函数)(xf，使对于任意函数 x 有,dttf)x(Fx-）（则称 x 为连续性随机变量，其中函数 f(x)称为 X 的概率密度函数，简称概率密度 1 概率密度)(xf具有以下性质，满足（1）1)( (2) , 0)(-dxxfxf； （3）21)()(21xxdxxfxXxP； （4）若)(xf在点

9、x 处连续，则有)(F x，)(xf 2,三种重要的连续型随机变量 (1)均匀分布 若连续性随机变量 X 具有概率密度，其他，0aa-b1)(bxxf，则成 X 在区间(a,b)上服从均匀分布.记为），（baUX (2)指数分布 若连续性随机变量 X 的概率密度为，其他，00.e1)(x-xxf 其中0为常数，则称 X 服从参数为的指数分布。 （3）正态分布 若连续型随机变量 X 的概率密度为，）xexfx-21)(222(，服从参数为为常数，则称（，其中X)0的正态分布或高斯分布，记为），（2NX 特别，当10，时称随机变量 X 服从标准正态分布 5 随机变量的函数的分布 定理 设随机变量

10、X 具有概率密度,-)(xxxf，又设函数)(xg处处可导且恒有0)(,xg，则 Y=)(Xg是连续型随机变量，其概率密度为其他，0, )()()(,yyhyhfyfXY 第三章 多维随机变量 1 二维随机变量 定义 设E是一个随机试验， 它的样本空间是X(e)X e.S和Y(e)Y 是定义在 S 上的随机变量，称X(e)X 为随机变量，由它们构成的一个向量（X，Y）叫做二维随机变量 设（X，Y）是二维随机变量，对于任意实数 x，y，二元函数yYxPXy)(Yx)P(XyxF，记成），（称为二维随机变量（X，Y）的分布函数 如果二维随机变量（X，Y）全部可能取到的值是有限对或可列无限多对，则称

11、（X，Y）是离散型的随机变量。 我们称，2 , 1ji)yY(ijjipxXP为二维离散型随机变量（X，Y）的分布律。 对于二维随机变量（X，Y）的分布函数），（yxF，如果存在非负可积函数 f （x，y） ， 使对于任意 x，y 有，），（），（ y-x-dudvvufyxF则称 （X，Y）是连续性的随机变量，函数 f （x，y）称为随机变量（X，Y）的概率密度，或称为随机变量 X 和 Y 的联合概率密度。 2 边缘分布 二维随机变量（X，Y）作为一个整体，具有分布函数），（yxF.而 X 和 Y 都是随机变量，各自也有分布函数，将他们分别记为）（y),xFXYF，依次称为二维随机变量（X，

12、Y）关于 X 和关于 Y 的边缘分布函数。 ，2 , 1ixPXp1jiijip ，2 , 1jyPYp1iiij jp 分别称 ipjp为（X，Y）关于 X 和关于 Y 的边缘分布律。 dyyxfxfX）,()( dxyxfyfY）,()(分别称)(xfX，)(yfY为 X，Y 关于 X 和关于 Y 的边缘概率密度。 3 条件分布 定义 设（X，Y）是二维离散型随机变量，对于固定的 j，若, 0jyYP 则称, 2 , 1,ippyYPyYxXPyYxXPjijjjiji为在jyY 条件下随机变量 X 的条件分布律，同样, 2 , 1,jppxXPyYxXPXXyYPiijijiij为在ix

13、X 条件下随机变量 X 的条件分布律。 设二维离散型随机变量（X，Y）的概率密度为),(yxf， （X，Y）关于 Y 的边缘概率密度为)(yfY， 若对于固定的 y，)(yfY 0， 则称)(),(yfyxfY为在 Y=y 的条件下 X 的条件概率密度，记为)( yxfYX=)(),(yfyxfY 4 相互独立的随机变量 定义 设），（yxF及)(FxX，)(FyY分别是二维离散型随机变量 （X，Y）的分布函数及边缘分布函数.若对于所有 x,y 有yPY,xXPyYxXP，即(y)F(F,FYXxyx，则称随机变量X 和 Y 是相互独立的。 对于二维正态随机变量（X，Y） ，X 和 Y 相互独

14、立的充要条件是参数0 5 两个随机变量的函数的分布 1，Z=X+Y 的分布 设(X,Y)是二维连续型随机变量，它具有概率密度),(yxf.则 Z=X+Y 仍为连续性随机变量， 其概率密度为dyyyzfzfYX）,()(或dxxzxfzfYX）,()( 又若 X 和 Y 相互独立， 设 （X， Y） 关于 X， Y 的边缘密度分别为)(),(yfxfYX则dyfyzfzfYXYXy)()(（） 和dxxzfxfzfYXYX)()(）这两个公式称为YXff ,的卷积公式 有限个相互独立的正态随机变量的线性组合仍然服从正态分布 2，的分布的分布、XYZXYZ 设(X,Y)是二维连续型随机变量，它具有

15、概率密度),(yxf，则XYZXYZ， 仍为连续性随机变量其概率密度分别为dxxzxfxzfXY),()(dxxzxfxzfXY),(1)(又若 X 和 Y 相互独立，设（X，Y）关于 X，Y 的边缘密度分别为)(),(yfxfYX则可化为dxxzfxfzfYXXY)()()( dxxzfxfxzfYXY)()(1)(X 3的分布及，,minNYXmaxYXM 设 X，Y 是两个相互独立的随机变量，它们的分布函数分别为)(),(yFxFYX由于YXmax，M不大于 z等价于 X和Y都不大于 z故有zYz,PXzPM又由于 X 和 Y 相互独立， 得到YXmax，M的分布函数为)()()(max

16、zFzFzFYX ,minNYX的分布函数为)(1)(11)(minzFzFzFYX 第四章 随机变量的数字特征 1数学期望 定义 设离散型随机变量 X 的分布律为kkpxXP，k=1,2，若级数1kkkpx绝对收敛， 则称级数1kkkpx的和为随机变量 X 的数学期望，记为)(XE，即ikkpxXE)( 设连续型随机变量 X 的概率密度为)(xf，若积分dxxxf)(绝对收敛， 则称积分dxxxf)(的值为随机变量 X 的数学期望， 记为)(XE，即dxxxfXE)()( 定理 设 Y 是随机变量 X 的函数 Y=)(Xg(g 是连续函数) （i） 如果X是离散型随机变量， 它的分布律为kp

17、XPxk， k=1,2， 若kkkpxg1( ）绝对收敛则有)Y(E)(XgEkkkpxg1( ） （ii）如果 X 是连续型随机变量，它的分概率密度为)(xf，若dxxfxg)()(绝对收敛则有)Y(E)(XgEdxxfxg)()( 数学期望的几个重要性质 1 设 C 是常数，则有CCE)( 2 设 X 是随机变量，C 是常数，则有)()(XCECXE 3 设 X,Y 是两个随机变量，则有)()()(YEXEYXE； 4 设 X，Y 是相互独立的随机变量，则有)()()(YEXEXYE 2 方差 定义 设 X 是一个随机变量，若)(2XEXE存在，则称)(2XEXE为 X 的方差，记为 D（

18、x）即 D（x）=)(2XEXE，在应用上还引入量)(xD，记为)(x，称为标准差或均方差。 222)()()()(EXXEXEXEXD 方差的几个重要性质 1 设 C 是常数，则有 , 0)(CD 2 设 X 是随机变量，C 是常数，则有)(C)(2XDCXD，D(X)(CXD 3设X,Y是两个随机变量，则有E(Y)-E(X)(Y-2E(XD(Y)D(X)(YXD特别，若 X,Y 相互独立，则有)()()(YDXDYXD 40)(XD的充要条件是 X 以概率 1 取常数E(X)，即1)(XEXP 切比雪夫不等式：设随机变量 X 具有数学期望2)(XE，则对于任意正数，不等式22-XP成立 3

19、 协方差及相关系数 定义 量)()(YEYXEXE称为随机变量 X 与 Y 的协方差为),(YXCov，即)()()()()(),(YEXEXYEYEYXEXEYXCov 而D(Y)D(X)YX(XY），Cov称为随机变量 X 和 Y 的相关系数 对于任意两个随机变量 X 和 Y，),(2)()()_(YXCovYDXDYXD 协方差具有下述性质 1),(),( ),(),(YXabCovbYaXCovXYCovYXCov 2),(),(),(2121YXCovYXCovYXXCov 定理 1 1XY 2 1XY的充要条件是，存在常数 a,b 使1bxaYP 当XY0 时，称 X 和 Y 不相

20、关 附：几种常用的概率分布表 分布 参数 分布律或概率密度 数学期望 方差 两点分布 10 p 1 , 0,)1 ()1kppkXPkk， p )1 (pp 二项式分布 1n10 p nkppCkXPknkkn, 1 , 0,)1 ()(， np )1 (pnp 泊松分布 0 , 2 , 1 , 0,!)(kkekXPk 几何分布 10 p , 2 , 1 ,)1 ()(1kppkXPk p1 21pp 均匀分布 ba ，其他0,1)(bxaabxf， 2ba 12)(2ab 指数分布 0 其他,00,1)(xexfx 2 正态分布 0 222)( 21)(xexf 2 第五章 大数定律与中心

21、极限定理 1 大数定律 弱大数定理（辛欣大数定理） 设 X1，X2是相互独立，服从统一分布的随机变量序列，并具有数学期望), 2 , 1()(kXEk.作前 n 个变量的算术平均nkkXn11，则对于任意0，有11lim1nkknXnP 定义 设nYYY,21是一个随机变量序列，a 是一个常数，若对于任意正数，有1limaYPnn，则称序列nYYY,21依概率收敛于 a，记为aYpn 伯努利大数定理 设Af是 n 次独立重复试验中事件 A 发生的次数， p是事件 A 在每次试验中发生的概率，则对于任意正数0，有1limpnfPnn或0limpnfPnn 2 中心极限定理 定理一（独立同分布的中

22、心极限定理） 设随机变量nXXX,21相互独立，服从同一分布，且具有数学期望和方差2)( ,)(kiXDXE（ k=1,2 ， ）， 则 随 机 变 量 之 和标准化变量nikX1， nnXXDXEXYniknkknknkkkn1111 )()(， 定理二（李雅普诺夫定理） 设随机变量nXXX,21相互独立，它 们 具 有 数 学 期 望 和 方 差2 , 1, 0)( ,)(2kXDXEkkkk记nkknB122 定 理 三 （ 棣 莫 弗 - 拉 普 拉 斯 定 理 ） 设 随 机 变 量10(,), 2 , 1(ppnnn服从参数为）的二项分布，则对任意x，有)(21)1 (lim22xdtexpnpnpPxtnn