《《数学数理统计》ppt课件》由会员分享，可在线阅读，更多相关《《数学数理统计》ppt课件（61页珍藏版）》请在金锄头文库上搜索。
1、-1-,第 五 讲,一、大数定理,二、随机变量的收敛性,三、中心极限定理,-2-,一 大数定律,要解决的问题,为何能以某事件发生的频率 作为该事件的 概率的估计？,为何能以样本均值作为总体 期望的估计？,为何正态分布在概率论中占 有极其重要的地位？,大样本统计推断的理论基础 是什么？,答复,大数 定律,中心极 限定理,-3-,和方差,1) 切比雪夫不等式,2) A.L.CauchySchwarz不等式.,准备工作,-4-,设事件,在每次试验中出现的概率为 p,在n次重复独立试验中出现的频率为,且,贝努里（Bernoulli） 大数定律,证 引入 r.v. 序列Xk,设,则,-5-,记,由 Ch
2、ebyshev 不等式,相互独立，,-6-,故,-7-,在概率的统计定义中, 事件 A 发生的频率,“ 稳定于”事件 A 在一次试验中发生 的概率是指：,小概率事件, 因而在 n 足够大时, 可以用频 率近似代替 p . 这种稳定称为依概率稳定.,贝努里(Bernoulli)大数定律的意义,-8-,大数定律,设 r.v. 序列,或,是常数序列，,则称 服从大数定律,-9-,Chebyshev 大数定律,或,两两不相关的随机变量,又设,-10-,两两不相关,且方差有界，则可得到,-11-,辛钦大数定律,为一列相互独立同分布的,随机变量，且具有相同的数学期望,设,在定理一中,去掉方差存在的条件而加
3、上相同,分布的条件，则有：,注,（Markov） 大数定律,-12-,如果对于任意的 有，,二 随机变量的收敛性,定义1,设,为一列随机变量，如果,记为,定义2,设,为一列随机变量,X是随机变量,记为,-13-,定义:设 是一列分布函数,如果,对F(x)每个连续点x，都有,则称分布函数列 弱收敛于分布函数F(x) ，,记为,定义：如果,则称,依分布收敛于X，记为,-14-,可以证明： （）若 则，,（）设C为常数，则,充分性：,F(x)是X=C的分布函数，即,-15-,：r阶收敛,定义：设对随机变量Xn及X，r0为常数，如果,且，,则称 r阶收敛于X,记作,特别：阶收敛为平均收敛，阶为均方收敛
4、,-16-,：以概率收敛,定义：若存在一随机变量X,使,我们称随机序列 以概率为收敛于X,或说 几乎处处收敛于X，并记为,四种收敛关系： 以概率收敛或r-阶收敛 依概率收敛,依分布收敛,-17-,中心极限定理讨论：随机变量序列,对应的分布函数序列收敛于标准正态分布函数的定理,三、 中心极限定理,-18-,的随机变量，且具有数学期望和方差，,定理1（独立同分布的中心极限定理）,任意实数,有,设,为一列相互独立相同分布,则对于,-19-,若一随机变量可以表示成数量很多的相互独立相,同分布的随机变量的和，则该随机变量可近似服从,正态分布，标准化后就服从标准正态分布。,近似,近似服从,-20-,对任意
5、 有，,-21-,中心极限定理的意义,前面讲过有许多随机现象服从正态分布,若联系于此随机现象的随机变量为X ，则,是由于许多彼此没有什么相依关系、对随机现,象谁也不能起突出影响，而均匀地起到微小作,用的随机因素共同作用(即这些因素的叠加)的,它可被看成为许多相互独立的起微小作用的因,素Xk的总和 ，而这个总和服从或近似服从,正态分布.,结果.,-22-,对此现象还 可举个有趣 的例子,高尔顿钉板 试验 加 以说明., 钉子层数,-23-,表示某一个小球在第k次碰了钉子后向左 或向右落下这一随机现象联系的随机变量，,满足中心极限定理条件，,独立投入个小球，,-24-,有,这个定理表明，二项分布的
6、极限分布是正态分布,项分布的概率。,定理 2 （德莫佛拉普拉斯）,则对于任意实数,设,-25-,对任意 有，,-26-,某单位有200台电话分机，每台分机有5%的时间要使用外线通话。假定每台分机是否使用外线是相互独立的，问该单位总机要安装多少条外线，才能以90%以上的概率保证分机用外线时不等待？,解：设有X部分机同时使用外线，则有,设有N 条外线。由题意有,例,-27-,由德莫佛-拉普拉斯定理有,查表得,故N应满足条件,即,-28-, 对随机现象进行观测、试验， 以取得有代表性的观测值, 对已取得的观测值进行整理、 分析,作出推断、决策,从而 找出所研究的对象的规律性,第2章 数理统计的基本概
7、念,-29-,参数估计 (第3章),假设检验 (第4章),推断 统计学,方差分析 (第6章),回归分析 (第5章),-30-,总体 研究对象全体元素组成的集合 所研究的对象的某个(或某些)数量指标的全体,它是一个随机变量(或多维随机变量).记为X .,X 的分布函数和数字特征称为总体的分布函数和数字特征., 2.1 基本概念,-31-,样本 从总体中抽取的部分个体.,称 为总体 X 的一个容量为n的样本观测值,或称样本的一个实现.,用 表示, n 为样本容量.,样本空间 样本所有可能取值的集合.,个体 组成总体的每一个元素 即总体的每个数量指标,可看作随机 变量 X 的某个取值.用 表示.,-
8、32-,则称 为简单随机样本.,若总体 X 的样本 满足:,(1) 与X 有相同的分布,(2) 相互独立,简单随机样本,它可以用与总体独立同分布的n个相互独立的随机,变量X1,X2,Xn表示。,若总体的分布函数为F(x)，则其简单随机样本的联合分布函数为,F(x1) F(x2) F(xn),-33-,设 是取自总体X 的一个样本, 为一实值连续函数,且不含有未知参数,称,定义,-34-,例 是未知参数,若 , 已知,则为统计量,是一样本,是统计量, 其中,则,-35-,常用的统计量,为样本均值,为修正样本方差,为修正样本标准差,-36-,为样本的k 阶原点矩,为样本的k 阶中心矩,例如,-37
9、-,注 样本方差 与样本二阶中心矩 的不同,-38-,常见统计量的性质：,-39-,2）,-40-,顺序统计量与极差,为样本值,且,定义 r.v.,其中,-41-,1）样本的经验分布函数,样本值,样本值小于x的个数，作,样本的经验分布函数,非降，左连续；,-42-,若子样为n维r.v，那么对于每一样本值,就可作一个经验分布函数，故,是随机变量,-n次独立重复试验中，事件,发生的频率。,由大数定律，,-43-,这就是我们可以由样本推断总体的基本理论依据.,格列汶科进一步证明了：当n时，Fn(x)以概率1关于x一致收敛于F(x)，即,这就是著名的格列汶科定理.,定理告诉我们，当样本容量足够大时，对
10、所有的x, Fn(x)与F(x)之差的绝对值都很小，这件事发生的概率为1.,-44-,直方图,离散型,为n次独立重复样本,则,-45-,定义函数：当,称 为在区间a,b)的图形为a,b)的 频率直方图,-46-,-47-,-48-,-49-,. 抽样分布,定理：,则,为两随机向量，且,-50-,-51-,那么 也是正态随机变量,若 为正交矩阵，那么：随机变量,也是相互独立且均值为的正态随机变量,-52-,几个重要的抽样分布定理,取自正态总体,的样本, 则有,定理 1 (样本均值的分布),设X1 , X2 , , Xn 是,-53-,定理2. (样本方差的分布),设 X1 , X2 , , Xn 是取自正态总体,样本 ,分别为样本均值和修正样本方差,则有,的,和 相互独立。,证明：设,-54-,而,-55-,-56-,定理3(与样本均值和样本方差有关的一个分布),设 X1, X2 , X n 是取自正态总体,分别为样本均值和样本修正方差.,则有,的样本,证明:,-57-,( II ) 两个正态总体,相互独立的简单随机样本.,令,-58-,则,-59-,则,相互独立的简单随机样本.,-60-,-61-,
