参数估计和假设检验

《参数估计和假设检验》由会员分享，可在线阅读，更多相关《参数估计和假设检验（51页珍藏版）》请在金锄头文库上搜索。

1、第五章第五章 参数估计和假设检验参数估计和假设检验推断统计：推断统计：推断统计：推断统计：利用样本统计量对总体某些性质或数量利用样本统计量对总体某些性质或数量特征进行推断。特征进行推断。随机原则随机原则总体参数总体参数统计量统计量推断估计推断估计参数估计参数估计检验检验假设检验假设检验抽样分布抽样分布抽样分布抽样分布简单随机抽样和简单随机样本的性质简单随机抽样和简单随机样本的性质不放回不放回放放 回回放回放回不放不放 回回独独立立性性和和同同一一性性同一性同一性当当n/N5%时，有限总时，有限总体不放回抽体不放回抽样等同于放样等同于放回抽样回抽样统计量与抽样分布统计量与抽样分布统计量：即统计量

2、：即样本指标样本指标。样本均值样本均值样本成数样本成数样本方差样本方差如：如：抽样分布：抽样分布： 某一统计量所有可能的样本的取值形成某一统计量所有可能的样本的取值形成的分布。的分布。性性 质质数字特征数字特征0P（Xi） 1P（Xi）=1均值均值E（X） 方差方差Ex-E(x)2 方差的平方根即抽样分布的标准差就是方差的平方根即抽样分布的标准差就是方差的平方根即抽样分布的标准差就是方差的平方根即抽样分布的标准差就是推断的推断的推断的推断的 抽样误差。抽样误差。抽样误差。抽样误差。样本均值的抽样分布（简称均值的分布）样本均值的抽样分布（简称均值的分布）抽样抽样 均值均值均值均值=Xi/N样本均

3、值是样本的函数，样本均值是样本的函数， 故样本均值是一个故样本均值是一个统计量统计量，统计量是一个统计量是一个随机变量随机变量， 样本均值的概率分布称为样本均值的概率分布称为样本均值的抽样分布。样本均值的抽样分布。抽抽 样样 方方 法法 均均 值值 方方 差差 标标 准差准差（1）从无）从无限总体抽限总体抽 样样和有限总体和有限总体放回抽样放回抽样（2）从有限）从有限总体不放回总体不放回抽样抽样抽样误差抽样误差抽样误差抽样误差从正态总体中抽样得到的均值的分布也服从从正态总体中抽样得到的均值的分布也服从正态分布正态分布。从非正态总体中抽样得到的均值的分布呢？从非正态总体中抽样得到的均值的分布呢？

4、 中心极限定理：无论总体为何种分布，只要中心极限定理：无论总体为何种分布，只要样本样本n足够大足够大（n30），），均值（均值（ ）标准化为（）标准化为（z）变量，必定服从标准正态变量，必定服从标准正态分布，均值（分布，均值（ ）则服从）则服从正态分布，正态分布，即：即：关于均值的抽样分布有如下的一些结论关于均值的抽样分布有如下的一些结论:1.对对于于多多数数总总体体分分布布来来说说，不不论论其其形形态态如如何何，如如果果样样本本观观察察值值超过超过30个个，那么均值的抽样分布将，那么均值的抽样分布将近似于正态分布近似于正态分布。2.2.如如果果总总体体分分布布是是明明显显对对称称的的，那那么

5、么只只要要样样本本观观察察值值超超过过15个，均值的抽样分布也近似于正态分布。个，均值的抽样分布也近似于正态分布。 3.3.如果总体是正态分布的，则不管样本大小如何，均值的抽如果总体是正态分布的，则不管样本大小如何，均值的抽样分布一定是正态分布的。样分布一定是正态分布的。 两个样本均值之差的抽样分布两个样本均值之差的抽样分布抽样抽样抽样抽样估计估计（1）如：）如：（2如果两个总体都是非如果两个总体都是非正态总体，只要正态总体，只要n1、n2足够足够大，根据中心极限定理，可大，根据中心极限定理，可知：知：样本成数（即比例）的抽样分布（简称成数的分布）样本成数（即比例）的抽样分布（简称成数的分布）

6、抽样抽样 成数成数成数成数P=Ni/N 所有可能的样本的成数（所有可能的样本的成数（ ）所形成的分）所形成的分布，称为样本成数的抽样分布。布，称为样本成数的抽样分布。抽抽 样样 方方 法法 均均 值值 方方 差差 标标 准差准差（1）从无）从无限总体抽限总体抽 样样和有限总体和有限总体放回抽样放回抽样（2）从有限）从有限总体不放回总体不放回抽样抽样根据中心极限定理，只要样本足够大，根据中心极限定理，只要样本足够大， 的分布就近的分布就近似正态分布。（似正态分布。（np和和nq大于大于5时）时）抽样误差抽样误差抽样误差抽样误差两个样本成数之差的抽样分布两个样本成数之差的抽样分布抽样抽样抽样抽样估

7、计估计 当当n1、n2都都足足够够大大时时，样样本本成成数数 都都近近似似服服从从正正态态分分布布，两两个个样样本本成成数数之之差差（ ）也也近似服从正态分布。近似服从正态分布。P1-P2=？一个样本方差的抽样分布一个样本方差的抽样分布抽样抽样若若:从一个正态总体中抽样所得到的样本方差的分布从一个正态总体中抽样所得到的样本方差的分布n,S2则则 当当 则则 两个样本方差之比的抽样分布两个样本方差之比的抽样分布抽样抽样从两个正态总体中分别独立抽样所得到的两个样本方从两个正态总体中分别独立抽样所得到的两个样本方差之比的抽样分布。差之比的抽样分布。n1,S12则则 抽样抽样n2,S22参数估计参数估

8、计点估计点估计以样本指标直接估计总体参数。以样本指标直接估计总体参数。评价准则评价准则的数学期望的数学期望等于总体参等于总体参数，即数，即该估计量称该估计量称为无偏估计。为无偏估计。无偏性无偏性有效性有效性当当 为为 的无的无偏估计时，偏估计时， 方方差差 越小，越小，无偏估计越有无偏估计越有效。效。一致性一致性对于无限总体，对于无限总体，如果对任意如果对任意 满足条件满足条件则称则称的一致估计。的一致估计。是是充分性充分性一个估计一个估计量如能完量如能完全地包含全地包含未知参数未知参数信息，即信息，即为充分量为充分量估计量估计量点估计点估计常用的求点估计量的方法常用的求点估计量的方法 1.1

9、.数字特征法数字特征法: : 当样本容量增大时当样本容量增大时 ,用样本的数字特征用样本的数字特征去估计总体的数字特征。去估计总体的数字特征。 例例如如，我我们们可可以以用用样样本本平平均均数数(或或成成数数)和和样样本本方方差差来来估计总体的均值估计总体的均值(或比率或比率)和方差。和方差。2.2.顺序统计量法顺序统计量法 : : 如果把取得的样本观测值按大小排列起来，那么与排如果把取得的样本观测值按大小排列起来，那么与排列位置有关的统计量就称为顺序统计量。常用的顺序列位置有关的统计量就称为顺序统计量。常用的顺序统计量有样本中位数和极差。统计量有样本中位数和极差。 当总体服从当总体服从正态分

10、布正态分布时时, ,用样本中位数来估计总体的数学期望用样本中位数来估计总体的数学期望 :3.极大似然估计法极大似然估计法: 极大似然估计是根据样本的似然函数对总体参数进行极大似然估计是根据样本的似然函数对总体参数进行估计的一种方法估计的一种方法 。其实质就是根据样本观测值发生的可能性达到其实质就是根据样本观测值发生的可能性达到最大最大这这一原则来选取未知参数的估计量一原则来选取未知参数的估计量，其理论依据就是其理论依据就是概率最大的事件最可能出现。概率最大的事件最可能出现。 区间估计区间估计估计未知参数所在的可能的区间。估计未知参数所在的可能的区间。评价准则评价准则随机区间随机区间置信度置信度

11、精确度精确度随机区间随机区间包含包含（即可靠程度）（即可靠程度）越大越好。越大越好。的概率的概率的平均长度的平均长度（误差范围）（误差范围）越小越好越小越好一般形式一般形式或或总体参数总体参数估计值估计值误差范围误差范围 ：一定倍数的抽样误差：一定倍数的抽样误差例如：例如：抽样误差抽样误差 一定时，一定时，越大，越大，概率（可靠性）大；概率（可靠性）大；随之增大，随之增大，精确度就差。精确度就差。参数的区间估计参数的区间估计待估计参数待估计参数已知条件已知条件置信区间置信区间正态总体，正态总体，2已知已知正态总体，正态总体，2未知未知非正态总体，非正态总体，n30有限总体，有限总体，n30（不

12、放回抽样）不放回抽样）总体均值总体均值 （）未知时，用未知时，用S未知时，用未知时，用S两个正态总体两个正态总体已知已知两个正态总体两个正态总体未知但相等未知但相等两个非正态总体两个非正态总体 ,n1，n230两个总体两个总体均值之差均值之差1-2待估计参数待估计参数已知条件已知条件置信区间置信区间无限总体，无限总体，np和和nq都大于都大于5总体成数总体成数 （p）无限总体，无限总体， n1p15, n1q1 5n2p25, n2q25两个总体成两个总体成数之差数之差（P1 - P2）有限总体，有限总体，np和和nq都大于都大于5有限总体，有限总体， n1p15, n1q1 5n2p25,

13、n2q25待估计参数待估计参数已知条件已知条件置信区间置信区间正态总体正态总体总体方差总体方差 两个正态总体两个正态总体两个总体两个总体方差之比方差之比样本数的确定样本数的确定待估计参数待估计参数已知条件已知条件样本数的确定样本数的确定正态总体，正态总体，2已知已知总体均总体均值（值（） 例：误差范围例：误差范围简简单单随随机机抽抽样样有限总体，不放回抽样，有限总体，不放回抽样，2已知已知总体成数总体成数 （P）服从正态分布服从正态分布有限总体，不放回抽样有限总体，不放回抽样 假设检验假设检验 基本思想基本思想 检验规则检验规则 检验步骤检验步骤 常见的假设检验常见的假设检验 方差分析方差分析

14、 基本思想基本思想小概率原理：小概率原理：如果对总体的某种假设是如果对总体的某种假设是真实真实真实真实的，那么不利于的，那么不利于或不能支持这一假设的事件或不能支持这一假设的事件A（小概率事件）小概率事件）在一次试验中几乎不可能发生的；要是在一次试验中几乎不可能发生的；要是在一次在一次在一次在一次试验试验试验试验中中中中A A竟然发生了竟然发生了竟然发生了竟然发生了，就有理由怀疑该假设的，就有理由怀疑该假设的真实性，真实性，拒绝拒绝拒绝拒绝这一假设。这一假设。总总 体体（某种假设）（某种假设）抽样抽样样样 本本（观察结果）（观察结果）检验检验（接受）接受）（拒绝）（拒绝）小概率事件小概率事件未

15、未 发发 生生小概率事件小概率事件发发 生生假设的形式：假设的形式： H0原假设，原假设， H1备择假设备择假设 双侧检验：双侧检验：H0：=0 ， H1：0单侧检验：单侧检验： H0： = 0 ， H1：0 H0： = 0 ， H1：0 假设检验就是根据样本观察结果对原假设（假设检验就是根据样本观察结果对原假设（H0）进行检验，进行检验，接受接受H0，就否定就否定H1；拒绝拒绝H0，就接受就接受H1。 检验规则检验规则 确定检验规则确定检验规则确定检验规则确定检验规则检验过程是比较样本观察结果与总体假设的差异。差异显著，检验过程是比较样本观察结果与总体假设的差异。差异显著，超过了临界点，拒绝

16、超过了临界点，拒绝H0；反之，差异不显著，接受反之，差异不显著，接受H0差差 异异临界点临界点临界点临界点拒绝拒绝拒绝拒绝HH0 0接受接受接受接受HH0 0c cc c判判判判 断断断断两类错误两类错误接受或拒绝接受或拒绝H0，都可能犯错误都可能犯错误I类错误类错误弃真错误，弃真错误， 发生发生 的概率为的概率为 II类错误类错误取伪错误，发生取伪错误，发生 的概率为的概率为检验决策检验决策 H0为真为真 H0非真非真拒绝拒绝H0 犯犯I类错误（类错误（） 正确正确接受接受H0 正确正确 犯犯II类错误（类错误（） 怎样确定怎样确定c?大大就小，就小，小小就大就大基本原则：力求在控制基本原则

17、：力求在控制基本原则：力求在控制基本原则：力求在控制 前提下减少前提下减少前提下减少前提下减少 显著性水平，取值：显著性水平，取值：0.1, 0.05, 0.01, 等。如果犯等。如果犯I类错误损类错误损失更大，为减少损失，失更大，为减少损失，值取小；如果犯值取小；如果犯II类错误损失更，类错误损失更，值值取大。取大。 确定确定，就确定了临界点就确定了临界点c。设有总体：设有总体：设有总体：设有总体：XNXN（ ， 2 2），），），）， 2 2已知。已知。已知。已知。随机抽样：样本均值随机抽样：样本均值随机抽样：样本均值随机抽样：样本均值标准化：标准化：标准化：标准化：确定确定确定确定 值，

18、值，值，值，查概率表，知临界值查概率表，知临界值查概率表，知临界值查概率表，知临界值计算计算计算计算Z Z值，作出判断值，作出判断值，作出判断值，作出判断0接受区接受区接受区接受区拒绝区拒绝区拒绝区拒绝区拒绝区拒绝区拒绝区拒绝区 当检验判断为接受原假设当检验判断为接受原假设H0时，就有可能犯取伪的错误即时，就有可能犯取伪的错误即II类错误。类错误。确定犯第确定犯第类错误的概率类错误的概率比较困难比较困难 ，具体计算可根，具体计算可根据书上的例子。据书上的例子。统计上把统计上把 称为统计检验的势，它是原假设实际上是错误的称为统计检验的势，它是原假设实际上是错误的应该被拒绝的概率。应该被拒绝的概率

19、。 II类错误的概率类错误的概率的计算的计算 检验步骤检验步骤根据具体问题的要求，根据具体问题的要求，建立总体假设建立总体假设H0，H112选择统计量选择统计量确定确定H0为真时的抽样分布为真时的抽样分布3给定显著性水平给定显著性水平，当原假当原假设设H0为真时，求出临界值。为真时，求出临界值。计算检验统计量的数计算检验统计量的数值与临界值比较值与临界值比较4 几种常见的假设检验几种常见的假设检验条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1) H0：=0 H1：0z(2) H0： = 0 H1：0(3) H0： = 0 H1：z0z0正态总正态总体体2已已知知条件条件检验条件量检验条

20、件量拒绝域拒绝域H0、H1(1) H0：=0 H1：0t(2) H0： = 0 H1：0(3) H0： = 0 H1：t0t00正态总正态总体体2未未知知(n30)条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1) H0：=0 H1：0z(2) H0： = 0 H1：0(3) H0： = 0 H1：z0z00非正态非正态总体总体n302已知已知或未知或未知条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1) H0： 1=2 H1: 1 2 z(2) H0：1 = 2 H1: 1 2 (3) H0： 1 = 2 H1：1 2 z0z00两个正两个正态总体态总体已知已知条件条件检验条件量

21、检验条件量拒绝域拒绝域H0、H1(1) H0: 1 = 2 H1: 1 2 t(2) H0: 1 = 2 H1: 1 2 (3) H0： 1 = 2 H1： 1 2 t0t00两个正两个正态总体态总体未知，未知，但相等但相等条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1) H0：1 = 2 H1：1 2 (2) H0：1 = 2 H1：1 2 (3) H0：1 = 2 H1：1 2 0z00两个非两个非正态体正态体n130 n230已知或已知或未知未知zz条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1) H0：P=P0 H1：PP0z(2) H0：P = P0 H1：PP0(3

22、) H0：P = P0 H1：PP0z0z00np5nq5条件条件检验条件量检验条件量拒绝域拒绝域H0、H1(1) H0：P1=P2 H1：P1 P2 z(2) H0： P1 P2 H1：P1 P2(3) H0：P1 P2 H1：P1 P2z0z00n1p15n1q15n2p25n2q25条件条件检验条件量检验条件量拒绝域拒绝域H0、H1总体服总体服从正态从正态分布分布条件条件检验条件量检验条件量拒绝域拒绝域H0、H1总体服总体服从正态从正态分布分布FFF 方差分析方差分析一、问题的提出一、问题的提出同一原材同一原材料加工产料加工产品质量品质量产产地地各组产品各组产品的质量是的质量是否有显著否

23、有显著差异？差异？随随机机 原原则则一个班级一个班级 的学生，的学生，某门课程某门课程的成绩的成绩专专业业 分分组组各组学生的成各组学生的成绩是否有显著绩是否有显著差异？差异？差异差异随机误差随机误差系统误差系统误差随随机机 原原则则加以比较加以比较若若存在显著性差异，则说明该因素的影响是显著的存在显著性差异，则说明该因素的影响是显著的二、假定条件二、假定条件各组各组水平都服从正态分布，均值和方差未知，但水平都服从正态分布，均值和方差未知，但方差相同方差相同（i=1,2,3, ,k)三、单因素方差分析三、单因素方差分析H0：各水平的均值相等各水平的均值相等 H1：各水平均值不全相等各水平均值不

24、全相等总总离差平方和离差平方和=组间离差平方和组间离差平方和+组内离差平方和组内离差平方和 离差平方和：离差平方和：SST= SSB + SSE自由度：自由度： n-1 = k-1 + n-k方差：方差： MST MSB MSE检验量检验量=系统误差系统误差/随机误差随机误差即：即： F=MSB/MSE检检验验规规则则因为：因为：F=3.15 (0.05)所以接受原假设，认为不同的家庭背景对学员成绩没所以接受原假设，认为不同的家庭背景对学员成绩没有显著影响。有显著影响。 四、不考虑交互作用的两因素方差分析四、不考虑交互作用的两因素方差分析H0 (A):因素因素A的的k个水平的均值相等个水平的均

25、值相等 H1 (A): 不全相等不全相等总总离差平方和离差平方和=组间离差平方和组间离差平方和 +组内离差平方和组内离差平方和 离差平方和：离差平方和：SST= SS(A)+SS(B)+ SSE自由度：自由度： kh-1 = k-1 +h-1 + (k-1)(h-1)方差：方差： MST MS(A) MS(B) MSE检验量检验量=系统误差系统误差/随机误差随机误差即：即： F(A)=MS(A)/MSE F(B)=MS(B)/MSE H0(B): 因素因素B的的h个水平的均值相等个水平的均值相等 H1(B):不全相等不全相等检检验验规规则则 因为：因为：F(A)=0.3935.14 F(B)=

26、0.028 (0.05) P(B)（0.99) (0.05)所以接受原假设，认为不同的机器设备和不同的工艺所以接受原假设，认为不同的机器设备和不同的工艺方法对生产量都没有显著影响。方法对生产量都没有显著影响。 五、考虑交互作用的两因素方差分析五、考虑交互作用的两因素方差分析H0 (A):因素因素A的的k个水平的均值相等个水平的均值相等 H1(A）：不全相等不全相等总总离差平方和离差平方和=组间离差平方和组间离差平方和 +组内离差平方和组内离差平方和离差平方和离差平方和:SST= SS(A)+SS(B)+SS(AB)+ SSE自由度：自由度： khm-1 = k-1 + h-1 + (k-1)(

27、h-1)+kh(m-1)方差：方差： MST MS(A) MS(B) MS(AB) MSE检验量检验量=系统误差系统误差/随机误差随机误差即：即： F(A)=MS(A)/MSE F(B)=MS(B)/MSE F(AB)=MS(AB)/MSEH0(B): 因素因素B的的h个水平的均值相等个水平的均值相等 H1(B) ：不全相等不全相等H0(AB): AB之间不存在交互影响的作用之间不存在交互影响的作用 H1(AB)：有交互影响有交互影响 检检验验规规则则例：例： 因为：因为：F(A)=7.893.40 F(B)=0.532.51或或 P(A)（0.002) (0.05) P(AB)（0.0002) (0.05) 所以认为不同的机器设备对日产量有显著影响。不同所以认为不同的机器设备对日产量有显著影响。不同的工艺方法对日产量没有显著影响。不同机器设备与的工艺方法对日产量没有显著影响。不同机器设备与工艺搭配的交互作用对日产量有显著的影响。工艺搭配的交互作用对日产量有显著的影响。