《23一元线性回归实用教案》由会员分享，可在线阅读，更多相关《23一元线性回归实用教案（21页珍藏版）》请在金锄头文库上搜索。
1、回归分析是要通过样本所估计的参数(cnsh)(cnsh)来代替总体的真实参数(cnsh)(cnsh)，或者说是用样本回归线代替总体回归线。 尽管从统计性质上已知，如果有足够多的重复 抽样，参数的估计值的期望（均值）就等于其总体的参数真值，但在一次抽样中，估计值不一定(ydng)就等于该真值。 那么，在一次抽样中，参数的估计值与真值的差异有多大，是否显著，这就需要进一步进行统计检验。 主要包括拟合优度检验、变量的显著性检验及参数的区间估计。第1页/共20页第一页，共21页。 一、拟合(n h)(n h)优度检验 拟合优度检验：对样本回归直线与样本观测值之间拟合程度的检验。拟合优度检验：对样本回归
2、直线与样本观测值之间拟合程度的检验。 度量拟合优度的指标度量拟合优度的指标(zhbio)(zhbio)(zhbio)(zhbio)：判定系数（可决系数）：判定系数（可决系数）R2R2R2R2 问题：采用普通最小二乘估计方法，已问题：采用普通最小二乘估计方法，已经经(y jing)(y jing)保证了模型最好地拟合了样本保证了模型最好地拟合了样本观测值，为什么还要检验拟合程度？观测值，为什么还要检验拟合程度？第2页/共20页第二页，共21页。 1 1、总离差平方和的分解、总离差平方和的分解(fnji)(fnji) 已知由一组样本观测值（Xi,Yi），i=1,2,n得到(d do)如下样本回归直
3、线 第3页/共20页第三页，共21页。 如果Yi=i 即实际观测值落在样本回归“线”上，则拟合(n h)最好。可认为，“离差”全部来自回归线，而与“残差”无关。第4页/共20页第四页，共21页。 对于(duy)所有样本点，则需考虑这些点与样本均值离差的平方和,可以证明：记总体总体(zngt)平方和平方和（Total Sum of Squares）回归回归(hugu)(hugu)平方和平方和（Explained Sum of Explained Sum of SquaresSquares）残差平方和残差平方和（Residual Sum of Squares ）第5页/共20页第五页，共21页。T
4、SS=ESS+RSS Y的观测值围绕其均值(jn zh)的总离差(total variation)可分解为两部分：一部分来自回归线(ESS)，另一部分则来自随机势力(RSS)。在给定样本中，TSS不变， 如果实际(shj)观测点离样本回归线越近，则ESS在TSS中占的比重越大，因此 拟合优度：回归平方和ESS/Y的总离差TSS第6页/共20页第六页，共21页。2、可决系数、可决系数(xsh)R2统计量统计量 称 R2 为（样本(yngbn)）可决系数/判定系数（coefficient of determination)。 可决系数的取值范围可决系数的取值范围(fnwi)：0，1 R2越接近越接
5、近1，说明实际观测点离样本线越近，说明实际观测点离样本线越近，拟合优度越高。拟合优度越高。第7页/共20页第七页，共21页。 在例2.1.1的收入-消费(xiofi)支出例中， 注：可决系数是一个非负的统计量。它也是随注：可决系数是一个非负的统计量。它也是随着抽样的不同而不同。为此，对可决系数的统计着抽样的不同而不同。为此，对可决系数的统计可靠性也应进行可靠性也应进行(jnxng)(jnxng)检验，这将在第检验，这将在第3 3章中章中进行进行(jnxng)(jnxng)。 第8页/共20页第八页，共21页。 二、变量(binling)(binling)的显著性检验 回归分析是要判断解释变量X
6、是否是被解释变量Y的一个显著性的影响因素。在一元线性模型(mxng)中，就是要判断X是否对Y具有显著的线性性影响。这就需要进行变量的显著性检验。 变量(binling)的显著性检验所应用的方法是数理统计学中的假设检验。 计量经计学中，主要是针对变量(binling)的参数真值是否为零来进行显著性检验的。 第9页/共20页第九页，共21页。1、假设检验、假设检验所谓假设检验，就是事先对总体参数或总体分布形式作出一个假设，然后利用样本信息来判断原假设是否合理，即判断样本信息与原假设是否有显著差异，从而决定(judng)是否接受或否定原假设。假设检验采用的逻辑推理方法是反证法。先假定原假设正确，然后
7、根据样本信息，观察由此假设而导致的结果是否合理，从而判断是否接受原假设。判断结果合理与否，是基于“小概率事件不易发生”这一原理的第10页/共20页第十页，共21页。 2、变量、变量(binling)的显著性检验的显著性检验 第11页/共20页第十一页，共21页。 检验(jinyn)步骤： （1）对总体参数提出(t ch)假设 H0： 1=0， H1：10（2）以原假设(jish)H0构造t统计量，并由样本计算其值（3）给定显著性水平，查t分布表，得临界值t /2(n-2)(4) 比较，判断 若 |t| t /2(n-2)，则拒绝H0 ，接受H1 ； 若 |t| t /2(n-2)，则拒绝H1
8、，接受H0 ；第12页/共20页第十二页，共21页。 对于一元线性回归方程中的0，可构造(guzo)如下t统计量进行显著性检验： 在上述收入-消费(xiofi)支出例中，首先计算2的估计值 第13页/共20页第十三页，共21页。t统计(tngj)量的计算结果分别为： 给定显著性水平=0.05，查t分布表得临界值 t 0.05/2(8)=2.306 |t1|2.306，说明家庭可支配收入在95%的置信度下显著，即是消费支出的主要解释(jish)变量； |t2|2.306,表明在95%的置信度下，无法拒绝截距项为零的假设。 第14页/共20页第十四页，共21页。 假设检验可以通过一次抽样的结果检验
9、总体参数可能的假设值的范围（如是否为零），但它并没有指出在一次抽样中样本参数值到底离总体参数的真值有多“近”。 要判断样本参数的估计值在多大程度上可以“近似”地替代总体参数的真值，往往需要通过构造(guzo)一个以样本参数的估计值为中心的“区间”，来考察它以多大的可能性（概率）包含着真实的参数值。这种方法就是参数检验的置信区间估计。 三、参数三、参数(cnsh)(cnsh)的置信区间的置信区间 第15页/共20页第十五页，共21页。 如果存在这样一个区间，称之为置信区间（confidence interval）； 1-称为置信系数（置信度）（confidence coefficient）， 称
10、为显著性水平(shupng)（level of significance）；置信区间的端点称为置信限（confidence limit）或临界值（critical values）。第16页/共20页第十六页，共21页。一元一元(y yun)线性模型中，线性模型中， i (i=1，2）的置信区）的置信区间间:在变量(binling)的显著性检验中已经知道： 意味着，如果(rgu)给定置信度（1-），从分布表中查得自由度为(n-2)的临界值，那么t值处在(-t/2, t/2)的概率是(1- )。表示为： 即第17页/共20页第十七页，共21页。于是(ysh)得到:(1-)的置信度下, i的置信区间
11、是 在上述(shngsh)收入-消费支出例中，如果给定 =0.01，查表得： 由于(yuy)于是，1、0的置信区间分别为： （0.6345,0.9195) （-433.32,226.98） 第18页/共20页第十八页，共21页。 由于置信区间一定程度地给出了样本参数估计值与总体(zngt)参数真值的“接近”程度，因此置信区间越小越好。 要缩小置信区间，需 （1）增大样本(yngbn)容量n，因为在同样的置信水平下，n越大，t分布表中的临界值越小；同时，增大样本(yngbn)容量，还可使样本(yngbn)参数估计量的标准差减小； （2）提高模型的拟合优度，因为样本(yngbn)参数估计量的标准差
12、与残差平方和呈正比，模型拟合优度越高，残差平方和应越小。第19页/共20页第十九页，共21页。谢谢(xi xie)大家观赏！第20页/共20页第二十页，共21页。内容(nirng)总结回归分析是要通过样本所估计的参数来代替总体的真实参数，或者说是用样本回归线代替总体回归线。度量拟合优度的指标：判定系数（可决系数）R2。已知由一组样本观测值（Xi,Yi），i=1,2。在一元线性模型中，就是要判断X是否对Y具有显著的线性性影响。计量经计学中，主要是针对变量的参数真值是否为零来进行显著性检验的。于是(ysh)得到:(1-)的置信度下, i的置信区间是。于是(ysh)，1、0的置信区间分别为：。谢谢大家观赏第二十一页，共21页。
