《多元线性回归模型拟合优度假设检验》由会员分享，可在线阅读，更多相关《多元线性回归模型拟合优度假设检验（30页珍藏版）》请在金锄头文库上搜索。
1、第三章 多元线性回归模型- 拟合优度检验与假设检验一、拟合优度检验1、可决系数与调整的可决系数则总离差平方和的分解由于 =0 所以有： 注意：一个有趣的现象-我们有：残差残差平方和： 为方便计算，我们也可以用矩阵形式表示R2而将上述结果代入R2的公式，得到 ：这就是决定系数R2 的矩阵形式 。判定系数该统计量越接近于1，模型的拟合优度越高。 问题：在应用过程中发现，如果在模型中增加一个 解释变量， R2往往增大（Why?)这就给人一个错觉：要使得模型拟合得好，只要增 加解释变量即可。 但是，现实情况往往是，由增 加解释变量个数引起的R2的增大与拟合好坏无关，R2需调整。调整的判定系数（adju
2、sted coefficient of determination ） 在样本容量一定的情况下，增加解释变量必定使得自由度减少，所以调整的思路是：将残差平方和与总离差平 方和分别除以各自的自由度，以剔除变量个数对拟合优度 的影响:其中：n-k-1为残差平方和的自由度，n-1为总 体平方和的自由度。我们有：（1）（2）仅当K=0时，等号成立。即（3）当K增大时，二者的差异也随之增大（4） 可能出现负值。是经过自由度调整的决定系数，称为修正决定系数。例1以前面的数据为例，Yt = 1 + 2X2 t + 3X3 t + u t设观测数据为：Y： 3 1 8 3 5X2：3 1 5 2 4X3：5
3、4 6 4 6试求 。解：我们有习题. 设 n = 20, k = 3, R2 = 0.70 ， 求 。当n = 10，n = 5 时， 又是多少。例2. 设 n = 20, k = 3, R2 = 0.70 ， 求 。解：下面改变n的值，看一看 的值如何变化。我们有若n = 10，则 = 0.55若n = 5， 则 = - 0.20由本例可看出， 有可能为负值。这与R2不同 （ ）。二、方程的显著性检验(F检验) 方程的显著性检验，旨在对模型中被解释变量 与解释变量之间的线性关系在总体上是否显著成 立作出推断。1、方程显著性的F检验 即检验模型Yi=0+1X1i+2X2i+ +kXki+i
4、i=1,2, ,n中的参数j是否显著不为0。可提出如下原假设与备择假设： H0： 0=1=2= =k=0H1： j不全为0F检验的思想来自于总离差平方和的分解式：TSS=ESS+RSS如果这个比值较大，则X的联合体对Y的解释程度 高，可认为总体存在线性关系，反之总体上可能不存 在线性关系。因此,可通过该比值的大小对总体线性关系进行推 断。根据数理统计学中的知识，在原假设H0成立 的条件下，统计量 服从自由度为(k , n-k-1)的F分布 给定显著性水平，可得到临界值F(k,n-k-1) ，由样本求出统计量F的数值，通过F F(k,n-k-1) 或 FF(k,n-k-1)来拒绝或接受原假设H0
5、，以判定原方程总体上的 线性关系是否显著成立。 对于中国居民人均消费支出的例子：一元模型：F=985.6616（P54）二元模型：F=560.5650 （P72）给定显著性水平 =0.05，查分布表，得到临界 值：一元例：F(1,30)=4.17二元例： F(2,28)=3.34显然有 F F(k,n-k-1) 即二个模型的线性关系在95%的水平下显著成立 。2、关于拟合优度检验与方程显著性检验关系的讨 论 由可推出 ：与或R2R2R2R2在中国居民人均收入-消费一元模型中，在中国居民人均收入-消费二元模型中， 三、变量的显著性检验（t检验）方程的总体线性关系显著每个解释变量对 被解释变量的影
6、响都是显著的因此，必须对每个解释变量进行显著性检验 ，以决定是否作为解释变量被保留在模型中。这一检验是由对变量的 t 检验完成的。1、t统计量 由于以cii表示矩阵(XX)-1 主对角线上的第i个元素 ，于是参数估计量的方差为： 其中2为随机误差项的方差，在实际计算 时，用它的估计量代替: 因此，可构造如下t统计量 2、t检验设计原假设与备择假设： H1：i0 给定显著性水平，可得到临界值t/2(n-k-1) ，由样本求出统计量t的数值，通过|t| t/2(n-k-1) 或 |t|t/2(n-k-1)来拒绝或接受原假设H0，从而判定对应的解释变 量是否应包括在模型中。 H0：i=0 （i=1,
7、2k） 例：柯布-道格拉斯生产函数用柯布和道格拉斯最初使用的数据（美国1899-1922年制造业数据）估计经过线性变换的模型得到如下结果（括号内数字为标准误差） ：请检验“斜率”系数和的显著性。解：(1) 检验 的显著性原假设 H0： = 0备择假设 H1： 0由回归结果，我们有：t0.23/0.06=3.83用=24321查t表，5%显著性水平下，tc 2.08. t3.83 tc 2.08， 故拒绝原假设H0 。结论：显著异于0。(2) 检验 的显著性原假设H0： = 0备择假设H1： 0由回归结果，我们有：t0.81/0.15=5.4t5.4 tc 2.08， 故拒绝原假设H0 。结论：
8、显著异于0。注意：一元线性回归中，t检验与F检验一致 一方面，t检验与F检验都是对相同的原假设 H0：1=0 进行检验;另一方面，两个统计量之间有如下关系： 在中国居民人均收入-消费支出二元模型例中， 由应用软件计算出参数的t值：给定显著性水平=0.05，查得相应临界值： t0.025(28) =2.048。可见，计算的所有t值都大于该临界值，所以 拒绝原假设。即:2个解释变量都在95%的水平下显著，都通过 了变量显著性检验。四、参数的置信区间 参数的置信区间用来考察：在一次抽样中所估 计的参数值离参数的真实值有多“近”。在变量的显著性检验中已经知道：容易推出：在(1-)的置信水平下i的置信区
9、间是 其中，t/2为显著性水平为 、自由度为n-k-1的临界值。 已知在二元模型例中,样本容量为22，给定=0.05，计算得参数的置信区间：且从回归计算中已得到：给定=0.05，查表得临界值：t0.025(19)=2.093计算得参数的置信区间：0 ：(44.284, 197.116) 1 ： (0.0937, 0.3489 )2 ：(0.0951, 0.8080)如何才能缩小置信区间？ 增大样本容量n，因为在同样的样本容量下，n越 大，t分布表中的临界值越小，同时，增大样本容 量，还可使样本参数估计量的标准差减小；提高模型的拟合优度，因为样本参数估计量的标 准差与残差平方和呈正比，模型优度越高，残差 平方和应越小。提高样本观测值的分散度,一般情况下，样本观 测值越分散，(XX)-1的分母的|XX|的值越大，致 使区间缩小。
