第九章SPSS的线性回归分析

《第九章SPSS的线性回归分析》由会员分享，可在线阅读，更多相关《第九章SPSS的线性回归分析（63页珍藏版）》请在金锄头文库上搜索。

1、第九章第九章SPSS回归分析回归分析本章内容9.1 回归分析概述回归分析概述9.2 线性回归分析线性回归分析9.3 回归方程的统计检验回归方程的统计检验9.4 多元回归分析中的其他问题多元回归分析中的其他问题9.5 线性回归分析的基本操作线性回归分析的基本操作9.6 线性回归分析的应用举例线性回归分析的应用举例9.7 曲线估计曲线估计9.1 回归分析概述1.线性回归分析的内容线性回归分析的内容（1）能否找到一个）能否找到一个线性组合线性组合来说明一组自变量和因变量来说明一组自变量和因变量的关系的关系（2）如果能的话，这种关系的）如果能的话，这种关系的强度强度有多大，也就是利用有多大，也就是利用

2、自变量的线性组合来预测因变量的能力有多强自变量的线性组合来预测因变量的能力有多强（3）整体整体解释能力是否具有统计上的解释能力是否具有统计上的显著显著性意义性意义（4）在整体解释能力显著的情况下，）在整体解释能力显著的情况下，哪些自变量哪些自变量有显著有显著意义意义2.回归分析的一般步骤回归分析的一般步骤（1）确定回归方程中的解释变量（自变量）和被解释变）确定回归方程中的解释变量（自变量）和被解释变量（因变量）量（因变量）（2）确定回归模型）确定回归模型-选用合适的数学模型概括回归线选用合适的数学模型概括回归线（3）确定回归方程）确定回归方程-根据样本数据及确定的回归模型，在根据样本数据及确定

3、的回归模型，在一定的统计拟合准则下估计模型的参数，得到确定的回一定的统计拟合准则下估计模型的参数，得到确定的回归方程。归方程。（4）对回归方程进行各种检验）对回归方程进行各种检验-基于样本得到的回归方程基于样本得到的回归方程是否真实地反映了总体间的统计关系？回归方程能否用是否真实地反映了总体间的统计关系？回归方程能否用于预测？于预测？（5）利用回归方程进行预测）利用回归方程进行预测9.2.1线性回归模型线性回归模型 1.一元线性回归模型的数学模型一元线性回归模型的数学模型其中：其中：x为自变量；为自变量； y为因变量；为因变量； 为截距，即常量；为截距，即常量； 为回归系数，表明自变量对因变量

4、的影响程度为回归系数，表明自变量对因变量的影响程度9.2 线线 性性 回回 归归 分分 析析X的变化引起的的变化引起的y的线性变化部分：的线性变化部分：其他随机因素引起的其他随机因素引起的y的变化部分：的变化部分： 用用最小二乘法最小二乘法求解方程中的两个参数，得到：求解方程中的两个参数，得到：多元线性回归模型2.多元线性回归方程：多元线性回归方程：（1）1、2、p为偏回归系数。为偏回归系数。（2）1表示在其他自变量保持不变的情况下，自表示在其他自变量保持不变的情况下，自变量变量x1变动一个单位所引起的因变量变动一个单位所引起的因变量y的的平均变动平均变动 9.3.1回归方程的拟合优度检验回归

5、方程的拟合优度检验 回归直线与各观测点的回归直线与各观测点的接近程度接近程度称为回归方程的拟合优度，称为回归方程的拟合优度，也就是也就是样本观测值聚集在回归线周围的样本观测值聚集在回归线周围的紧密程度紧密程度 。1.离差平方和的分解离差平方和的分解建立直线回归方程可知：建立直线回归方程可知：y y的观测值的总变动可由的观测值的总变动可由 来反映，称为总变差。引起总变差的原因有两个：来反映，称为总变差。引起总变差的原因有两个：（1)1)由于由于x x的取值不同，使得与的取值不同，使得与x x有线性关系的有线性关系的y y值不同；值不同；（2 2）随机因素的影响。）随机因素的影响。9.3 线性回归

6、方程的统计检验线性回归方程的统计检验xy总离差平方和可分解为（1 1）总平方和（）总平方和（SST)=SST)=剩余平方和剩余平方和(SSE) +(SSE) +回归平方和（回归平方和（SSR)SSR)（2 2）SST:SST:反映因变量的反映因变量的 n 个观察值与其均值的总离差。个观察值与其均值的总离差。（3 3）SSRSSR：由：由x x和和y y的直线回归关系引起的，可以由回归直线做出的直线回归关系引起的，可以由回归直线做出 解释；解释；（4 4）SSESSE：除了：除了x x对对y y的线性影响之外的随机因素所引起的的线性影响之外的随机因素所引起的Y Y的变动，的变动，是回归直线所不能

7、解释的。是回归直线所不能解释的。2.2.可决系数（判定系数、决定系数）可决系数（判定系数、决定系数）（1）可决系数：回归平方和在总平方和中所占的比例可决系数：回归平方和在总平方和中所占的比例（2）用来衡量）用来衡量X与与Y 的关系密切程度以及回归直线的代表性好坏。的关系密切程度以及回归直线的代表性好坏。（3）对于一元线性回归方程：）对于一元线性回归方程：（4）对于多元线性回归方程）对于多元线性回归方程多元线性回归分析中，引起判定系数增加的原因有两个：多元线性回归分析中，引起判定系数增加的原因有两个：方程中的方程中的解释变量个数增多解释变量个数增多方程中引入了对被解释变量方程中引入了对被解释变量

8、有重要影响有重要影响的解释变量的解释变量如果某个自变量引入方程后对因变量的线性解释有重要贡献，那么必然如果某个自变量引入方程后对因变量的线性解释有重要贡献，那么必然会使误差平方和显著减小，并使平均的误差平方和也显著减小，从而使调会使误差平方和显著减小，并使平均的误差平方和也显著减小，从而使调整的判定系数提高整的判定系数提高如果某个自变量对因变量的线性解释不明显，那么将其引入只会使如果某个自变量对因变量的线性解释不明显，那么将其引入只会使SSE减少，但不会使平均的减少，但不会使平均的SSE减少，因此，减少，因此，多元线性回归分析中，调整的判多元线性回归分析中，调整的判定系数比判定系数更能准确的反

9、映回归方程的拟合优度定系数比判定系数更能准确的反映回归方程的拟合优度（1）回归方程的显著性检验是要检验）回归方程的显著性检验是要检验被解释被解释变量与变量与所有的所有的解释解释变量之间的变量之间的线性线性关系是否关系是否显著显著。（2） 对于一元线性回归方程，检验统计量为：对于一元线性回归方程，检验统计量为：平均的平均的SSA/平均的平均的SSE，反映了回归方程所，反映了回归方程所能能解释的变差与解释的变差与不能不能解释的变差的比例。解释的变差的比例。SPSS自动计算自动计算F统计量值和统计量值和p值，根据值，根据p值与显著性水平的大值与显著性水平的大小进行判断。小进行判断。9.3.2 回归方

10、程的显著性检验（方差分析回归方程的显著性检验（方差分析F检验）检验）（3）对于多元线性回归方程，检验统计量为）对于多元线性回归方程，检验统计量为也即：也即：回归方程的拟合优度越高回归方程的拟合优度越高回归方程的显著性检验也会越回归方程的显著性检验也会越显著显著回归方程的显著性检验越显著回归方程的显著性检验越显著回归方程的拟合优度越高回归方程的拟合优度越高回归方程的拟合优度检验仅是一种回归方程的拟合优度检验仅是一种刻画性描述刻画性描述，不涉及假，不涉及假设检验中：提出原假设、选择检验统计量、计算检验统计设检验中：提出原假设、选择检验统计量、计算检验统计量的值、决策等内容，而回归方程的显著性检验均

11、涉及这量的值、决策等内容，而回归方程的显著性检验均涉及这些内容。些内容。9.3.3回归系数的显著性检验（回归系数的显著性检验（t检验）检验）（1）回归系数的显著性检验是要检验回归方程中）回归系数的显著性检验是要检验回归方程中被解释变量被解释变量与与每一个每一个解释变解释变量之间的量之间的线性线性关系是否关系是否显著显著。（2）对于一元线性回归方程，）对于一元线性回归方程， 检验统计量为：检验统计量为： 为回归方程的标准误差，是为回归方程的标准误差，是SSE的均方根，反映了回归方程无法解释的均方根，反映了回归方程无法解释y 变动的程度。变动的程度。 SPSS自动计算自动计算t值和值和p值，根据值

12、，根据p值进行决策。值进行决策。 一元线性回归中，回归方程显著性检验和回归系数显著性检验的作用相同，一元线性回归中，回归方程显著性检验和回归系数显著性检验的作用相同，可相互替代，且回归方程显著性检验的可相互替代，且回归方程显著性检验的F统计量等于回归系数显著性检验统计量等于回归系数显著性检验t统统计量的平方计量的平方（3）对于多元线性回归方程，检验统计量为：）对于多元线性回归方程，检验统计量为：SPSS自动计算自动计算 统计量的值和相应的统计量的值和相应的p值，可根据值，可根据p值值进行决策进行决策多元线性回归中，回归方程显著性检验和回归系数显著性多元线性回归中，回归方程显著性检验和回归系数显

13、著性检验的作用不相同：检验的作用不相同：（a）回归方程显著性检验）回归方程显著性检验检验检验所有所有偏回归系数是否同时为偏回归系数是否同时为零。即使偏回归系数不同时为零，并不能保证方程中不存零。即使偏回归系数不同时为零，并不能保证方程中不存在解释力较差的自变量。在解释力较差的自变量。（b）回归系数显著性检验对）回归系数显著性检验对每个每个偏回归系数是否为零逐一进偏回归系数是否为零逐一进行检验行检验（c）两种检验不能相互替代。）两种检验不能相互替代。（1）残差是指由回归方程计算得到的）残差是指由回归方程计算得到的预测值预测值与与实际样本值实际样本值之间之间的差距，定义为：的差距，定义为： （2）

14、对于线性回归分析来讲，如果方程能够较好的反映被解释）对于线性回归分析来讲，如果方程能够较好的反映被解释变量的特征和规律性，那么残差序列中应变量的特征和规律性，那么残差序列中应不包含不包含明显的明显的规律性规律性和和趋势性趋势性。（3）残差分析包括以下内容：）残差分析包括以下内容： 残差是否服从均值为零的正态分布；残差是否服从均值为零的正态分布； 残差是否为等方差的正态分布；残差是否为等方差的正态分布； 残差序列是否独立；残差序列是否独立； 借助残差探测样本中的异常值。借助残差探测样本中的异常值。 9.3.4 残差分析残差分析9.3.4.1残差均值为零的正态性检验残差均值为零的正态性检验 （1）

15、通过绘制残差图进行分析）通过绘制残差图进行分析 （2）残差图是一种散点图：横轴为解释变量，纵）残差图是一种散点图：横轴为解释变量，纵轴为残差。轴为残差。 （3）如果残差均值为零，残差图的点应该在纵坐）如果残差均值为零，残差图的点应该在纵坐标为标为0的中心带状区域中的中心带状区域中随机散落随机散落，（，（P290图图9-1）9.3.4.2残差独立性检验残差独立性检验1.残差序列独立性指：残差序列残差序列独立性指：残差序列前期前期和和后期后期数值之间数值之间不不存在存在相相关关系关关系，即：，即：2.方法方法（1）绘制残差序列散点图：时间为横轴，残差为纵轴，若残差绘制残差序列散点图：时间为横轴，残

16、差为纵轴，若残差随时间推移呈有规律变化，则存在相关性。随时间推移呈有规律变化，则存在相关性。（2）计算残差的自相关系数：计算残差的自相关系数：（3）DW检验检验DW检验用来检验残差的自相关。检验统计量为：检验用来检验残差的自相关。检验统计量为： DW=2，表示无自相关，表示无自相关， DW=4，表示完全负自相关，表示完全负自相关DW=0，表示完全正自相关，表示完全正自相关DW在在0-2之间说明存在正自相关，之间说明存在正自相关，DW在在2-4之间说明存在负的自相关。之间说明存在负的自相关。一般情况下，一般情况下，DW值在值在1.5-2.5之间即可说明无自相关现象之间即可说明无自相关现象（4）残

17、差序列存在自相关可能表明：）残差序列存在自相关可能表明： 回归方程没有充分说明被解释变量的变化规律，回归方程没有充分说明被解释变量的变化规律，遗漏了一些重要的解释变量遗漏了一些重要的解释变量 变量存在取值滞后性变量存在取值滞后性 回归模型选择不合适回归模型选择不合适9.3.4.3异方差分析1.残差分析的方差不随解释变量或被解释变量取值的残差分析的方差不随解释变量或被解释变量取值的变化而变化，否则，存在异方差。变化而变化，否则，存在异方差。2.异方差的后果异方差的后果（1）参数的最小二乘估计）参数的最小二乘估计不再是不再是最小方差、无偏、最小方差、无偏、有效有效估计估计（2）导致回归系数显著性检

18、验的）导致回归系数显著性检验的t值偏高值偏高，进而容易，进而容易拒绝原假设，使无用变量保留下来，拒绝原假设，使无用变量保留下来，增大增大模型的预模型的预测测偏差偏差。3.异方差的检验异方差的检验（1）绘制散点图）绘制散点图 横轴解释变量，纵轴残差，若残差随解释变量的增加呈增加横轴解释变量，纵轴残差，若残差随解释变量的增加呈增加（减少）趋势，则存在异方差。（减少）趋势，则存在异方差。（2）等级相关分析）等级相关分析 对残差序列取绝对值对残差序列取绝对值计算残差和解释变量的秩计算残差和解释变量的秩计算计算Spearman等级相关系数。等级相关系数。 若等级相关分析检验统计量的若等级相关分析检验统计

19、量的p值值给定的显著性水平，给定的显著性水平，则拒绝原假设，解释变量与残差存在相关关系，出现了异则拒绝原假设，解释变量与残差存在相关关系，出现了异方差。方差。4.异方差的处理异方差的处理（1）对解释变量实施）对解释变量实施方差稳定变换方差稳定变换，再进行回归方程，再进行回归方程参数的估计。参数的估计。残差与预测值的平方根成比例变化残差与预测值的平方根成比例变化对解释变量作开方处理对解释变量作开方处理残差与预测值成比例变化残差与预测值成比例变化对解释变量取对数对解释变量取对数残差与预测值的平方成比例变化残差与预测值的平方成比例变化对解释变量求倒数对解释变量求倒数（2）利用）利用加权最小二乘法加权

20、最小二乘法估计回归方程参数估计回归方程参数9.3.4.4.探测样本中的异常值探测样本中的异常值1. 异常值：远离均值的样本数据点，对回归方程参数估计有异常值：远离均值的样本数据点，对回归方程参数估计有较大影响。较大影响。2.被解释变量中异常值的探测方法被解释变量中异常值的探测方法（1）标准化残差标准化残差 对残差进行标准化，根据对残差进行标准化，根据 准则，准则， 的绝对值大于的绝对值大于3的为的为异常值异常值（2）学生化残差学生化残差 计算学生化残差，计算学生化残差， 绝对值大于绝对值大于3对应的观察值为异常值。对应的观察值为异常值。（3）剔除残差剔除残差 计算第计算第i个样本残差时，用剔除

21、该样本后剩余的（个样本残差时，用剔除该样本后剩余的（n-1）个样）个样本拟合方程，并计算第本拟合方程，并计算第i个样本的预测值和相应的残差，此残差个样本的预测值和相应的残差，此残差称为剔除残差。称为剔除残差。 剔除学生化残差的绝对值大于剔除学生化残差的绝对值大于3对应的观察值为异常值。对应的观察值为异常值。3.解释变量中异常值的探测方法解释变量中异常值的探测方法（1）杠杆值杠杆值（2）库克距离库克距离（3）标准化回归系数的变化和标准化预测值的变化标准化回归系数的变化和标准化预测值的变化 在剔除第在剔除第i个样本后，观察标准化回归系数的前后变化，个样本后，观察标准化回归系数的前后变化，如果标准化

22、回归系数变化的绝对值大于如果标准化回归系数变化的绝对值大于 ，则可认为，则可认为第第i个样本可能是异常值。个样本可能是异常值。 观察预测值的前后变化，如果标准化预测值变化的绝对观察预测值的前后变化，如果标准化预测值变化的绝对值大于值大于 ，则可认为第，则可认为第i个样本可能是异常值。个样本可能是异常值。9.4 多元回归中的其他问题多元回归中的其他问题9.4.1解释变量的筛选问题解释变量的筛选问题1.引入引入多少个多少个解释变量解释变量？太少太少不能很好解释因变量的变化不能很好解释因变量的变化太多太多自变量间可能存在多重共线性自变量间可能存在多重共线性2.筛选策略筛选策略（1）向前筛选（向前筛选

23、（ Forward ）策略）策略解释变量解释变量不断进入不断进入回归方程的过程。回归方程的过程。首先选择与被解释变量具有首先选择与被解释变量具有最高线性相关系数最高线性相关系数的变量进入方的变量进入方程，并进行回归方程的各种检验；程，并进行回归方程的各种检验；在剩余的变量中寻找与被解释变量在剩余的变量中寻找与被解释变量偏相关系数偏相关系数最高且通过检最高且通过检验的变量进入回归方程，并对新建立的回归方程进行各种检验的变量进入回归方程，并对新建立的回归方程进行各种检验；验；这个过程一直重复，直到再也没有可进入方程的变量为止。这个过程一直重复，直到再也没有可进入方程的变量为止。（2）向后筛选（）向

24、后筛选（ Backward ）策略）策略变量不断剔除出回归方程的过程。变量不断剔除出回归方程的过程。首先把所有变量全部引入回归方程，并对回归方程进行各首先把所有变量全部引入回归方程，并对回归方程进行各种检验；种检验；在回归系数显著性检验不显著的一个或多个变量中，剔除在回归系数显著性检验不显著的一个或多个变量中，剔除t检验值最小的变量，并重新建立回归方程和进行各种检检验值最小的变量，并重新建立回归方程和进行各种检验验如果新建回归方程中所有变量的回归系数检验都显著，则如果新建回归方程中所有变量的回归系数检验都显著，则回归方程建立结束；否则按上述方法再一次剔除最不显著回归方程建立结束；否则按上述方法

25、再一次剔除最不显著的变量，直到再也没有可剔除的变量为止。的变量，直到再也没有可剔除的变量为止。（3）逐步筛选（）逐步筛选（ Stepwise ）策略）策略 在向前筛选策略的基础上结合向后筛选策略：向在向前筛选策略的基础上结合向后筛选策略：向前策略中，变量一旦进入方程将不再被剔除，随着前策略中，变量一旦进入方程将不再被剔除，随着变量的不断引入，会由于变量间的变量的不断引入，会由于变量间的多重共线性多重共线性，使，使得已经引入的变量不再显著。得已经引入的变量不再显著。 在每个变量进入方程后再次判断是否存在应该剔在每个变量进入方程后再次判断是否存在应该剔除出方程的变量。除出方程的变量。 逐步筛选策略

26、在引入变量的每一个阶段都提供了逐步筛选策略在引入变量的每一个阶段都提供了再剔除不显著变量的机会。再剔除不显著变量的机会。1. 多重共线性是指多重共线性是指解释变量解释变量之间存在之间存在线性相关关系线性相关关系的现象。的现象。2.测度多重共线性一般有以下方式测度多重共线性一般有以下方式（1）容忍度）容忍度 是第是第i个解释变量与方程中其他解释变量间的复相关系数的个解释变量与方程中其他解释变量间的复相关系数的平方，表示解释变量之间的线性相关程度。平方，表示解释变量之间的线性相关程度。容忍度的取值范围在容忍度的取值范围在0-1之间，越接近之间，越接近0表示多重共线性越强，表示多重共线性越强，越接近

27、越接近1表示多重共线性越弱。表示多重共线性越弱。（2）方差膨胀因子）方差膨胀因子VIF方差膨胀因子是容忍度的倒数。方差膨胀因子是容忍度的倒数。VIF越大多重共线性越强，当越大多重共线性越强，当VIF大于等于大于等于10时，说明存在时，说明存在严重的多重共线性。严重的多重共线性。 9.4.2 多重共线性问题多重共线性问题（3）特征根和方差比）特征根和方差比根据根据解释变量解释变量的的相关系数矩阵相关系数矩阵求得的求得的特征根特征根中，如果中，如果最大的特征根最大的特征根远远大于其他特征根，则说明这些解释远远大于其他特征根，则说明这些解释变量间具有相当多的重复信息。变量间具有相当多的重复信息。如果

28、某个特征根既能够刻画某解释变量方差的较大部如果某个特征根既能够刻画某解释变量方差的较大部分比例（分比例（0.7以上以上），又能刻画另一解释变量方差的），又能刻画另一解释变量方差的较大部分比例，则表明这两个解释变量间存在较强的较大部分比例，则表明这两个解释变量间存在较强的线性相关关系。线性相关关系。 （4）条件指数）条件指数指最大特征根与第指最大特征根与第i个特征根比的平方根。个特征根比的平方根。当条件指数在当条件指数在0-10之间时说明多重共线性较之间时说明多重共线性较当条件指数在当条件指数在10-100之间说明多重共线性较强；之间说明多重共线性较强；当条件指数大于当条件指数大于100时说明存

29、在严重的多重共线性时说明存在严重的多重共线性3.多重共线性的后果多重共线性的后果（1）偏回归系数估计困难）偏回归系数估计困难（2）偏回归系数的估计方差随解释变量相关性的增大而增大）偏回归系数的估计方差随解释变量相关性的增大而增大（3）偏回归系数的置信区间增大）偏回归系数的置信区间增大（4）偏回归系数估计值不稳定性增大）偏回归系数估计值不稳定性增大（5）偏回归系数假设检验的结果不显著）偏回归系数假设检验的结果不显著9.5 线性回归分析的基本操作线性回归分析的基本操作9.5.1选择菜单选择菜单AnalyzeRegressionLinear，出现窗口：出现窗口：（2）选择被解释变量进入）选择被解释变

30、量进入Dependent框。框。（3）选择一个或多个解释变量进入）选择一个或多个解释变量进入Independent(s)框。框。（4）在）在Method框中选择回归分析中解释变量的筛选策略。框中选择回归分析中解释变量的筛选策略。Enter表示所选变量强行进入回归方程，是表示所选变量强行进入回归方程，是SPSS默认的策默认的策略，通常用在一元线性回归分析中；略，通常用在一元线性回归分析中；Remove表示从回归方程中剔除所选变量；表示从回归方程中剔除所选变量；Stepwise表示逐步筛选策略；表示逐步筛选策略；Backward表示向后筛选策略；表示向后筛选策略；Forward表示向前筛选策略。表

31、示向前筛选策略。（5）第三和第四步中确定的解释变量及变量筛选策略可放）第三和第四步中确定的解释变量及变量筛选策略可放置在不同的块（置在不同的块（Block）中。通常在回归分析中不止一组）中。通常在回归分析中不止一组待进入方程的解释变量和相应的筛选策略，可以单击待进入方程的解释变量和相应的筛选策略，可以单击Next和和Previous按钮设置多组解释变量和变量筛选策按钮设置多组解释变量和变量筛选策略并放置在不同的块中。略并放置在不同的块中。（6）选择一个变量作为条件变量放到）选择一个变量作为条件变量放到Selection Variable框中，并单击框中，并单击Rule按钮给定一个判断条件。只按

32、钮给定一个判断条件。只有变量值满足判定条件的样本才参与线性回归分析。有变量值满足判定条件的样本才参与线性回归分析。（7）在）在Case Labels框中指定哪个变量作为样本数据点的框中指定哪个变量作为样本数据点的标志变量，该变量的值将标在回归分析的输出图形中。标志变量，该变量的值将标在回归分析的输出图形中。9.5.2 线性回归分析的其他操作线性回归分析的其他操作1.Statistics按钮按钮可供用户选择更多的输出统计量。可供用户选择更多的输出统计量。（1）Estimates：SPSS默认输出项，输出与回归系数相默认输出项，输出与回归系数相关的统计量：关的统计量： 回归系数（偏回归系数）、回归

33、系数标准误差、标准化回回归系数（偏回归系数）、回归系数标准误差、标准化回归系数、回归系数显著性检验的归系数、回归系数显著性检验的t统计量和概率统计量和概率p值，各解值，各解释变量的容忍度。释变量的容忍度。（2）Confidence Intervals：输出每个非标准化回归系数：输出每个非标准化回归系数95的置信区间。的置信区间。（3）Descriptive：输出各解释变量和被解释变量的均值、：输出各解释变量和被解释变量的均值、标准差、相关系数矩阵及单侧检验概率标准差、相关系数矩阵及单侧检验概率p值。值。（4）Model fit：SPSS默认输出项。输出以下结果：默认输出项。输出以下结果： 判定

34、系数、调整的判定系数、回归方程的标准误差、回归判定系数、调整的判定系数、回归方程的标准误差、回归方程显著方程显著F检验的方程分析表。检验的方程分析表。（5）R squared change：输出每个解释变量进入方程后：输出每个解释变量进入方程后引起的判定系数的变化量和引起的判定系数的变化量和F值的变化量。值的变化量。（6）Part and partial correlation：输出方程中各解释变：输出方程中各解释变量与被解释变量之间的简单相关、偏相关系数。量与被解释变量之间的简单相关、偏相关系数。（7）Covariance matrix：输出方程中各解释变量间的相关：输出方程中各解释变量间的

35、相关系数、协方差以及各回归系数的方差。系数、协方差以及各回归系数的方差。（8）Collinearity Diagnostics：多重共线性分析。：多重共线性分析。 输出各个解释变量的容忍度、方差膨胀因子、特征值、条件输出各个解释变量的容忍度、方差膨胀因子、特征值、条件指标、方差比例等。指标、方差比例等。（9）Residual框框 Durbin-waston表示输出表示输出DW检验值；检验值； Casewise Diagnostic表示输出标准化残差绝对值大表示输出标准化残差绝对值大于等于于等于3（SPSS默认值）的样本数据的相关信息，包括预默认值）的样本数据的相关信息，包括预测值、残差、杠杆值

36、等。测值、残差、杠杆值等。 可供用户设置多元线性回归分析中解释变量筛选可供用户设置多元线性回归分析中解释变量筛选的标准以及缺失值的处理方式。的标准以及缺失值的处理方式。2. Options选项选项（1）Use probability of F:以偏以偏F统计量的概率值为标统计量的概率值为标准判断解释变量能否进入或剔除回归方程。准判断解释变量能否进入或剔除回归方程。（2）use F value:以偏以偏F统计量的临界值为标准判断解统计量的临界值为标准判断解释变量能否进入或剔除回归方程。释变量能否进入或剔除回归方程。（3）include constant in equation:是否进行中心是否进

37、行中心化处理，即方程中是否包含常数项。化处理，即方程中是否包含常数项。3.Plot选项该选项用于对残差序列的分析该选项用于对残差序列的分析（1）窗口左边框中各变量名的含义：）窗口左边框中各变量名的含义： DEPENDNT表示被解释变量，表示被解释变量， *ZPRED表示标准化预测值，表示标准化预测值， *ZRESID表示标准化残差，表示标准化残差， *DRESID表示剔除残差，表示剔除残差， *ADJPRED表示调整的预测值，表示调整的预测值， *SRESID表示学生化残差，表示学生化残差， *SDRESID表示剔除学生化残差。表示剔除学生化残差。（2）绘制多对变量的散点图，可根据需要在）绘制

38、多对变量的散点图，可根据需要在scatter框中框中定义散点图的纵坐标和横坐标变量。定义散点图的纵坐标和横坐标变量。（3）Standardized Residual Plots框框 Histogram：绘制标准化残差序列的直方图；：绘制标准化残差序列的直方图；Normal probability plot：绘制标准化残差序列的正绘制标准化残差序列的正态分布累计概率图。态分布累计概率图。 Produce all partial plots：依次绘制被解释变量依次绘制被解释变量和各个解释变量的散点图。和各个解释变量的散点图。（1）该窗口的功能是将回归分析的某些结果以）该窗口的功能是将回归分析的某些

39、结果以SPSS变量的变量的形式保存到数据编辑窗口中，并可同时生成形式保存到数据编辑窗口中，并可同时生成XML格式的文格式的文件，便于分析结果的网络发布。件，便于分析结果的网络发布。（2）Predicted Values框：保存非标准化预测值、标准框：保存非标准化预测值、标准化预测值、调整的预测值和预测值的均值标准误差。化预测值、调整的预测值和预测值的均值标准误差。（3）prediction intervals框：保存均值或个体预测值框：保存均值或个体预测值95（默认）置信区间的下限值和上限值。（默认）置信区间的下限值和上限值。（4）Residual框：保存非标准化残差、标准化残差等。框：保存非

40、标准化残差、标准化残差等。（5）Influence Statistics框：保存剔除第框：保存剔除第i个样本后统计个样本后统计量的变化量。量的变化量。5.WSL选项选项 采用加权最小二乘法替代普通最小二乘法估计回归参数，并采用加权最小二乘法替代普通最小二乘法估计回归参数，并指定一个变量作为权重变量。指定一个变量作为权重变量。4. Save选项选项 以高校科研研究数据为例，建立回归方程研究以高校科研研究数据为例，建立回归方程研究 1.课题总数受论文数的影响课题总数受论文数的影响 2. 被解释变量被解释变量课题总数，课题总数， 解释变量解释变量投入人年数（投入人年数（X2） 投入高级职称的人年数（

41、投入高级职称的人年数（X3） 投入科研事业费（投入科研事业费（X4） 专著数（专著数（X6） 论文数（论文数（X7） 获奖数（获奖数（X8） （1）解释变量采用强制进入策略（）解释变量采用强制进入策略（Enter），并做多重共线性检测。），并做多重共线性检测。 （2）解释变量采用向后筛选策略让）解释变量采用向后筛选策略让SPSS自动完成解释变量的选择。自动完成解释变量的选择。 9.6 应用举例应用举例9.7 曲线估计9.7.1 曲线估计概述曲线估计概述（1）变量间的相关关系中，并不总是表现出线性关）变量间的相关关系中，并不总是表现出线性关系，非线性关系也是极为常见的。系，非线性关系也是极为常见

42、的。（2）变量之间的非线性关系可以划分为本质线性关）变量之间的非线性关系可以划分为本质线性关系和本质非线性关系。系和本质非线性关系。（3）本质线性关系本质线性关系是指变量关系是指变量关系形式上形式上虽然呈非线虽然呈非线性关系，但可通过性关系，但可通过变量变换变量变换为线性关系，并最终可为线性关系，并最终可通过线性回归分析建立线性模型。通过线性回归分析建立线性模型。（4）本质非线性关系本质非线性关系是指变量关系不仅形式上呈非是指变量关系不仅形式上呈非线性关系，而且也无法变换为线性关系。线性关系，而且也无法变换为线性关系。（5）本节的曲线估计解决本质线性关系问题。）本节的曲线估计解决本质线性关系问

43、题。9.7.1.1常见的本质线性模型有：常见的本质线性模型有：（1）二次曲线（二次曲线（Quadratic）方程为方程为变量变换后的方程为变量变换后的方程为（2）复合曲线（复合曲线（Compound）方程为方程为变量变换后的方程为变量变换后的方程为（3）增长曲线（增长曲线（Growth）方程为方程为变量变换后的方程为变量变换后的方程为4.对数曲线（对数曲线（Logarithmic）方程为方程为变量变换后的线性方程为变量变换后的线性方程为5.三次曲线（三次曲线（Cubic）方程为方程为变量变换后的方程为变量变换后的方程为6.S曲线（曲线（S）方程为方程为 变量变换后的方程为变量变换后的方程为7.

44、指数曲线（指数曲线（Exponential）方程为方程为变量变换后的线性方程为变量变换后的线性方程为8.逆函数（逆函数（Inverse）方程为方程为变量变换后的方程为变量变换后的方程为9.幂函数（幂函数（Power）方程为方程为变量变换后的方程为变量变换后的方程为10.逻辑函数（逻辑函数（Logistic）方程为方程为变量变换后的线性方程为变量变换后的线性方程为 SPSS曲线估计曲线估计（1）在不能明确究竟哪种模型更接近样本数据时，可在多）在不能明确究竟哪种模型更接近样本数据时，可在多种可选择的模型中选择几种模型；种可选择的模型中选择几种模型；（2）SPSS自动完成模型的参数估计，并输出回归方

45、程显自动完成模型的参数估计，并输出回归方程显著性检验的著性检验的F值和概率值和概率p值、判定系数值、判定系数R2等统计量；等统计量；（3）以）以判定系数判定系数为主要依据选择其中的最优模型，并进行为主要依据选择其中的最优模型，并进行预测分析等；预测分析等；（4）SPSS曲线估计还可以以曲线估计还可以以时间时间为解释变量实现时间序为解释变量实现时间序列的简单列的简单回归分析回归分析和和趋势外推趋势外推分析。分析。1.可通过绘制并观察样本数据的可通过绘制并观察样本数据的散点图散点图粗略确定被解释变量粗略确定被解释变量和解释变量之间的相关关系，为曲线拟合中的模型选择提和解释变量之间的相关关系，为曲线

46、拟合中的模型选择提供依据。供依据。2.SPSS曲线估计的基本操作步骤曲线估计的基本操作步骤（1）选择菜单）选择菜单AnalyzeRegressionCurve Estimation，出现窗口如下页所示，出现窗口如下页所示（2）把被解释变量选到）把被解释变量选到Dependent框中框中9.7.2 曲线估计的基本操作曲线估计的基本操作（3）曲线估计中的解释变量可以是相关因素变量，也可是）曲线估计中的解释变量可以是相关因素变量，也可是时间变量。时间变量。 如果解释变量为相关因素变量，则选择如果解释变量为相关因素变量，则选择Variable选项，选项，并把一个解释变量指定到并把一个解释变量指定到In

47、dependent框；框； 如果选择如果选择Time参数则表示解释变量为时间变量。参数则表示解释变量为时间变量。（4）在）在Models中选择几种模型。中选择几种模型。（5）Plot Models选项绘制回归线；选项绘制回归线；（6）Display ANOVA table：输出各个模型的方差分析表输出各个模型的方差分析表和各回归系数显著性检验结果。和各回归系数显著性检验结果。（6）SPSS将根据选择的模型自动进行曲线估计，并将结将根据选择的模型自动进行曲线估计，并将结果显示到输出窗口中。果显示到输出窗口中。1.教育支出的相关因素分析教育支出的相关因素分析 为研究居民家庭教育支出和消费性支出之间

48、的关系，收集到为研究居民家庭教育支出和消费性支出之间的关系，收集到1978年至年至2002年全国人均消费性支出和教育支出的数据年全国人均消费性支出和教育支出的数据（1）首先绘制教育支出和消费性支出的散点图，）首先绘制教育支出和消费性支出的散点图，（2）观察散点图发现两变量之间呈非线性关系，可尝试选择）观察散点图发现两变量之间呈非线性关系，可尝试选择二次、三次曲线、复合函数和幂函数模型，利用曲线估计进二次、三次曲线、复合函数和幂函数模型，利用曲线估计进行本质线性模型分析。行本质线性模型分析。（3）教育支出为被解释变量，消费性支出为解释变量。）教育支出为被解释变量，消费性支出为解释变量。9.7.3

49、 应用举例应用举例2.分析和预测居民在外就餐的费用分析和预测居民在外就餐的费用 利用收集到利用收集到1978年至年至2002年居民在外就餐消费的年居民在外就餐消费的数据，对居民未来在外就餐的趋势进行分析和预测。数据，对居民未来在外就餐的趋势进行分析和预测。 （1）首先绘制就餐费用的序列图，选择菜单）首先绘制就餐费用的序列图，选择菜单GraphsSequence。（2）得到的序列图表明自）得到的序列图表明自80年代以来居民在外就餐费用呈年代以来居民在外就餐费用呈非线性增加，非线性增加，90年代中期以来增长速度明显加快，大致年代中期以来增长速度明显加快，大致呈指数形式，可利用曲线估计进行分析。呈指

50、数形式，可利用曲线估计进行分析。（3）由于要进行预测，因此在曲线估计主窗口中要单击）由于要进行预测，因此在曲线估计主窗口中要单击Save按钮，出现如下窗口：按钮，出现如下窗口：Save Variables框：框：Predicted values：表示保存预测值；：表示保存预测值；Residual：表示保存残差；：表示保存残差；Prediction interval：表示保存预测值默认：表示保存预测值默认95置信置信区间的上限和下限值。区间的上限和下限值。Predict cases框中：只有当解释变量为时间时才可选该框中：只有当解释变量为时间时才可选该框中的选项。框中的选项。 Predict from estimation period through last case：表示计算当前所有样本期内的预测值；：表示计算当前所有样本期内的预测值； Predict through：表示计算指定样本期内的预测值：表示计算指定样本期内的预测值 指定样本期在指定样本期在Observation框后输入。框后输入。 本例希望预测本例希望预测2003年和年和2004年的值，应在年的值，应在Observation框后输入框后输入27。Thank you