《研究方法之 回归分析》由会员分享，可在线阅读，更多相关《研究方法之 回归分析（24页珍藏版）》请在金锄头文库上搜索。
1、第五章 回归分析,1.一元线性回归 2.多元线性回归 3.普通最小二乘法假设的违背,一、一元线性回归,1.一元线性回归模型的描述 2.一元线性回归方程的估计 3.一元线性回归方程的显著性检,1 一元线性回归模型的描述,式中y为因变量；x为自变量；a ,b为待定参数；上述公式称为变量y对x的一元线性回归模型。 a ,b的几何意义是：a为直线方程的截距，b为直线的斜率。 其经济意义是：a表示自变量x为零时的因变量y的估计值；b表示当自变量x每增加一个单位时因变量y的平均变化，b也称为y对x的回归系数。,2 . 一元线性回归方程的估计：OLS,最小二乘法的基本思想是：选择a和 b,使得观测值 与理论
2、值 的离差平方和最小。即选择a和b,使得,一元线性回归方程的估计,经整理，得到参数a和b的计算公式：,例 建立广告费用支出与销售额的一元线性回归方程。一元线性回归计算表,将表中数据代入, 得到 于是，广告费与销售额的一元线性回归方程为,3 .一元线性回归方程的显著性检验,（1）.回归系数b的显著性检 回归系数b的显著性检验就是要验证总体两变量x与y的线性关系是否真正存在。因此，我们对线性模型提出如下假设： 如果原假设 成立，说明x对y没有影响，如果原假设 不成立，则可以认为x对y有显著影响。,3 .一元线性回归方程的显著性检验,因此，我们可以作出决策，对于给定的显著性水平 若 ，则拒绝 ，表明
3、x与y之间存在线性关系，x对y的影响时显著的。,将其分解： 不难证明交叉项等于零，若记 则有 这里，SSR叫回归平方和，它反映了回归方程的理论值对平均值的离散程度 ；SSE叫残差平方和，它是实际观测值与回归值的离差平和，反映了随机因素对y取值的影响。,（2）回归方程的显著性检验（判定系数）,（2）回归方程的显著性检验（判定系数）,回归平方和占总平方和的比例作为判定系数 计算公式为 因变量取值的变差中，能被估计的多元回归方程所解释的比例,例根据上表的资料拟合的回归方程进行回归系数的显著性检验和回归方程的显著性检验。 解 ： 回归系数的显著性检验（t检验） 我们提出如下假设： 若 成立，说明广告费
4、对销售额的影响不显著，两者 之间不存在线性关系。,在 成立的条件下，计算t统计量的值： 当显著性水平 时， ， 此时 ，因此拒绝原假设。说明回归系数是显著的，广告费用和销售额之间的线性关系确实存在，广告费用是影响销售额的显著因素。,t=7.568,二、多元线性回归,1 多元线性回归模型 2 多元线性回归模型的估计：OLS 3 各回归系数的显著性检验（t 检验） 4 多元回归的拟合优度检验(adj_R2),1. 多元线性回归模型,例如:有两个解释变量的电力消费模型 其中: 为各地区电力消费量； 为各地区国内生产总值（GDP）； 为各地区电力价格变动。 模型中参数的意义是什么呢?,偏回归系数：控制
5、其它解释量不变的条件下，第i个解释变量的单位变动对因变量变动的影响。,2、普通最小二乘法（OLS）,最小二乘原则 剩余平方和最小： 求偏导,令其为0:,即 注意到,二元回归中,OLS估计式,3 各回归系数的显著性检验（t 检验）,目的：在多元回归中，分别检验当其他解释变量保持不变时，各个解释变量 对应变量 是否有显著影响。 方法： 原假设 备择假设 统计量为：,4.多元回归的拟合优度检验,三、特殊情况,异方差 自相关 共线性,1 异方差,正态性假定与同方差相反的话，称为异方差 异方差的检验与处理 1）异方差的检验，根据SPSS的方差图分析（菜单在Linear过程的Plots中，将Nomal Probability Plot选上） 2）处理，在SPSS通过WLS方法处理；或者更简易的方法是在Eview中的White处理。,2 自相关,独立性假定或无自相关性相反的话，称为自相关。 自相关的处理方法：差分法,3 共线性问题,自变量相互独立（多元回归OLS）相反的话，称为“共线性” 检测多重共线性的办法：1）是计算模型中各对自变量之间的相关系数，并对各相关系数进行显著性检验。（Pearson检验）；2）VIF膨胀因子的测试 多重共线性(问题的处理)：将一个或多个相关的自变量从模型中剔除，使保留的自变量尽可能不相关,
