《计量经济学线性回归模型课件》由会员分享，可在线阅读，更多相关《计量经济学线性回归模型课件（161页珍藏版）》请在金锄头文库上搜索。
1、1,简单线性回归模型,第 二 章,2,目的要求：,通过一元线性回归模型的建立过程，了解（重温）回归分析方法的基本统计思想。掌握:,总体回归函数与样本回归函数的实质和联系；,线性回归的基本假定及其意义；,普通最小二乘估计及其性质；,参数的点估计与区间估计；,参数的假设检验；,拟合优度的意义和作用；,对因变量个别值和平均值的点预测和区间预测；,3,第一节 回归分析与回归方程,一、回归与相关,（一）经济变量之间的相互关系,1、相互关系,函数关系：,统计（相关）关系:,2、相关关系的类型,1）从相关关系涉及的变量数量：简单（一元）相关； 多重（复）相关,2）从变量相关的表现形式： 线性相关 ； 非线性
2、相关,3）从变量相关关系变化的方向：正相关； 负相关,(变量间变化彼此没有联系时，称为不（零）相关),4,（二）相关系数（复习）,变量X、Y的总体相关系数,变量X、Y的样本相关系数,注意： 1、变量X、Y都是随机变量，且相互对称，所以,2、相关系数只反映两变量间线性相关的程度，不能说明其非线性相关关系,4、相关系数虽能度量变量的线性相关程度，但不能确定变量之间的因果关系，也不能说明它具体接近哪一条直线。,3、样本相关系数 是总体相关系数 的估计量，随着取样的不同，两者之间有误差，其统计显著性有待检验。,5,例 以下资料是Whitney公司连续26周销售额和广告成本以及该城市各主要百货公司的销售
3、总额（含Whitney公司的）和估计的竞争对手的广告费（美元）,这些数据是否能揭示出Whitney公司所做的报纸广告带来的真实收益？,6,广告费与销售额的散点图,1600000,1800000,2000000,2200000,2400000,2600000,0,10000,20000,30000,40000,50000,Y,X1,7,广告费与市场占有率的散点图,8,（三）回归分析,1、“回归”一词的古典意义,英国生物学家F.高尔顿（Francis Galton）在遗传学研究中首先提出的 ,9,2、“回归”一词的现代意义：,“回归”是关于一个被解释变量（或因变量）对一个或多个解释变量（或自变量）
4、依存关系的研究。目的：根据已知的或固定的解释变量的值，去估计或预测被解释变量的总体均值。,回归分析就是要根据X和Y的观测数据，确定其变动的具体统计规律性。,例：个人可支配收入和个人消费支出,即 X Y平均变动轨迹（该函数称为回归函数）,10,3、 回归分析与相关分析的联系和区别,联系：都是研究相关关系的方法。,区别：,相关分析：,* 所涉及的变量都为随机变量。,回归分析：,* 需要区分变量之间的因果关系；,* 则要通过建立回归方程，去估计（预测）因变量的平均值；,* 因变量是随机变量（有一定的概率分布），自变量是非随机变量。,* 主要是为刻画变量间的相关程度；,* 不考虑变量之间的因果关系，不
5、区分解释变量和因变量，两变量对称.,11,二、总体回归函数（PRF）,（一）一个人为的例子（P17）：N=100户家庭分为10组,分析：每一收入组的家庭消费支出,对给定的 ，所有可能出现的Y值服从一定的分布，称为X给定时Y的条件分布,X取某定值时，Y取各种值的概率，称为Y的条件概率，记为,例如：X=60，Y取4个值中任一个值的条件概率各为,X=90，Y取6个值中任一个值的条件概率各为,称为Y的条件均值（条件期望）,例如,结果列于表2.1.2（P18）,12,（二）总体回归函数的概念,“条件期望（均值）”的运动轨迹称为 回归函数。,* Y对X的回归直线： 回归函数形式为直线,* Y对X的回归曲线
6、： 回归函数形式为曲线,* 总体回归函数（PRF）：总体因变量Y的条件期望表示为解释变量X的某种函数,* 特别：总体回归函数为线性函数 ，即,注意：总体回归函数的设定（通过定性分析、散点（布）图）,13,（三）“线性”一词的含义（有两种解释）,1、模型就变量而言是线性的,例如,2、模型就参数而言是线性的,例如,注：在计量经济学中，从回归理论的发展、参数的估计方法来说，主要考虑的是模型就参数而言是线性的情形。,14,三、随机扰动项,* 随机扰动项（ ui ）： 因变量Yi与总体条件均值（期望）E(Y/Xi ） 的偏差（离差）。,即,* 总体回归函数可以表示为：,条件期望形式: 说明X对Y的条件期
7、望 影响,随机设定形式 ui说明除了X对Y的影响以 外，其余未被纳入模型的 诸多因素对Y的综合影响,15,6、变量的内在随机性,总体回归函数中引进随机扰动项的主要原因：,1、作为未知影响因素的代表,2、作为无法取得数据的已知因素的代表,3、作为众多细小影响因素的综合代表,4、模型的设定误差,5、变量的观测误差,16,四、样本回归函数（SRF）,（一）样本回归直线（回归曲线）：以样本数据拟合的直线（曲线），它是总体回归线的近似反映。,仍以家庭可支配收入与消费支出的关系为例，从总体中各抽取10户观测，两随机样本的结果为（P21 表2.1.3、表2.1.4）。,将资料绘成散布（点）图，每个随机样本的
8、10对观察值的点都呈现明显的线形趋势，拟合两条（样本回归）直线 ： SRF（1） SRF（2）,17,总体回归函数,样本1回归函数,样本2回归函数,18,（二）样本剩余项（残差）：因变量与样本条件均值的离差（偏差），记为,即,回归分析的目的：用样本回归函数（SRF）去估计总体回归函 数（PRF）,即用,去估计,19,第二节 简单线性回归模型的最小二乘法,一、古典（基本）假定,简单线性回归模型：,1）重复抽样中，解释变量 是一组固定的值或虽然是随机的，但与干扰项 独立；,（二）对随机扰动项 （或分布 ）的假定,(一) 对变量和模型的假定,2） 无测量误差；,3）模型设定正确（不存在设定误差）,2
9、0,假定1：干扰项的均值为零，即,21,假定2：同方差性或的方差相等,即,22,假定3：无自相关假定，即,假定4：扰动项与解释变量之间不相关,假定5：随机扰动项服从正态分布,23,二、普通最小二乘法（OLS）,最小二乘法的数学原理：,将观察值,在直角坐标系中绘制出来,24,最小二乘法的基本思想（原则）：寻找实际值与拟合值的离差平方和为最小的回归直线。,根据微积分中求极值的原理,设样本回归方程为:,实际值与拟合值的离差：,离差平方和：,25,解方程组,得,注：令,截距项 ：当解释变量为零时，被解释变量的取值；,斜率项 ：当解释变量每变动一个单位时，被解释变量平均变动 个单位。,26,样本回归函数
10、的表现形式：,注：,27,例 讨论家庭收入X对家庭消费支出Y的影响问题。如果通过调查得到一组数据：（百元）,28,例：P25,29,三、OLS回归直线的性质(数值性质),（一） 回归直线通过样本均值点,（二）估计值的均值等于实际观测值的均值,（三）剩余项（残差）的和为零或均值为零,（P24）,30,（四）预测（估计）值与剩余项不相关，即,（五）解释变量与剩余项不相关，即,由协方差的定义有,证明见教材P27）,由正规方程组第二个方程得：,31,残差和为零,自变量与残差不相关,平均数相等,拟合值与残差不相关,回归直线过 点,32,四、最小二乘估计式的统计性质 （前提：满足古典（基本）假定）,1、线
11、性性： 、 都是 的线性函数；,注：正态分布的线性组合仍服从正态布,33,2、无偏性,证：,证：,34,3、最小方差性,先求 和 的方差,P29,附：证明：,35,证明（见附录P49）,36,附录：* 再证明最小方差性（见下页）或（书附录P49-50）,37,*假设 是总体参数 的无偏估计量，有,由 是 的线性无偏估计，所以,比较等式两边，有,可见 有最小方差（同理 也有最小方差）。,38,最佳线性无偏估计量：具有线性性、无偏性和最小方差性的OLS估计量。,标准差中的总体方差 未知时，用它的无偏估计量 的代替：,该指标不仅能作为 的估计量，且还能说明回归直线的代表性，其数值越小，说明拟合值与实
12、际值靠得越近，回归直线的代表性越强。,的标准差为,的标准差为,39,复习：,1、正态分布的线性组合仍服从正态分布,2、标准正态分布的平方和服从 分布,* 个相互独立的标准正态分布N（0，1）的随机变量，平方和记为,则,*若 是来自正态总体 的一个样本，则样本均值,与样本修正方差,相互独立，则统计量,40,3、,且X与Y相互独立，则,注：若 是来自正态总体 的一个样本，其样本均值为,，样本的修正方差为,则,41,4、设X、Y分别服从自由度为 的 分布，且X、Y 相互独立，则,*有来自两正态总体的独立样本：,则,42,第三节 回归系数的区间估计和假设检验,一、 和 的分布,43,44,二、参数的区
13、间估计,（一）区间估计的概念,45,46,* 参数 的区间估计（推导过程同上）,2、 未知（大样本）时， 的置信度为 的置信区间,47,三、参数的假设检验,（一） 关于 的假设,1、 未知，检验的步骤如下：,1）提出原（零）假设和备择假设,2）若 成立，则,3）对给定的 ，查 t 分布表确定临界值,4）根据样本数据计算 t,5）若 接受 ，认为X 对Y没有显著影响；,反之，拒绝 ，认为X对Y有显著影响。,48,在做结论时，也可以用P值检验法：,例: 参数的假设检验（接第二节例题）,49,例: 讨论家庭收入X对家庭消费支出Y的影响问题。如果通过调查得到一组数据（百元）,50,51,提出原（零）假
14、设和备择假设,52,，故接受原假设。,53,第四节 拟合优度的评价,一、总变差的分解,第四节 拟合优度的度量,离差分解图,54,总（离差）平方和TSS的分解式为：,即 TSS=ESS+RSS, 回归（离差）平方和（ESS）, 剩余（离差）平方和（RSS）,其中：,55,1、可决系数： 回归变差占总变差的比重,2、可决系数的取值范围,三、可决系数与相关系数的关系,56,第 五 节 回 归 预 测一、回归分析报告（总结本章例子的过程，再写出回归分析报告）例：家庭人均生活性消费支出Y与人均可支配收入X 的资料如下（单位：十元） ：,57,解：,58,回归分析报告（书写格式）,P35,59,60,服从正态分布，其方差、均方差分别为,61,62,平均值 、个别值 的预测有如下特点：1、平均值和个别值的点预测相同，但区间预测不同。2、平均值和个别值的预测区间上、下限都不是常数，是变化的。3、置信区间与样本容量n 有关，n 越大置信区间越小。,63,第六节 实例及计算机计算过程,一、经济计量分析的工作步骤,(二) 估计参数,
