《《古典回归模型下》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《古典回归模型下》PPT课件.ppt（39页珍藏版）》请在金锄头文库上搜索。
1、第一节第一节 古典回归模型古典回归模型 第二节第二节 回归模型的参数估计回归模型的参数估计 第三节第三节 回归模型的统计检验回归模型的统计检验 第四节第四节 非线性回归模型非线性回归模型 合肥师范学院经济系第三节第三节回归模型的统计检验回归模型的统计检验 回归分析中主要是通过一些统计检验方法来回归分析中主要是通过一些统计检验方法来保证模型在统计意义上（即以样本推断总体）的保证模型在统计意义上（即以样本推断总体）的可靠性。可靠性。 一、一、模型的拟合优度检验模型的拟合优度检验所谓所谓“拟合优度拟合优度”，即模型对样本数据的近似程度，即模型对样本数据的近似程度（回归直线与样本数据趋势的吻合程度)，
2、常用判定系数反映。，常用判定系数反映。合肥师范学院经济系1 1总平方和分解公式总平方和分解公式（2-6）上式记上式记成成TSS=ESS+RSS其中，其中，TSS称为总平方和（或总离差平方和），称为总平方和（或总离差平方和），ESS称为称为回归平方和（或可解释的平方和），回归平方和（或可解释的平方和），RSS称为残差平方称为残差平方和（或剩余平方和）。和（或剩余平方和）。 （2-62-6）式称为总平方和分解公式式称为总平方和分解公式合肥师范学院经济系Yi合肥师范学院经济系如果如果Y Yi i= =i i 即实际观测值落在样本回归即实际观测值落在样本回归“线线”上，则拟上，则拟合最好。可认为，合最
3、好。可认为，“离差离差”全部来自回归线，而与全部来自回归线，而与“残差残差”无关。无关。合肥师范学院经济系2 2判定系数判定系数R R2 2： 用用回归平方和回归平方和(ESS)(ESS)占总平方和占总平方和(TSS)(TSS)的比重的比重作为衡量模作为衡量模型对样本拟合优度的指标，该指标称为判定系数（或可型对样本拟合优度的指标，该指标称为判定系数（或可决系数），用符号决系数），用符号R2表示，即表示，即（2-7）显然，显然，0R21,R2的值越接近于的值越接近于1，则表明模型对样本，则表明模型对样本数据的拟合优度越高。数据的拟合优度越高。判定系数不仅反映了拟合程度的优劣，而且有直观的判定系数
4、不仅反映了拟合程度的优劣，而且有直观的经经济含义：济含义：它定量地描述了它定量地描述了y的变化中可以用解释变量的的变化中可以用解释变量的变化来说明的部分，即模型的可解释程度。变化来说明的部分，即模型的可解释程度。判定系数是一个非负的统计量判定系数是一个非负的统计量,随着抽样的不同而不同。随着抽样的不同而不同。合肥师范学院经济系调整判定系数调整判定系数: :判定系数受解释变量判定系数受解释变量X的个数的个数k的影响，的影响，在在k的个数不同的模型之间进行比较时，判定系数必须的个数不同的模型之间进行比较时，判定系数必须进行调整。调整的思路是进行调整。调整的思路是:将残差平方和与总离差平方将残差平方
5、和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度和分别除以各自的自由度，以剔除变量个数对拟合优度的影响。的影响。在一定程度上避免将影响微弱的变量错误地加在一定程度上避免将影响微弱的变量错误地加入到模型中。）入到模型中。） 除了调整的判定系数除了调整的判定系数之外，人们还使用另外两个指之外，人们还使用另外两个指标标SCSC（Schwarz CriterionSchwarz Criterion，施瓦兹准则施瓦兹准则）和）和AIC AIC ( (AkaikeAkaike Information Criterion Information Criterion，赤池信息准则赤池信息准则)
6、)来比来比较含有不同解释变量个数模型的拟合优度：较含有不同解释变量个数模型的拟合优度：其值越小表明模型的拟合优度越高其值越小表明模型的拟合优度越高。合肥师范学院经济系二、模型的显著性检验二、模型的显著性检验模型的显著性检验，就是检验模型对总体的近似程度。模型的显著性检验，就是检验模型对总体的近似程度。最常用的检验方法是最常用的检验方法是F检验。检验。1 1F F检验检验对于多元线性回归模型对于多元线性回归模型假设假设H0：b b1 1=b=b2 2=b bk k=0=0在原假设成立的情况下，可以证明：在原假设成立的情况下，可以证明：对于给定的显著水平对于给定的显著水平，可由可由F分布表查得临界
7、值分布表查得临界值F（注意是单侧检验）：注意是单侧检验）：合肥师范学院经济系若若FF，则拒绝则拒绝H0，可以认为模型的线性关系是显著的可以认为模型的线性关系是显著的；（一般在软件回归结果里用（一般在软件回归结果里用P值决策）值决策）若若F 时，便有时，便有F F F F 。注意：注意：F F检验是一个联合检验，即使所有的检验是一个联合检验，即使所有的t t统计量都是不统计量都是不显著的，显著的， F F统计量也可能是显著的。统计量也可能是显著的。R2FF图图2-7 F2-7 F统计量与统计量与R R2 2的关系的关系合肥师范学院经济系三、解释变量的显著性检验三、解释变量的显著性检验(偏回归系数
8、检验偏回归系数检验)由高斯由高斯马尔可夫定理的证明可以得到：马尔可夫定理的证明可以得到： 由由于于正正态态分分布布的的线线性性组组合合仍仍然然服服从从正正态态分分布布，而而且且分分布布形式由其均值和方差唯一确定，所以，形式由其均值和方差唯一确定，所以， 而且而且 假定假定 合肥师范学院经济系系数的估计误差系数的估计误差 平均误差（平方）平均误差（平方） = = = = = = （由无偏性）（由无偏性）其其中中涉涉及及到到随随机机误误差差项项i的的方方差差2，这这个个值值通通常常并并不不知知道，实际计算中一般采用道，实际计算中一般采用2的无偏估计量：的无偏估计量：即即等等于于估估计计量量的的方方
9、差差；所所以以估估计计量量关关于于均均值值的的平平均均偏偏差差方差也就了反映估计量与参数真值的平均偏差方差也就了反映估计量与参数真值的平均偏差。参数估计量的平均误差为参数估计量的平均误差为： 来估计来估计2,合肥师范学院经济系并且用符号并且用符号表示系数表示系数b的估计误差：的估计误差： EViews软软件件在在估估计计回回归归模模型型时时，将将同同时时输输出出系系数数的的估估计计值和标准差。值和标准差。需需要要指指出出的的是是，系系数数的的标标准准误误差差只只是是反反映映了了估估计计量量与与真真值的相对偏离程度。值的相对偏离程度。同理同理a的估计误差为：的估计误差为：, , 又称为系数的标准
10、误差（或标准差）。又称为系数的标准误差（或标准差）。 合肥师范学院经济系 利利用用OLSOLS估估计计式式(2-1)(2-1)得得到到的的只只是是系系数数的的点点估估计计，为为了了对对系系数数的的取取值值情情况况有有更更多多的的了了解解，可可以以按按一一定定的的可可靠靠性性确确定定系系数数的的取取值值范范围围：用用统统计计术术语语来来说说，就就是是在在一一定定的的置置信度下，求得系数的置信区间。信度下，求得系数的置信区间。 可以证明，统计量可以证明，统计量 对于对于多元线性回归模型多元线性回归模型，统计量，统计量 为：为： 合肥师范学院经济系三、解释变量的显著性检验三、解释变量的显著性检验(偏
11、回归系数检验偏回归系数检验)对于多元线性回归模型，为了对于多元线性回归模型，为了检验某个解释变量检验某个解释变量x xi i对对y是否有显著影响，是否有显著影响，可以建立原假设：可以建立原假设：H0：b bi i=0=0即假设即假设x xi i对对y没有显著影响。没有显著影响。构造统计量构造统计量对于给定的显著水平对于给定的显著水平，可由可由t分布表查得临界值分布表查得临界值t/2,若若|t|t/2，拒绝拒绝H0，x xi i 对对y有有显著影响；显著影响；若若|t|t/2，接受接受H0，认为认为x xi i对对y影响不显著，应考虑将影响不显著，应考虑将x xi i从模型中剔除，重新建立模型。
12、从模型中剔除，重新建立模型。合肥师范学院经济系解释变量显著性检验通不过的原因可能在于解释变量显著性检验通不过的原因可能在于:(1)x xi i与与y y不存在线性相关关系不存在线性相关关系 ；(2) x(2) xi i与与y y不存在任何关系不存在任何关系 ; ;(3) x(3) xi i与与x xj j(ij(ij) )存在线性相关关系。存在线性相关关系。 在在EViewsEViews软件输出的回归分析结果中，在每个软件输出的回归分析结果中，在每个t t统计量值统计量值t ti i的右端还列出了一个概率值的右端还列出了一个概率值p p（又称又称为为p p值），它表示值），它表示: : P P
13、（| |t|tt|ti i）= p = p 即给出了所谓即给出了所谓“精确的显著水平精确的显著水平”。合肥师范学院经济系参数的置信区间参数的置信区间 利利用用OLSOLS估估计计式式得得到到的的只只是是系系数数的的点点估估计计，为为了了对对系系数数的的取取值值情情况况有有更更多多的的了了解解，可可以以按按一一定定的的可可靠靠性性确确定定系系数数的的取取值值范范围围：用用统统计计术术语语来来说说，就就是是在在一一定定的的置置信信度度下，求得系数的置信区间。下，求得系数的置信区间。 对于给定的置信度对于给定的置信度1-，由，由t分布表可以查得临界值分布表可以查得临界值t/2，合肥师范学院经济系所以
14、系数所以系数b b的的100(1-)%100(1-)%置信区间为置信区间为: : 即即以以100(1-)%100(1-)%的的概概率率保保证证回回归归系系数数属属于于该该区区间间内。内。 显显然然，置置信信区区间间越越小小，对对回回归归系系数数的的估估计计精精度度就就越越高高。所所以以置置信信区区间间的的长长度度主主要要取取决决于于系系数数的的标标准差准差 对于多元线性回归模型，因为统计量对于多元线性回归模型，因为统计量合肥师范学院经济系所以，对于给定的置信度所以，对于给定的置信度1-1-，回归系数回归系数b bi i的的100(1-)%100(1-)%置信区间为置信区间为: : 合肥师范学院
15、经济系一、可线性化模型一、可线性化模型 二、不可线性化模型二、不可线性化模型 三、回归模型的比较三、回归模型的比较 练习题练习题合肥师范学院经济系第四节第四节非线性回归模型非线性回归模型对于非线性模型，通常是将其转化成线性模型进行估计。对于非线性模型，通常是将其转化成线性模型进行估计。一、可线性化模型一、可线性化模型 模型经过适当的变量变换或函数变换就可以转模型经过适当的变量变换或函数变换就可以转化成线性回归模型，化成线性回归模型，称这类模型为可线性化模称这类模型为可线性化模型。型。 1 1倒数变换模型（双曲函数模型）倒数变换模型（双曲函数模型） 对于模型对于模型 设设:则上式变换为则上式变换
16、为:合肥师范学院经济系设设:上面二个模型进行变量的倒数变换，就可以将上面二个模型进行变量的倒数变换，就可以将其转化成线性回归模型，所以称该模型为倒数其转化成线性回归模型，所以称该模型为倒数变换模型。变换模型。2双对数模型（幂函数模型）双对数模型（幂函数模型） 对于模型对于模型则上式变换为则上式变换为:则将其转换成线性回归模型：则将其转换成线性回归模型：设设:对于模型对于模型合肥师范学院经济系对于双对数模型，因为对于双对数模型，因为: 回归系数回归系数b b是被解释变量是被解释变量y y关于解释变量关于解释变量x x的弹性（即的弹性（即x x的一个（微小）变动引起的一个（微小）变动引起y y变动
17、的百分比）。变动的百分比）。如果所研如果所研究的经济关系可以用双对数模型描述，则估计模型之后究的经济关系可以用双对数模型描述，则估计模型之后就可以直接利用系数就可以直接利用系数b进行弹性分析。进行弹性分析。双对数函数模型是双对数函数模型是人们经常采用的一类非线性回归模型。人们经常采用的一类非线性回归模型。 3半对数模型半对数模型 对于模型对于模型 y=y=a+blnx+a+blnx+ ( (对数函数模型对数函数模型) ) lnylny= =a+bx+a+bx+ ( (指数函数模型指数函数模型) )模型中只有某一侧的变量为对数形式，称为半对数模型。模型中只有某一侧的变量为对数形式，称为半对数模型
18、。合肥师范学院经济系半对数模型中的半对数模型中的回归系数回归系数b的含义：的含义：对数函数模型中，对数函数模型中，即即x增加增加1个单位时，个单位时，y将增长将增长100b%。特别地，特别地，若若x为时间变量为时间变量（如年份），则系数（如年份），则系数b衡量了衡量了y的的年均增长速度年均增长速度。所以模型又称为增长模型。所以模型又称为增长模型。即即x增加增加1%时，时，y将增长将增长0.01b个单位。个单位。指数函数模型中指数函数模型中，合肥师范学院经济系4多项式模型多项式模型 对于模型对于模型 设设:则模型变换为则模型变换为:模型转化成多元线性回归模型。模型转化成多元线性回归模型。合肥师范
19、学院经济系二、不可线性化模型二、不可线性化模型 一般采用一般采用高斯高斯牛顿迭代法牛顿迭代法进行估计，即将进行估计，即将其展开成泰勒级数之后，再利用迭代估计方法其展开成泰勒级数之后，再利用迭代估计方法进行估计。进行估计。1 1迭代估计法迭代估计法 模型模型 是一个不可线性化模型，现以该模型为例说明是一个不可线性化模型，现以该模型为例说明迭代估计法的原理和具体步骤。迭代估计法的原理和具体步骤。模型的估计过程模型的估计过程如下：如下： （1 1）根据经济理论和所掌握的资料，先确定一组）根据经济理论和所掌握的资料，先确定一组数数a a0 0,b,b0 0,c,c0 0作为参数作为参数a,b,ca,b
20、,c的初始估计值；的初始估计值； 合肥师范学院经济系（2 2）将模型在点（）将模型在点（a a0 0,b,b0 0,c,c0 0）处）处展开成泰勒级数，展开成泰勒级数，并取一阶近似值；并取一阶近似值；（3 3）作变量变换，转化成线性回归模型）作变量变换，转化成线性回归模型, ,以利用最以利用最小二乘法估计模型，得到参数的第一组估计值小二乘法估计模型，得到参数的第一组估计值（4 4）将）将 代入线性回归模型取代参代入线性回归模型取代参数的上一组估计值，计算出一组新观察值，进而数的上一组估计值，计算出一组新观察值，进而得到得到a a、b b、c c的第二组估计值。的第二组估计值。 （5 5）重复第
21、（）重复第（4 4）步，逐次估计下去，直到第）步，逐次估计下去，直到第t +1t +1次估计值的估计误差小于事先取定的误差精度次估计值的估计误差小于事先取定的误差精度 时为止。并以第时为止。并以第t+1t+1次的计算结果作为参数次的计算结果作为参数a a、b b、c c的估计值。的估计值。合肥师范学院经济系2 2迭代估计法的迭代估计法的EViewsEViews软件实现软件实现 (1)(1) 设定待估参数的初始值。设定待估参数的初始值。两种方式：两种方式：方式方式1 1：使用：使用PARAMPARAM命令，格式为：命令，格式为： PARAMPARAM 1 1 初始值初始值1 2 1 2 初始值初
22、始值2 2 方式方式2 2：在工作文件窗口中双击序列：在工作文件窗口中双击序列C C，并在序列窗并在序列窗口中直接输入参数的初始值口中直接输入参数的初始值 (2)(2)估计非线性模型估计非线性模型 【命令方式命令方式】 在命令窗口可以直接键入非线性模型的迭代在命令窗口可以直接键入非线性模型的迭代估计命令估计命令NLSNLS。格式为：格式为： NLS NLS 被解释变量被解释变量= =非线性函数表达式非线性函数表达式合肥师范学院经济系如，对于非线性回归模型如，对于非线性回归模型y=a(x-b)/(x-c)+y=a(x-b)/(x-c)+，则，则 NLS Y= C(1)*(X-C(2)/(X-C(
23、3)NLS Y= C(1)*(X-C(2)/(X-C(3)其中，其中，C(1)C(1)、C(2)C(2)、C(3)C(3)表示待估计的回归系数表示待估计的回归系数a a、b b、c c。系统将采用迭代估计法求解参数估计值。系统将采用迭代估计法求解参数估计值。 【菜单方式菜单方式】 （1 1）在数组窗口中点击在数组窗口中点击ProcsProcs Make MakeEquationEquation； （2 2）在弹出的方程描述对话框中输入非线性回归在弹出的方程描述对话框中输入非线性回归模型的具体形式模型的具体形式： Y= C(1)*(X-C(2)/(X-C(3) Y= C(1)*(X-C(2)/(
24、X-C(3) （3 3）选择估计方法为最小二乘法后点击选择估计方法为最小二乘法后点击OKOK。 合肥师范学院经济系例（选学）例（选学）现建立现建立C C- -D D（CobbCobb- -DauglasDauglas）生产函数：生产函数：（1 1）转化成线性模型进行估计：转化成线性模型进行估计：在模型两端同时取对数，得：在模型两端同时取对数，得： lnylny= =lnA+lnL+lnK+lnA+lnL+lnK+因此，在因此，在EviewsEviews软件的命令窗口中依次键入以下命令：软件的命令窗口中依次键入以下命令： GENRLNY=log(Y)GENRLNL=log(L)GENRLNK=l
25、og(K)LSLNYCLNLLNK 合肥师范学院经济系得到得到C-DC-D生产函数的估计式为：生产函数的估计式为： 操作演示操作演示即即: : 对应的对应的t统计量统计量对应的对应的R2值值（2 2）利用迭代法直）利用迭代法直接估计非线性模接估计非线性模型：型： 在在命令命令窗口窗口上上输入命令：输入命令： ParamParam 1 1 2 1 1 1 2 1 3 13 1 在主窗口中在主窗口中点击点击ObjectsNew ObjectsNew ObjectObject，并选择并选择EquationEquation； 合肥师范学院经济系在弹出的方程描述对话框（在弹出的方程描述对话框（Equat
26、ion specificationEquation specification）中中输入非线性模型的方程表达式：输入非线性模型的方程表达式： Y=C(1)*LC(2)*KC(3)如如果果要要修修改改求求解解过过程程中中的的迭迭代代次次数数或或收收敛敛的的误误差差精精度度, ,可可点点击击OptionsOptions按按钮进行设置，。钮进行设置，。点击点击OKOK后，系统将后，系统将自动进行迭代运算自动进行迭代运算并输出估计结果：并输出估计结果： 报告迭代了报告迭代了1313次后收敛次后收敛对应的对应的t t统统计量值计量值对应的对应的R R2 2值值对应对应A,A,合肥师范学院经济系三、回归模
27、型的比较三、回归模型的比较 如何比较这些模型的优劣、并从中选择一个较为如何比较这些模型的优劣、并从中选择一个较为适宜的模型？适宜的模型？ 1 1图形观察分析图形观察分析 （1 1）观察被解释变量和解释变量的趋势图）观察被解释变量和解释变量的趋势图。 变量的发展趋势是否一致？ 解释变量能否反映被解释变量的波动变化情况？ 变量发展过程中是否有异常点等问题。（2 2）观察被解释变量与解释变量的相关图。）观察被解释变量与解释变量的相关图。 直观地判断两者的相关程度和相关类型，即变量之间是线性关系还是非线性关系？ 合肥师范学院经济系2 2模型估计结果观察分析模型估计结果观察分析（1 1）回归系数的符号和
28、值的大小是否符合经济意）回归系数的符号和值的大小是否符合经济意义，这是对所估计模型的最基本要求。义，这是对所估计模型的最基本要求。 （2 2）改变模型形式之后是否使判定系数的值明显）改变模型形式之后是否使判定系数的值明显提高。提高。 （3 3）各个解释变量）各个解释变量t t检验的显著性。检验的显著性。 （4 4）系数的估计误差较小。）系数的估计误差较小。（5 5）自相关检验）自相关检验DWDW3 3残差分布观察分析残差分布观察分析模型的残差反映了模型未能解释部分的变化情况，模型的残差反映了模型未能解释部分的变化情况，因此，这可以从另一个角度（即模型系统之外因此，这可以从另一个角度（即模型系统
29、之外因素的影响）来分析模型的优劣。因素的影响）来分析模型的优劣。 合肥师范学院经济系 在方程窗口点击在方程窗口点击View View Actual,Fitted,Residual Actual,Fitted,Residual TabeTabe（或（或GraphGraph），可以可以观察分析以下内容观察分析以下内容：（1 1）各期残差是否大都落在）各期残差是否大都落在 的虚线框内，的虚线框内，（2 2）残差分布是否具有某种规律性，即是否存在）残差分布是否具有某种规律性，即是否存在着系统误差。着系统误差。 （3 3）近期残差的分布情况。）近期残差的分布情况。 通过残差分析表（通过残差分析表（Tab
30、elTabel）和残差分布图（和残差分布图（GraphGraph）进行观察，也可以在进行观察，也可以在方程窗口中直接点击方程窗口中直接点击ResidsResids按钮按钮，观察模型的拟合曲线图和残差分布图。观察模型的拟合曲线图和残差分布图。注意：注意：当模型侧重于预测，则应关注当模型侧重于预测，则应关注F F检验检验,R,R2 2, , 当模型侧重于因素分析，则应关注当模型侧重于因素分析，则应关注t t检验检验。合肥师范学院经济系例（选学）例（选学） 我国税收预测模型的比较分析（例我国税收预测模型的比较分析（例1 1续）。续）。 （1 1）相关图分析：）相关图分析： 键入键入 SCAT X Y
31、SCAT X Y (3.1(3.1版版) ) 操作演示操作演示 结果如图结果如图（2 2）估估计计模模型型：首首先先生生成成新新的的序序列列（即即进进行行变变量量变换），变换），GENRLNY=Log(Y)GENRLNX=Log(X) GENRX2=X2 合肥师范学院经济系再估计各个非线性回归模型：再估计各个非线性回归模型： LS LNY C XLS LNY C X（指数函指数函数模型）数模型）模型的估计结果如下：模型的估计结果如下： LS Y C X X2LS Y C X X2（二次二次函数模型）函数模型）模型的估计结果如下：模型的估计结果如下： R2值值调整的调整的R2值值F统计量的值统计
32、量的值R2值值调整的调整的R2值值F统计量的值统计量的值合肥师范学院经济系LS LNY C LNXLS LNY C LNX （双对数模型）双对数模型） 模型的估计结果如下：模型的估计结果如下： 三个模型的经济意义都比较合理，解释变量也都三个模型的经济意义都比较合理，解释变量也都通过了通过了t t检验（一元模型的检验（一元模型的t t检验等价于检验等价于F F检验）。检验）。 （3 3）残差分布分析）残差分布分析 在各自的在各自的方程窗口方程窗口可以得到相应的残差分布表，可以得到相应的残差分布表，点击点击ViewActual，Fitted，ResidualTabe（或（或Graph），），R2值值调整的调整的R2值值F统计量的值统计量的值合肥师范学院经济系指数函数模型残差指数函数模型残差分布表分布表二次函数模型残差二次函数模型残差分布表分布表 ： 合肥师范学院经济系
