《多元线性回归ppt课件》由会员分享，可在线阅读，更多相关《多元线性回归ppt课件（64页珍藏版）》请在金锄头文库上搜索。
1、Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE计计 量量 经经 济济 学学EconometricsCopyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE第三章第三章 多元线性回归模型多元线性回归模型 3.1 3.1 多元线性回归模型多元线性回归模型 3.2 3.2 多元线性回归模型的参数估计多元线性回归模型的参数估计 3.3 3.3 多元线性回归模型的统计检验多元线性回归模型的统计检验 3.4 3.4 多元线性回归模型的预测多元线性
2、回归模型的预测 3.5 3.5 可线性化的多元非线性回归模型可线性化的多元非线性回归模型 3.6 3.6 受约束回归受约束回归Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.1 3.1 多元多元线性回性回归模型模型一、模型方式一、模型方式二、根本假定二、根本假定Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE一、模型方式一、模型方式一、模型方式一、模型方式 留意：留意：1 1解释变量解释变量X X的个数：的个数：k k 回归
3、系数回归系数 j j的个数：的个数：k k1 1 2 2j j：偏回归系数，表示了：偏回归系数，表示了XjXj对对Y Y的净影响的净影响 3 3X X的第一个下标的第一个下标 j j 区分变量区分变量j j1 1，2 2，k k 第二个下标第二个下标 i i 区分观测区分观测i i1 1，2 2，nnCopyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 总总体回体回体回体回归归函数函数函数函数PRFPRF 样本回归函数样本回归函数样本回归函数样本回归函数SRFSRF 样本回归模型样本回归模型样本回归模型样本回归模型
4、SRMSRM其中：其中：ei ei 称为残差称为残差 (residuals) (residuals)，可看成是随机误差项，可看成是随机误差项 i i的近似替代。的近似替代。 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、于是，总体回归模型可以表示为：、于是，总体回归模型可以表示为：、于是，总体回归模型可以表示为：、于是，总体回归模型可以表示为：总体回归模型的矩阵表示总体回归模型的矩阵表示总体回归模型的矩阵表示总体回归模型的矩阵表示1 1 1 1、总体回归模型表示了、总体回归模型表示了、总体回归
5、模型表示了、总体回归模型表示了n n n n个随机方程，引入如下矩阵记号：个随机方程，引入如下矩阵记号：个随机方程，引入如下矩阵记号：个随机方程，引入如下矩阵记号：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、于是，样本回归模型和函数可以表示为：、于是，样本回归模型和函数可以表示为：、于是，样本回归模型和函数可以表示为：、于是，样本回归模型和函数可以表示为：样本回归模型和函数的矩阵表示样本回归模型和函数的矩阵表示样本回归模型和函数的矩阵表示样本回归模型和函数的矩阵表示1 1 1 1、同理，采用
6、如下矩阵记号：、同理，采用如下矩阵记号：、同理，采用如下矩阵记号：、同理，采用如下矩阵记号：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE二、多元线性回归模型的根本假设二、多元线性回归模型的根本假设二、多元线性回归模型的根本假设二、多元线性回归模型的根本假设假假假假设设设设1 1 1 1：解解解解释释释释变变变变量量量量是是是是非非非非随随随随机机机机的的的的或或或或固固固固定定定定的的的的，且且且且各各各各X X X X之之之之间间间间互互互互不不不不相相相相关关关关无无无无多多多多重重重重共共共共线线线线
7、性。性。性。性。假设假设假设假设2 2 2 2：随机误差项：随机误差项：随机误差项：随机误差项具有零均值、同方差和无序列相关性：具有零均值、同方差和无序列相关性：具有零均值、同方差和无序列相关性：具有零均值、同方差和无序列相关性： E( E( E( E(i)=0 Var (i)=0 Var (i)=0 Var (i)=0 Var (i)=i)=i)=i)= 2 i=1,2, ,N2 i=1,2, ,N2 i=1,2, ,N2 i=1,2, ,N Cov( Cov( Cov( Cov(i, i, i, i, j)=0 ij i,j= 1,2, ,Nj)=0 ij i,j= 1,2, ,Nj)=0
8、 ij i,j= 1,2, ,Nj)=0 ij i,j= 1,2, ,N 假设假设假设假设3 3 3 3：随机误差项：随机误差项：随机误差项：随机误差项与解释变量与解释变量与解释变量与解释变量X X X X之间不相关：之间不相关：之间不相关：之间不相关： Cov(Xji, Cov(Xji, Cov(Xji, Cov(Xji, i)=0 i=1,2, ,Ni)=0 i=1,2, ,Ni)=0 i=1,2, ,Ni)=0 i=1,2, ,N 假设假设假设假设4 4 4 4：服从零均值、同方差、零协方差的正态分布服从零均值、同方差、零协方差的正态分布服从零均值、同方差、零协方差的正态分布服从零均值、
9、同方差、零协方差的正态分布 iN(0, iN(0, iN(0, iN(0, 2 ) i=1,2, ,N2 ) i=1,2, ,N2 ) i=1,2, ,N2 ) i=1,2, ,NCopyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE根本假设的矩阵表示根本假设的矩阵表示根本假设的矩阵表示根本假设的矩阵表示假设假设假设假设1: n1: n1: n1: n(k+1)(k+1)(k+1)(k+1)矩阵矩阵矩阵矩阵X X X X是非随机的，且是非随机的，且是非随机的，且是非随机的，且X X X X的秩的秩的秩的秩=k+1=k
10、+1=k+1=k+1，即，即，即，即X X X X列满秩。列满秩。列满秩。列满秩。假设假设假设假设2: 2: 2: 2: 假设假设假设假设4: 4: 4: 4: 向量向量向量向量 有一多维正态分布，即有一多维正态分布，即有一多维正态分布，即有一多维正态分布，即 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE暗含假设暗含假设暗含假设暗含假设假假设设5 5：样样本本容容量量趋趋于于无无穷穷时时，各各解解释释变变量量的的方方差差趋趋于于有有界界常常数数，即即n n时，时， 假设假设假设假设6 6 6 6：回归模型是
11、正确设定的：回归模型是正确设定的：回归模型是正确设定的：回归模型是正确设定的 或或或或其中：其中：其中：其中：QQQQ为一非奇特固定矩阵，矩阵为一非奇特固定矩阵，矩阵为一非奇特固定矩阵，矩阵为一非奇特固定矩阵，矩阵x x x x是由各解释变量的离差是由各解释变量的离差是由各解释变量的离差是由各解释变量的离差为元素组成的为元素组成的为元素组成的为元素组成的n n n nk k k k阶矩阵阶矩阵阶矩阵阶矩阵 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.2 3.2 多元多元线性回性回归模型的参数估模型的参数
12、估计一、普通最小二乘估计一、普通最小二乘估计二、参数估计量的性质二、参数估计量的性质三、样本容量问题三、样本容量问题Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE参数估计的义务和方法参数估计的义务和方法参数估计的义务和方法参数估计的义务和方法1 1、估、估计目的：回目的：回归系数系数jj、随机、随机误差差项方差方差222 2、估、估计方法：方法：OLSOLS、MLML或者或者MMMM* OLS* OLS* OLS* OLS：普通最小二乘估计：普通最小二乘估计：普通最小二乘估计：普通最小二乘估计 * ML* M
13、L* ML* ML：最大似然估计：最大似然估计：最大似然估计：最大似然估计 * MM* MM* MM* MM：矩估计：矩估计：矩估计：矩估计 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE一、普通最小二乘估计一、普通最小二乘估计根本思想：残差平方和最小根本思想：残差平方和最小基于获得最小值的条件获得系数估计基于获得最小值的条件获得系数估计 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE残差平方和：残差平方和：残差平方和：残差
14、平方和：获得最小值的条件：获得最小值的条件：获得最小值的条件：获得最小值的条件：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE正规方程组：正规方程组：正规方程组：正规方程组： 解此解此解此解此k k k k1 1 1 1个方程组成的正规方程组，即可求得个方程组成的正规方程组，即可求得个方程组成的正规方程组，即可求得个方程组成的正规方程组，即可求得k+1)k+1)k+1)k+1)个未知参个未知参个未知参个未知参数数数数j j j j 的估计的估计的估计的估计 。 Copyrightprincebf,2008-2
15、009,YNUFECopyrightprincebf,2008-2009,YNUFE最小二乘估计的矩阵表示最小二乘估计的矩阵表示最小二乘估计的矩阵表示最小二乘估计的矩阵表示1 1 1 1、正规方程组的矩阵方式、正规方程组的矩阵方式、正规方程组的矩阵方式、正规方程组的矩阵方式2 2 2 2、由于、由于、由于、由于XXXXXXXX满秩满秩满秩满秩( ( ( (其逆矩阵存在，故有其逆矩阵存在，故有其逆矩阵存在，故有其逆矩阵存在，故有 Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFEOLSEOLSEOLSEOLSE的矩
16、阵估计过程的矩阵估计过程的矩阵估计过程的矩阵估计过程矩阵有关定理矩阵有关定理矩阵有关定理矩阵有关定理残差平方和的矩阵表示为：残差平方和的矩阵表示为：残差平方和的矩阵表示为：残差平方和的矩阵表示为：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE# #参数估计的实例参数估计的实例参数估计的实例参数估计的实例例例例例3.2.13.2.13.2.13.2.1：在例：在例：在例：在例2.1.12.1.12.1.12.1.1的家庭收入的家庭收入的家庭收入的家庭收入- - - -消费支出例中，消费支出例中，消费支出例中，消
17、费支出例中， Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE误差方差误差方差误差方差误差方差 2 2 2 2的估计的估计的估计的估计1 1 1 1、基于、基于、基于、基于OLSOLSOLSOLS下，随机误差项下，随机误差项下，随机误差项下，随机误差项 的方差的无偏估计量为的方差的无偏估计量为的方差的无偏估计量为的方差的无偏估计量为 留意：分母的方式：留意：分母的方式：留意：分母的方式：留意：分母的方式：n-k-1 = n-(k+1)n-k-1 = n-(k+1)n-k-1 = n-(k+1)n-k-1 = n
18、-(k+1)。 k k k k：解释变量：解释变量：解释变量：解释变量X X X X的个数；的个数；的个数；的个数； k+1 k+1 k+1 k+1：回归系数的个数：回归系数的个数：回归系数的个数：回归系数的个数2 2 2 2、 称为估计规范误或者回归规范误称为估计规范误或者回归规范误称为估计规范误或者回归规范误称为估计规范误或者回归规范误S.E of regressionS.E of regressionS.E of regressionS.E of regressionCopyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,
19、YNUFE* * * *最大似然估计最大似然估计最大似然估计最大似然估计* * * *Maximum Likelihood EstimateMaximum Likelihood EstimateMaximum Likelihood EstimateMaximum Likelihood Estimate1 1、根本原理：、根本原理：样本本观测值出出现的概率最大。的概率最大。2 2、似然函数：、似然函数：3 3、最大似然估计、最大似然估计MLEMLE：参数的参数的参数的参数的MLEMLEMLEMLE与参数的与参数的与参数的与参数的OLSEOLSEOLSEOLSE一样一样一样一样Copyrightp
20、rincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE* * * *矩估计矩估计矩估计矩估计* * * *Moment MethodMoment MethodMoment MethodMoment Method，MMMMMMMM1 1、OLSOLS估估计是是经过得到一个关于参数估得到一个关于参数估计值的正的正规方程方程组并对它进展求解而完成的。并对它进展求解而完成的。2 2 2 2、该正规方程组可以从另外一种思绪来导出、该正规方程组可以从另外一种思绪来导出、该正规方程组可以从另外一种思绪来导出、该正规方程组可以从另外一种思绪来导出: :
21、 : : 两侧求期望两侧求期望两侧求期望两侧求期望 : : : :矩条件矩条件矩条件矩条件Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE* * * *矩条件和矩估计量矩条件和矩估计量矩条件和矩估计量矩条件和矩估计量* * * *3 3 3 3、由此得到正规方程组：、由此得到正规方程组：、由此得到正规方程组：、由此得到正规方程组： 解此正规方程组即得参数的解此正规方程组即得参数的解此正规方程组即得参数的解此正规方程组即得参数的MMMMMMMM估计量。估计量。估计量。估计量。1 1 1 1、称为原总体回归方程的一
22、组矩条件，阐明了称为原总体回归方程的一组矩条件，阐明了称为原总体回归方程的一组矩条件，阐明了称为原总体回归方程的一组矩条件，阐明了原总体回归方程所具有的内在特征。原总体回归方程所具有的内在特征。原总体回归方程所具有的内在特征。原总体回归方程所具有的内在特征。 2 2 2 2、假设随机抽出原总体的一个样本，估计出的样本回归方程：、假设随机抽出原总体的一个样本，估计出的样本回归方程：、假设随机抽出原总体的一个样本，估计出的样本回归方程：、假设随机抽出原总体的一个样本，估计出的样本回归方程：可以近似代表总体回归方程的话，那么应成立：可以近似代表总体回归方程的话，那么应成立：可以近似代表总体回归方程的
23、话，那么应成立：可以近似代表总体回归方程的话，那么应成立：MMMMMMMM估计量与估计量与估计量与估计量与OLSOLSOLSOLS、MLMLMLML估计量等价。估计量等价。估计量等价。估计量等价。Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE* * * *关于矩估计关于矩估计关于矩估计关于矩估计* * * *矩方法是工具变量方法矩方法是工具变量方法矩方法是工具变量方法矩方法是工具变量方法(Instrumental Variables,IV)(Instrumental Variables,IV)(Instrum
24、ental Variables,IV)(Instrumental Variables,IV)和广义矩估计方法和广义矩估计方法和广义矩估计方法和广义矩估计方法(Generalized Moment Method, GMM)(Generalized Moment Method, GMM)(Generalized Moment Method, GMM)(Generalized Moment Method, GMM)的根底的根底的根底的根底 在矩方法中关键是利用了：在矩方法中关键是利用了：在矩方法中关键是利用了：在矩方法中关键是利用了：E(XE(XE(XE(X)=0)=0)=0)=0 假设某个解释变量
25、与随机项相关，只需能找到假设某个解释变量与随机项相关，只需能找到假设某个解释变量与随机项相关，只需能找到假设某个解释变量与随机项相关，只需能找到1 1 1 1个工具变量，依然个工具变量，依然个工具变量，依然个工具变量，依然可以构成一组矩条件。这就是可以构成一组矩条件。这就是可以构成一组矩条件。这就是可以构成一组矩条件。这就是IVIVIVIV。 假设存在假设存在假设存在假设存在k+1k+1k+1k+1个变量与随机项不相关，可以构成一组包含个变量与随机项不相关，可以构成一组包含个变量与随机项不相关，可以构成一组包含个变量与随机项不相关，可以构成一组包含k+1k+1k+1k+1方程的矩条件。这就是方
26、程的矩条件。这就是方程的矩条件。这就是方程的矩条件。这就是GMMGMMGMMGMM。 OLSOLSOLSOLS只是只是只是只是GMMGMMGMMGMM的一个特例的一个特例的一个特例的一个特例Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE二、最小二乘估计量的性质二、最小二乘估计量的性质高斯高斯马尔可夫定理马尔可夫定理(Gauss-Markov theorem):(Gauss-Markov theorem):在给定经典线性回归的假定下，最小二乘估计量是具有在给定经典线性回归的假定下，最小二乘估计量是具有最小方差的
27、线性无偏估计量，即最正确线性无偏估计量最小方差的线性无偏估计量，即最正确线性无偏估计量BLUEBLUE。Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE1 1 1 1、线性：、线性：、线性：、线性：其中其中其中其中,C=(XX)-1 X ,C=(XX)-1 X ,C=(XX)-1 X ,C=(XX)-1 X 为一仅与固定的为一仅与固定的为一仅与固定的为一仅与固定的X X X X有关的行向量有关的行向量有关的行向量有关的行向量 2 2 2 2、无偏性、无偏性、无偏性、无偏性: : : :这里利用了假设这里利用了假
28、设这里利用了假设这里利用了假设: E(X: E(X: E(X: E(X)=0)=0)=0)=0Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3 3 3 3、有效性、有效性、有效性、有效性: : : :其中利用了其中利用了其中利用了其中利用了: : : : Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE参数估计量的概率分布参数估计量的概率分布参数估计量的概率分布参数估计量的概率分布1 1 1 1、由参数估计量的上述性质和根本假
29、设，易知：、由参数估计量的上述性质和根本假设，易知：、由参数估计量的上述性质和根本假设，易知：、由参数估计量的上述性质和根本假设，易知： 线性性根本假设线性性根本假设线性性根本假设线性性根本假设 正态分布正态分布正态分布正态分布 无偏性无偏性无偏性无偏性 期望为期望为期望为期望为 有效性的证明有效性的证明有效性的证明有效性的证明 方差表达式方差表达式方差表达式方差表达式2 2 2 2、记、记、记、记 C=(XX)-1 C=(XX)-1 C=(XX)-1 C=(XX)-1 的第的第的第的第 j j j j 个主对角元素为个主对角元素为个主对角元素为个主对角元素为 Cjj Cjj Cjj Cjjj
30、=0,1,k)j=0,1,k)j=0,1,k)j=0,1,k)，那么：，那么：，那么：，那么：Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE三、样本容量问题三、样本容量问题最小样本容量最小样本容量满足根本要求的样本容量满足根本要求的样本容量Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE1 1 1 1、最小样本容量、最小样本容量、最小样本容量、最小样本容量所所谓“最小最小样本容量，即从最小二乘原理和最大或然原理出本容量，即从最
31、小二乘原理和最大或然原理出发，欲得到参数估欲得到参数估计量，不量，不论其其质量如何，所要求的量如何，所要求的样本容量的下限。本容量的下限。样本最小容量必需不少于模型中解本最小容量必需不少于模型中解释变量的数目包括常数量的数目包括常数项, ,即：即：n n k+1 k+1由于，无多重共由于，无多重共线性要求：秩性要求：秩(X)=k+1(X)=k+1Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、根本样本容量、根本样本容量、根本样本容量、根本样本容量 从统计检验的角度：从统计检验的角度：从统计检验的
32、角度：从统计检验的角度： n n n n30 30 30 30 时，时，时，时，Z Z Z Z检验才干运用；检验才干运用；检验才干运用；检验才干运用； n-k n-k n-k n-k 8 8 8 8时时时时, t, t, t, t分布较为稳定分布较为稳定分布较为稳定分布较为稳定 普通阅历以为普通阅历以为普通阅历以为普通阅历以为: : : : 当当当当n n n n30303030或者至少或者至少或者至少或者至少n n n n3(k+1)3(k+1)3(k+1)3(k+1)时，才干说满足模型估计的根本要求。时，才干说满足模型估计的根本要求。时，才干说满足模型估计的根本要求。时，才干说满足模型估计
33、的根本要求。 模型的良好性质只需在大样本下才干得到实际上的证明模型的良好性质只需在大样本下才干得到实际上的证明模型的良好性质只需在大样本下才干得到实际上的证明模型的良好性质只需在大样本下才干得到实际上的证明Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE3.3 3.3 多元多元线性回性回归模型的模型的统计检验一、拟合优度检验一、拟合优度检验二、方程显著性检验二、方程显著性检验三、变量显著性检验三、变量显著性检验Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,
34、2008-2009,YNUFE一、拟合优度检验一、拟合优度检验 目的：测定样本回归函数对样本观测值的拟合严密程度目的：测定样本回归函数对样本观测值的拟合严密程度 目的：目的：R2、Adj(R2)Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE可决系数可决系数可决系数可决系数R2R2R2R2(coefficient of determination)(coefficient of determination)(coefficient of determination)(coefficient of determi
35、nation)0R210R210R210R21，该统计量越接近于，该统计量越接近于，该统计量越接近于，该统计量越接近于1 1 1 1，模型的拟合优度越高。，模型的拟合优度越高。，模型的拟合优度越高。，模型的拟合优度越高。 1 1、定义：、定义：2 2 2 2、问题：、问题：、问题：、问题： 在模型中添加一个解释变量，在模型中添加一个解释变量，在模型中添加一个解释变量，在模型中添加一个解释变量， R2 R2 R2 R2往往增大往往增大往往增大往往增大 但是：添加解释变量个数往往得不偿失，不重要的变量不应引入。但是：添加解释变量个数往往得不偿失，不重要的变量不应引入。但是：添加解释变量个数往往得不
36、偿失，不重要的变量不应引入。但是：添加解释变量个数往往得不偿失，不重要的变量不应引入。添加解释变量使得估计参数添加，从而自在度减小。假设引入的变量对添加解释变量使得估计参数添加，从而自在度减小。假设引入的变量对添加解释变量使得估计参数添加，从而自在度减小。假设引入的变量对添加解释变量使得估计参数添加，从而自在度减小。假设引入的变量对减少残差平方和的作用很小，这将导致误差方差减少残差平方和的作用很小，这将导致误差方差减少残差平方和的作用很小，这将导致误差方差减少残差平方和的作用很小，这将导致误差方差2222的增大，引起模型精的增大，引起模型精的增大，引起模型精的增大，引起模型精度的降低。度的降低
37、。度的降低。度的降低。 因此：因此：因此：因此：R2R2R2R2需调整。需调整。需调整。需调整。Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 调整的可决系数调整的可决系数调整的可决系数调整的可决系数Adj(R2)Adj(R2)Adj(R2)Adj(R2)adjusted coefficient of determinationadjusted coefficient of determinationadjusted coefficient of determinationadjusted coefficie
38、nt of determination 1 1 1 1、调整思绪、调整思绪、调整思绪、调整思绪: : : :将残差平方和与总离差平方和分别除以各自的自在度，以将残差平方和与总离差平方和分别除以各自的自在度，以将残差平方和与总离差平方和分别除以各自的自在度，以将残差平方和与总离差平方和分别除以各自的自在度，以剔除变量个数对拟合优度的影响。剔除变量个数对拟合优度的影响。剔除变量个数对拟合优度的影响。剔除变量个数对拟合优度的影响。2 2 2 2、自在度：统计量可自在变化的样本观测值的个数，记为、自在度：统计量可自在变化的样本观测值的个数，记为、自在度：统计量可自在变化的样本观测值的个数，记为、自在度
39、：统计量可自在变化的样本观测值的个数，记为dfdfdfdfTSSTSSTSSTSS：dfdfdfdfn n n n1 1 1 1ESSESSESSESS：dfdfdfdf k k k kRSSRSSRSSRSS：dfdfdfdf n n n nk k k k1 1 1 1留意：留意：留意：留意：dfdfdfdfTSS)=df(ESS)+df(RSS)TSS)=df(ESS)+df(RSS)TSS)=df(ESS)+df(RSS)TSS)=df(ESS)+df(RSS)3 3 3 3、定义：、定义：、定义：、定义：Copyrightprincebf,2008-2009,YNUFECopyrigh
40、tprincebf,2008-2009,YNUFE# Adj(R2)# Adj(R2)# Adj(R2)# Adj(R2)的作用的作用的作用的作用1 1 1 1、消除拟合优度评价中解释变量的多少对拟合优度的影响、消除拟合优度评价中解释变量的多少对拟合优度的影响、消除拟合优度评价中解释变量的多少对拟合优度的影响、消除拟合优度评价中解释变量的多少对拟合优度的影响2 2 2 2、对于因变量、对于因变量、对于因变量、对于因变量Y Y Y Y一样，而自变量一样，而自变量一样，而自变量一样，而自变量X X X X个数不同的模型，不能用个数不同的模型，不能用个数不同的模型，不能用个数不同的模型，不能用R2R
41、2R2R2直接比较直接比较直接比较直接比较拟合优度，而应运用拟合优度，而应运用拟合优度，而应运用拟合优度，而应运用AdjAdjAdjAdjR2R2R2R2 。3 3 3 3、可以经过、可以经过、可以经过、可以经过AdjAdjAdjAdjR2R2R2R2的添加变化，决议能否引入一个新的解释变量。的添加变化，决议能否引入一个新的解释变量。的添加变化，决议能否引入一个新的解释变量。的添加变化，决议能否引入一个新的解释变量。AdjAdjAdjAdjR2R2R2R2= R2= R2= R2 均值均值均值均值x0yx x x预测上限置信上限预测下限置信下限Copyrightprincebf,2008-20
42、09,YNUFECopyrightprincebf,2008-2009,YNUFE回归分析的预测实例：回归分析的预测实例：回归分析的预测实例：回归分析的预测实例：中国居民人均收入中国居民人均收入中国居民人均收入中国居民人均收入- - - -消费支出二元模型例中：消费支出二元模型例中：消费支出二元模型例中：消费支出二元模型例中：2001200120012001年人均年人均年人均年人均GDPGDPGDPGDP：4033.14033.14033.14033.1元元元元于是人均居民消费的预测值为于是人均居民消费的预测值为于是人均居民消费的预测值为于是人均居民消费的预测值为 2001=120.7+0.2
43、2134033.1+0.45151690.8=1776.82001=120.7+0.22134033.1+0.45151690.8=1776.82001=120.7+0.22134033.1+0.45151690.8=1776.82001=120.7+0.22134033.1+0.45151690.8=1776.8元元元元 实测值实测值实测值实测值90909090年价年价年价年价=1782.2=1782.2=1782.2=1782.2元，相对误差：元，相对误差：元，相对误差：元，相对误差：-0.31% -0.31% -0.31% -0.31% 预测的置信区间预测的置信区间预测的置信区间预测的置
44、信区间 ：E(2001E(2001E(2001E(2001的的的的95%95%95%95%的置信区间为的置信区间为的置信区间为的置信区间为: : : : 1741.81741.81741.81741.8，1811.71811.71811.71811.72001200120012001的的的的95%95%95%95%的置信区间为的置信区间为的置信区间为的置信区间为: : : :1711.1, 1842.41711.1, 1842.41711.1, 1842.41711.1, 1842.4Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008
45、-2009,YNUFE3.5 3.5 可可线性化的多元非性化的多元非线性回性回归模型模型 线性模型的本质含义线性模型的本质含义 解释变量的非线性解释变量的非线性变量代换法变量代换法 回归参数的非线性回归参数的非线性函数变换法函数变换法Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE实践中的非线性模型实践中的非线性模型实践中的非线性模型实践中的非线性模型1 1 1 1、恩格尔曲线、恩格尔曲线、恩格尔曲线、恩格尔曲线(Engle curves)(Engle curves)(Engle curves)(Engle c
46、urves)：消费者的收入与某类商品需求量之间的函数：消费者的收入与某类商品需求量之间的函数：消费者的收入与某类商品需求量之间的函数：消费者的收入与某类商品需求量之间的函数关系。关系。关系。关系。幂函数幂函数幂函数幂函数Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE2 2 2 2、菲利普斯曲线、菲利普斯曲线、菲利普斯曲线、菲利普斯曲线Pillips cuvesPillips cuvesPillips cuvesPillips cuves：通货膨胀率货币工资率与失业率之：通货膨胀率货币工资率与失业率之：通货膨胀
47、率货币工资率与失业率之：通货膨胀率货币工资率与失业率之间的关系。间的关系。间的关系。间的关系。双曲线函数双曲线函数双曲线函数双曲线函数Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE线性模型的本质含义线性模型的本质含义线性模型的本质含义线性模型的本质含义1 1 1 1、被解释变量、被解释变量、被解释变量、被解释变量Y Y Y Y与解释变量与解释变量与解释变量与解释变量X X X X之间为线性关系之间为线性关系之间为线性关系之间为线性关系2 2 2 2、被解释变量、被解释变量、被解释变量、被解释变量Y Y Y Y
48、与参数与参数与参数与参数 之间为线性关系之间为线性关系之间为线性关系之间为线性关系3 3 3 3、更重要的在于后者、更重要的在于后者、更重要的在于后者、更重要的在于后者Copyrightprincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 例如：拉弗曲线：描画税收与税率关系例如：拉弗曲线：描画税收与税率关系例如：拉弗曲线：描画税收与税率关系例如：拉弗曲线：描画税收与税率关系 S = a + b R + cR2 c0 S = a + b R + cR2 c0 S = a + b R + cR2 c0 S = a + b R + cR2
49、 c0 抛物线抛物线抛物线抛物线令：令：令：令：X1 = rX1 = rX1 = rX1 = r，X2 = r2X2 = r2X2 = r2X2 = r2， 那么原方程变换为：那么原方程变换为：那么原方程变换为：那么原方程变换为： S = a + b X1 + c X2 c0 S = a + b X1 + c X2 c0 S = a + b X1 + c X2 c0 S = a + b X1 + c X2 c0 1 1 1 1、解、解、解、解释变释变量的非量的非量的非量的非线线性性性性问题问题变变量代量代量代量代换换 适用于倒数模型、多项式模型等适用于倒数模型、多项式模型等Copyrightp
50、rincebf,2008-2009,YNUFECopyrightprincebf,2008-2009,YNUFE 例如：例如：例如：例如：Cobb-DauglasCobb-DauglasCobb-DauglasCobb-Dauglas消费函数：消费函数：消费函数：消费函数： Q = AK Q = AK Q = AK Q = AKL L L L幂函数幂函数幂函数幂函数 方程两边取对数：方程两边取对数：方程两边取对数：方程两边取对数： ln Q = ln A + ln Q = ln A + ln Q = ln A + ln Q = ln A + ln K + ln K + ln K + ln K
51、+ ln L ln L ln L ln L 令：令：令：令：Q*=lnQQ*=lnQQ*=lnQQ*=lnQ，0000lnAlnAlnAlnA，K*=lnKK*=lnKK*=lnKK*=lnK，L*=lnLL*=lnLL*=lnLL*=lnL 那么：那么：那么：那么： Q*= 0 Q*= 0 Q*= 0 Q*= 0 K* K* K* K* L* L* L* L*2 2 2 2、回、回、回、回归归参数的非参数的非参数的非参数的非线线性性性性问题问题函数函数函数函数变换变换 适用于幂函数、指数函数模型等适用于幂函数、指数函数模型等Copyrightprincebf,2008-2009,YNUFEC
52、opyrightprincebf,2008-2009,YNUFE方程两边取对数后，得到：方程两边取对数后，得到：方程两边取对数后，得到：方程两边取对数后，得到： ( ( ( (1+1+1+1+2 2 2 2=1)=1)=1)=1)例如：常替代弹性例如：常替代弹性例如：常替代弹性例如：常替代弹性CESCESCESCES消费函数消费函数消费函数消费函数将式中将式中将式中将式中ln(ln(ln(ln(1K-1K-1K-1K- + + + + 2L-2L-2L-2L-) ) ) )在在在在=0=0=0=0处展开台劳级数处展开台劳级数处展开台劳级数处展开台劳级数, , , ,取关于取关于取关于取关于的的的的线性项，即得到一个线性近似式。线性项，即得到一个线性近似式。线性项，即得到一个线性近似式。线性项，即得到一个线性近似式。如取如取如取如取0 0 0 0阶、阶、阶、阶、1 1 1 1阶、阶、阶、阶、2 2 2 2阶项，可得阶项，可得阶项，可得阶项，可得 3 3 3 3、复、复、复、复杂杂函数模型函数模型函数模型函数模型级级数展开数展开数展开数展开
