《第六章_回归预测》由会员分享，可在线阅读，更多相关《第六章_回归预测（42页珍藏版）》请在金锄头文库上搜索。
1、王剑王剑2年份居民消费品购买力x居民货币收入x19788.511.6197911.114.1198013.617.1198115.819.6198217.622.1198320.525.6198427.833.6198533.540.5198639.247.8西安电子科技大学经济管理学院3一、一、“回归回归”最初的涵义最初的涵义遗传学中的名词，英国生物学家兼统计学家高尔登遗传学中的名词，英国生物学家兼统计学家高尔登首先提出来的。首先提出来的。n回归现代涵义回归现代涵义研究自变量与因变量之间的关系形式的分析方法。研究自变量与因变量之间的关系形式的分析方法。目的：根据已知自变量来估计和预测因变量的
2、值。目的：根据已知自变量来估计和预测因变量的值。例如：例如：6.1 概述概述农作物亩产量农作物亩产量施肥量施肥量降雨量降雨量气温气温西安电子科技大学经济管理学院4二、回归分析和相关分析二、回归分析和相关分析1、相关关系的概念、相关关系的概念客观事物之间的相关关系的概念：客观事物之间的相关关系的概念：n函数关系函数关系。确定性关系，对于某一变量的每一个数。确定性关系，对于某一变量的每一个数值，都有另一变量的确定的值与之对应。值，都有另一变量的确定的值与之对应。例：例：圆面积圆面积对于对于半径半径的依存关系，正方形的的依存关系，正方形的面积面积对于对于边长边长的依存关系等等。的依存关系等等。n相关
3、关系相关关系。反映事物之间的非严格、不确定的线性。反映事物之间的非严格、不确定的线性依存关系。依存关系。西安电子科技大学经济管理学院51、相关关系、相关关系n相关关系相关关系。反映事物之间的非严格、不确定的线性依存关系。反映事物之间的非严格、不确定的线性依存关系。特点特点：事物之间在数量上确实存在一定的内在联系。表现在一个变量事物之间在数量上确实存在一定的内在联系。表现在一个变量发生数量上的变化，要影响另一个变量也相应地发生数量上的发生数量上的变化，要影响另一个变量也相应地发生数量上的变化。变化。例：例：事物之间的数量依存关系不是确定的，具有一定的随机性。表事物之间的数量依存关系不是确定的，具
4、有一定的随机性。表现在给定自变量一个数值，因变量会有若干个数值和它对应，现在给定自变量一个数值，因变量会有若干个数值和它对应，并且因变量总是遵循一定规律围绕这些数值平均数上下波动。并且因变量总是遵循一定规律围绕这些数值平均数上下波动。其原因是影响因变量发生变化的因素不止一个。其原因是影响因变量发生变化的因素不止一个。例例：影响：影响工业总产值工业总产值的因素除了的因素除了职工数职工数外，还有入定外，还有入定资产原值资产原值、流动资金流动资金和和能耗能耗等因素。等因素。成本成本劳动生产率劳动生产率西安电子科技大学经济管理学院62、回归分析与相关分析、回归分析与相关分析研究和测度两个或两个以上变量
5、之间关系的方法有研究和测度两个或两个以上变量之间关系的方法有回归分回归分析析和和相关分析相关分析。n相关分析相关分析。研究两个或两个以上随机变量之间线性依存关系的。研究两个或两个以上随机变量之间线性依存关系的紧密程度。通常用相关系数表示，多元相关时用复相关系数表紧密程度。通常用相关系数表示，多元相关时用复相关系数表示。示。n回归分析回归分析。研究某一随机变量（因变量）与其他一个或几个普。研究某一随机变量（因变量）与其他一个或几个普通变量（自变量）之间的数量变动的关系。通变量（自变量）之间的数量变动的关系。区区别别相关分析相关分析 研究变量都是随机变量，不分自变量与因变量研究变量都是随机变量，不
6、分自变量与因变量回归分析回归分析明确的自变量和因变量，自变量是确定的普通变量，因变量是随机明确的自变量和因变量，自变量是确定的普通变量，因变量是随机变量。变量。联联系系相关分析相关分析 事物之间相互依存关系的两个不可分割的方面。在实际工作中，一事物之间相互依存关系的两个不可分割的方面。在实际工作中，一般先进性相关分析，有相关系数的大小决定是否需要进行回归分析。般先进性相关分析，有相关系数的大小决定是否需要进行回归分析。在相关分析的基础上建立回归模型，以便进行推算、预测。在相关分析的基础上建立回归模型，以便进行推算、预测。回归分析回归分析西安电子科技大学经济管理学院7根据回归模型中含有根据回归模
7、型中含有自变量的多少自变量的多少分为：一元回归分为：一元回归和多元回归；和多元回归；根据回归模型的根据回归模型的性质性质分为：线性回归和非线性回归；分为：线性回归和非线性回归；根据回归模型中变量的根据回归模型中变量的属性属性分为：普通回归模型和分为：普通回归模型和带虚拟变量的回归模型。带虚拟变量的回归模型。 应用回归分析预测需满足条件：应用回归分析预测需满足条件：1.数据量不能太少（以多于数据量不能太少（以多于20个较好）；个较好）；2.预测对象与影响因素之间必须存在因果关系；预测对象与影响因素之间必须存在因果关系； 三、回归模型的分类：三、回归模型的分类：西安电子科技大学经济管理学院86.2
8、 一元线性回归预测一元线性回归预测已知因素已知因素 x 与因素与因素 y 有某种线性关系，设有某种线性关系，设 x 为自变量，为自变量，y 为因为因变量，现有观察值（变量，现有观察值（xi， yi），），i=1，2n，则，则 x 与与 y 之间之间的关系可定量表示为：的关系可定量表示为： 其中其中 N(0，2)，称为误差项（或随机干扰），一般认为其，称为误差项（或随机干扰），一般认为其服从正态分布。服从正态分布。一元线性回归预测是对两个具有线性关系的变量，建立线一元线性回归预测是对两个具有线性关系的变量，建立线性回归模型，根据自变量的变动来预测因变量平均发展趋性回归模型，根据自变量的变动来预测
9、因变量平均发展趋势的方法。势的方法。一、一、一元线性回归模型一元线性回归模型西安电子科技大学经济管理学院9随机干扰随机干扰 满足以下条件：满足以下条件：（1）表示随机干扰中有正、负两种干扰，平均干扰为表示随机干扰中有正、负两种干扰，平均干扰为 0；（2）表示随机干扰有相同的方差；表示随机干扰有相同的方差；（3）随机干扰不存在序列相关；随机干扰不存在序列相关；（4）随机干扰与解释变量无关。随机干扰与解释变量无关。因变量因变量 y 由于受各种随机因素的影响，故它是一个随机变量，由于受各种随机因素的影响，故它是一个随机变量，是我们预测的目标变量。是我们预测的目标变量。西安电子科技大学经济管理学院10
10、 实际中，用实际中，用 来作为上述关系的近似，称来作为上述关系的近似，称为一元线性回归方程。为一元线性回归方程。方程中参数方程中参数a，b的估计：的估计：最小二乘法最小二乘法基本思想基本思想：使得原始数据的观测值与模型的估计：使得原始数据的观测值与模型的估计值的误差平方和达到最小。即：值的误差平方和达到最小。即：二、二、参数估计参数估计西安电子科技大学经济管理学院11西安电子科技大学经济管理学院12例例：已知某种商品的：已知某种商品的销售量销售量同居民的同居民的可支配收入可支配收入有关，有关，现有如下表的统计数据，试建立回归方程，并求出相应现有如下表的统计数据，试建立回归方程，并求出相应参数的
11、最小二乘估计值。参数的最小二乘估计值。年份年份实际可支配实际可支配收入收入 x（单位：（单位：10元）元）商品的销售量商品的销售量（单位：件）（单位：件）年份年份实际可支配实际可支配收入收入x（单位：（单位：10元）元）商品的销商品的销售量（单售量（单位：件）位：件）1983522670019917418158198453971361992769868319855777658199380193171986613778419948559675198764481081995842854219886707583199686085841989695800219978909612199071384421
12、9989209719西安电子科技大学经济管理学院13第一步：绘制散点图第一步：绘制散点图6000650070007500800085009000950010000500 550 600 650 700 750 800 850 900yi(件件)xi（10元）元）950第二步：设一元线性回归方程为第二步：设一元线性回归方程为年份年份实际可支配收实际可支配收入入 x ( (1010元元) )商品的销售商品的销售量（件）量（件）xiyixi219835226700349740027248419845397136384630429052119855777658441866633292919866137
13、784477159237576919876448108522155241473619886707583508061044890019896958002556139048302519907138442601914650836919917418158604507854908119927698683667722759136119938019317746291764160119948559675827212573102519958428542719236470896419968608584738224073960019978909612855468079210019989209719894148084
14、6400SUM11651133703989447718726865西安电子科技大学经济管理学院15第二步：设一元线性回归方程为：第二步：设一元线性回归方程为：第三步：计算回归系数得：第三步：计算回归系数得：所求的回归方程为：所求的回归方程为：6000650070007500800085009000950010000500 550 600 650 700 750 800 850 900yi(件)xi（10元）元）950西安电子科技大学经济管理学院16三、相关系数三、相关系数在运用一元线性回归模型时，正确地判断两个在运用一元线性回归模型时，正确地判断两个变量之间的变量之间的相互关系相互关系，选择主
15、要因素作模型的自变，选择主要因素作模型的自变量是至关重要的。量是至关重要的。yxyx西安电子科技大学经济管理学院171、离差平方和的分解离差平方和的分解用样本数据模拟的回归方程用样本数据模拟的回归方程 ，当给定自变量，当给定自变量 xi 后，后，与之对应的观察值与之对应的观察值 yi、计算值、计算值 与平均值与平均值 之间的关系。之间的关系。总离差观测值观测值 yi 的取值大小是上下波动的，这种现象称为变差。变差的取值大小是上下波动的，这种现象称为变差。变差的产生是由两方面的原因造成的：的产生是由两方面的原因造成的：受自变量变动的影响，即受自变量变动的影响，即 x 的取值不同；的取值不同；其他
16、因素（包括观测和实践中产生的误差）影其他因素（包括观测和实践中产生的误差）影响。响。则则 n 次观测值的总离差平方和为：次观测值的总离差平方和为：总离差平方和总离差平方和离离西安电子科技大学经济管理学院192、可决系数、可决系数 可决系数可决系数R2 的大小表明了在的大小表明了在 y 的总离差中由自变量的总离差中由自变量 x 变动所引起变动所引起的回归偏差所占的比率，它是评价两个变过量之间线性相关关系强弱的回归偏差所占的比率，它是评价两个变过量之间线性相关关系强弱的一个重要指标。通过的一个重要指标。通过R2可以判定回归模型对样本数据的拟合程度，可以判定回归模型对样本数据的拟合程度，从而评价预测
17、模型的优劣。从而评价预测模型的优劣。 0R2 1； R2=1，表明回归模型对所有的样本数据点完全拟合，表明回归模型对所有的样本数据点完全拟合，即所有的样本数据点均落在回归直线上。即所有的样本数据点均落在回归直线上。 R2=0，表明回归模型无法解，表明回归模型无法解释因变量释因变量 y 的离差，预测模型没有意义。的离差，预测模型没有意义。 一般情况下，一般情况下， R2 越接近越接近1，表明回归平方和占总离差平方和的比，表明回归平方和占总离差平方和的比重越大，回归模型对样本数据拟合程度越高，模型对预测越有意义。重越大，回归模型对样本数据拟合程度越高，模型对预测越有意义。通常，通常， R2在在0.
18、8以上，即可认为拟合程度较高。以上，即可认为拟合程度较高。西安电子科技大学经济管理学院20R2=0.9911表明该商品的表明该商品的销售量销售量的变化中有的变化中有99.11%部分可以用居部分可以用居民的民的可支配收入额可支配收入额来解释。来解释。西安电子科技大学经济管理学院213、相关系数：、相关系数：如果说样本如果说样本可决系数可决系数是衡量回归方程拟合优度的统计量，是衡量回归方程拟合优度的统计量，那那相关系数相关系数就是用来衡量两个变量之间就是用来衡量两个变量之间线性相关关系线性相关关系强弱程度强弱程度的重要指标。的重要指标。两个航空公司股价的起落有关联吗？两个航空公司股价的起落有关联吗
19、？运输行业中运输价格与所运重量有关吗？与运输距离有关运输行业中运输价格与所运重量有关吗？与运输距离有关吗？关联强度有多大？吗？关联强度有多大？经济学中的生产价格指数与失业率的关联强度如何？经济学中的生产价格指数与失业率的关联强度如何？在零售业中，哪些变量与某个特定店的销售额有关？是人在零售业中，哪些变量与某个特定店的销售额有关？是人口密度，竞争者数，店的规模，广告情况，还是其他变量。口密度，竞争者数，店的规模，广告情况，还是其他变量。3、相关系数：、相关系数：西安电子科技大学经济管理学院23 相关系数是一元线性回归模型中用来衡量两个变量之间相关系数是一元线性回归模型中用来衡量两个变量之间线性相
20、关关系强弱的重要指标线性相关关系强弱的重要指标相关系数相关系数的取值范围为的取值范围为 -1R 1 ，相关系数为正值表示两个变，相关系数为正值表示两个变量之间为量之间为正正相关；相关系数为负值表示两个变量之间为相关；相关系数为负值表示两个变量之间为负负相关。相关。相关系数相关系数 R 的绝对值大小表示相关的绝对值大小表示相关程度程度的高低。的高低。 R的绝对值越接近的绝对值越接近1，说明回归对各点的配合越密切，说明回归对各点的配合越密切，x，y的线性关的线性关系越好；反之，两者的线性关系越差；其值接近系越好；反之，两者的线性关系越差；其值接近0，就可以认为这两者，就可以认为这两者完全没有线性关
21、系了。完全没有线性关系了。 相关系数到底多大，才可以确定相关系数到底多大，才可以确定x和和y具有线性关系呢，为了便于查具有线性关系呢，为了便于查对，人们将对，人们将 R 的临界值列为专门的表，计算的相关系数必须大于表上的临界值列为专门的表，计算的相关系数必须大于表上相应的值才可以考虑所得的回归直线预测分析。否则，模型需要重新考相应的值才可以考虑所得的回归直线预测分析。否则，模型需要重新考虑选用和计算。虑选用和计算。R=10R1R=0R=0-1R0R= -1yxyxyxyxyxyx西安电子科技大学经济管理学院25四、显著性检验。四、显著性检验。(1) 相关系数检验相关系数检验：相关系数的绝对值达
22、到什么程度，才能认：相关系数的绝对值达到什么程度，才能认为两个变量之间的线性相关关系是显著的？为两个变量之间的线性相关关系是显著的？步骤：步骤：n依据公式计算相关系数依据公式计算相关系数R；n根据给定的显著性水平根据给定的显著性水平 ，查相关系数临界值表（，查相关系数临界值表（ 取取值越小，显著性程度越高值越小，显著性程度越高）；）；n查表查表R (n-2)，(n 表示样本数目）表示样本数目）n判别：若判别：若| R | R (n-2)，表明两个变量之间的线性相关，表明两个变量之间的线性相关关系显著，相关关系可信度较高，检验通过。否则，说明关系显著，相关关系可信度较高，检验通过。否则，说明模型
23、不能用来进行预测，这时，应分析其原因，对回归模模型不能用来进行预测，这时，应分析其原因，对回归模型重新调整。型重新调整。西安电子科技大学经济管理学院26例：例： lR = 0.9216，l =0.01， R =0.7977lR R，为此显著的正相关。，为此显著的正相关。l因此可以认为，所求得的回归直线用于近似描述因此可以认为，所求得的回归直线用于近似描述商品商品的的销售量销售量与与居民的居民的可支配收入额可支配收入额的相关关系是可靠的，的相关关系是可靠的，即可信度较高。即可信度较高。（2）t检验检验: t检验是检验回归系数是否显著异于检验是检验回归系数是否显著异于0。t 检验是通过检验是通过构
24、造假设检验构造假设检验来检验回归模型与数据是否很好来检验回归模型与数据是否很好拟合的方法，通过回归模型斜率来看是否显著不等于零。拟合的方法，通过回归模型斜率来看是否显著不等于零。对系数对系数 b 进行检验的检验步骤：进行检验的检验步骤：构造构造t统计量：统计量：n提出假设：提出假设：H0：b=0；H1：b0；n根据给定的显著性水平根据给定的显著性水平，查，查t分布表得到临界值分布表得到临界值t/2(n-2)，(n表表示样本数目）示样本数目）n判别：若判别：若| t | t/2(n-2)，拒绝假设，拒绝假设H0：b=0，而接受而接受H1，即认，即认为为 b 显著异于显著异于 0，因变量，因变量
25、y 对自变量对自变量 x 的一元线性回归成立。若的一元线性回归成立。若| t | 0.576所以在=0.05的显著性水平上，检验通过，检验说明，两变量之间线性相关关系显著。5、t、F检验。西安电子科技大学经济管理学院38（2）控制）控制 控制可以看成是预测的反问题，即要求控制可以看成是预测的反问题，即要求 y 落在一定落在一定范围内范围内 ，应如何控制，应如何控制 x ?亦即对于给定的置信度亦即对于给定的置信度 ，求出相应的，求出相应的作业：作业：某省某省19781986年居民消费品购买力和居民货币收入统年居民消费品购买力和居民货币收入统计如下表：计如下表：1、建立一元线性回归模型。建立一元线
26、性回归模型。2、对回归模型进行显著对回归模型进行显著性检验（性检验（ =0.05）。）。3、若居民货币收入每年平均增长若居民货币收入每年平均增长19%，预测预测1987年居民消费品购买力。年居民消费品购买力。4、对对1987年居民消费品购买年居民消费品购买力作区间预测。力作区间预测。年份居民消费品购买力y居民货币收入x年份居民消费品购买力y居民货币收入x19788.511.6198427.833.6197911.114.1198533.540.5198013.617.1198639.247.8198115.819.6198217.622.1198320.525.6（单位：亿元）（单位：亿元）西安电子科技大学经济管理学院403.4 一元非线性回归常见的一元非线性模型有下述几种：常见的一元非线性模型有下述几种： 究竟选用哪一种模型拟合，可先将样本序列画图观察其曲线形状来判定。西安电子科技大学经济管理学院41x0y0yx0yx0yxa0yx(1)(2)(3)(4)(5)求解方法为首先将上述非线性模型转化为线性模型。例如
