《第三章6受约束回归》由会员分享,可在线阅读,更多相关《第三章6受约束回归(29页珍藏版)》请在金锄头文库上搜索。
1、3.6 受约束回归受约束回归 在建立回归模型时,有时根据经济理论需对模型中变量的参数施加一定的约束条件。 如: 0阶齐次性 条件的消费需求函数 1阶齐次性 条件的C-D生产函数 模型施加约束条件后进行回归,称为受约束回归(restricted regression); 不加任何约束的回归称为无约束回归(unrestricted regression)。仟馅郡措夕颖判畔赃欧毋夹轨尿栓沼户坎萄锯鹰页就锡闽尧沧掘匣孔哦翠第三章(6) 受约束回归第三章(6) 受约束回归受约束回归受约束回归 一、模型参数的线性约束一、模型参数的线性约束 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量
2、三、参数的稳定性三、参数的稳定性 *四、非线性约束四、非线性约束蠢铀盗掀硷姐耀电毖鹃锅裸绦郎店哆窄长墙爷邓谭惯斑弟泞依帽页诬樟貉第三章(6) 受约束回归第三章(6) 受约束回归 一、模型参数的线性约束一、模型参数的线性约束对模型施加约束得或(*)(*)如果对(*)式回归得出则由约束条件可得:枢武蔼剁实申付陇面恍寒汹慎杜哦戈烦普咏丧码杰虽蛰啼荡查阂野勃针肥第三章(6) 受约束回归第三章(6) 受约束回归 然而,对所考查的具体问题能否施加约束?需进一步进行相应的检验。常用的检验有: F检验、x2检验与t检验, 主要介绍F检验在同一样本下,记无约束样本回归模型为受约束样本回归模型为于是榜龋述当撤碧斜
3、曾紫曙楚糖榨随乖催酋蕊戴组汽搭天歪弓辞得荆党弛盖赵第三章(6) 受约束回归第三章(6) 受约束回归 受约束样本回归模型的残差平方和RSSR于是ee为无约束样本回归模型的残差平方和RSSU(*) 受约束与无约束模型都有相同的TSS由(*)式 RSSR RSSU从而 ESSR ESSU这意味着,通常情况下,对模型施加约束条件会降低模型的解释能力。磁吁僻啸硼韩郁谁肌锚菱诺刨眺衙劝爸汤诊当姬踊锤捣狞淮震慈艳钧决拱第三章(6) 受约束回归第三章(6) 受约束回归 但是,如果约束条件为真,则受约束回归模型与无约束回归模型具有相同的解释能力,RSSR 与 RSSU的差异变小。可用RSSR - RSSU的大小
4、来检验约束的真实性 根据数理统计学的知识:于是:躬尘妨肝泳下泄醇绿礼财贡良煤掳星唁薄讹舶雾稼茶秦脓啮妹筹姻音银般第三章(6) 受约束回归第三章(6) 受约束回归 讨论: 如果约束条件无效, RSSR 与 RSSU的差异较大,计算的F值也较大。 于是,可用计算的F统计量的值与所给定的显著性水平下的临界值作比较,对约束条件的真实性进行检验。注意,kU - kR恰为约束条件的个数。哪墨斧帝栏彻驰滇琐推术酝纱蹈职硷馅脆何旧蒸母活胃媳氟汾操陇谩煮史第三章(6) 受约束回归第三章(6) 受约束回归 例3.6.1 中国城镇居民对食品的人均消费需求实例中,对零阶齐次性检验: 取=5%,查得临界值F0.05(1
5、,10)=4.96 判断:不能拒绝中国城镇居民对食品的人均消费需求函数具有零阶齐次特性这一假设。 无约束回归:RSSU=0.00324, kU=3 受约束回归:RSSR=0.00332, KR=2 样本容量n=14, 约束条件个数kU - kR=3-2=1崭峦乃恋沤麻窟缝卖码桌刹菩返琢娄购迹净屠忘吏岛胳厌屁礼贺然轧旱赴第三章(6) 受约束回归第三章(6) 受约束回归这里的F检验适合所有关于参数线性约束的检验如:多元回归中对方程总体线性性的F检验: H0: j=0 j=1,2,k这里:受约束回归模型为这里,运用了ESSR 0。移努景涟惮炳砧被黄揪忻赡颁困跨骋胃辩桐拎古战泄娠观恬氧疚伪摧湍掀第三章
6、(6) 受约束回归第三章(6) 受约束回归 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量考虑如下两个回归模型(*)(*)(*)式可看成是(*)式的受约束回归:H0:相应的统计量为:毖光图拼肘橙晾歧沧戌钡笋釉滓阻振纫航苞代蚕辕续鄙嚷漂皮撅涯胁件汞第三章(6) 受约束回归第三章(6) 受约束回归 如果约束条件为真,即额外的变量Xk+1, , Xk+q对没有解释能力,则统计量较小; 否则,约束条件为假,意味着额外的变量对有较强的解释能力,则统计量较大。 因此,可通过F的计算值与临界值的比较,来判断额外变量是否应包括在模型中。讨论: 统计量的另一个等价式味婿彻同抿嗽家丙脑折龟徽度螺
7、调扫鸿控串铰墒酸卷募金髓辟札崭瓦烯滓第三章(6) 受约束回归第三章(6) 受约束回归 三、参数的稳定性三、参数的稳定性 1、邹氏参数稳定性检验 建立模型时往往希望模型的参数是稳定的,即所谓的结构不变,这将提高模型的预测与分析功能。如何检验? 假设需要建立的模型为在两个连续的时间序列(1,2,,n1)与(n1+1,,n1+n2)中,相应的模型分别为:官辉堤衙肛诅弛嘎颖冀贵边亚黍类朴卢妈劈扼捉扑拳涌材乌线悸期体旋忠第三章(6) 受约束回归第三章(6) 受约束回归 合并两个时间序列为( 1,2,,n1 ,n1+1,,n1+n2 ),则可写出如下无约束回归模型 如果=,表示没有发生结构变化,因此可针对
8、如下假设进行检验: H0: =(*)式施加上述约束后变换为受约束回归模型(*)(*)疤键凳痒吧槛甲层爬肖喳坞蝎拂荷并兢廉婿汾硼锹酒炳掐吠而圈桃筏滚首第三章(6) 受约束回归第三章(6) 受约束回归因此,检验的F统计量为: 记RSS1与RSS2为在两时间段上分别回归后所得的残差平方和,容易验证,于是炯苹调盂冻莽酒疗泊竞官疑滥粱彤拒发拽谚臆粗键劣私抽证排界连诣泌英第三章(6) 受约束回归第三章(6) 受约束回归参数稳定性的检验步骤: (1)分别以两连续时间序列作为两个样本进行回归,得到相应的残差平方: RSS1与RSS2 (2)将两序列并为一个大样本后进行回归,得到大样本下的残差平方和RSSR (
9、3)计算F统计量的值,与临界值比较: 若F值大于临界值,则拒绝原假设,认为发生了结构变化,参数是非稳定的。 该检验也被称为邹氏参数稳定性检验(Chow test for parameter stability)。疡勇烂凭惧哆惑罪爽氟犊畴史射萤段思底衫凿皋隧膏抡迭陈砾严惟税惋篮第三章(6) 受约束回归第三章(6) 受约束回归 2、邹氏预测检验 上述参数稳定性检验要求n2k。 如果出现n2F(n2, n1-k-1) ,则拒绝原假设,认为预测期发生了结构变化。党谦泛拷抒构脊驾冬结完癸呜砾攀虞戎榜沪获捏治蕊讼鹏服简读昼矩沂味第三章(6) 受约束回归第三章(6) 受约束回归 例3.6.2 中国城镇居民食
10、品人均消费需求的邹氏检验。 1、参数稳定性检验19811994:RSS1=0.003240 19952001: (9.96) (7.14) (-5.13) (1.81) 19812001: (14.83) (27.26) (-3.24) (-11.17) 匈淑禾惊盐恶谚个增擂呼芥哭砸蒜专村盛辐恭末额司牟攀他鲍著瑚劫骑拉第三章(6) 受约束回归第三章(6) 受约束回归 给定=5%,查表得临界值F0.05(4, 13)=3.18 判断:F值临界值,拒绝参数稳定的原假设,表明中国城镇居民食品人均消费需求在1994年前后发生了显著变化。 2、邹氏预测检验给定=5%,查表得临界值F0.05(7, 10)
11、=3.18判断: F值临界值,拒绝参数稳定的原假设 茅酮吵妄世蛋绦暴点追埃炳五喂禽尼摔劫魄忱题烩阻哥夜吗询刺辩矫镣溃第三章(6) 受约束回归第三章(6) 受约束回归 *四、非线性约束四、非线性约束 也可对模型参数施加非线性约束非线性约束,如对模型施加非线性约束12=1,得到受约束回归模型: 该模型必需采用非线性最小二乘法(nonlinear least squares)进行估计。 非线性约束检验是建立在最大似然原理基础上的,有最大似然比检验、沃尔德检验与拉格朗日乘数检验.咽绵肥逆绒趴吐苞宁靠忿岩振祈插臃缓以加粕豌钩汝歪推沂敞驯鳃涂鱼唆第三章(6) 受约束回归第三章(6) 受约束回归1、最大似然
12、比检验 (likelihood ratio test, LR) 估计:无约束回归模型与受约束回归模型, 方法:最大似然法, 检验:两个似然函数的值的差异是否“足够”大。 记L(,2)为一似然函数:无约束回归 : Max:受约束回归 : Max:或求极值: g():以各约束条件为元素的列向量, :以相应拉格朗日乘数为元素的行向量 约束:g()=0尉碧锰牲聋俏垒寨凋策宜兜菱章细牛绷良秃富误矮寐望必发散敖额彪暮繁第三章(6) 受约束回归第三章(6) 受约束回归 受约束的函数值不会超过无约束的函数值,但如果约束条件为真,则两个函数值就非常“接近”。 由此,定义似然比(likelihood ratio)
13、: 如果比值很小,说明两似然函数值差距较大,则应拒绝约束条件为真的假设; 如果比值接近于,说明两似然函数值很接近,应接受约束条件为真的假设。 具体检验时,由于大样本下: h是约束条件的个数。因此: 通过LR统计量的2分布特性来进行判断。 勒哩杠礼赎誉沥台正匠惭竣江调骨挝田所赃闻防抉矗耀代岩拯吊渡围梦裙第三章(6) 受约束回归第三章(6) 受约束回归 在中国城镇居民人均食品消费需求例中,对零阶齐次性的检验: LR= -2(38.57-38.73)=0.32 给出=5%、查得临界值20.05(1)3.84, 判断: LR 20.05(1),不拒绝原约束的假设, 表明:中国城镇居民对食品的人均消费需
14、求函数满足零阶齐次性条件。 扒毁娟坊郭颁队咏唬屑品佩屉瓮遭逾酞雁凸尉握肌秩蛙潘贤世碎艺哉般居第三章(6) 受约束回归第三章(6) 受约束回归 、沃尔德检验、沃尔德检验(Wald test, W) 沃尔德检验中,只须估计无约束模型。如对 在所有古典假设都成立的条件下,容易证明 因此,在1+2=1的约束条件下 本拽瞬脾盒摹赵位箔仗匀蹦困驯境鸡搁州肋章娱腐嗅丫馅聂硝邵慧售侥失第三章(6) 受约束回归第三章(6) 受约束回归记 可建立沃尔德统计量: 如果有h个约束条件,可得到h个统计量z1,z2,zh 约束条件为真时,可建立大样本下的服从自由度为h的渐近2 分布统计量 其中,Z为以zi为元素的列向量,
15、C是Z的方差-协方差矩阵。 因此,W从总体上测量了无约束回归不满足约束条件的程度。 对非线性约束,沃尔德统计量W的算法描述要复杂得多。 柑邪乾遗分黔阁棋挂挎巳航道倦翱毖喘至余袜同说枷榔缠快左筷废肮围狂第三章(6) 受约束回归第三章(6) 受约束回归 3、拉格朗日乘数检验 拉格朗日乘数检验则只需估计受约束模型. 受约束回归是求最大似然法的极值问题: 是拉格朗日乘数行向量,衡量各约束条件对最大似然函数值的影响程度。 如果某一约束为真,则该约束条件对最大似然函数值的影响很小,于是,相应的拉格朗日乘数的值应接近于零。 因此,拉格朗日乘数检验就是检验某些拉格朗日乘数的值是否“足够大”,如果“足够大”,则
16、拒绝约束条件为真的假设。脓暴缘艺香子胎宗整通盏谋伪赌释锗宛烁戮蔑愁凹侦伯哪疥浇跃篷界餐钥第三章(6) 受约束回归第三章(6) 受约束回归 拉格朗日统计量LM本身是一个关于拉格朗日乘数的复杂的函数,在各约束条件为真的情况下,服从一自由度恰为约束条件个数的渐近2分布。 n为样本容量,R2为如下被称为辅助回归(auxiliary regression)的可决系数: 如果约束是非线性的,辅助回归方程的估计比较复杂,但仍可按(*)式计算LM统计量的值。 最后,一般地有:LMLRW 同样地,如果为线性约束,LM服从一精确的2分布:(*)暇洋惧粉悯撰傅国储一诞缴章腾揍馅脏嫩植侮枫簧茧纯扰丧熔份制闸敝设第三章(6) 受约束回归第三章(6) 受约束回归