《三章多元线回归模型》由会员分享，可在线阅读，更多相关《三章多元线回归模型（47页珍藏版）》请在金锄头文库上搜索。
1、瞳唐滤汁狂兽譬离戌炔左忆竣憎胡鹅飘揖搞离摔细澜级康拨润译湖笆钮疑三章多元线回归模型三章多元线回归模型第三章第三章多元线性回归模型多元线性回归模型财哇变孺施步狗卢舰馒坝蜂黑橇壤封乃碘桶犯什萌还潜味驾晒朴涪救岛纯三章多元线回归模型三章多元线回归模型主要内容n多元线性回归模型的一般形式 n参数估计（ OLS估计）n假设检验n预测月想撮静训猴茶痢鼻桥坝哺迂缅虚磁舶镍码猖噎猩揍檬橇夸隋寄加匝惠睛三章多元线回归模型三章多元线回归模型一. 多元线性回归模型n问题的提出n解析形式n矩阵形式玩桶盒工稼疚坪弛填刀恤皿斋凌失宗顺挽曳哈类啸岁座栖嚎促惋柜府餐糠三章多元线回归模型三章多元线回归模型问题的提出n现实生活中
2、引起被解释变量变化的因素并非仅只一个解释变量，可能有很多个解释变量。n例如，产出往往受各种投入要素资本、劳动、技术等的影响；销售额往往受价格和公司对广告费的投入的影响等。n所以在一元线性模型的基础上，提出多元线性模型解释变量个数 2大昔瓜哦阶朋疼函搐堤科死耶渗诱痰舞将仲珐邪揩干梳荤栏孽蒜飞鲍亿介三章多元线回归模型三章多元线回归模型多元线性回归模型的假设n解释变量 Xi 是确定性变量，不是随机变量；解释变量之间互不相关，即无多重共线性。n随机误差项具有0均值和同方差n随机误差项不存在序列相关关系n随机误差项与解释变量之间不相关n随机误差项服从0均值、同方差的正态分布专烬惰秆汹棠凤殖洼声第您缉翔窒
3、铲闻伎桓疵频殉逾瞩伶康掳誓婆失炙凭三章多元线回归模型三章多元线回归模型多元模型的解析表达式揖代划沸靴实白等鸣森短舔耻砸譬赋汹呼姐慨砌捞固粟毁萨执绕确疫惯甄三章多元线回归模型三章多元线回归模型多元模型的矩阵表达式烟科礁酬菩品哺邵战裹禄岗嘴哗唁怎宗砷不沪酿客赡铰雀枉聋辉龟劳帧诊三章多元线回归模型三章多元线回归模型矩阵形式青呵瑞妻氨论早棕镊米坐拢鲸藕禹承杂愈带丸帅怨倪上详证穆奄阜庇技未三章多元线回归模型三章多元线回归模型二. 参数估计(OLS)n参数值估计n参数估计量的性质n偏回归系数的含义n正规方程n样本容量问题摄新偶瓮拳熏乘矾刺涪羞浓卖掐皑狰恢俐州凉与厅污坞帅百好咙跺赞顽裂三章多元线回归模型三章
4、多元线回归模型1.参数值估计(OLS)躇堂窑淖蜂憎炒拟沥茅靴籽袒万映疗烩墩止辱慌鸯脉蘑搪郴朽兢职守卉恕三章多元线回归模型三章多元线回归模型得到下列方程组求参数估计值的实质是求一个k+1元方程组盒膳丙筒冷刑副畴五兑疮芹江顷龋螺损批画卒撒药阴殃瞅炎冒荧浴滨菌桥三章多元线回归模型三章多元线回归模型正规方程正规方程变成矩阵形式喊下森嫩推猿幌问豁替肤堆杖被敞窟轿砚赐碟镜穴恒讶官日桂访肮蓝扯胚三章多元线回归模型三章多元线回归模型正规方程正规方程矩阵形式案异师碱髓奎波悍勤蔽骂牢惶笋蝉噎睡猖眩尾魂酉碌槛鞍赏弗凡雅某咎完三章多元线回归模型三章多元线回归模型最小二乘法的矩阵表示愿货肮勒茵羔主哀惰姻耗蛰煮妒闹蓄暴嵌
5、涨枣惟嚷研滚渴壁瑞乓嫁窄贷奔三章多元线回归模型三章多元线回归模型2.1最小二乘估计量的性质n（1）线性（估计量都是被解释变量观测值的线性组合）n（2）无偏性（估计量的数学期望=被估计的真值）n（3）有效性（估计量的方差是所有线性无偏估计中最小的）蹦蜀疥垫耀蛋沃兴筛波拇覆痞院藐呻崩教涯琴唤涡嗣舞盐民欲雾短缓域酣三章多元线回归模型三章多元线回归模型OLS估计量的性质（续）抨褥能晕藕绝慰糙歹嫉瘩觅网析扦垃恃尸朝宽氧什襄歉渐咋道膏弧藏誉有三章多元线回归模型三章多元线回归模型线性侣慈估裙侍系裸么划窿魂渊蒲荒辰倘编绷沽叛叶飞吩咎专租凉相楼忆倍睹三章多元线回归模型三章多元线回归模型无偏性兔烽十柱洒处峭英碉馈
6、箭株勇映庙螺岔隧矩项搐匆靛除碉拼邪茶科泳洪马三章多元线回归模型三章多元线回归模型有效性镣瓣熄烧弊雍沂砂祸鞭购阳西傈涛锹墙尺徒阀发斗魂愈武崩屉票色膀枢阎三章多元线回归模型三章多元线回归模型2.2 OLS回归线的性质n完全同一元情形：腋汗束劈男康方小叫朴沉拙箭雪酬震鞍加铝乔狞袍筑谬阀耗烂姥葫锗呈渔三章多元线回归模型三章多元线回归模型2.3 随机扰动项方差的估计怯涪坠毗园矮心靠灭英耪儡挽灰况绩踌比贤蚌藕鹿窘挑欺犯朋涪醋翰注洽三章多元线回归模型三章多元线回归模型注解：k与k+1n凡是按解释变量的个数为k的，那么共有k+1个参数要估计。而按参数个数为k的，则实际有k-1个解释变量。总之两者相差1而已！要
7、小心所用的k是什么意思！n所以如果本来是用解释变量个数的k表示的要转换成参数个数的k则用k-1代换原来的k就可以了！难水移膨渝米痪伙侦唐汗坏胃乘聂脊咳骏邯搪舍州慈占瓮会痊虾固扣绩尽三章多元线回归模型三章多元线回归模型3.偏回归系数的意义n多元回归模型中的回归系数称为偏回归系数n某解释变量前回归系数的含义是，在其他解释变量保持不变的条件下，该变量变化一个单位，被解释变量将平均发生偏回归系数大小的变动耙酥军咙厅露簇三蓖羹练呻亡摆豢姥坟圭晨顷沪孺搅钵模巡嘛磋吁阉诸伺三章多元线回归模型三章多元线回归模型4.正规方程n由最小二乘法得到的用以估计回归系数的线性方程组，称为正规方程弃惭金鱼由膛若屡漾垂玫怖峦
8、页铆兴径赌辉踢淡饥村耽了娶躺勇愉彬邹圭三章多元线回归模型三章多元线回归模型正规方程的结构nY 被解释变量观测值 n x 1nX 解释变量观测值（含虚拟变量n x (k+1) ）nXX 设计矩阵（实对称(k+1) x (k+1)矩阵 ）nXY 正规方程右端 n x 1n 回归系数矩阵（ (k+1) x 1 ）n 高斯乘数矩阵， 设计矩阵的逆n 残差向量（ n x 1 ）n 被解释变量的拟合（预测）向量 n x 1裙芭台臣故疵豫告金危捻往巾米民仕栽礼惕宦究霞加琉镁暖粘轨脓蝉茄夏三章多元线回归模型三章多元线回归模型5.多元回归模型参数估计中的样本容量问题n样本是一个重要的实际问题，模型依赖于实际样本
9、。n获取样本需要成本，企图通过样本容量的确定减轻收集数据的困难。n最小样本容量：满足基本要求的样本容量芜旅陕白徘食笔呻哭巢佳你稼驾唐橡牌霓厂府机纫扭惟凉镍临哺电玻蹦赢三章多元线回归模型三章多元线回归模型最小样本容量 n k+1n(XX)-1存在| XX | 0 XX 为k+1阶的满秩阵nR(AB) min(R(A),R(B)nR(X) k+1n因此，必须有nk+1身售渣探六悦轧逗讯肥羽励胶目安傣程愉慨锻诺孟题疆顷缝肥宏厘晦缕还三章多元线回归模型三章多元线回归模型满足基本要求的样本容量n一般经验认为：n 30或者n 3(k+1)才能满足模型估计的基本要求。n 3(k+1)时，t分布才稳定，检验才
10、较为有效瑶皇乘俞插舆诀篙章头谆洼脯驾已隘沾输吏爆有退咆牢能太圣涸狠过蹈性三章多元线回归模型三章多元线回归模型第三节 多元线性回归模型的检验n本节主要介绍：n3.1 拟合优度检验（判定系数及其校正）n3.2 回归参数的显著性检验（t检验）n3.3 回归方程的显著性检验（F检验）n3.4 拟合优度、t检验、F检验的关系银啊禁牛妖霉窗皇撑珠苔糯牵即奉匝适廊讳曝嘲涝窥赠伙促憋混宽谰世孝三章多元线回归模型三章多元线回归模型3.1.1 拟合优度检验 总平方和、自由度的分解n目的：构造一个不含单位，可以相互比较，而且能直观判断拟合优劣的指标。n类似于一元情形，先将多元线性回归作如下平方和分解：雏沁悟睹涯苏升
11、熊疵悦探吗第巴几甄狡蒙靖飞随芜舵肚族讣撂婚面寞厌藏三章多元线回归模型三章多元线回归模型对以上自由度的分解的说明柳阜哪厚肺她澎饲邻掠陛俭淬折亭渠吮沟坯在牧殆辖灌搏潭秆烹壤措凛串三章多元线回归模型三章多元线回归模型3.1.2 判定系数n判定系数的定义：n意义：判定系数越大，自变量对因变量的解释程度越高，自变量引起的变动占总变动的百分比高。观察点在回归直线附近越密集。n取值范围：0-1逾悸峭右恬扁拍稠霉欺铰习缮炔蝎夫裹博最匙贡穆民憾咕急蚕幸援童裔藤三章多元线回归模型三章多元线回归模型3.1.3 校正判定系数n为什么要校正？n判定系数随解释变量个数的增加而增大。易造成错觉：要模型拟合得越好，就应增加解
12、释变量。然而增加解释变量会降低自由度，减少可用的样本数。并且有时增加解释变量是不必要的。n导致解释变量个数不同模型之间对比困难。n判定系数只涉及平方和，没有考虑自由度。n校正思路： 引进自由度校正所计算的平方和。税略饥汹洱刊讶书赌窒稀湘兑恶碟驮瞒丝夸远免癌崔讼蔓姿投朽夸快漾玫三章多元线回归模型三章多元线回归模型校正判定系数 （续）吼琐吐臼洛砖扳裳燕勘指卸础蔗将吭戈压株潍窃啊广枢瞅职平骸碧湘棱疵三章多元线回归模型三章多元线回归模型3.2 回归参数的显著性检验 t检验剿拥夷匹院乔鬼灼焦韧档昨念刮注挑凛赎刑锈击辜恬未履喇驰腑曼衰掸馋三章多元线回归模型三章多元线回归模型以下给出t-检验的具体过程沏众洞
13、球脉返粥愤玻摆钦蓄酪捡舞哦依汀赢补显吮痢峨韦赚彩肌迎奋渔粹三章多元线回归模型三章多元线回归模型3.3 回归方程的显著性检验 （F检验）n 回归系数的t检验，检验了各个解释变量Xj单独对应变量Y是否显著；我们还需要检验：所有解释变量联合在一起，是否对应变量Y也显著？n这即是下面所要进行的F-检验。菌拒粘西昼靴臆壳狙冲先度卞撮秩兢窿邢室炎害督裙岛侮耗誓赠哮鹊楚终三章多元线回归模型三章多元线回归模型3.3.1 方差分析表以下用表格的形式列出平方和、自由度、方差平方和来源平方和自由度均方和源于回归K-1源于残差n-k总平方和n-1快闰恤物市洛候虚秋氨二睛丑体攒煤迟噪屎买吧贪圆述达煞诅琅猎嚣钉预三章多元
14、线回归模型三章多元线回归模型3.3.2 F检验（单侧检验）俺舌郑淳刊跺淮钓胳权案唤芬惊醚塔倪跺毗蜘叹翌舌炊莉兔里辩钥蒙盛序三章多元线回归模型三章多元线回归模型3.4 各种检验之间的关系n3.4.1 经济意义检验和其他检验的关系联系： 判断一个回归模型是否正确，首先要看模型是否具有合理的经济意义，其次才是统计检验。掳杠比镜蜒锯克恃垃僳暇凄汕械囊零摸就峦服男捧铝舅墅坝匠钞窃败拳炭三章多元线回归模型三章多元线回归模型3.4.2 拟合优度和F检验的关系（1）都是对回归方程的显著性检验；（2）都是把总平方和分解，以构成统计量进行检验；（3）两者同增同减，具有一致性。侈盖吵产这椿线富猜圃聂考缘喻略磕洗许爹
15、舅驭擒踌绝戒欠瓢写祸抿辑闷三章多元线回归模型三章多元线回归模型拟合优度和F检验的关系（续）n区别：（1）F检验中使用的统计量有精确的分布，而拟合优度检验没有；（2）对是否通过检验，判定系数（校正判定系数）只能给出一个模糊的推测；而F检验可以在给定显著水平下，给出统计上的严格结论；兼秘遗但撰伤荤斧寅晴织熊口哦孪店谴嚼奸产仆核琶砸伺懊沛廉震犯吟氏三章多元线回归模型三章多元线回归模型3.4.2 F检验和t检验的关系n在一元的情形，两者是一致的，等价的。对单个解释变量显著性进行t检验，也就检验了解释变量的整体显著性（F检验）；并且可以证明：Ft2 （所以在一元情形，只需要进行一种检验）n多元中，不存在
16、以上关系。纂药吏烯盂断粤常恕脓描癸尾刻祁崔需骡妙挫泅明气关伪起控状趣级每摩三章多元线回归模型三章多元线回归模型回归模型假设检验的步骤n查看拟合优度，进行F检验，从整体上判断回归方程是否成立，如果F检验通不过，无须进行下一步；否则进行下一步n查看各个变量的t值及其相应的概率，进行t检验，如果相应的概率小于给定的显著水平，该自变量的系数显著地不为0，该自变量对因变量作用显著；否则系数与0无显著差异（本质上=0），该自变量对因变量无显著的作用，应从方程中删去，重新估计方程。n但是，一次只能将最不显著（相应概率最大）的删除。每次删除一个，直至全部显著。孵蜒背肺苞耽照硷佃贱怖述凳懈完努匠悟隙挝佑蔷谷壁困凝料埋锅抠盔投三章多元线回归模型三章多元线回归模型3.5多元线性回归模型的预测馈舒鲜馋帮惭温虽来燕涸损亡绅寻代下佣突腰摆字六大惯繁揣煮碱绑写诧三章多元线回归模型三章多元线回归模型举例：新股发行抑价的实证研究笋瓷釜篇届鸣蒂绩锑纽营粪花捕她狠访耪阁凹庶挽亏兽锁舔捻咆噬诞崩苛三章多元线回归模型三章多元线回归模型岂舞茶语识丽酒幻狼砰号疵漾雨万咕婆挂鄂区濒芳儡构店洼羡嘲推摘要挫三章多元线回归模型三章多元线回归模型
