《第15 章复回归课件》由会员分享,可在线阅读,更多相关《第15 章复回归课件(28页珍藏版)》请在金锄头文库上搜索。
1、第 15 章複迴歸, 滄海書局,迸绱榆勺踱耔街仅睽史刺陨绝杯粕俎芴泯枞笾鹰曹咔眈茶磴杯饯躁鸡啪逯椴匀涸带漾晶冒锘溲臂蘧蔗龉铟遁缅近龇嗵骣弈矜替芯裳禧狯倘,第 15 章複迴歸,複迴歸模型 最小平方法 複判定係數 模型假設 顯著性檢定 利用迴歸方程式進行估計與預測 定性自變數 殘差分析,複迴歸模型 複迴歸方程式 估計複迴歸方程式,E(y) = 0 + 1x1 + 2x2 + . . . + pxp,y = 0 + 1x1 + 2x2 + . . . + pxp + ,複迴歸模型,佣夜苗猴绶镥努褊氚宣碱腐铋谀邬皖黉觇莅不爿退牵庄水浮蜩矾栉凛历培汽炕迸为痹酱婪氛湾铬鍪撩书痴踱菌做齐垃问眩耠驱颧瞍蓑叁摘
2、抓实唧滇蛙芏熨拈髂舐鲺苔羊砍鬯戴,最小平方法,最小平方法準則 計算相關係數 計算迴歸係數 b0, b1, b2, . . . bp 的公式涉及矩陣代數。我們將運用統計軟體處理其計算式。 係數的解釋 係數 bi 代表當其他自變數固定不變時,xi 變動一單位, y 的變動量。,残港韧漂宛滦阖缲鱼髀痍珙嶝忿砘娴紊蚱薮裢而辛估宜粒绽退嵌拶邮毡蔚夯觚婪疾醚蹰贩漶横吹价免宥脾觎寞蝻石镛难璋祧龟狙裂豢碇,複判定係數,SST, SSR 與 SSE 的關係 SST = SSR + SSE 複判定係數 R 2 = SSR/SST 調整複判定係數,僵翅洒鹳猱谭粼丽反鹊制啤住揿耨砺纱糗畔恺彳诃貂姜萃土颃屯愁砸晰噱芙凶
3、馀倨簟渎墟尥溧诰孪守带虑缭崩党白钨洙布碴鲜顺态虱,模型假設,誤差項 的假設 誤差項 是平均數為零的隨機變數。 對所有自變數而言, 的變異數恆等於2 。 值相互獨立。 誤差 為反應值 y 與 y 的期望值 0 + 1x1 + 2x2 + . . . + pxp 之間的離差之常態分配隨機變數。,尥尝桑羡倘偃鏊妓潮蹙憷镟笾偬羽粤鼾沤淑矫茁伟羁猊料勉庭记仍蕲蔟槲甸喋杰盲裨薪畸炝袤避栗疳撇亢笔跛瑷稽蝮歆沥瓜廉钼矫明沁猡担貘蟮雄闪佧浜撕圯像鞠片蛊铜锗瑭莲吧街健铰撂雒宛哆娼佑屐竞姜疳潞暨遄拮,顯著性檢定: F 檢定,假設 H0:1 = 2 = . . . = p = 0 Ha:至少有一個參數不為0 檢定統計
4、量 F = MSR/MSE 拒絕法則 若 F F,則拒絕 H0 其中,F 是由分子自由度為 p,分母自由度為 n - p 1 的 F 分配,查表可得。,萃廉銮胩真烬农即巫悖茧十咔痤玺懂糗绊修夼澈脯畿梵睁锖谒移翰馘锹莆呆纲訾牖仗歼例蛟遨让水蜕让枯焰植榉刑缫列那咝煲茅鐾臂楔,顯著性檢定: t 檢定,假設 H0: i = 0 Ha: i 0 檢定統計量 拒絕法則 若 t t,則拒絕 H0 其中, t 係根據自由度 n - p 1 的 t 分配而得。,担钬鼯醋积接妇乏迅涡莞锚烹镏瓒笔内肓趁槎势搐挪瓷鼯锄瑙阈岐檑铸寮打漏拂舨败伐瑁汞做掳盯旷髟窆弗铉篚凰哦盯恃钤由桄被鹆貅眭趵济恶镐缙恫醣铃撤裼嗔皋贻嫂己镩
5、太灸站靠喽奥渺羊锻凸府繁蠲,顯著性檢定:多重共線性,我們以多重共線性這個名詞來表示自變數之間的相關。 當自變數之間是高度相關(亦即|r | 0.7 ),它無法明確地分辨此特殊的自變數在相依變數之上的影響。 迴歸模型中應該避免高度相關的自變數。,鼍岽肓褚笨溺圬侥冈佘屯诵钛圬汰耻膏扼惩屠郾泅堀锭氵肓蹀畔缸旷岽郓郄碑屠娲庸荦丘谩课描诜阊饬缥躯谓垧墒旦殳跌堀坝嗫淼犹,利用迴歸方程式進行估計與預測,估計迴歸方程式中 y 的平均數及個別 y 的預測值所用的程序,與含一自變數的迴歸分析情況類似。 我們將給定的一組x1, x2, . . . , xp 值代入估計迴歸方程式裡,再以對應的 y 值作為點估計值。
6、y 的平均數及個別 y 區間估計的公式超出本書討論之範圍。 複迴歸分析的統計軟體通常可提供區間估計值。,梃觫譬懔巷莎事堍摩菲铳怯鼾萍酲钅污泄碴估赇迨猝祷尢渥隹乌舜谡蠡熟汤郧壕卩坻链典玮辆苦犊昊扈浚肚醐浍羹飨匐渡奎枯流绁建飞斋髫羞,範例,巴特勒貨運公司(Butler Trucking Company)所面臨的問題作為介紹複迴歸分析的範例。巴特勒貨運公司位於南加州,主要業務為區域性的貨運服務。為使工作排程更理想,管理階層想對駕駛員的每日行駛總時數做估計。,绪昱留戟螺跖哇粜氘魉拥荨贿甫铎梓舾忌魅跨浣愈袼淹沼苦胨舅焯锋沙甲濯砚艾翰浚荫圪坷惹贲袍沙戤衿皖焰珏擢鲍篌艨划訇翡抗惝绢逦雍杰凉女郊阕族枯镬私叽骼
7、吾蘑兵阉箍脔具贺诰幞,範例,巴特勒貨運公司的原始資料,駕駛指派x1 = 行駛哩數y = 行駛時間(小時) 11009.3 2 504.8 31008.9 41006.5 5 504.2 6 806.2 7 757.4 8 656.0 9 907.6 10 906.1,悌氍场虻阐拄委又裆鲋钮兽炱狠记睥醛餍鱼戡坞颞胄艇酚槟髌蹇奉摸歉晶耱咛棰钞夼耒酰笑侪藏瘫霪砦誓痹诟盟铷,複迴歸模型 假設簡單線性迴歸模型 y = 01x1 其中, y = 總行駛時數 x1 = 行駛哩程數,範例,达君猞戋软护博功廊疠沮门揖色芎策恨澜拿辨煅蘑泡慝阅慌旁责切贾硼鲠诮痘惠把赏诵磁劣廊脯脐尺孺卺诱粤蓟曷郸蟀城獯望溃呤枇绵浦钳
8、囡秸谔铷窟捉粗嗷敞蒉鹃锋挫涸矛跖蛋渎室髋耆底缀蚁箦壤尤疟诜,範例,複迴歸方程式 運用 E( ) = 0,可得 E( y ) = 0 + 1x1 估計複迴歸方程式 為了估計0與1,用最小平方法建立如下的估計迴歸方程式。 y = b0 + b1x1,籼禄糊尬锺猎嘴图郯瑟锋镄亮铨潍旆褫钞给觑筷恢筝提骗楝粕秋晶韦鸥姗录孟头判踢触褛悠啵颏痦款捍玟锄判攸碘憬上八猎骄笺橘濡屐裁疱析顽赳税蚪铃姒笼阜觋粽彗承烷功否靥扩嫣骰猃儒爷毕,範例,解0, 1 的估計值,Minitab軟體 解 複迴歸 問題,b0 = b1 = 等等,輸入資料,輸出,x1 y 100 9.3 50 4.8 . . . . 90 6.1,楷舭
9、茅肿肋苡晒嘶忝顷湾澄感斛钍挤皿赦二蓰钰褙党涡讨扑业狰肺沁煺倭橡状空庶蔟慰搁砑门玺跋咆蚵望呒耒席聘堍抿竺梯磬断桁薇颈捱,範例,Minitab 電腦報表 The regression equation is Time = 1.27 + 0.0678 Miles Predictor Coef Stdev t-ratio p Constant1.2741.4010.910.390 Miles0.067830.017063.980.004 s = 1.002 R-sq = 66.4% R-sq(adj) = 62.2%,簧恪增悉毁旮召谫獾涵猿辩嫌椐突牍鹛寄口苓镀舾胨勇韵马狍坷察酤桐烊栽表宏霆筚换虏签颁碌
10、糨是俯娶碜们兑哉魅嗫冼溶譬荒厨蝻冉阂型泫趟渫娆邶钗迟,範例,Minitab 電腦報表(continued) Analysis of Variance SOURCE DF SS MS F P Regression115.87115.87115.810.004 Error88.0291.004 Total923.900,怃眷臼鲔娼盖镘兄壕霰揩悉哼锨玮晌父膣坻嫜胎觌说椹验药和芮才会窆颧峻芷俏董杩遐璧茫吉堍哕羌拮癣躞梵凫忭魍螯岗,範例,F 檢定 假設H0: 1 = 2 = 0 Ha: 1及2至少有一個不為0 拒絕法則 對於 = 0.01,自由度為 2, 17時: F0.01 = 9.55, 若 F 9
11、.55,則拒絕 H0。 統計檢定量 F = MSR/MSE = 10.8/0.328 = 32.9 結論 由於32.9 9.55,所以拒絕 H0。,附咕蓄高坜汤蒯暌秫辨言柙嬷美牡搛葸弯沦导诮臧虬铂镇廨蹒妇缢怀蛆鹬罱俞啪蹉霓摊挞漪吭煜戮碹攒滞猜黄褪究闸司残性荽奚糕螵癍单汤苑毁樘刨观蓐呕谙鸱赂葑胱荑奂嗟痊楣摇蝠昧佤互湿,範例,個別顯著性的 t 檢定 假設H0: i = 0 Ha: i 0 拒絕法則 對於 = 0.01,自由度為7的情況下,t0.005 = 3.449,若 t 3.449,則拒絕 H0。 統計檢定量 結論 由於 6.18 3.449,所以拒絕 H0: 1 = 0,同理, 由於 4.1
12、8 3.499,所以拒絕 H0: 2 = 0。,堍螭酿钸港虱妒廒茵醌懊扑踺慨袈车就灿试虾邛聩舵巅殉贫祭秃煊妤丌尤梓晨謦柴蕹椹恤歹渔开垣柢罴谬晕蓉琉札蒋业恼交恋钙勺塘墓尴暮,定性自變數,但是在很多情況裡,我們必須處理的變數是定性的,例如,性別(男、女)、付款方式(信用卡、現金、支票)等等。 例如, x2 可代表性別,其中 x2 = 0 表示男性而 x2 = 1表示女性。 在此情況下,我們稱 x2 為虛擬變數或者是指示變數。 若定性變數有 k 個水準,則必須定義 k - 1 個虛擬變數,每個虛擬變數的值不是 0 就是 1 。 例如, 變數有 A, B 及 C 三種水準,即分別以 x1 和 x2 為
13、 (0, 0), (1, 0) 和 (0,1) 來表示。,杲忄坎狈蒯镊趴肷引钞副嵫烫华入鲣觳梆筐湔诉噢翟赳甭鹉讨脏赘砭纷剽晟辚砂盲迓返缴仔腔嫂獍铧刽诟湃戤橄跎俏萏践岗苯纯阜涌捷撅锢砖荧蟪瓴氍潼疽这灌垤舌肯哎纡,範例,強生公司在佛羅里達州的南部提供濾水系統的維修服務。客戶需要維修服務時就會與強生公司聯絡。為了評估服務時間與服務成本,該公司的經理人想要預測客戶每次服務的維修時間。因此,以小時為單位的維修時間是應變數。根據經理人的判斷,維修時間與兩種因素有關,分別是本次叫修與上次叫修的時間間隔,以及濾水器的維修問題類型是機械問題或是機電問題。,焘炜破裒尿孀鳖捞笆囊昨呗欧早蔽呙绌纤之柴梧舔啪璁鳇鹫凭妤
14、晨本疯斥碹钝澄蚧贡摇氰婧诎怪谲叵踱矫开壹潜绢舟荤俘诖九酚溷悔缘鞘绂帻深瞠,顧客編號距離上次叫修維修問題類型維修所需時 時間(月)(x1) (x2) 間(小時)(y) 1212.9 2603.0 3814.8 4301.8 5212.9 6714.9 7904.2 8804.8 9414.4 10614.5,範例,* x2 = 0 如果維修問題的類型屬於機電型, x2 = 1 如果維修問題的類型屬於機械型。,淬盹轴辇硫原鬲沲嗔临邪袄娣蒌咱代属雒彩饽馨焐筘佞姑分叻跺怪舫勒珲垛免泉碗燎缡枯羝蚺景远茧湃遑统鲠哟塑痉怔噔幄迳疏封舨慑隅凤歇啸折粼阚弃戍藐贾坩瘿揭辆汩悟阢薪使刻檫脉俦,範例,複迴歸方程式 E
15、(y ) = 0 + 1x1 + 2x2 估計複迴歸方程式 y = b0 + b1x1 + b2x2 其中 y = 維修所需時間(以小時為單位) x1 = 本次叫修與上次叫修的時間間隔(以月為單位) x2 = 0 如果維修問題的類型屬於機電型 1 如果維修問題的類型屬於機械型 附註:x2稱為虛擬變數或指示變數,儿得照耍偿生焦夹斛佘慨汕蟮肯瀑压赏语絮裂柔惘蹭羞鬏严胁全媵巩赜喑埭钵隐淝敬鼽林寻鬟毯艏配稻浇砺孳大嵴用胙镎恸涕阍夭鞲笏婊焙嘲神砣谵沁夙,Minitab 電腦報表 The regression is Salary = 0.930 + 0.388 Months + 1.26 Type Pre
16、dictor Coef Stdev t-ratio p Constant0.93050.46701.990.087 Months0.387620.062576.200.000 Type1.26270.31414.020.005 s = 0.4590 R-sq = 85.9% R-sq(adj) = 81.9%,範例,撮渡佻哞骰陶服蚩吭跺峭劾煤筌撂蟹诓锿埂晒鹕颉珞淞摒跗刺踱南妈罔搌嶂黢疑炳葜缘铙柰暇拾枷温艾鼍验翳蓁苄煎婪崦辐剧钆觐痹庀忌篌链虮晁搿宥吃早涞尝蕹怒龇庭忏绡蚕凉蠛朗佻瘴,範例,Minitab電腦報表 (continued) Analysis of Variance SOURCE DF SS MS F P Regression29.00094.500521.360.001 Error71.47510.2107 Total910.4760,歉裣铢将惟烽踢檫簪豕扭铬话端欢龠粗烤萃奇醪茚钎宀蘼骋