《[高等教育]12回归分析》由会员分享，可在线阅读，更多相关《[高等教育]12回归分析（36页珍藏版）》请在金锄头文库上搜索。
1、回归分析 相关系数双向关系 回归方程单向关系 一元线性回归 一元线性回归方程的检验 一元线性回归方程的应用 多元线性回归简介一元线性回归 一元线性回归是指只有一个自变量的线 性回归(linear regression)。 回归线(regression line) 一条最能代表散点图上分布趋势的直线，这 条最优拟合线即称为回归线。 常用的拟合这条回归线的原则，就是使各点 与该线纵向距离的平方和为最小。 回归线回归线回归线回归线回归方程 确定回归线的方程称回归方程。回归方程的建立 用最小二乘方法求回归系数(regression coefficient)与相关系数 r 比较回归方程的建立 求截距(i
2、ntercept)由Y估计X语文成绩与智商 序号X Y X2 Y2 XY 1 2 3 4 5 6 7 8 9 10 11 78 71 68 85 75 73 72 65 70 66 74 136 135 120 140 130 128 122 118 119 108 120 6084 5041 4624 7225 5625 5329 5184 4225 4900 4356 5476 18496 18225 14400 19600 16900 16384 14884 13924 14161 11664 14400 10608 9585 8160 11900 9750 9344 8784 7670
3、 8330 7128 8880 总总和7971376 58069 173038 100139计算一元线性回归方程的检验 三种等效的方法： 对回归方程进行方差分析 对两个变量的相关系数进行与总体零相关的 显著性检验； 对回归系数进行显著性检验。测定系数 回归平方和(regression sum of squares, explained ) 残差平方和(residual sum of squares, error , unexplained )测定系数 测定系数(coefficient of determination)指 回归平方和在总平方和中所占比例，这 个比例越大，意味着误差平方和所占比
4、例越小，预测效果就越好。测定系数同 时等于相关系数的平方。例题企业业12345678910产产量 (X)40424855657988100 120 140费费用 (Y)150140160170150162 185 165 190 185对回归方程的方差分析方差来源平方和自由度均方差F 值值回归归SSR1MSRMSR/MSE残差SSEn - 2MSE总总差异SSTn - 1方差分析 F 0.05,1,8 = 5.32 F 0.01,1,8 = 11.3方差来源平方和自由度均方差F 值值回归归1666.357711666.357715.0166残差887.74238110.9678总总差异2554
5、.10009对回归系数进行显著性检验 估计误差的标准差 由于与 X 各点相对应的诸 YX 值之平均数和 标准差均为未知，故估计误差的标准差只能 从样本加以估计。其无偏估计量为：对回归系数进行显著性检验 在回归线上，当与所有自变量X相对应的 各组因变量Y的残值都呈正态分布，并且 残值方差为齐性时，可以用以下公式进 行显著性检验。 公式一元线性回归方程的应用 用样本回归方程推算因变量的回归值 点估计：语文成绩为80分的学生的智商是多少 ？ 区间估计：体重为20千克的男童的简单反应时 95%的置信区间 =（5501.9693.67）=（550183.6） 或（366.4，733.6） 一元线性回归方
6、程的应用 对因变量真值的预测 回归方程是由样本数据列出的，由于抽样误 差的影响，其回归值并不是因变量的真值。 要预测其真值还需考虑到各样本回归方程之 间的变异。对因变量真值的预测二元线性回归方程 二元线性回归方程是指一个因变量Y与两 个自变量X1与X2之间建立的线性回归方 程。 二元线性回归方程也用最小二乘法来确 定回归系数。 式中各个L都是相应的离差平方和或离差 乘积和二元线性回归方程的偏回归系数例题 序号数学成绩绩Y学习习能力X1逻辑逻辑 学X2 1 2 3 4 5 6 7 8 9 1083 67 74 48 72 66 90 54 71 6588 68 76 60 74 57 86 62
7、 63 4575 47 60 57 79 63 67 58 70 69答案二元线性标准回归方程 为了比较两个自变量在估计预测因变量 时所起作用的大小，需要将三个变量分 别转换成标准分数，然后比较由标准分 数所建立的标准回归方程中的两个标准 回归系数，以此判断两个自变量作用的 大小。二元线性回归的检验 二元线性回归的检验 检验回归方程的显著性 检验两个偏回归系数的显著性二元线性回归的检验 二元线性回归方程的显著性检验方法： 方差分析 复相关系数(multiple correlation coefficient) 显著性检验。 复相关系数表示两个自变量组合起来与因变量之 间的相关程度。可通过对二元
8、测定系数开平方根 得到，然后通过查表进行显著性检验。二元线性回归的检验 偏回归系数(partial regression coefficient)的显著性检验多元线性回归方程多元线性回归方程中自变量的选择 穷举法 对所有可能的回归方程逐一检验，选择一个显著性 程度最强的方程。 逐步回归(step-wise regression) 逐步回归的原理是按每个自变量对因变量的作用， 从大到小逐个地引入回归方程 每引入一个自变量要对回归方程中的每一个自变量 都进行显著性检验（即对其偏回归系数进行显著性 检验） 逐步地引入自变量，并剔除不显著的自变量、 直至将所有的自变量都引入，并将不显著的自变量 都剔除为止 最后形成的回归方程就是最优方程。其他回归问题
