《SAS学习系列多元线性回归》由会员分享，可在线阅读，更多相关《SAS学习系列多元线性回归（19页珍藏版）》请在金锄头文库上搜索。
1、SAS学习系列.-多元线性回归 作者： 日期：23. 多元线性回归一、多元线性回归1. 模型为Y=0+1X1+ NXN+其中 X1, , XN是自变量，Y是因变量，0, 1, N是待求的未知参数，是随机误差项（残差），若记多元线性回归模型可写为矩阵形式：Y=X+通常要求：矩阵X的秩为k+1（保证不出现共线性）, 且kN; 为正态分布，E()=0 和E()= 2I，其中I为NN单位矩阵。用最小二乘法原理，令残差平方和 最小，得到为的最佳线性无偏估计量（高斯马尔可夫定理）。2. 2的估计和T检验选取2的估计量：则假如t值的绝对值相当大，就可以在适当选定的置信水平上否定原假设，参数的1-置信区间可由
2、下式得出：其中t/2为与%显著水平有关的t分布临界值。3. R2和F检验若因变量不具有0平均值，则必须对R2做如下改进：随着模型中增添新的变量，R2的值必定会增大，为了去掉这种增大的干扰，还需要对R2进行修正（校正拟合优度对自由度的依赖关系）：做假设检验：H0: 1=N=0; H1: 1, N至少有一个0；使用F统计量做检验，若F值较大，则否定原假设。二、PROC REG过程步基本语法：PROC REG data = 数据集;MODEL 因变量 = 自变量列表 ;说明：MODEL语句用来指定因变量和自变量；restrict语句示例：restrict a1+a2=1;常用的输出可选项：STB输出
3、标准化偏回归系数矩阵CORRB输出参数估计矩阵COLLINOINT对自变量进行共线性分析P输出个体观测值、预测值及残差 （R/CLM/CLI包含P）R输出每个个体观测值、残差及标准误差CLM输出因变量均值95%的置信界限的上下限CLI对各预测值输出95%的置信界限的上下限MSE要求输出随机扰动项方差2的估计与残差分析有关的可选项l VIF输出变量间相关性的方差膨胀系数，VIF越大，说明由于共线性存在，使方差变大；lCOLLIN输出条件数，它表示最大的特征值与每个自变量特征值之比的平方根。一般情况下，条件数越大越可能存在共线性；lTOL表示共线性水平的容许值，TOL越小说明其可用别的自变量解释的
4、部分多，自然可能与别的自变量存在共线性关系；lDW输出Durbin-Watson统计量； influence对异常点进行诊断，对每一观测点输出统计量（Cooks D 50%, defits/debetas 2说明该点影响较大）。交互式语句ladd向模型中增加变量；ldelete删除原拟合模型中的有关变量；lrefit重新拟合模型；lprint输出有关模型的相关信息。绘制回归分析的图形在PROC REG过程步加入绘图选项语句即可。基本语法：PROC REG data = 数据集PLOTS = (图形类型);可选的绘图类型： FITPLOT带回归线、置信预测带的散点图；RESIDUALS自变量的残
5、差图；DIAGNOSTICS诊断图（包括下面各图）；COOKSDCooks D统计量图；OBSERVEDBYPREDICTED根据预测值的因变量图；QQPLOT 检验残差正态性的QQ图；RESIDUALBYPREDICTED根据预测值的残差图；RESIDUALHISTOGRAM残差的直方图；RFPLOT残差拟合图；RSTUDENTBYLEVERAGE杠杆比率的学生化残差图；RSTUDENTBYPREDICTED预测值的学生化残差图；注：残差图(RESIDUALS)和诊断图(DIAGNOSTICS)是自动生成的，根据模型也有其它默认的图形输出；若只绘制指定的图形需要加上ONLY:PROC REG
6、 data = 数据集 PLOTS(ONLY) = (图形类型);例1 用多元线性回归模型，来研究耗氧量的是如何依赖其它变量的。31位成年人心肺功能的调查数据（见下表），由于回归是相关的，所以理论上还应该做共线性诊断。age weight Oxygen耗氧量 runtime 跑15英哩的时间（分）rstpulse 休息时每分钟心跳次数runpulse 跑步时每分钟心跳次数Maxpulse每分钟心跳次数最大值4489.4744.60911.37621781824075.0745.31310.07621851854485.8454.2978.65451561684268.1559.5718.174
7、01661723889.0249.8749.22551781804777.4544.81111.63581761764075.9845.68111.95701761804381.1949.09110.85641621704481.4239.44213.08631741763881.8760.0558.63481701864473.0350.54110.13451681684587.6637.38814.03561861924566.4544.75411.12511761764779.1547.27310.60471621645483.1251.85510.33501661704981.4249
8、.1568.95441801855169.6340.83610.95571681725177.9146.67210.00481621684891.6346.77410.25481621644973.3750.38810.08761681685773.3739.40712.63581741765479.3846.08011.17621561655276.3245.4419.63481641665070.8754.6258.92481461555167.2545.11811.08481721725491.6339.20312.88441681725173.7145.79010.4759186188
9、5759.0850.5459.93491481554976.3248.6739.40561861884861.2447.92011.50521701765282.7847.46710.5053170172代码：data fitness ;input age weight oxygen runtime rstpulse runpulse maxpulse;datalines; 4489.4744.60911.37621781824075.0745.31310.07621851854485.8454.2978.65451561684268.1559.5718.17401661723889.0249
10、.8749.22551781804777.4544.81111.63581761764075.9845.68111.95701761804381.1949.09110.85641621704481.4239.44213.08631741763881.8760.0558.63481701864473.0350.54110.13451681684587.6637.38814.03561861924566.4544.75411.12511761764779.1547.27310.60471621645483.1251.85510.33501661704981.4249.1568.9544180185
11、5169.6340.83610.95571681725177.9146.67210.00481621684891.6346.77410.25481621644973.3750.38810.08761681685773.3739.40712.63581741765479.3846.08011.17621561655276.3245.4419.63481641665070.8754.6258.92481461555167.2545.11811.08481721725491.6339.20312.88441681725173.7145.79010.47591861885759.0850.5459.9
12、3491481554976.3248.6739.40561861884861.2447.92011.50521701765282.7847.46710.5053170172;run;proc corr data = fitness PLOT = MATRIX(HISTOGRAM nvar=all);var oxygen age weight runtime rstpulse runpulse maxpulse;label oxygen = Oxygen consumption age = Age in years weight = weight in kg runtime = Min. to run 1.5 miles rstpulse = Heart rate while resting runpulse = Heart rate while running maxpulse = Maximum heart
