《多元线性回归201011讲义教材》由会员分享，可在线阅读，更多相关《多元线性回归201011讲义教材（96页珍藏版）》请在金锄头文库上搜索。
1、多元线性回归(Multiple Linear Regression Analysis)王丽流行病学与卫生统计学系,多变量分析方法的提出,流行病学的一个重要应用是探索病因或危险因素（包括识别和处理混杂因素及效应修饰因素）。 单变量（因素）分析： 分析单一特异性因素引起的健康危害或疾病或其它结局效应 难以处理多因素引起的疾病,分层分析是将可能对结局产生影响的变量（外源性变量或混杂变量），按其不同属性分层，再在每层内分析主要变量与结局的联系 研究的变量数目（2或3个）较少时，分层分析方法完全适用。,分层分析的例子,口服避孕药与心肌梗死病例对照研究 服OC 未服OC 计 MI 39 114 153 c
2、OR = 2.19 对照 24 154 178 计 63 268 331 如果怀疑年龄有混杂作用，按年龄分层再进行分析。,口服避孕药与心肌梗死病例对照研究,按年龄分层后的结果 40岁 40岁 OC（+） OC（-) 计 OC（+） OC（- ） 计 MI 21（a1） 26（b1） 47（m11） 18（a2） 88（b2） 106（m12 ） 对照 17（c1） 59（d1） 76（m01） 7（c2） 95（d2） 102（m02） 计 38（n11） 85（n01） 123（n1） 25（n12） 183（n02） 208（n2） OR1 = 2.80 OR2 = 2.78 cOR/OR
3、1 = 0.78 cOR/OR2 = 0.78 ,常用的多变量分析方法,协方差分析 多元线性回归 logistic回归 比例风险回归（Cox回归） 多重（偏）相关分析 主成分分析 因子分析 聚类分析,统计学处理方法的选择,两个或以上自变量资料的统计学分析方法 自变量 因变量 统计方法 属性（有混杂） 数值 协方差分析 属性或数值 数值 多元回归 属性或数值 属性（二分） logistic回归 数值或属性 二分（属性） 发生的风险（有截缩） Cox（比例风险）回归 属性 属性 对数-线性 属性或数值 属性（多分） 判别分析 数值 因子分析或聚类分析,出生体重危险因素研究,ID 编号 LOW 出生
4、低体重(bwt=2500=0) AGE 母亲年龄(岁) LWT 母亲末次月经时的体重 RACE 种族: 1 白种人 2 黄种人 3 黑人 SMOKE 吸烟史: 1 吸烟 0 否 PTL 早产史: 1 有 0 无 HT 妊娠高血压: 1 有 0 无 UI 频繁宫缩: 1 有 0 无 FTV 产前访视次数 BWT 出生体重(克),探讨的问题,婴儿的出生低体重（low)是否与母亲的种族(race)有关？ 黑人母亲和非黑人母亲的婴儿出生体重是否有显著性差别？ 黑人、白人及黄种人母亲，其婴儿的出生体重是否有显著性差别？ 母亲的年龄、吸烟史、既往早产史、妊娠高血压史，频繁宫缩史是否分别与婴儿的出生体重有关
5、？ 母亲的年龄、吸烟史、既往早产史、妊娠高血压史，频繁宫缩史哪些因素与婴儿的出生体重有关？ 在控制了年龄、目前吸烟史、既往早产史、妊娠高血压史，频繁宫缩史之后，婴儿的出生体重是否依旧与种族有关？ 亲的年龄、吸烟史、既往早产史、妊娠高血压史，频繁宫缩史哪些因素与婴儿的出生低体重有关？,多变量线性回归分析,一、概念,回归是研究变量与变量之间关系的一种手段，通过回归方程表达变量与变量之间的一种依存关系。 当研究变量之间的线性关系时就是直线回归（linear regression）,如：UCSF大学的妇产科学及生殖研究所收集1980年-1990年在该生殖中心出生的婴儿及其母亲的资料。 母亲的信息：怀孕
6、时的年龄、吸烟史、怀孕前的体重、早产史、是否有妊娠高血压、怀孕期间是否发生频繁宫缩、产前接受的访试次数等。 新生儿的信息：出生时的体重 要回答的问题：用回归方程定量的刻画一个新生儿出生体重（因变量Y)与母亲孕期的多个自变量X1，X2，.间的线性依存关系,出生体重危险因素研究数据库字段注释,变量名 字段注释 ID 编号 BWT 出生体重（克） AGE 母亲年龄（岁） LWT 母亲末次月经时的体重（磅） RACE 种族：1白种人 2黄种人 3黑人 SMOKE 吸烟史：1吸烟 0否 PTL 早产史 ：1有 0否 HT 妊娠高血压：1有 0否 UI 频繁宫缩：1有 0否 FTV 产前访试次数：1一次
7、2二次及以上 0无,设有p个自变量X1，X2，,Xp,一个因变量Y，以及一份由n个个体构成的随机样本（xi1，xi2，xip，yi），i=1，2，,n a：回归方程常数项 bp：偏回归系数，指其它自变量固定的条件 下，某自变量Xp每改变一个单位时，因 变量Y的平均变化量。 ：在给定自变量取值条件下y的均数的一 个点估计。,新生儿出生体重与母亲怀孕时相关因素的关系： 对每一个新生儿而言： Yi=b0+b1*agei+b2*smokei+b3*lwti+ 根据所有新生儿及其母亲的观测值，可以得到新生儿出生体重与母亲相关因素的回归方程： i =b0+b1*agei+b2*smokei+b3*lwti
8、+. 残差：,二、线性回归方程 需满足的条件,（一） LINE 原则,L（linear）： 自变量和因变量呈线性关系； I （independence）： 某xi值改变对y的影响与另一xi的水平无关； y呈独立性，即任一个体的y值对另一个体的y值 不提供任何信息； N（normality）： xi分别取某定值时得到的一组y值呈正态分布； E （equal variance）： 各y值的方差相等，即各xi取不同值时y的不同分布服从方差齐性，即其方差为常数,（二）因变量的选择,因变量必须是定量指标，同时必须满足以上关于线性回归的条件要求，即LINE。,（三）自变量的选择,对于自变量没有强制性要求，
9、但自变量和因变量之间必须是线性关系。 自变量可以为定量指标、定性指标以及等级变量中的任何一种。,如果自变量为定量指标： （1）同时自变量与因变量之间为线性关系，则可以直接以原变量的形式进入分析； （2）如果自变量与因变量之间为非线性关系，则需做适当转换，如x2，log（x），ex等。 自变量为定性或等级指标： 不需要做自变量与因变量的线性关系检验,自变量为定性指标： 为二分类变量，常用0，1或1，2表示。如x为性别指标，0代表女性，1代表男性，回归方程中对应的回归系数b表示男性比女性的y平均多b。 为多分类指标，需要专业判定指标的意义 等级变量：直接带入分析 定性变量：亚变量（dummy）,亚
10、（哑）变量的设置,引入亚（哑）变量的目的在于区分某个变量的不同属性。 当自变量为属性变量，特别是不同属性之间无等级高低之分，为说明不同属性对因变量的影响大小，常需引入亚（哑）变量。,亚变量的设置：例1,一项探讨影响新生儿出生体重的研究： 因变量即结局变量为新生儿出生时的体重； 研究的因素包括母亲怀孕时的年龄、母亲末次月经时的体重、母亲的种族、是否吸烟、是否有过早产史、是否有妊娠高血压、怀孕期间是否发生频繁宫缩、产前接受的访试次数等。,亚变量的设置例1：出生体重危险因素研究,变量名 字段注释 ID 编号 BWT 出生体重（克） AGE 母亲年龄（岁） LWT 母亲末次月经时的体重（磅） RACE
11、 种族：1白种人 2黄种人 3黑人 SMOKE 吸烟史：1吸烟 0否 PTL 早产史 ：1有 0否 HT 妊娠高血压：1有 0否 UI 频繁宫缩：1有 0否 FTV 产前访试次数：1一次 2二次及以上 0无,亚变量的设置：例1,将种族分成白人、黑人和黄种人3种属性，可引入2（= 3-1）个亚变量，分别表示各种族，选择其中之一（例如，白人）作为参照 变量 x1 x2 白人 0 0 （参照） 黑人 1 0 黄种人 0 1 ,亚变量的设置：例2,Framingham心脏病研究，随访1,406人18年 探讨冠心病发生率与年龄、性别、收缩血压关系的多变量线性回归 如何处理年龄与冠心病发生率的关系？ 连续
12、变量？ 其他？,亚变量的设置：例2（续）,x1 = 0，x2 = 0，x3 = 0，为4049岁（参照） x1 = 1，x2 = 0，x3 = 0，为5054岁 x2 = 1，x1 = 0，x3 = 0，为5559岁 x3 = 1，x1 = 0，x2 = 0，为6062岁 年龄（岁） x1 x2 x3 4049（参照） 0 0 0 5054 1 0 0 5559 0 1 0 6062 0 0 1 ,亚变量的设置：例2（续）,得到冠心病发生率与年龄、性别、收缩血压关系的多变量线性回归方程如下： y = 0.0613 + 0.0277x1 + 0.0826x2 + 0.0845x3 + 0.127
13、3x4 + 0.1680 x5 上式中y = log（冠心病发生率/（1-冠心病发生率）,亚变量的设置：例2（续）,有时自变量（如年龄）虽然是连续变量，但按其每改变一个单位（一岁），来估计其对因变量的影响很微弱，如将其划分成大小不同的几种属性，并设立亚变量，则可看出不同属性对因变量的影响大小。 这种指标分解方法的优点是有助于分清究竟哪种属性对所研究疾病危险性的作用较大，也便于研究因素间的交互作用。,三、线性回归基本SAS程序,PROC REG data=文件名; 调用REG过程并指明对哪个文件执行分析，若省略“data= “ ，则SAS会自动找出在本程序之前最后形成的SAS语句。,Model
14、因变量=自变量/选择项； 每次调用REG过程至少要有一个MODEL语句。 MODEL Y=X； 一个应变量对一个自变量的回归 MODEL Y=X1 X2 X3； 一个应变量对多个自变量的回归 MODEL Y1 Y2=X1 X2 X3； 多个应变量对多个自变量的回归,MODEL语句中的选择项之一： 界定有关参数估计值的有关选项： /STB：要求计算模型中各自变量的标准回归系数； /CLM：计算出预测值平均数的95%可信区间的 上、下限； /CLI：计算出各预测值的95%可信区间的上、下限；,多元回归基本SAS程序,proc reg; model y=x1 x2/stb; run;,四、几个重要的
15、概念,偏回归系数： 标准回归系数： 决定系数： 校正复相关系数： 剩余标准差：,偏回归系数（bj）,当方程中其他自变量固定时，Xj每改变一个单位，引起Y的平均变化量，也就是说bj的大小反映了Xj对Y的影响程度。,标准回归系数,由于各自变量取值的单位及其离散程度通常不同，所以各量纲不同的回归系数之间不能直接比较大小。为此，需要对偏回归系数进行标准化以消除量纲的影响。 标准回归系数绝对值的大小可用来衡量自变量对应变量Y的贡献大小，以说明各变量在多元回归方程中的重要性。,决定系数（R2）,R2=SS回/SS总 取值范围在0与1之间，无单位。反映了回归贡献的相对程度，也就是在Y的总变异中回归所能解释的百分比。 主要通过决定系数数值的大小来反映回归或相关的实际效果。 例如：决定系数=0.9587，说明所求的回归方程能够解释的应变量变异占应变量总变异的95.87% 存在的问题：随方程中自变量的增加而加大，即使引入无显著性变量，其值也会略有增加,校正决定系数（R2adj）,其中n为拟合模型的观察单位数； m
