学习目的通过学习相关与回归, 明确变量间非确定性关系的统计分析方法, 学会从专业角度考虑相关与回归的实际意义学习要点相关与回归的概念, 直线相关与直线回归分析, 直线相关与直线回归的区别与联系, 多重线性回归的意义

Size: px

Start display at page:

Download "学习目的通过学习相关与回归, 明确变量间非确定性关系的统计分析方法, 学会从专业角度考虑相关与回归的实际意义学习要点相关与回归的概念, 直线相关与直线回归分析, 直线相关与直线回归的区别与联系, 多重线性回归的意义"

偶骨杵函
5 years ago
Views:

1 (Linear Correlation and Regression)

2 学习目的通过学习相关与回归, 明确变量间非确定性关系的统计分析方法, 学会从专业角度考虑相关与回归的实际意义学习要点相关与回归的概念, 直线相关与直线回归分析, 直线相关与直线回归的区别与联系, 多重线性回归的意义

3 临床应用应用子宫高度直线回归方程法监测双胎妊娠时胎儿发育 ; 由凝血酶浓度 ( 写 x) 推算凝血时间 (y) 的回归方程 ; 放射工作者个人受照剂量与淋巴细胞微核的相关分析 ; 高血压患者门静脉压力与腹腔血管血流动力学指标的相关分析 ; 正常 408 例胎儿长度与孕周的直线回归方程为 EEL( 预计胎儿长 ) = GA( 孕周 ); 眼玻璃体液钾浓度与死后时间 (TSD) 相关分析

4 第一节线性相关 (linear correlation) 一线性相关的概念线性相关分析 : 描述两变量间是否有直线关系以及直线关系的方向和密切程度的统计分析方法条件 : 两变量 (x,y) 都是来自正态分布的随机变量 4

5 正相关 0< r <1 负相关 -1< r <0 零相关 r = 0 非线性相关 r = 0 完全正相关 r =1 完全负相关零相关 r = 0 零相关 r = 0 r = -1 直线相关示意图

6 二线性相关系数的意义与计算相关系数 : 又称积差相关系数, 是说明具有直线关系的两个变量间, 相关关系的密切程度与相关方向的指标 r: 样本相关系数 : 总体相关系数 6

7 r x x y y 2 2 x x y y l l xy xx l yy xy x l x x y y xy n y 范围 : r 无单位,-1 r 1 大小 : r 越大, 相关越密切符号 : r 值为正正相关,r 值为负负相关 7

8 三相关系数的假设检验 1 t r 检验 t r s r 0 1 r r 2 n 2 =n-2 8

9 三相关系数的假设检验 2 查表法根据 r 值及 =n-2 查附表 11(P 254 ) 相关系数 r 界值表 9

10 四直线相关分析步骤 1. 考察资料是否满足双变量正态性 2. 绘制散点图 (scatter plot) 考察两变量间有无直线趋势 3. 计算相关系数 r l xx = l yy = l xy = r= 相关系数的假设检验 10

11 例名糖尿病人的胰岛素水平 (mu/l) 与血糖水平 (mmol/l) 的测定值列于表 6-1, 试进行直线相关分析表名糖尿病人胰岛素 (mu/l) 与血糖 (mmol/l) 测定值病历号胰岛素血糖病历号胰岛素血糖

12 分析步骤 : (1) 对双变量进行正态性检验 (2) 绘制散点图 (3) 求相关系数 (4) 相关系数的检验假设 H 0 :=0 即胰岛素与血糖值无直线相关关系 H 1 : 0 即胰岛素与血糖值之间有直线相关关系 =0.05 r=-0.841, n=20, 代入公式计算得 t= = 根据 =20-2=18, 查 t 界值表, 得 P<0.05, 按 =0.05 的检验水准, 拒绝 H 0, 接受 H 1, 有统计学意义可认为糖尿病人血糖与胰岛素之间有直线相关关系, 且为负相关关系 12

13 五相关分析时的注意的问题 1. 首先利用散点图判断两变量间是否具有线性联系, 曲线联系时不能用直线相关分析 2. 有些研究中, 一个变量的数值随机变动, 另一个变量的数值却是人为选定的如研究药物的剂量反应关系时, 观察 n 种剂量下的反应变量, 此时算得的相关系数会因剂量的不同而不同故一个变量的数值是人为选定时不应作直线相关分析 3. 作相关分析时, 必须剔除异常点 4. 相关分析要有实际意义 5. 分层资料不要盲目合并作直线相关分析, 以免得到错误结论

14 第二节秩相关秩相关 (rank correlation) 又称等级相关, 是一种非参数统计方法适用资料 :⑴ 不服从双变量正态分布 ⑵ 总体分布类型未知 ⑶ 原始数据用等级表示等级相关系数 r s ( 即 Spearman Rank Correlation Coefficient) 反映两变量间相关的密切程度与方向

15 例名 2~7 岁急性白血病患儿的血小板数与出血症状资料见表 6-2 试作等级相关分析表 6-2 急性白血病患儿的血小板数 (10 9 /L) 和出血症状 2 编号血小板数出血症状 d d (1) X (2) 秩次 (3) Y (4) 秩次 (5) (6)=(3)-(5) (7) 合计 378 把 x 和 y 分别编秩次后, 按秩次进行线性相关分析

16 第二节秩相关本研究血小板数 (X) 与出血症状 (Y) 双变量为非正态分布资料, 故进行等级相关分析 H 0 :ρ s =0, 血小板数和出血症状间不存在等级相关关系 H 0 :ρ s 0, 血小板数和出血症状间存在等级相关关系 α=0.05 将 X Y 分别从小到大编秩, 若同一变量有相同观察值, 则取平均秩次, 见表 6-2 第 (3) (5) 列的相同秩次较多, 按下式计算校正值 T Y ' r s [(6 3 (12 6) ( ) (2 2)]/12 20 查界值表 ( 附表 8) 得 :P>0.05, 按 α=0.05 检验水准, 不拒绝 H 0, 无统计学意义故尚不能认为急性白血病患儿的血小板数与出血症状之间有等级相关关系 3 (12 12)/6 (0 20) )/6 20 (12 12)/6 220

17 第三节线性回归 (Linear Regression) 一线性回归的概念回归分析 (regression analysis) 是研究一个随机变量 (Y) 对另一个变量 (X) 或一组变量 ( 统计分析方法 X 1, X 2,, X k ) 间的依存关系的

18 回归的由来 : 英国统计学家 Pearson K(1857~1936)1903 年搜 75 集了 1078 个家庭人员的身高前臂长等指标的记录, 发现儿子身高 (y, 英寸 ) height of son 与父亲身高 (x, 英寸 ) 存 60 在线性关系 : y = x height of father

19 表明 : 高个子父亲儿子的平均身高稍矮于其父亲的平均身高 ; 而矮个子父亲儿子的平均身高稍高于其父亲的平均身高英国人类学家 Galton F(1822~1911) 将这种趋向于种族稳定的现象称之为回归至此, 回归逐渐发展成为分析两个变量或多个变量之间某种数量依存关系的一类统计方法 19

20 Simple Linear Regression Model 根据散点图可以假定, 对于 x 各个取值, 相应的 Y 的总体均数在一条直线上, ŷ 实际上是 x 对应的 Y 的总体均数的 Y X 一个样本估计值 Y X Y 的总均数自变量 X Y X Intercept 总体截距 Slope 总体斜率

21 二直线回归模型的应用条件线性 LINEARITY 反应变量均数与 x 间呈直线关系独立性 INDEPENDENCE 每一观察值之间彼此独立 X Y X y x LINE 假定 y X = α + x 正态性 NORMALITY 对于任何给定的 x, y 服从正态分布, 均数为 y x, 标准差为 y x 等方差性 EQUAL STANDARD DEVIATION 对于任何 x 值, 随机变量 y 的标准差 y x 相等

22 y x

23 y x

24 根据大量实测数据, 寻求一个直线方程来描述两个变量间依存变化的近似的线性数量关系, 此即线性回归得出的直线方程称为线性回归方程 ŷ a bx b 三直线回归方程的建立 x x y y x x 2 b: 回归系数意义 a: 截距 l l xy xx a y b x 24

25 y a b x y x 25

26 四直线回归方程和回归系数的假设检验 ( 一 ) 直线回归方程的假设检验方差分析 ( 二 ) 回归系数的假设检验 t 检验法 ( 三 ) 总体回归系数的可信区间估计 ( 四 ) 决定系数

27 ( 一 ) 直线回归方程的假设检验方差分析的基本思想 : 把总的离均差平方和 ( 即总变异 ) 分解为至少两个部分, 其自由度也分解为相应几个部分, 其中至少有一部分表示 ( 处理 ) 因素的效应, 有一部分表示抽样误差的影响, 然后比较两者的均方, 计算 F 值, 若 F 值远大于 1, 可认为各组均数间差别有统计学意义, 处理有效应, 若 F 值接近甚至小于 1, 表示差别无统计学意义, 处理组间效应相同 ( 差异仅仅由抽样原因所致 ) 27

28 应变量 Y 的离均差平方和的分解 y y YY Q( x,y ) yy y -y y a bx y x 28

29 应变量 Y 的离均差平方和的分解 y y ( y y)( y y) ( y y) (y ˆ y)( y y) ˆ ] ( y y) ( yˆ y) ( y y ) SS 总 = SS 回 + SS 剩 29

30 SS 总 = SS 回 + SS 剩总 = n 1 回 = 1 剩 = n - 2 SS 总 =l YY SS 回 =bl XY =l XY 2/l XX SS 剩 = SS 总 - SS 回 = l YY - l XY 2/l XY SS / MS F SS / MS 回回回剩剩剩 30

31 ( 二 ) 回归系数的假设检验图 6-5 总体回归系数与样本回归系数示意图

32 ( 二 ) 回归系数的假设检验 t 检验法 t b b0 S b s b s y. x y. x 2 X X l ( ) s xx s y. x ( Y ) 2 Y n2 = n - 2 其中 S y.x 表示去除 X 影响后 Y 的变异大小

33 ( 三 ) 总体回归系数的可信区间估计回归系数是总体回归系数的点估计, 由于存在抽样误差, 需要进行可信区间估计, 公式为 : ( b t S, b t 2, b / 2, S / b )

34 ( 四 ) 决定系数决定系数 (determining coefficient,r 2 ) 就是相关系数的平方 r 2, 是回归平方和在总的离均差平方和中所占的比例, 反映因变量的总变异中可用回归关系解释的部分 R SS 总 SS SS 2 回归总剩余 1 SS SS 总 0 R 2 1,R 2 值越接近于 1, 表示回归平方和在的总离均差平方和中所占的比重越大, 模型对数据的拟合程度越好, 表明利用回归方程进行预测也越有意义反之,R 2 值越接近于, 表示回归平方和在的总离均差平方和中所占的比重越小, 模型对数据的拟合程度越差所以,R 2 是评价回归效果的一个重要指标 SS SS 剩余总

35 五绘制回归直线可在坐标轴上任意取相距较远且易读的两 X 值, 根据所求直线回归方程算得对应值, 用直线连接两点应注意的是, 回归直线可适当延长, 但不应超过的实测值范围 ; 另外, 所绘回归直线必然通过 ( ), 据此可判断所绘图形是否正确 y x, y

36 六残差分析残差 (residual) 是因变量值与根据回归方程求出的预测值之差, 反映回归方程预测而引起的误差, 表达式为 : e i ŷ i y i yˆ i 残差分析 (residual analysis): 通过残差了解数据与回归方程之间的关系, 考察资料是否满足独立性正态性和等方差性, 检测有无异常值最常用的是标准化残差与标准化残差图以自变量为横轴, 标准化残差为纵坐标, 绘制标准化残差图通常以 (-2,2) 区间为界限来证实模型的假定条件是否得到满足, 判断有无异常值 y i

37 七线性回归方程的应用 1. 定量描述两变量之间的线性依存关系 2. 利用回归方程对因变量 y 进行估计 ( 常用区间估计求当 x 取定某值时 y 值的波动范围 ), 即进行预测 3. 利用回归方程进行统计控制

38 例名糖尿病人的胰岛素水平 (mu/l) 与血糖水平 (mmol/l) 的测定值列于表 6-1, 试进行直线相关分析表名糖尿病人胰岛素 (mu/l) 与血糖 (mmol/l) 测定值病历号胰岛素血糖病历号胰岛素血糖

39 直线回归分析 (1) 考察资料是否满足直线回归分析的条件 (2) 绘制散点图 (3) 求直线回归方程 (4) 回归方程的假设检验 (5) 回归系数的检验 (6) 模型的评价 (7) 绘制回归直线 (8) 残差分析 (9) 模型的应用

40 八进行线性回归分析的注意事项 1. 只有将有联系的变量进行回归分析才有实际意义 2. 以因或以易于测定较为稳定或变异小者为 x 3. 因变量是随机变量, 自变量既可以是随机变量, 也可以是给定的量 4. 回归方程建立后必须进行假设检验 5. 使用回归方程计算估计值时, 不可把估计的范围扩大到建立方程时的自变量的取值范围之外

41 区别 : 1. 资料要求不同 : 相关要求 x y 服从双变量正态分布, 回归要求 y 在给定某个 x 值时服从正态分布,x 是可以精确测量和严格控制的变量 2. 应用上 : 相关说明相关关系, 回归说明依存关系 ; 3. 意义上 :r 说明具有直线关系的两变量间相互关系的方向与密切程度 ;b 表示 x 每变化一个单位所导致的 y 的平均变化量 ; 4. 计算不同 : 九线性相关和回归的区别与联系 r x x y y x x y y 取值范围不同 : -1 r 1,- b ; 6. 单位 :r 没有单位,b 有单位 l l xy l xx yy x y l xy x x y y xy n b X X Y Y X X 2 l l XY XX

42 联系 : 1.r 与 b 正负号一致 :r 为正时,b 也为正, 表示两变量是正相关, 是同向变化 r 为负时,b 也为负, 表示两变量是负相关, 是反向变化 2.r 与 b 的假设检验等价 : 对同一组资料若同时进行 r 与 b 的假设检验, 可得到相同的 t 值, 即 t r =t b ; 可用 r 的假设检验代替 b 的假设检验 3.Ⅱ 型回归九线性相关和回归的区别与联系 r b l l X X Y Y 4. 可用回归解释相关 * 决定系数 : 即相关系数的平方 r 2, 是回归平方和与总的离均差平方和之比, 反映应变量 y 的总变异中可用回归关系解释的部分越接近于 1 2, 表明利用回归方程进行预测越有意义 2 ss l 回 xy r ss l l 总 xx yy

43 SPSS 的应用 : 相关分析 : analyze correlate bivariate correlations variables: x ok y 43

44 SPSS 的应用 : 回归分析 : analyze regression linear regression dependent: y ok Independent: x 44

45 目的要求 1. 掌握直线相关的概念 ; 相关系数的意义计算 ; 相关系数的假设检验 2. 掌握直线回归的概念 ; 回归系数的意义计算 ; 回归系数的假设检验 3. 掌握直线回归方程的应用 4. 掌握直线相关与直线回归的区别与联系 5. 掌握应用直线相关与回归的注意事项 6. 掌握等级相关的适用范围及等级相关系数的计算 7. 掌握 Correlate 菜单中 Bivariate 过程 Partial 过程的分析命令分析过程以及分析结果的解释

<4D F736F F F696E74202D20CAB5CFB0C1F920CAFDD6B5B1E4C1BFD7CAC1CFB5C4CDB3BCC6CDC6B6CF E707074>

<4D F736F F F696E74202D20CAB5CFB0C1F920CAFDD6B5B1E4C1BFD7CAC1CFB5C4CDB3BCC6CDC6B6CF E707074> 卫生统计学实习何平平北京大学公共卫生学院流行病与卫生统计学系 Tel: 82801619 实习六数值变量资料的统计推断 ( 三 ) 第 237~249 页一直线回归 (linear regression) ( 一 ) 定义 : 用直线方程表达 X( 自变量,independent variable) 和 Y ( 应变量,dependent variable) 之间的数量关系 Yˆ = a+