第九章回归分析与方差分析回归分析和方差分析是数理统计中的两个常用方法. 回归分析是处理多个变量之间相关关系的一种统计方法, 其用意是研究一个被解释变量 ( 又称因变量 ) 与一个或多个解释变量 ( 又称自变量 ) 之间的统计关系. 而方差分析是通过试验数据的离差来分析各个因素对试验结果有无影响的有

Size: px

Start display at page:

Download "第九章回归分析与方差分析回归分析和方差分析是数理统计中的两个常用方法. 回归分析是处理多个变量之间相关关系的一种统计方法, 其用意是研究一个被解释变量 ( 又称因变量 ) 与一个或多个解释变量 ( 又称自变量 ) 之间的统计关系. 而方差分析是通过试验数据的离差来分析各个因素对试验结果有无影响的有"

滚捷
5 years ago
Views:

1 第九章回归分析与方差分析回归分析和方差分析是数理统计中的两个常用方法回归分析是处理多个变量之间相关关系的一种统计方法, 其用意是研究一个被解释变量 ( 又称因变量 ) 与一个或多个解释变量 ( 又称自变量 ) 之间的统计关系而方差分析是通过试验数据的离差来分析各个因素对试验结果有无影响的有效方法第一节回归分析在许多实际问题中, 我们常常需要研究多个变量之间的相互关系一般说来, 变量之间的关系可分为两类 : 一类是确定性关系, 如圆面积 S 与圆半径 r 的关系 : S r 另一类是不确定性关系, 例如, 人的身高与体重之间有一定的关系, 知道一个人的身高可以大致估计出他的体重, 但算不出体重的精确值其原因在于人有较大的个体差异, 因此身高与体重的关系, 是既密切又不能完全确定的关系又如, 人的年龄与血压的关系, 温度降雨量施肥量与农作物产量间的关系, 家庭收入与支出的关系等等变量之间的这种不确定性关系在自然现象中普遍存在, 其原因主要是由于测量上的误差和其它一些随机因素的干扰我们称这种既互相联系但又不能完全确定的关系为相关关系研究一个随机变量与一些可控变量 ( 自变量 ) 之间的相关关系的统计方法称为回归分析只有一个自变量的回归分析叫做一元回归分析, 多于一个自变量的回归分析叫做多元回归分析记为人的身高 ( 单位 :cm), y 为人的体重 ( 单位 :kg), 一个流行的公式是 y 5 (9) 如果某人的身高为 75cm, 则其体重恰为 7kg 是最标准的 ( 不胖不瘦 ), 但在此值左右的某个范围内也可视为正常像 (9) 这种联系两个变量, y 的关系式, 称为回归方程回归方程不是变量之间关系的严格刻画, 而只是一种平均性质的概括, 或者说, 它用一个简练的形式总括了变量之间的复杂关系的大趋势回归分析主要包括三方面内容 : () 建立有相关关系的变量之间的回归方程 ( 通常称为经验公式 ); () 判别所建立的经验公式是否有效, 并从影响随机变量的诸变量中判别哪些变量的影响是显著的 ; (3) 利用所得的经验公式进行预测和控制一一元线性回归分析的概念设是一个可控变量 ( 也叫自变量 ), y 是与有相关关系的随机变量 ( 为简单起见, 随机变量和它的取值均用 y 表示 ), 且 y 的数学期望存在每当取定一个值时, 都对 y 产生影响, 由于数学期望表示一个随机变量的平均取值, 故主要考虑 y 的数学期望这个数学期望是的函数, 记为 (), 此函数关系是确定性的但未知, 称之为 y 关于的回归函数这个函数只能通过试验或抽样在样本中表现出来, 回归分析主要是研究怎样根据样本来估计这个函数一元回归模型可表示为

2 y () 其中是除以外, 影响 y 的其它随机因素的总和由于把看成是随机误差, 因此通常认为 ~ N (, ), 为研究方便, 还假定与无关记 ~ y E( y), 则称 ~ y ( ) 为 y 关于的回归方程, 其图形称为回归曲线当 E( y) a b 时, 就是我们要讲的一元线性回归模型, 即 y a b ; ~ N(, ) (9) 其中 a b 是与无关的待估常数称 ~ y a b 为一元线性回归方程, 称 a b 为回归系数建立在一元线性回归模型基础上的统计分析就称为一元线性回归分析 [ 说明 ] () 在实际问题中, 可能是一随机变量, 但由于我们假定其可控制, 且所进行的讨论都是在给定的观察值的条件下展开的, 因此, 我们总视为非随机变量 () 在下, y 的观察结果 y 是一随机变量, 数据 (, y ) 指的是在下, y 的一次观察结果 (3) 回归一词由英国统计学家高尔顿 (FGalto,8 9) 在 889 年发表的关于遗传的论文中首先应用, 他在研究后代与前辈身高之间的关系时, 发现儿子的身高介于父亲身高与种族 ( 父辈 ) 平均身高之间, 有回归于种族平均身高的趋势严格地讲, 回归这个称呼并不恰当但这个称呼在统计学中已成了习惯, 一直就沿用下来二常数 a b 的最小二乘估计对于的一组不完全相同的值,,, 作独立观察, 得到随机变量 y 相应的观察值 y, y,, y, 构成对数据 (, y ) (,,, ), 在平面直角坐标系中作出这个点, 所得到的图象称为散点图如果散点图中的个点分布在一条直线附近 ( 如图 9-), 则直观上可以认为 y 与的关系符合一元线性回归模型 (9), 有 y a, b 这里,,, 相互独立且同分布于 (, ) N 图 9- a b 的点估计 aˆ bˆ 称为样本回归系数或经验回归系数, 而称为经验回归直线方程, 其图形相应地称为经验回归直线对于 yˆ aˆ b ˆ (93), 可由 (93) 确定相应

3 的 yˆ aˆ bˆ (,,, ), 要使经验公式 (93) 近似表达 y, 当然希望 ŷ 与 y 的离差越小越好, 考虑 ( aˆ, bˆ) ( yˆ y ) ( aˆ b ˆ y ) (94) 应选择 â,bˆ 使得 (94) 式取最小值由于 ( aˆ, b ˆ ) 是个平方和, 所以使 ( aˆ, b ˆ ) 最小的方法称为平方和最小法, 习惯上称为最小二乘法根据微积分原理, 解二元一次方程组 : ( ˆ ˆ a b y ) ; aˆ (95) ( aˆ b ˆ y ) bˆ 引入记号, y y L ( ) ( ) ; L yy ( y y) y ( y ) ; L y ( )( y y) y ( )( y ) ; 则方程组 (95) 化为 aˆ bˆ y; a b y ˆ ˆ (96) 由于不全相同, 所以系数行列式不等于, 方程组 (96) 有唯一解, 解为 ˆ y y Ly b, L L aˆ y b ˆ L (97) 这样算出的 â 叫做样本回归截距,bˆ 叫做样本回归系数 3

4 [ 注 ] ~ y a b 与 yˆ aˆ bˆ 是不同的, 前者是理论回归直线, 后者是经验回归直线, ŷ 是理论值 y ~ 的估计值例在服装标准的制作过程中, 需调查获取一系列数据表 9- 给出的是一组女青年的身高与裤长 y 的数据 ( 单位 :cm) 表 y y 试求裤长 y 对身高的回归方程解根据 3 个样本数据点作出散点图 ( 如图 9-), 数据分布成直线趋势图 9- 计算数据, 得 , 59 9, , 3 3 y 368, y 67, y 34, 3 y 494, L , 3 L y 从而 558 b ˆ 66, a ˆ 所以, 裤长 y 对身高的线性回归方程为 4

5 yˆ 显然, 随着观察值, y ) 的不同, 求得的回归方程一般也是不同的而且对平面上一些 ( 杂乱无章的点, 也可用最小二乘法配出一条直线来, 但这是毫无意义的因此, 有必要对回归效果作出检验三线性回归的显著性检验下面我们先导出具有统计意义的分解公式平方和分解公式 yˆ 定理 9 设对任意对数据, y ) (,,, ), 作出的回归方程为 yˆ aˆ bˆ, 记 ( aˆ bˆ (,,, ), 则恒有 ( y y) ( y yˆ ) ( yˆ y) (98) 证明下面约定 : 求和均为从到求和 ( 即 ) ( y y) [( y yˆ ) ( yˆ y)] ( y ˆ y ) ( y ˆ )( ˆ y y y) ( yˆ y) 而 ( y ˆ )( ˆ y y y) ( y ˆ ˆ )( ˆ ˆ a b a b y) [( y y) bˆ( )][ bˆ( )] ( 注意到 aˆ y bˆ ) b ˆ( L y bˆ L ) 这就证明了 (98) 式 [ 说明 ] () L ( y y) yy 是 y, y,, y 这个数据的离差平方和, 它的大小描述了这个数据的分散程度, 又记作 () 同样, ( yˆ y) 表示的是全部 ŷ 的分散程度 ( 可以证明 y ˆ y ), 而 ŷ 是通过回归直线由决定的, 所以这部分反映的是可由与 y 的线性关系所决定的那部分差异, 称为回归平方和, 记为从上面的证明过程中, 我们可得到 b bˆ [ ˆ( )] L (99) 5

6 (3) 至于 y yˆ ) (, 在前面讲最小二乘法时就见过它表示除去对 y 的线性影响外的其它所有影响所导致的差异, 包括随机误差及可能的对 y 的非线性影响, 称为残差平方和或剩余平方和, 记作这样 (98) 式可写为现在我们来回答, y 之间是否存在线性相关关系的问题一个很自然的想法是把跟进行比较选取统计量 F /( ) 如果 F 值相当大, 则表明对 y 的线性影响较大, 就可以认为与 y 之间有线性相关关系 ; 反之, 若 F 的值较小, 则没有理由认为与 y 之间有线性相关关系一些重要统计量及其分布定理 9 在满足模型 (9) 及 (97) 式的条件下, 有 () bˆ ~ N b,, a ˆ ~ N a, L ; L () ~ ( ) ; (3) 当 b 时, ~ () (4) 与相互独立证明略 3 整体回归效果的 F 检验 ; 显然, 若与 y 之间有线性相关关系, 则 b 不应为零 ; 若 b 或与相差不显著, 则对 y 几乎没有影响, 从而两者之间不会有线性关系为此提出检验假设在 H 为真时, 由定理 9 可推得 H b, H : b : F /( ) ~ F(, ) 于是, 在显著性水平下, 当 F (, ) F 时, 拒绝 H, 表示回归效果是好的, F 值 6

7 越大越好 ; 否则, 只好接受 H, 即没有理由认为与 y 之间存在线性相关关系 4 回归系数的 t 检验由定理 9 的 () 可得 E, 这表明统计量根据定理 9 的 () 可推得取检验统计量 bˆ b ˆ / L ~ t( ) bˆ L ˆ ˆ 是的无偏估计再 H 为真时, ~ t( ), 于是当 t ( ) 时, 就拒绝 H 在由 F 知,t 检验本质上与 F 检验是相同的另外, 还有常用的相关系数检验 5 相关系数检验称 L L y L yy 为样本相关系数类似于随机变量间的相关系数, 的值反映了自变量与因变量 y 之间的线性相关关系由 (99) 式, 得所以 bˆ L Ly Ly L Lyy L L, 且由上式可知, 是回归平方和在总离差中所占的比重, 越接近于, 线性相关程度就越强, 越接近于, 线性相关程度就越弱给定显著性水平, 可在相关系数检验表 ( 见附表 7) 中查得临界值, 若 ( ), 则拒绝 H 例检验例中的回归方程是否显著 ( ) 解法一 F 检验由前面计算得 L yy , 3 bˆ L bˆ L , y 7

8 48, ( ) F 对于, 查表得 F (, 8) 7 64 因 , 故拒绝 H, 认为裤长与身高的线性关系高度显著, 回归方程有效解法二 t 检验计算得 48 ˆ 97, 8 bˆ 66 t L = ˆ 97 对于, 查表得 t 7633 因 , 故与 F 检验的结果一致 5 (8) 解法三相关系数检验 Ly L L yy 对于, 查表得 (8) 463 因 , 故与前面检验结果一致 [ 说明 ] () 相关系数检验有优势计算量少且与 y 是对称的 () 对于假设 H, 相关系数检验与 F 检验是等效的这是因为 F ( ) ( ) ( ) 四预测与控制回归在实际问题中应用很广其应用主要在两个方面 : 一是预测, 例如, 利用得到的回归方程, 可由身高预测裤长二是控制, 在不少问题中, 我们希望目标变量 y 控制在某个指定的水平上, 而是可调节的设与 y 有显著的线性相关关系, 当时, y 的取值为 y, 有 y a b, ~ N(, ) 取经验回归值 yˆ aˆ bˆ 作为 y 的预测值可以证明 8

9 ˆ y yˆ ( ) L ~ t( ) 所以, 给定水平, y 的置信度为的置信区间为其中 yˆ ( ), yˆ ( )] (9) [ ( ) ( ) t ( ) ˆ L 例 3 本例是例例的继续, 来讨论裤长的预测问题某女青年的身高为 75cm, 试求她裤长的预测区间 ( 5 ) 解 y aˆ bˆ , 查表得 t 484, 由 ˆ 5 (8) 得预测区间 (75 599) (75) , [ 48 5, 48 5] [966, 357] 控制问题实际上是预测问题的反问题具体来讲, 就是要求 y 在指定的范围 y, ) 内, 那么应将控制在什么范围即要寻找两个数, 使得 aˆ b ˆ ( ) y, a b ( ) ( y ˆ ˆ y (9) 如果范围 ( y, y ) 给得合适, 也就是控制目标合理的话, 那么, 原则上可以直接从 (9) 中解出注意当 b ˆ 时, 控制区间为, ) ; 当 b ˆ 时, 控制区间为, ) 查阅有关文献 ( ( 请思考题什么是最小二乘法? 最小二乘法在回归分析中起什么作用? 对于经验回归方程, 讨论它的显著性有什么意义? 是否可以不讨论? 习题 9- 炼铝厂测得所产铸模用的铝的硬度与抗张强度 y 数据如下 : y () 求 y 对的回归直线 ; () 检验所得回归直线的显著性 ;( 5 ) 9

10 (3) 试预报当铝的硬度 65 时的抗张强度 y 今随机抽测某地区组母亲女儿的身高 ( 单位 :cm) 如下表所示母亲身高女儿身高 y 试求女儿身高对母亲身高的线性回归方程, 并在作出显著性检验后, 预测当母亲身高为 63cm 时未来女儿的身高 ( 5 ) 第二节方差分析在生产实践和科学试验中, 影响一个事物的因素往往很多, 而比较各因素对事物产生影响的大小, 便是人们经常遇到的问题例如, 农作物的产量受到品种施肥量气温降水量等因素的影响为了增加产量, 就要在这些众多的因素中找出影响最显著的因素, 并指出它们各在什么状态下对增加产量最为有利, 从而挑选最优的因素水平我们把考察的指标称为试验指标 ( 如农作物的产量 ), 影响试验指标的条件称为因素 ( 如品种施肥量气温等 ), 因素所处的状态称为水平一单因素试验若某项试验中, 只有一个因素在改变, 而其余因素保持不变, 则称此试验称为单因素试验如水稻产量问题若只考虑肥料对产量的影响, 而不考虑其它因素, 这就是单因素试验 ( 试验方法是在相同情况的田里分块种植, 施用不同的肥料 ), 施用的不同肥料称为肥料这一因素的各种水平, 各种肥料下的亩产量值称为各水平的试验值可认为每种肥料下的亩产量就是一个总体, 每一个总体下的样本就是各水平的试验值若试验中变化的因素多于一个, 则称为多因素试验如水稻亩产量, 受肥料 ( 不同肥料 ) 土壤 ( 不同性质如酸性碱性中性 ) 等的影响我们先来看一个例子例设有四台同样规格的机器, 用来生产厚度为 5mm 的铝板, 今要了解各台机器产品的平均厚度是否相同, 取样测得结果如下表 ( 表 9-) 表 9- I II III IV 在这里, 因素是机器, 每台机器表示一个水平或一个总体, 共有 4 个水平, 并且假定除机器外, 材料规格操作人员技术水平等其它因素都是相同并且不变的显然, 由样本观察值可以看到机器较之另外三台机器生产的铝板要薄些但这种差异是由随机误差产生的, 还是由于机器之间的差异产生的? 这就是我们需要考虑的问题一般地, 设因素有 m 个水平,,, m, 分别做了,,, m 次试验, 其试验数

11 据如表 9-3 所示表 9-3 水平试验数据 m m m mm 每个水平为一个总体, 对应于一个随机变量 X, 设总体 X ~ N(, ) (,,, m), 注意这个式子相当于假设了这 m 个总体的方差都相同, 但均值可能不同研究因素水平的变化对指标有无显著影响, 就是要看之间是否有显著差异, 即检验假设 : H : m, H :,,, m 不全相等显然, 当因素只有两个水平时, 对应的问题就是两个正态总体的均值检验问题, 利用 t 检验就可解决问题但因素多于两个水平时, 使用 t 检验只能进行两两检验, 这样就会使结论的可靠性降低方差分析是解决此类问题的最佳方法二方差分析的基本原理与回归分析中整体回归效果的 F 检验一样, 方差分析也是从平方和分解着手, 导出检验方案的两种平均及其计算公式记各水平的数据之和 : 各水平的数据平均 ( 组平均 ): 所有数据之和 : j m j,,,, m,,,, m 数据总平均 : m m j j

12 三个离差平方和及其计算公式总离差平方和 : m ( ) j j m m j j j j (9) 表示所有数据与数据总平均的偏差的平方和, 反映了试验数据的整体差异 (9) 式中的第一个等式为定义, 最后一个等式为简便的计算公式, 下面的 (9) (93) 两式与此相同组间离差平方和 : m ( ) m m (9) 表示各水平的平均值与数据总平均的偏差的平方和, 反映了各水平之间的差异程度, 也称因素的效应平方和组内离差平方和 : m ( ) j j m m m j j j j m m j j (93) 表示各水平数据与该水平的平均值的偏差平方和 ( 内部差异 ), 反映了试验中随机因素影响的大小, 也称误差平方和由 (9) (9) 及 (93) 最后的计算公式, 即得平方和分解公式即整体差异可分解为各水平之间的差异和误差引起的差异两部分, 从而若, 说明各水平之间差异对结果的影响较大, 则应拒绝 H ; 反之, 若, 说明各水平内部所产生的随机误差对结果的影响比不同水平的影响更大, 也说明相对较小, 即的估计值都与较接近, 所以可接受 H 但是, 大到什么程度, 影响最明显呢? 3 检验法首先, 我们不加证明地给出如下结论定理 93 设 X j ( j,,, ) 都服从正态分布 N(, ) (,,, m), 且 X j 相

13 互独立, 则与相互独立, 且 ~ ( m) (94) 当 H 为真时, 还有 ~ ( m ) (95) 这样, 我们可令 F /( m ) (96) /( m) H 为真时, 由定理 93 可推得 F ~ F( m, m), 从而 F 可作为检验统计量, 且在 H 当不成立时, F 的取值有偏大的趋势所以对于给定的显著性水平, 如果根据样本观测值算得的 F 的观测值满足 F F ( m, m), 则应拒绝 H, 即因素水平的变化会引起显著的效果 ; 否则只好接受 H, 即认为因素对试验指标的影响不显著通常将上面的结果列成表, 称为方差分析表 ( 表 9-4) 方差来源离差平方和自由度组间组内总和表 9-4 单因素方差分析表 m m 平均离差平方和 m m F 值 F F m, m 结论 : () 若 F F, 则因素对试验指标的影响高度显著 ; () 若 F 5 F F, 则因素对试验指标的影响显著 ; (3) 若 F F F 5, 则因素对试验指标的影响一般 ; (4) F F, 则因素对试验指标的影响不显著 ( 无影响 ) 例对例提出的问题进行解答 ( ) 解为简化计算, 我们将所有数据都乘以后再减去 5, 这样处理不影响最终的 F 值, 3

14 而离差平方和只需除以即可, 如果要算均值, 那么须加上 5 后再除以即可 ( 为什么?) 列表计算得到表 9-5 表 9-5 水平 I II III IV 试验数 -5 7 据 m 4, m j j m j j 由上表可得 , / 3 F / 针对原数据列出方差分析表, 得到表 9-6 方差来源离差平方和自由度组间 4 组内 3 总和表平均离差平方和 F 值 F (3,) 6 55 因为 , 所以拒绝 H, 即这四台机器生产的铝板厚度有高度显著的差异 [ 说明 ] () 利用表 9-5, 可以得到四台机器的的估计值 : , 54,

15 , 4 47 由此可见, 机器 Ⅰ 机器 Ⅲ 需要检修, 尤其是机器 Ⅲ () 方差分析具有广泛的用途, 例如医学界研究几种药物对某种疾病的疗效, 农业上研究土壤肥料日照时间等因素对某种农作物的影响, 不同饲料对牲蓄体重增长的效果等都可以用方差分析法去解决有时还需用多因素方差分析, 下面我们介绍多因素方差分析中的一种简单情形三双因素方差分析简介这里只介绍双因素方差分析中无交互作用的简单情形设试验中有 B 两个因素可改变, 其它因素不变因素有 a 个水平,,, a, 因素 b 个水平 B, B,, Bb, 对因素的各种水平配合 ( 共有 ab 种配合 ) 各做一次试验, 将试验数据列于表 9-7 表 9-7 因素因素 B B B B b 行和 b j j b b a a a ab a 列和 j a j 总和 b a b j j 影响? 现希望能由此表的数据判定 : 因素是否对指标有显著影响? 因素 B 是否对指标有显著设 j 为分别来自 ab 个总体 X j ~ N( j, ) 的容量为的样本, j j j,,,, a; j,,, b X 相互独立其中为常数, a, b j j 称为因素在水平的效应, 称为因素 B 在水平 j B 的效应检验假设为 j 及 H H :, H : 不全为, a :, H : 不全为 b j 5

16 双因素方差分析的原理完全与单因素的类似, 只了因素 B 的效应平方和, 各离差平方和的定义与计算也完全类似记 ab,,, b j j a 则 a b a b ( j ) j j j ; b a a ( ) b ; a b b B ( j ) j j a j ; B 当 H 为真时, /( a ) F ~ F( a,( a )( b )), /[( a )( b )] (97) 当 H 为真时, B /( b ) FB ~ F( b,( a )( b )) /[( a )( b )] (98) 在显著性水平下, 若 F F ( a,( a )( b )), 则拒绝 H, 认为因素对指标有显著影响, 否则没有显著影响 ; 若 FB F ( b,( a )( b )), 则拒绝 H, 认为因素 B 对指标有显著影响, 否则没有显著影响例 3 某厂对生产的高速钢铣刀进行等温淬火工艺试验, 以考察等温槽温度 ( 单位 : ) 淬火温度 ( 单位 : ) 这两个因素对洛氏硬度的影响为此安排了两因素不同水平组合条件下的 9 次试验, 试验测得平均硬度 (HC) 值如下表 ( 表 9-8) 所示表 9-8 淬火温度等温槽温度试考察两因素对洛氏硬度的影响, 列出方差分析表, 并写出检验报告 6

17 解 a 3, b 3, 9, 为计算简便, 将所有数据减去 65, 列出表 9-9 如下 : 由上表可得 3 3 j 表 9-9 行和列和 j 9, 从而 ; ( 3 ) 556 ; B (( 3) 3 5 ) 556 ; ; 列出方差分析表 ( 见表 9-): 556 / F ; 3/ / FB 743 3/ 4 表 9- 方差来源离差平方和自由度平均离差平方和 F 值结论因素 F 不显著因素 B FB 743 * 显著误差总和 6 8 对因素, 取, 查表得 F (,4) 43, F 43, 因此认为等温槽温度对洛氏硬度无显著影响 ; 对因素 B, 取 5, 查表得 F 5 (, 4) 694, F 694 B, 因此, 当 5 时, 认为淬火温度洛氏硬度有显著影响对有交互作用的方差分析感兴趣的读者可进一步阅读有关的书籍思考题方差分析是用来检验不同数据组的均值之间差异的, 还是方差之间差异的? 方差分析与 t 检验有什么联系和区别? 3 方差分析与 F 检验有何关系? 7

18 习题 9- 三台机床 B C 制造同一种产品, 对每台机床各统计了 5 天的日产量如下 : 机床 5 天的日产量 B C 试用方差分析法判断三台机床的日产量有无显著差异 ( 5 ) 考察四种不同催化剂对某一化工产品的得率的影响, 在四种不同催化剂下分别做试验获得如下数据 : 催化剂得率设在各种催化剂下得率服从同方差的正态分布试检验在四种不同催化剂下平均得率有无显著差异?( 5 ) 3 某化工过程分别在三种浓度四种温度水平下做试验, 所得成品产率如下表 : 浓度 (%) 温度 ( ) 假定在诸水平搭配下产率的总体服从正态分布且方差相等试在水平 5 下检验 : 在不同浓度下产率有无显著差异 ; 在不同温度下产率有无显著差异 4 三种教学法分别在五所学校进行试验, 其结果如下 : 教学法学校甲乙丙丁戊方法方法方法假设在不同教学法及不同学校下试验结果的总体服从正态分布且方差相等试在 5 下, 确定教学法之间是否存在显著差异? 学校之间是否存在显著差异? 8

19 概要与补充例题一内容概要本章介绍了回归分析与方差分析这两种最重要的数据分析方法, 它们不仅在理论上有重要的价值, 而且在实践中也有广泛的应用回归分析是研究变量之间相关关系的一个强有力工具, 我们只讨论了最简单的一元线性回归模型回归系数的估计我们采用最小二乘法, 这是一个广泛适用的估计方法不仅在线性回归模型中, 在其它统计模型中也经常使用在掌握一元回归模型原理的基础上, 学习多元回归模型的处理方法就容易得多生产实践中, 可利用统计软件实现大型回归计算只有经过检验而达到显著性要求的回归方程才算是有效的, 才能据此用于预测控制等多方面应用方差分析, 事实上并不研究方差, 而是研究多个总体的均值是否有显著性差异它是两个正态总体均值检验的继续和深入, 所用方法不尽相同两总体下是直接从均值出发, 用 U 检验或 t 检验, 多总体下则是从离差平方和分解入手并引入 F 统计量来完成的平方和分解式本身充分体现了方差分析的基本思想, 平方和分解是数理统计的一种常用手段例如, 回归分析的相关性检验中也用到了平方和分解我们只考虑了单因素方差分析这一简单情形, 沿用其思想, 可以类似地去处理许多更复杂的问题二基本要求了解线性回归分析的概念, 会建立一元线性回归方程了解方差分析的概念及单因素方差分析的方法三补充例题例某医院用光电比色计检验尿汞时, 得尿汞含量 ( 毫克 / 升 ) 与消光系数如下 : 尿汞含量消光系数 y 由经验知道 y a b, 试求经验回归方程, 并检验回归系数 b 的显著性解为计算简便, 将的数据减去 6, y 的数据减去 5, 列计算表如下 : 序号 y y y 由上表计算得 : 9

L 4, 7 Lyy 54795 54649, 5 L 478 478 y ˆ Ly 478 b 3695, L 4 ˆ 7 aˆ y b 5 36956 3 5 注意, 计算, y 时应将减去的常数补回去故所求经验回归方程为 : 下面用相关系数检验 : yˆ 3 3695 Ly 478 99966 L L 454649 对于, 5, 查表得 (3) 994 因为 (3) 显著 yy 例

20 L 4, 7 Lyy , 5 L y ˆ Ly 478 b 3695, L 4 ˆ 7 aˆ y b 注意, 计算, y 时应将减去的常数补回去故所求经验回归方程为 : 下面用相关系数检验 : yˆ Ly L L 对于, 5, 查表得 (3) 994 因为 (3) 显著 yy 例北京市协议离婚的对数 ( 见北京青年报 99 年 6 月 8 日 ) 如下 : 年份离婚对数问离婚对数是呈线性增长趋势吗? 求相应的回归方程, 并预测 99 年的离婚对数解作出散点图, 所以回归效果极其表如下 : 散点图显示离婚对数是呈线性增长趋势的将年份减去 988, 离婚对数减去 45, 列计算

21 序号 y y y L 9 75, 6 从而 8 Lyy , 6 L y ˆ Ly 43 b 8357, L 75 ˆ 8 3 aˆ y b 故所求线性回归方程 : yˆ 用 F 检验, 计算得 : bˆ L , y L , yy ( ) F 查表得 F 5 (,4) 3 33 因而回归方程极其显著当 99 时, 代入回归方程, 得 ˆ 即 99 年离婚对数大约为 738 y 下面举一个例子, 说明可线性化的非线性回归问题例 3 炼钢厂的钢包, 由于钢水对耐水材料的侵蚀, 使钢包容积不断增大试验表明, 钢包的使用次数与相应的容积增大量 y 的数据下表所示

3 4 5 6 7 8 9 y 64 8 958 85 97 993 999 3 4 5 6 y 49 59 6 8 6 9 76 试求容积增大量的回归方程解作出散点图数据点不呈直线趋势, 可选择 y a b 来描绘令 t, 方程变为 y a bt, 这是一个线性方程先将原数据变为 t 得 t 5 333 5 67 43 5 t 9 83 77 7 67 63

22 y y 试求容积增大量的回归方程解作出散点图数据点不呈直线趋势, 可选择 y a b 来描绘令 t, 方程变为 y a bt, 这是一个线性方程先将原数据变为 t 得 t t 利用最小二乘法求得回归方程为即有 yˆ 36 98t 98 yˆ 36 同样可算得 9833, 54, 从而 F 7448, 所以回归效果高度显著常见的可线性化的非线性回归还有下表所示非线性类型所作变换对应的线性模型双曲线型 b a y z y, t z a bt 幂函数曲线型指数曲线型对数曲线型 y y b a z l b a z l y, t l, l a z bt y, l a z b y a bl t l y a bt 还有一些类型也可作类似处理

23 例 4 小白鼠在接种 3 种不同菌型的伤寒杆菌后存活的天数如下 : 菌型存活天数甲乙丙设存活天数服从有相同方差的正态分布, 试问小白鼠在接种了不同菌型的伤寒杆菌后存活的天数是否有显著性差异?( 5) 解伤寒杆菌为因素,3 种不同的菌型为因素的 3 个水平, 接种后的存活天数视为来自 3 个正态总体 N(, ),,,3 待检假设为 H : 3, :, 不全相等 H, 3 4, j j 9 65, j j 8, 3 3 j j 3 85, 3 j 349, j 列出方差分析表如下 : 3 743, 方差来源离差平方和自由度平均离差平方和 F 值组间组内总和 87 9 F 5 (, 7) 335 所以拒绝 H, 即认为小白鼠在接种了不同菌型的伤寒杆菌后存活的天数有显著性差异例 5 某公司生产的某一新产品采用甲乙丙三种不同的包装, 分别在四个商店进行试销调查一周, 获得日销售额 ( 十元 ) 的数据如下 : 包装商店 B C D 甲乙丙问三种不同的包装及四个商店对产品的日销售额有无显著影响 ( ) 解将所有数据减去 6, 列计算表如下 : B C D 行和甲乙丙列和

24 由上表可得 3 4 j j 856, 从而 , (45 4 ( 3) ) 5795 ; 3 列出方差分析表如下 : 36 B (( 6) 9 ) 6 ; 方差来源离差平方和自由度平均离差平方和 F 值结论包装 F 49 * 显著商店 FB 593 不显著误差总和 748, 查表得, F (,6) 9, F (3,6) 978 因为 F 9, FB 978 个商店对产品的日销售额则没有什么显著影响, 所以三种不同的包装对产品的日销售额有显著影响, 而四总习题九填空题 : () 概率统计成绩与线性代数成绩的关系属于关系 ; 树的高度与树龄的关系属于关系 ; 正方形面积与边长的关系属于关系 () 在一元线性回归分析中, 回归平方和的定义是 ; 残差平方和的定义是 (3) 一元线性回归的显著性检验的原假设是 (4) 如果单因素方差分析的结果是 : 各水平之间有显著差异, 那么任意两个水平之间 (5) 在单因素方差分析中, 设因素有 m 个水平, 而所有试验数据的个数为, 则检验统计量 F 的表达式为选择题 : () 在方差分析中, 下面的假设不需要的是 ( ) 各个总体的方差相等 ; B 各个总体的期望相等 ; C 各个总体服从正态分布 ; D 任意两本样本都相互独立 4

25 () 在方差分析中, 若将所有试验数据 X j 减去同一个常数 c, 则总离差平方和与检验统计量 F 的值的情况分别是 ( ) 减小, 不变 ; B 减小, 增大 ; C 不变, 不变 ; D 增大, 不变 (3) 某单因素方差分析中, 因素有三个水平, 各水平下分别进行了次重复试验, 则组内平方和的自由度为 ( ) ; B ; C 3; D (4) 设某班学生的高等数学成绩与概率统计的成绩之间的相关系数为, 则在一般情况下有 ( ) ; B ; C D (5) 设一元回归方程为 yˆ aˆ bˆ, 样本相关系数为, 则可能出现的结论是 ( ), b ˆ ; B, b ˆ ; C, b ˆ ; D 与 bˆ 的符号无关 3 某工业部门为了分析该部门的产量 ( 单位 : 千件 ) 与生产费用 y ( 单位 : 千元 ) 之间的关系, 随机抽取了个企业作样本, 得到数据如下 : 产量生产费用 y 试建立生产费用与产量之间的回归方程式 4 随机抽取个城市居民家庭收入与食品支出的样本, 数据如下表 : 家庭收入每月食品支出 y 试求食品支出与家庭收入之间的线性回归方程, 并检验回归方程的显著性 5 某研究者怀疑售车员的业绩与售车人的销售经验有关随机抽取的个推销商的数据如下表 : 年轿车销量 y 售车经验年数 () 建立直线回归方程 ; () 在销售量的变化中有多大比例可以用解释变量来解释? (3) 预测一个有年销售经验的推销人的轿车销售量 6 某家公司生产三种不同型号的电视显像管, 下表是所抽样本的寿命 ( 单位 : 小时 ) 试分别在显著性水平 () 5, () 下检验三种不同型号之间是否存在差异? 型号型号型号某公司生产的某一新产品采用甲乙丙丁四种不同类型的包装, 并设计了 B C 三种不同的销售方案调查一段时间后, 获得销售业绩的数据如下 : 销售方案包装类型甲乙丙丁 B 6 C

26 问包装类型及销售方案对产品的销售业绩有无显著影响 ( ) 8 某邮局发行的报刊的年累计份数如下 : 试分别用 () 线性函数 y a b b () 双曲型曲线 y a b (3) 指数型曲线 y a 预测 986 年报刊发行的年累计份数年份年累计份数

<4D F736F F F696E74202D20B5DA3133BDB220B7BDB2EEB7D6CEF62DB5A5D2F2CBD8205BBCE6C8DDC4A3CABD5D205BD0DEB8B4B5C45D>

<4D F736F F F696E74202D20B5DA3133BDB220B7BDB2EEB7D6CEF62DB5A5D2F2CBD8205BBCE6C8DDC4A3CABD5D205BD0DEB8B4B5C45D> 方差分析 ---- 单因素方差分析 . 起源 ANOVA 由英国统计学家 R.A.Fiher 首创, 为纪念 Fiher, 以 F 命名, 故方差分析又称 F 检验 (F tet . 什么是方差分析 (ANOVA. 引例 * 研究问题 : 各肥料品种是否有差异 * 问题转化 : 各肥料品种是否有差异体现为各肥料品种对小麦亩产量的影响否有显著差异记为肥料 A 下的小麦亩产量, 为平均亩产量 ; 为肥料