Microsoft PowerPoint - ch08.ppt

Size: px

Start display at page:

Download "Microsoft PowerPoint - ch08.ppt"

魁琴怀
7 years ago
Views:

1 基本概念 -- 虛無假設統計上對參數的假設 (hypothesis) 為對一個或多個參數的論述 (statement) 其中欲檢驗其正確性者稱為虛無假設 (null hypothesis) 例如: 我們想知道均數 µo 是否為 70 分則虛無假設可以設為 H0: µo = 70 若我們想驗證標準差 σo 是否為 10 則虛無假設為 H0: σo 10 以上例子中只包含一個特定假設值的假設稱之為簡單假設 (simple hypothesis) 4-1

2 基本概念 -- 對立假設相對於虛無假設的其他有關參數之論述是對立假設立假設 (alternative hypothesis) 它通常反應了執行檢定的研究者對參數可能數值的另一種 (對立的) 看法例如: 欲知道均數 µo 是否為 70 分則對立假設可以設為 H1: µo 70; 欲驗證標準差 σo 是否大於 10 則對立假設為 H1: σo > 10. 上面兩例中之假設包含一個以上的假設值稱為複合假設 (composite hypothesis) 4-2

3 基本概念 -- 檢定檢定以適當的檢定統計量 (test statistic) 並根據特定的標準來判斷虛無假設的真偽一旦判定虛無假設為偽則拒絕拒絕 (reject) 虛無假設若判虛無假設定虛無假設為真 (或者並無證據顯示虛無假設為偽) 則接受 (accept) 虛無假設 (或者說不拒絕虛無假設) 例如: 樣本平均數為 80 若要檢定母體均數是否為 70 經過計算後可能會判定 80 和 70 差很多而拒絕母體均數為 70 的虛無假設 4-3

4 基本概念 -- 檢定統計量確定檢定的虛無假設後就要選擇適當的檢定統計量檢定統計量檢定統計量例如要檢定常態母體的平均數是否等於某一特定參數(常數) 如 H0 : µo = 70 H1 : µo 70 則可以選定下式作為檢定統計量 T ( X 1, X 2,L, X n ) = n ( X n 70 ) σ0. 當此檢定統計量的值太大或太小時就拒絕虛無假設此處大或小的區分取決於 T 的分配太大或太小是從機率分配的角度上來看較不可能出現的數值 4-4

5 基本概念 -- 虛無分配與臨界值有了檢定統計量後在虛無假設正確下可以求出此統計量的虛無分配 (null distribution) 承上例 T(X1,,Xn;70) 為檢定統計量可算出其虛無分配為 N (0,1) 接著選擇一個小的機率 α 作為顯著水準 (significance level) (通常為或 0.1) 顯著水準表示檢定者主觀認定統計量出現極端數值的機率決定虛無分配與顯著水準之後就可以依照類似求信賴區間的做法決定拒絕虛無假設的臨界值臨界值臨界值 4-5

6 基本概念 -- 檢定根據上例 (-,-1.96) (1.96, ) 稱作顯著水準 5% 下的拒絕域 (rejection region) [-1.96,1.96] 稱為顯著水準 5% 下的接受域接受域 (acceptance region) 當統計量之實現值 T(a1,,an; 70) 位於拒絕域則拒絕虛無假設反之接受虛無假設統計檢定之關鍵檢定統計量主要是由參數估計式與假設值的比較所構成檢定統計量的虛無分配必須為已知必須在選擇顯著水準後才能依據虛無分配決定臨界值從而做出統計推論 4-6

7 基本概念 -- 雙邊檢定實例例 {X1,X2,Xn} 為 i.i.d. 的 N(μ0, σ02) 隨機變數檢定 H0:σ0=10, H1: σ0 10. 對立假設包含之參數值均位於虛無假設參數值之兩側稱為雙邊檢定檢定統計量 (n 1)Sn2/100 虛無分配 χ2(n 1) 顯著水準 ( α = 0.05) 拒絕域 [0,8.906) (32.852, ) 當樣本的變異數落在拒絕域時拒絕虛無假設判定母體的標準差不等於

8 基本概念 -- 單邊檢定實例例 {X1,X2,Xn} 為 i.i.d. 的 N (μ0, σ02) 隨機變數檢定 H0:μ0=70, H1: μ0>70. (α=0.05) 對立假設包含之參數值均位於虛無假設參數值之一側稱為單邊檢定檢定統計量 0.5 (X n 70) 虛無分配 N (0,1) σ0 拒絕域 (1.645, ) 當樣本的平均數落在拒絕域時拒絕虛無假設判定母體的均數不等於

9 雙邊檢定與單邊檢定示意圖以虛無假設為 N (0,1), α=0.05 為例雙邊檢定單邊檢定接受域拒絕域接受域 4-9

10 實際檢定根據檢定統計量的虛無分配可將檢定方法分為兩種實際檢定 (exact test) 若統計量的虛無分配為實際分配大樣本檢定 (large sample test) 若統計量的虛無分配為極限分配區分兩者的關鍵不在於統計量而在於虛無分配的性質 4-10

11 常見的實際檢定 {X1,,Xn} 為一組 i.i.d N (μ0, σ02)的隨機變數檢定常態母體的均數是否等於 b 依母體變異數為已知或未知可分成以下兩種檢定方法當σ02 已知 Z = n 當σ0 2 未知 T n = n(x n σ 0 b) ~ N ( 0,1 ), n ( X n b) ~ t ( n 1 ). Sn 若要檢定常態母體的標準差是否等於 b 可以用檢定統計量 S n2 2 Vn = (n 1) b 2 ~ χ (n 1). 4-11

12 常見的實際檢定假設有兩組彼此獨立的 i.i.d. 隨機變數 {X1,,Xn} 與 {Y1,,Ym}, 其各自的分配為 N (µx,σ02) 與 N (µy,σ02) 若欲檢定 H0: µx = µy 則檢定統計量為 n,m = 當 σ02 已知 X n Ym ~ N (0,1) 1 1 σ0 + n m X n Ym 1 1 Sp + n m (n 1) S X2,n + (m 1)SY2,m 其中 S p = n+m 2 Dn,m = 當 σ02 未知 4-12

13 常見的實際檢定假設有兩組彼此獨立的 i.i.d. 隨機變數 {X1,,Xn} 與 {Y1,,Ym} 其各自的分配為 N (µx,σx2) 與 N (µy,σy2) 若欲檢定 H0: σx2 = σy2 則檢定統計量為 Rn,m = S X2,n S 2 Y,m ~ F (n 1, m 1) 2 若 S X,n 之值大於SY,m 之值則可以只考慮對立假設 σx2> σy2 其臨界值 c 1-α來自 F(n 1,m 1) 分配的右尾 S X2,n 2 若 S之值小於之值則採 F(n 1,m 1) 分配的左尾 Y,m 的臨界值 2 cα 4-13

14 大樣本檢定當隨機樣本有未知分配或隨機樣本的分配已知但並非常態分配時通常無法得知檢定統計量在虛無假設下的實際分配所以只能去推導其極限分配極限分配並以極限分配所得之極限分配臨界值作為實際分配臨界值的替代品大樣本檢定之優點不必受限於樣本的常態分配性質即使不知道隨機樣本的分配大樣本檢定的虛無分配在極限上仍會非常接近實際分配 4-14

15 大樣本檢定以前一節討論的 Zn 和 Tn 為例當隨機樣本不具常態分配時就不知道其實際分配但依據中央極限定理在虛無在虛無假設之下假設之下 Zn 和 Tn 皆漸近於標準常態分配 A (即即 A Z n ~ N (0,1), Tn ~ N (0,1) ) Zn 和 Tn是實際檢定或是大樣本檢定與樣本規模無關究竟要採用什麼檢定方式取決於對虛無分配的了解 4-15

16 大樣本檢定 -- 例 8.7 假設訪問 100 名學生中有 57 名表示反對請檢定贊成與反對是否人數相等由於母體非常態分配故要用大樣本檢定 57 ) = 0. 57, pn = 100 n ) 100 ) S n2 = p n (1 p n ) = ( )( ) n ( ) Tn = 根據中央極限定理 Tn的極限分配為 N (0,1) 在顯著水準為 5% 和 10% 下臨界值分別為 ±1.96 和 ±1.645 故均無法拒絕虛無假設 4-16

17 大樣本檢定 -- 例 8.7 假設訪問 1000 名學生中有 570 名表示反對請檢定贊成與反對是否人數相等由於母體非常態分配故要用大樣本檢定 570 ) = 0. 57, pn = 1000 n ) 1000 ) S n2 = p n (1 p n ) = ( )( ) n ( ) Tn = 根據標準常態分配的機率表不論顯著水準為 1% 5% 或 10% 我們均可拒絕虛無假設 4-17

18 大樣本檢定 -- 例 8.7 由例 8.7 兩種情況下均數估計值均為 0.57 但檢定結果卻正好相反此一差別關鍵在於樣本大小不能僅憑參數估計值的大小就去判斷參數的真實值 4-18

7 故樣本平均數的信賴區間為 71.7 ± 97.845 1.9971 71.7 ± 2.

19 檢定的其他判定方法信賴區間也可以利用信賴區間來作檢定其結果和用臨界值來判斷一樣例 H 例 0:μ0=70, H1: μ0 70. 虛無分配為 t (65) 樣本平均數為 71.7 故樣本平均數的信賴區間為 71.7 ± ± 2.43, (α = 5%) ± ± 2.03.(α = 10%) 66 虛無假設之值 70 落在信賴區間內故不拒絕 H0 4-19

20 檢定的其他判定方法 -- 尾端機率 p 值 (p value) 根據虛無分配算出的統計量之值 T (a1,,an; b)的尾端機率即較 T (a1,,an; b) 更為極端之值出現的機率虛無分配 P值一般的臨界值 T值若 p 值小於顯著水準則統計量之值 T 的絕對值會大於臨界值的絕對值即位於拒絕域因此拒絕虛無假設而 p 值若大於顯著水準則接受虛無假設 4-20

21 誤差機率與檢定力型 1 誤差 (type I error) 當檢定統計量在虛無假設為真時卻拒絕虛無假設型 2 誤差 (type II error) 當檢定統計量在虛無假設為偽時卻接受虛無假設當虛無假設 θ0=b 為真型 1 誤差的機率為 Pb (拒絕虛無假設) 即顯著水準 α 型 2 誤差的機率一般以 β 表示在特定對立假設 θ0 = q 之下型 2 誤差的機率為 β = Pq (接受虛無假設) 為參數值 q 的函數 4-21

22 誤差機率與檢定力下圖中紅色部分為型 1 誤差藍色部分為型 2 誤差虛無分配對立假設下的對立假設虛無分配 α/2 臨界值 β α/2 4-22

23 誤差機率與檢定力 α 與 β 存在著彼此消長的關係一種建構檢定統計量的最適 (optimal) 原則就是根據固定的 α 而設法使 β 極小化 4-23

24 誤差機率與檢定力令π代表拒絕統計量虛無假設的機率則π 常稱為檢定力檢定力函數 (power function) π (b) = Pb (拒絕 H0 ) = α, π (q) = Pq (拒絕 H0 ) = 1 β (q). 其中 π (q) 為檢定統計量能正確發現虛無假設是錯誤的機率又稱作 θ0=q 時的檢定力 (power) π 亦稱作檢定力函數 (power function) 4-24

25 各種誤差示意表檢定推論接受虛無假設拒絕虛無假設虛無假設決策正確型 1 誤差機率 θ0 = b 正確機率為 1 α 為 π(b) = α 對立假設型 2 誤差機率決策正確 θ0 = q 正確為 β(q) π(q)=1 β(q) 4-25

26 檢定力分析理想的檢定方法應在各種對立假設之下都有很好的檢定力檢定力受到 n ( 樣本規模 ) δ ( 對立假設與虛無假設之差距) 及σ0 (隨機變數的真實標準差)之影響當 n 或 δ 之值較大時或 σ0 較小時對立假設之下的分配離虛無分配越遠檢定力越高 4-26

27 檢定力分析下圖顯示了檢定力與型 1 2 誤差的關係 1 型2誤差檢定力函數型1誤差參數值 4-27

28 檢定力分析 -- 實例例 {X1,X2,Xn} 為 i.i.d. N (μ0, 1)的隨機變數且 n = 36, H0: μ0=3, H1: μ0 3 若真實的均數為 3.25 則檢定力為 β ( ) = Ρ3.25 ({ Z n }) Z n }) = π (3.25) = 1 β ( ) = = P({ 若 n 增加至 64 則檢定力會上升 β ( ) = Ρ3.25 ({ Z n }) Z n }) = π ( ) = 1 β ( ) = = P({ 4-28

29 檢定力分析當樣本規模 n 趨近於無窮大時若一個檢定統計量對所有的對立假設其檢定力都趨近於 1 則此檢定為一致檢定 (consistent test) 一致檢定的直觀意義是指對於任一對立假設不論其與虛無假設的差距是大是小只要樣本訊息夠多 (n 夠大) 一致檢定一定可以檢查出虛無假設是錯的 (檢定力會趨近於 1) 4-29

30 變異數分析--名詞定義變異數分析最初是用來分析經過適當設計或控制的試驗所產生的資料試驗單位(experiment unit) 接受試驗的人或物試驗單位因子 (factor) 研究者所能控制或調整的因素處方 (treatment) 因子的各種水準或類別反應變數 (response variable) 試驗單位對不同處方的反應例如: 若想知道飼料品牌 (因子) 是否會影響乳牛 (試驗單位) 可以觀察在各種飼料品牌 (處方) 餵養下牛乳產量 (反應變數) 的變動情形 4-30

31 完全隨機設計完全隨機設計 (completely randomized design) 一個試驗中研究者將不同的處方以隨機的方式分派給各個試驗單位的試驗設計在完全隨機設計下對每一種處方就會有一組反應變數而各組變數的個數可能各自不同 4-31

32 完全隨機設計假設有 M 種處方虛無假設為 M 種處方的均數一樣 H0 μ1=μ2= =μm 令Y. j 代表第 j 組反應變數的平均數令 Y 代表全部樣本的樣本平均數完全隨機設計的重要公式總平方和 (TSS) = 因子平方和 (FSS) + 誤差平方和 (ESS) M Nj M M Nj 2 ( Y Y ) = N ( Y Y ) + ( Y Y ) ij j.j ij. j. 2 j =1 i =1 2 j =1 j =1 i =1 4-32

33 完全隨機設計變異數分析的基本想法在反應變數的總變動量中若不同處方會產生不同的效果總平方和中由各種處方所造成的變動應該比較大故因子平方和應遠較誤差平方和為大當兩者有顯著差距時便認為因子的確對試驗單位造成影響故應拒絕虛無假設但這些平方和會隨試驗單位的個數增加而增加所以在衡量因子平方和與誤差平方和的相對重要性時必需考慮其平均數 (而非總量) 把總量除以個別的自由度自由度後可以得到平均數平均數並以此作檢自由度平均數定 4-33

34 完全隨機設計--自由度與平均數自由度就是試驗單位的個數減去限制式的數目因此其等式為 N 1(TSS) = M 1(FSS) + N M(ESS) 平均數如下 2 FSS 1 M MSF = = N j (Y j Y ) M 1 M 1 J =1 ESS 1 = MSE = N M N M M 2 Nj (Y ij Yj ) j =1 i =1 4-34

35 完全隨機設計--檢定統計量假設對任一處方 j Yij 為 i.i.d. 的常態隨機變數 N (μj, σ02) 則可以用 MSF 與 MSE 的比值來作為檢定統計量在虛無假設之下 MSF ϕ = ~ F ( M 1, N M ). MSE 根據樣本觀察值計算出的統計量之值大於 F 分配的臨界值時拒絕虛無假設並推論:不同處方所造成的變動顯著的大於誤差所形成的變動所以因子的確會影響試驗單位的反應上述結果和三個重要假設有關獨立性常態性變異數齊一性 4-35

36 完全隨機設計-- 例9.3 下表包含了不同教育程度下人員的月平均薪資資料 (單位:萬元) 教育程度國中國中教育程度高中高中大學大學變異數分析表為變異來源變異來源因子因子誤差誤差平方和平方和自由度自由度總和總和平均平均 F值 F值

37 隨機集區設計當每種處方下的反應變數各有不同特性而非相同分配時不能用上一節的作法要將試驗單位再劃分成許多集區來討論隨機集區設計 (randomized block design): 先將試驗單位依其特質或屬性歸類於不同的集區 (block) 處方則隨機分派於同一集區內的各個試驗單位而且一種處方只用於集區內的一個試驗單位假設修正為 Yij 為互相獨立的常態隨機變數其均數為 μij = μ*+βi+γj 變異數為 σ02 若欲分析因子的效果虛無假設為 H0 γ 1= γ 2= = γm = 0. 若欲分析集區的效果虛無假設為 H0 β1= β 2= = βn =

38 隨機集區設計總變動量的分解總平方和 (TSS) =因子平方和 (FSS) +集區平方和 (BSS) + 誤差平方和 (ESS) N M M N 2 ( Y Y ) = N ( Y Y ) + M ( Y Y ) ij.j i. 2 2 i =1 j =1 j =1 i =1 N M + (Yij Y. j Yi. + Y ) 2. i =1 j =1 自由度的等式變為 NM-1= M-1+ N-1+ (N-1)(M-1) (TSS) (FSS) (BSS) (ESS) 4-38

39 隨機集區設計平方和的平均如下: M MSF = FSS = M 1 N (Y j Y ) j =1, M 1 N BSS MSB = = N 1 M (Y Y ) i i =1, N 1 N ESS MSE = = ( N 1)( M 1) M 2 Y Y Y Y ( ) + ij j i i =1 j =1 ( N 1)( M 1). 4-39

40 隨機集區設計-- 檢定統計量加入集區因子之後檢定因子效果的檢定統計量為 MSF ϕf = ~ F ( M 1, ( N 1)( M 1)). MSE 檢定集區效果的檢定統計量為 MSB ϕb = ~ F ( N 1, ( N 1)( M 1)). MSE 上述結果仍和三個反應變數的重要假設有關獨立性常態性變異數齊一性 4-40

41 隨機集區設計例9.5 下表是來自不同地區的員工薪資我們將該表與地區名綜合於下表 (單位: 萬元) 地區地區台北台北台中台中高雄高雄因子因子高中高中國中國中大學大學變異數分析表為變異來源變異來源教育教育地區地區誤差誤差平方和平方和自由度自由度總和總和平均平均 F值 F值

42 隨機集區設計例9.5 在 5% 的顯著水準下 F (2,4) 的臨界值為所以 φf 和 φb 均拒絕虛無假設因此推論不同的教育程度與不同的地區都會造成平均薪資顯著的差異發現在考慮集區效果之後誤差平方和變得非常小即教育程度和地區的差異已經解釋了薪資中絕大部分的變動 4-42

43 雙因子變異數分析雙因子變異數分析考慮兩個因子對試驗單位可能產生的影響在雙因子變異數分析中不僅要區分不同因子的個別效果還要考慮因子之間交互作用所產生的效果又稱之為交叉效果 (cross effect) 假設第一類因子有 N 種不同的處方第二類因子有 M 種處方而且每一試驗單位都同時接受兩類因子的處方且每一種處方的組合都有 K 個反應變數 4-43

44 雙因子變異數分析假設修正如為 Yijk 為相互獨立的常態隨機變數其均數為 μij = μ*+βi+γj+δij 變異數為 σ02 若欲分析第一類因子的效果虛無假設為 H0 β1= β 2= = βn= 0. 若欲分析第二類因子的效果虛無假設為 H0 γ1= γ2= = γm = 0. 無交叉效果的虛無假設為 H0 δij =

45 雙因子變異數--總變動量的分解總變動量分解成總平方和 (TSS) = 第一類因子平方和 (FSS1) +第二類因子平方和 (FSS2) + 交叉平方和 (CSS) + 誤差平方和 (ESS) N M K N M ( Y Y ) = MK ( Y Y ) + NK ( Y Y ) ijk i... j. i =1 j =1 k =1 N i =1 j =1 M N M K + K (Yij. Yi.. Y. j. + Y ) + (Yijk Yij. ). 2 i =1 j =1 2 i =1 j =

46 雙因子變異數-- 自由度自由度的等式變為 NMK 1(TSS) = (N 1)(FSS1) + (M 1)(FSS2) + (N 1)(M 1)(CSS)+(NMK NM) (ESS) 在獨立性常態性變異數齊一性三個假設成立下可以用 F 分配來作檢定 4-46

47 雙因子變異數-- 檢定統計量檢定第一類因子效果的檢定統計量為 MSF1 ϕ1 = ~ F ( N 1, NM ( K 1)). MSE 檢定第二類因子效果的檢定統計量為 MSF2 ϕ2 = ~ F ( M 1, NM ( K 1)). MSE 檢定交叉效果的檢定統計量變為 MSC ϕc = ~ F (( N 1)( M 1), NM ( K 1)). MSE 4-47

48 雙因子變異數分析假設考慮兩個可能影響薪資的因子性別 (第一類) 和教育程度 (第二類) 第一類因子有兩種處方男與女第二類因子有三種處方國中 (含) 以下高中大學 (含) 以上在不同的處方組合下的月平均薪資資料如下表 (單位: 萬元) 性別性別男男女女國中國中教育程度教育程度高中高中大學大學

49 雙因子變異數分析變異數分析表為變異來源變異來源樣本樣本欄欄交互作用交互作用組內組內總和總和平方和平方和自由度自由度平均 F值平均 F值 φ1~f(1,12), φ2~f(1,12), φc~f(1,12), 在 5% 顯著水準之下其臨界值分別為 , 和所以 φ1 和 φ2 均拒絕虛無假設即性別和教育程度均對平均薪資有影響但因 φc 不拒絕虛無假設因此推論兩個因子並無因共同作用而產生交叉效果 4-49

50 雙因子變異數分析我們可以將集區視作與現有因子之間相互獨立的另一種因子故隨機集區設計下的單因子變異數分析亦可視作一種特別的雙因子變異數分析變異數分析方式由於此時兩種因子只同時用於一個試驗單位這種變異數分析可稱作無重複試驗的雙因子變異數分析在 Excel 中則稱為雙因子變異數分析無重複試驗 4-50

!! # % & ( )!!! # + %!!! &!!, # ( + #. ) % )/ # & /.

! # !! # % & ( )!!! # + %!!! &!!, # ( + #. ) % )/ # & /. #! % & & ( ) # (!! /! / + ) & %,/ #! )!! / & # 0 %#,,. /! &! /!! ) 0+(,, # & % ) 1 # & /. / & %! # # #! & & # # #. ).! & #. #,!! 2 34 56 7 86 9