真理大學一 六年度第一學期教學計畫表 一 教學目標 : 科目名稱 : 統計學授課教師 : 柯朝斌 au446@mal.au.edu.tw 授課班級 : 國際貿易學系二 B 每個人在其日常生活中, 經常會接觸或遭遇到許多統計相關的問題, 舉凡醫學 商學 管理 心理學 農業等等, 只要涉及到數值分析 抽樣或問卷都是統計學應用的範疇, 可以用統計的方法對這些問題加以解決和釐清 因此, 統計學在社會科學的研究中, 可以說是最簡潔 最普遍也最具說服力的研究工具 本課程的目的, 在於訓練學生透過統計資料的蒐集 整理 分析及解釋, 進一步去推估母體未知參數的方法 希望透過本課程, 能使得學生日後不論繼續升學或就業, 都能得心應手的運用統計方法來解決其所遭遇的問題 二 教材及參考書籍 : 指定教材 : 林惠玲 林正倉 (008): 基礎統計學 二版 台北, 雙葉書局 參考書籍 :. 林惠玲 林正倉 (00): 應用統計學 二版 台北, 雙葉書局. 林建雄 張善斌 (00): 商用統計學 台北, 前程企管 ( 原著者 :Douglas A. Ld, Robert D.Maso & Wllam G. Machal) 3. 李麗貞 (99): 初等商用統計學 台北, 曉園出版社 ( 原著者 : R. J. Woacott, T. H. Woacott) 4. 郭信霖 許淑卿 (004): 統計學 四版 台北, 華立 三 成績評量 : 期中考 :30% 期末考 :30% 作業及隨堂測驗 : 5% 出席狀況及課堂參與 : 5%
四 教學進度 週次 教 學 內 容 備註 課程簡介 CH. 統計學的架構 () 敘述統計 CH. () 統計表編製 3 () 統計圖表的類型 CH. () 集中趨勢量數 4 () 集中趨勢量數 CH. () 離散程度量數 5 () 離散程度量數 () 資料的線性轉換 CH. CH3. 6 () 機率概論 CH3. () 機率公理 7 () 條件機率 CH4. () 貝氏定理 8 () 隨機變數 CH4. () 間斷型機率分配 9 期中考 0 () 連續型機率分配 CH5. () 期望值與變異數 () 常見之間斷型機率分配 CH5. () 間斷型均勻分配 () 二項分配及其應用 CH5. () 幾何分配與超幾何分配 3 () 波氏分配 ( 卜瓦松分配 ) CH6. () 常態分配及其應用 4 () 二維隨機變數之機率分配 () 共變異數與相關係數 CH6. CH7. 5 () 各種機率分配的關聯 CH7. () 隨機樣本與抽樣分配 6 () 樣本平均值之抽樣分配 CH7. () 中央極限定理 7 () 母體 樣本與估計 CH8. () 優良估計式的性質 8 期末考
統計學的基本架構 : 實驗設計 抽樣調查 控制變數 篩選樣本 最小成本 最適化 等考量 資料及訊息 推論統計學 敘述統計學 推估或檢定母 體參數 統計資料的整 理 分析及解 釋 : 歸納推理 (ductve reasog): 由已知樣本推估未知母體 : 演繹推理 (deductve reasog): 由已知母體推估未知樣本 3
第一章統計學的基本性質及概念一 何謂統計學 (statstcs)? 透過統計資料的蒐集 整理 分析及解釋, 進一步去推估母體未知參數的方法, 以協助作成更有效率的決策的一門科學, 稱之為統計學 人類的各類活動及自然界的現象會產生大量的資料 統計學是一種工具一種方法, 用來幫助人們記錄 整理分析資料, 進一步解釋及預測經濟 社會及自然界的現象 狹義的統計學是指以數字表示的事實或資料 ; 廣義的統計學是指蒐集 整理 表現 分析解釋資料, 並藉由統計推論方法, 由樣本資料所獲得的結果, 來推論母體的性質與事實, 從而做出適切決策的一門學科 不論是人們在日常生活中面對的社會現象或自然科學的研究, 都可以藉助統計學的方法來分析 解釋和預測. 母體與樣本 母體 : 我們感到興趣欲加以探討的人事物的總集合 樣本 : 母體的部分集合 由母體抽取部分元素而組成的集合 統計學上用來描述母體與樣本特性的數值稱為統計量數 可分為母體參數和樣本統計量 : 母體參數 (populato parameters): 描述母體的某些特徵或性質的統計量數 樣本統計量 (sample statstc): 描述樣本資料特性的統計量數, 簡稱統計量, 而樣本統計量可以幫助我們瞭解母體參數. 敘述與推論 敘述統計學 (descrptve statstcs): 推論統計學 (ductve statstcs): 3. 歸納與演繹 演繹推理 (deductve reasog): 歸納推理 (ductve reasog): 二資料的性質. 依取得的方式區分 : 原始資料 (prmary data): 4
次級資料 (secodary data):. 依資料的屬性區分 數值資料 (quattatve data): 泛指可以計算的資料 屬質或類別資料 (category data): 不以數值來表示而是以類別加以區分的資料, 或雖為數字但不具計算上意義的資料 3. 資料的衡量尺度 :. 名目尺度 順序尺度 區間尺度 比例尺度 三抽樣調查 (survey samplg): 抽樣是指以某種抽樣方法從母體中抽取部分個體作為樣本 抽樣當然比較省時省力, 但是, 樣本能否正確的反映母體狀況, 就成為一個重要的問題 報章雜誌上常見的民意調查是以抽樣方式取得選民的資料, 再以這些樣本資料所顯示的訊息去推估選舉可能的結果 這種對於未來結果的預測或未知事物的估計, 是統計學上常見的應用, 但是推估或預測是否準確, 就會因為抽樣方法的適當性以及分析和推論的功力而有所差異 既然以樣本資料去推估母體可能會有誤差, 那麼為什麼不直接觀測所有的母體 ( 普查 )? 為什麼要抽樣呢?. 資源有限, 時間或金錢上不允許. 稀少性 3. 具毀滅性的測試 4. 以抽樣方法進行可能更精確 四實驗設計 (epermetal desg) 實驗設計的方法通常應用在生物科技 醫學治療或農業生產等方面 如同抽樣調查有抽樣方法選擇上的問題, 實驗設計的處理上亦有隨機化 (radomzato) 的問題 一般而言隨機化的處理方式可以保證實驗結果的公正性 但是有時候因為實驗的性質或是現實的限制, 在實際的操作上並無法做到隨機化 回歸分析 (regresso): 變異數分析 (aalyss of varace): 5
第二章敘述統計 ( Descrptve Statstc ) 對統計資料加以簡化 整理 分析及解釋的部分, 稱為敘述統計 繪製統計圖表的目的在於有系統有條理的表現出資料的主要內容及特性, 使資料的使用者能一目瞭然 製作統計圖表的主要原因, 是人類辨識影像圖形的能力優於辨識文字和數字的能力, 統計圖表可以顯現資料或數據的分佈型態及其趨勢, 並可以將龐大的資料加以簡化 一 統計表將蒐集得到的資料彙整成表格形式, 並以文字或數字形式表現出來, 即是統計表 次數分配表的編列 :. 編製次數分配表需注意的重點 : 互斥性 : 分類時無一資料重複 周延性 : 分類時無一資料遺漏. 編製次數分配表的步驟 : 定組數求全距定組寬劃記次數 () 定組數 ; () 求全距 (Rage); (3) 定組寬 ; (4) 劃記次數 3. 相對次數與累積次數 相對次數 (relatve frequecy rf.): 累積次數 (cumulatve frequecy cf.): 二 統計圖的類型 () 線圖 (le chart): 可用於列舉式之次數分配 () 直方圖 (hstogram) 或條圖 (bar graph) 橫軸為組界, 縱軸為組次數 (3) 相對次數直方圖橫軸為組界, 縱軸為相對次數 (4) 多邊形圖 (polygo) 將直方圖各組組中點連結 (5) 累積次數圖 & 肩形圖 (Ogve) 將直方圖縱軸改為累積次數, 即為累積次數圖 6
將累積次數圖各組組中點連結, 即為肩形圖 (6) 莖葉圖 (stem ad leaf dsplay): 用於間斷資料 (7) 箱型圖 (bo ad whsker plot) 次數 相對次數 8 0.3 6 0.4 4 0.6 0.08 0 3.5 40.5 49.5 58.5 67.5 76.5 85.5 ( 圖一 ) 圖一為家教班學員體重之直方圖 相對次數直方圖及多邊形圖 累積次數 5 0 5 0 5 0 3.5 40.5 49.5 58.5 67.5 76.5 85.5 ( 圖二 ) 圖二為家教班學員體重之累積次數圖及肩形圖 stem leaf 3 4 4 5 5 4 3 8 8 7 8 5 4 6 6 6 3 4 7 7 4 5 4 8 4 箱型圖 (bo ad whsker plot) ( 圖三 ) 圖三為家教班學員體重之莖葉圖 7
未分組資料 : 3 53 58 66 84 ( 圖四 ) 圖四 圖五皆為家教班學員體重之箱形圖 已分組資料 : 3.5 49.8 56.8 65.6 85.5 ( 圖五 ) 三 集中趨勢量數 (measures of cetral tedecy) 將不同群體的圖表相比較, 比較的結果可能並無多大用處 而且有時因為場合或時間的限制, 我們也不適於使用圖表 因此我們必須用更簡潔或更精確的方法來表示資料的特徵, 也就是將資料簡化成一些敘述性的數值 ( 統計量 ) 當我們取得的是原始資料或未經過整理的資料時, 以未分組資料方式計算統計量數 ; 當取得的資料已經被整理為統計圖表而沒有原始數據時, 我們則用已分組資料方式來探討各種統計量數 首先我們感興趣的是資料的中心位置或資料的共同趨勢 表示資料中心位置的數值稱為集中趨勢量數 常見的集中趨勢量數如下 :. 算數平均數 (arthmetc mea or average) 算數平均數是將所有觀測值的總和除以觀測值的個數而求出, 一般簡稱為平均數 未分組資料 : 已分組資料 : 8
K f m K m rf 的特性 : () 各資料值與 之差的總和為 0 () 易受極端值影響 : (3) 資料為雙峰分配時, mea 不宜表示集中趨勢. 中位數 (meda, Me ) 將所有觀測值由小到大依序排列後, 居於中央的數值即為中位數 未分組資料 : 先將所有資料由小而大排列 : ( ) ( ) 當 為奇數時, Me 為第 個排序值, 即 ( ) 當 為偶數時, Me 為第 個和第 + 個排序值的平均數 中位數的特質. Me A (A 為任意數 ). 不受極端值影響, 對觀測值的變化較不敏感 已分組資料 : 由次數分配表中判斷中位數應該落在哪一組 ( 假設在 組 ), 則 Me L F f C 3. 百分位數 (percetle): 未分組資料 : 先將所有資料由小而大排列 : ( ) ( ) M 當 00 不為整數時, 百分位數 P M 為第 [ M 00 ] 個排序值, 即 M ([ ] ) 00 M 當 00 為整數時, P M 為第 00 M 個和第 00 9 M + 個排序值的平均數 已分組資料 : M 由累積次數表中知道 00 應該落在哪一組 ( 假設在 組 ), 則 P M L 4. 眾數 (mode): M 00 F f C
資料中出現次數最多的數值, 稱為眾數, 以 Mo 表示 未分組資料 : 直接計算 分組資料 : () 金式 (Kg s) 插補法 : f Mo L C f f () 克式 (Czuber s) 插補法 : Mo L C f f f,, f (3) Pearso 經驗法 : Pearso 教授在多年的研究經驗中發現 : 在單峰微偏之次數分配中, 平均數至眾數的距離約等於平均數至中位數距離之三倍 Mo 3( Me) Mo 3( Me) 3Me M o Me 5. 幾何平均數 (geometrc mea)& 調和平均數 (harmoc mea): 未分組資料為, 則 幾何平均數 G 算數平均數 H 集中趨勢量數之比較 統計量數 優 點 缺 點 算數平均數. 適合代數演算. 考慮所有觀測值, 敏感度高 3. 觀測值與平均數差的平方和最小 4. 適合統計推論的工作. 易受極端值影響. 當資料非對稱分配時, 代表性差 中位數. 適用於有極端值的資料. 適用於偏態資料 0. 不適合代數演算. 對觀測值敏感性低
眾數 3. 觀測值與中位數的絕對差和最小 4. 常用於無母數統計. 適用於有極端值的資料. 適用於偏態資料 3. 適用於質的資料 3. 不易進行統計推論. 可能不唯一或不存在. 對觀測值敏感性低 3. 無法進行統計推論 四 離散度量數 (measures of dsperso) 離散度量數主要在衡量資料之間的分散及變動情形 離散度較高, 表示資料的數值較分散 變動範圍較大 反之, 則表示資料較集中 變動範圍較小 常見的離散度量數如下 :. 全距 (rage): 資料中數值最大者和最小者之差 R ( ) (). 四分位距 (ter-quartle rage, IQR) 及四分位差 (quartle devato) IQR Q 3 Q, QD IQR ( Q Q 3 ) 3. 平均絕對差 (mea absolute devato, MAD) MAD 為每一筆資料與平均數差的絕對值總和取平均數 未分組資料 : MAD, 已分組資料 : MAD f m 4. 均方差 (mea square devato, MSD): 為了避免 MAD 絕對值計算上的問題, 我們離差平方的平均值來描述資料的離散度, 稱為均方差 MSD MSD ( ) 5. 變異數 (varace) 與標準差 (stadard devato): 變異數和均方差本質上是完全相同的概念, 但是因為觀測資料性質, 我們會有不同的敘述 () 當所觀測的資料即為全部母體時, 此時資料平均值 即為母
體平均值, 變異數為 ( ) 散度, 我們將 稱之為母體變異數, 以此來描述資料的離 () 當所觀測的資料為母體的部分抽樣時, 此時由於母體平均值 未知, 我們以樣本平均值 來推估, 因此喪失了一個自由度 ( d. f.), 此時的均方差變為 ( ), 我們將之稱為樣本變異 數 ( 或修正後的變異數 ), 通常以 S 來表示 當母體便異數未知 時, 通常以樣本變異數來推估母體資料的離散程度 (3) 分組資料的變異數分別如下 : 母體變異數 f ( m ) 樣本變異數 S f ( m ) 由於均方差 ( 或變異數 ) 是將離差以平方加以處理, 因此在做實 際離散度衡量時, 需取平方根加以還原 此時得到的數值稱為標 準差 變異數的計算 : 標準差 ( 或 S ) 變異數 ( 或 S ) ( ) S ( ) ( ) 6. 變異係數 (C.V.): 全距 四分位差 MAD 等等, 雖然可以幫助我們瞭解資料的分散程度, 但是在比較兩組資料群體的相對離散程度時並不適用, 我們必須藉由不含單位的相對離差來做比較, 最常使用者為變異係數 S C. V. ( 或 ) 00% 五 線性轉換 (lear trasformato of data):. 原點轉換 :
設母體資料 若. 尺度轉換 :, 其平均值 Y b b 且 設母體資料 若 3. 一般化 : 設資料 若 六 補充 : Y, 其平均值 Z a Z a 且, 其平均值, 變異數 Y, 變異數 Z a, 變異數 W a b b 且 W a W a 偏態係數 (skewess, Sk): 表示資料分配的對稱狀況 Sk = 0 為對稱分配 Sk > 0 為右偏分配 Sk < 0 為左偏分配 SK ( S ) 3 3 峰態係數 (kurtoss, Ku): 表示資料分配的高度狀況 Ku = 3 為常態峰分配 Ku > 3 為高狹峰分配 Ku < 3 為低闊峰分配 Ku ( S ) 4 4 動差 (momet): 資料與某特定值差異之 r 次方的平均數稱為動差 () 原動差 : 資料點對原點 0 的動差 ~ M r ( 0) r r 稱之為 r 階原動差 () 主動差 : 資料點對平均值 的動差 M r ( ) r 稱之為 r 階主動差 3
第三章機率概論 日常生活中常會面臨許多不確定的問題, 當我們在進行選擇時, 我們通常會希望能知道每種可能的結果其發生的可能性有多大, 然後 再採取行動 夠過機率的認知可以幫助我們做出較正確的決策 由於 統計學的推論是在不確定的情形下所進行的預測, 因此瞭解相關的機 率法則, 可以提高推論的準確性 一 基本概念 :. 隨機試驗 (radom epermet): 試驗結果不確定的試驗稱為隨機試驗 隨機試驗是一種過程, 是一 種不能確切的預知會發生何種結果的實驗方式. 樣本空間 (sample space, S or ): 一試驗所有可能出現的結果稱為樣本空間 3. 樣本點 (sample pot): 樣本空間的每一個元素 ( 即每個可能出現的結果 ) 稱之為樣本點 樣本點的計算法則 : 乘法定理 : 設一隨機試驗包含 k 個子試驗 E, E,, Ek, 若每個子試 驗 E 有 種結果,,, k, 則此隨機試驗有 k 種可能 結果 排列 : 自一個含有 個元素的集合中, 一次抽取 r 個元素 ( 或每抽一 個後不放回, 連續抽取 Pr! ( r)! r 個 ), 則共有 4 P r 個不同排列的樣本點 組合 : 自一個含有 個元素的集合中, 一次抽取 r 個元素, 若不考! 慮這 r 個元素的排列順序, 則樣本點有 C r 個 Cr r!( r)! 4. 事件 (evet): 樣本空間的任一子集合皆代表一個事件 一個事件只包含一個樣本點稱為簡單事件 事件包含兩個以上樣本點稱為複合事件 5. 集合符號及運算法則 : () A B (A teract 稱為 A 和 B 的交集, 表示 A B 同時發生 () A B (A ute 稱為 A 和 B 的聯集, 表 A B 至少有一個發生 (3) c A (A complemet) 稱為 A 的餘集或補集, 表示 A 事件不發生 (4) 若 A B 則稱 A B 兩事件互斥 (mutually eclusve)
c c (5)A B 恰有一事件發生, 可表示為 : ( A B ) ( A (6) 運算法則 : 交換律 : AB BA ; A B B A 結合律 : ( A C A( BC) ; ( A C A ( B C) 分配律 : A( BC) ( A ( AC) ; A ( B C) ( A ( AC) 互補律 : A A c c S ; A A ; ( A c ) c A DeMorga s Law: 二 機率 : A ) c c c B ( A B ; c c c A B ( A. 古典 ( 先天 ) 機率 : 一樣本空間 S, 由 個樣本點所組成, 設每個樣本點出現的機會相同 ( 或每一樣本點出現的機會已知 ), 則 A 事件發生的機率為 : ( P(, 其中 ( 為 A 事件的樣本點數. 後天機率 : 當對實驗各種可能結果出現的機會不確定時, 若樣本增加 ( 或重複實驗 ), 則樣本點出現的機會會趨向穩定, 此時定義 A 事件發生的機率為 : ( P( lm, 故後天機率又稱極限機率 3. 主觀機率 : 主觀機率是指事件發生的機率, 取決於人們對於此事件會發生的主觀相信程度 此一機率理論由 J. Savage 所提倡, 他認為人們對某事件發生的信心或信賴度, 即為該事件的機率 經濟學中風險偏好者跟風險厭惡者就可以用主觀機率來加以解釋 三 機率公理 : 不論哪種機率理論, 機率都必須滿足一些規則才能進行演算 拋開祭機的理論體系, 純粹由機率的性質及其演算去定義機率, 我們稱之為機率公理. 就任何一事件 A 而言, 其發生的機率 0 P ( c. P ( P( A ) P( A c ) P( 5
c 3. P( P( A P( A B ) 4. 若 A B 則 P( A 0 5. P( A P( P( P( A 所以當 A B 互斥時, P( A P( P( 四 條件機率 (codtoal probablty): 設 A B 為樣本空間 S 之兩事件, 則稱在已知 A 事件發生的情況 下,B 事件發生的機率, 為條件機率 以 P ( B 表示 條件機率之計算及運用 :. P( B P( A P(. P( A P( P( B 3. P( A B C) P( P( B P( C A 五 獨立 (depedet): 獨立是指兩事件發生的機率不互相影響, 若 A B 二事件獨立, 則下列至少有一成立 :. P( 0, P( B P(. P( 0, P( A P( 3. P( A P( P( 若 A B 獨立, 則 A 與 c B 獨立 6 A c 與 B 獨立 若 A B 三事件相互獨立, 則必須同時滿足 : () P( A P( P( () P( A C) P( P( C) (3) P( B C) P( P( C) (4) P( A B C) P( P( P( C) 獨立與互斥 : A c 與 c B 獨立 獨立與互斥的觀念不可混淆, 互斥為 A B P( A 0 ; 而 獨立則為 P( A P( P(, 兩者無必然的關係 如例 5 中,A B 互斥且獨立 ; A C 獨立但不互斥 ; A E 互斥但不獨立 ; A D 不獨 立且不互斥 六 樣本空間的分割與貝氏定理 :. 樣本分割 : 若 A, A Ar 為樣本空間 S 的部分集合, A A A r S, 且
A A j, 則稱 A, A Ar 為樣本空間 S 之一分割 (partto) 設 A A A, r 與 c B, B B 分別為樣本空間 S 的兩種分割 ( 即兩 種分類方式 ), 若 P A B ) P( A ) P( B ) for all, j, 則稱此二 種分類獨立. 貝氏法則 : 設 A A A ( j j, r 為樣本空間 S 的一個分割, 若 B S r, 則 P( P( P( B ), 此稱為貝氏法則 表示在 B 事件發生機率未知 A 時, 考慮各種情況下 B 事件發生的機率來加權, 而推導出 B 的機率 3. 貝氏定理 (Bayes Theorem): 設 A A A, r 為樣本空間 S 的一個分割, 若任一事件 B S P ( 0, P( 0, 則 P P( A ) P( B A ) j j ( Aj r 此即為貝氏定理 P( A ) P( B A ) 其中 P A ) 稱為事前機率 (pror probablty)( 試驗前已知 ) ( j P( A j 稱為事後機率 (posteror probablty)( 試驗後推算 ), 且 貝氏定理是說明如何由新資訊修正事前機率而得到事後機率的方法 第四章機率分配 (probablty dstrbuto) 機率分配是指隨機變數的每個變量的機率分佈情形, 當我們知道隨機變數的機率分配, 我們便能預測或計算可能的結果 一 隨機變數 (radom varable, r.v.): 將樣本空間 S 對應到實數的函數稱為隨機變數, 而隨機變數中的每一個變量皆代表一個事件 隨機變數依其變量的性質, 可分為間斷型 (dscrete) 的 r.v. 和連續型 (cotuous) 的 r.v. () 若隨機變數的變量為有限或無限但可數時, 稱為間斷型 () 若隨機變數的變量可微小分割, 也就是說隨機變數有無限個可能的值時, 稱為連續型隨機變數 二 間斷型隨機變數的機率分配 : 在第二章中我們由資料的次數分配, 來瞭解資料群的分配情形, 7
而當樣本數很大或者一直重複試驗時, 資料的相對次數其實就是機率 的概念 而隨機變數是將樣本空間 S 對應到實數的函數, 因此 r.v. 的 機率分配表達的正是 r.v. 的分配情形 間斷型 r.v. 的機率分配是表示, 該隨機變數各個變量之發生機率的分佈狀況. 機率質量函數 (probablty mass fucto, p.m.f.): 設 為一間斷 r.v., 若函數 f () 滿足 : () f ( ) 0,() f (), 則稱 f () 為 r.v. 的機率質量函數, 其中 f ( ) P( ) () 所表達的是任何試驗結果發生的機率不可能為負, 至少為 0 () 表示所有可能結果發生的機率總和為. 累積分配函數 (cumulatve dstrbuto fucto, c.d.f.): 設 為一間斷 r.v., 若對任何實數 而言, ( ) P( ), 則稱 F () 為 r.v. 的累積分配函數 P( a b) P( b) P( a) F( b) F( a) 三 連續型隨機變數的機率分配 :. 機率密度函數 (probablty desty fucto, p.d.f.): 設 為一連續型 r.v., 若函數 f () 滿足 :() f ( ) 0,() f (), 則稱 f () 為 r.v. 的機率密度函數 此時的 f () 不代表 P( ), 因為連續型 r.v. 可以無限分割, 所以 單一樣本點 A 出現的機率為 P( lm 0, 亦即對連續型隨機變 數而言, P ( ) 0 所以此時不再用質量的觀念, 而改用密度的概念來測度發生在某 一區間內的頻率 當樣本點越多 ( 隨機變數的分割越細微 ) 時, 相對機率密度會逐漸成為一曲線, 即為 p.d.f. 此時樣本出現在某 一區間的機率, 可視為該區間 p.d.f. 以下的面積占總面積的比例. 累積分配函數 (cumulatve dstrbuto fucto, c.d.f.): 設 為一連續型 r.v., 若對任何實數 而言, ( ) P( ), 則 稱 F () 為 r.v. 的累積分配函數 連續型 r.v. 的點機率為 0, 所以我們 通常是求區間的機率, 這和累積機率的觀念是相同的 P( a b) P( a b) P( a b) P( a b) F F b a f ( ) d 8
4. 隨機變數間的轉換 : 三 期望值與變異數 : 如同第二章中對於數值資料的探討, 同樣的我們可以利用集中趨 勢量數和離散度量數的觀念, 來探討 r.v. 機率分配的特徵, 也就是去 計算隨機變數的平均值和變異數 但是在機率分配中, 我們所獲得的 不是實際觀測值而是機率, 因此在計算集中趨勢量數或離散度量數 時, 我們採用的是期望值的概念. 期望值 : 可視為隨機變數的平均數, 是該隨機變數的各個變量以其 間斷型 : 發生機率為權數所計算出的加權平均數 設 r.v. 之機率質量函數為 f (), 則稱 E( ) f ( ) 為 r.v. 之期望值 連續型 : 設 r.v. 之機率密度函數為 f (), 則稱 E( ) f ( ) 為 r.v. 之期望值. 期望變異數 : 設 r.v. 之期望值為 E ( ), 則期望變異數為 : Var ( ) E[( E( )) 間斷型 : Var ( ) 連續型 : E E ] [ E( ) ( E( )) ] E( ) E( ) E( ) ( E( ( ) ( E( [ E( )] )) f ( ) f ( ) [ E( )] Var ( ) [ E( )] f ( ) d b a )) b a f ( ) d [ E( )] 3. 期望值和期望變異數的性質 : 9
() E( a b) ae( ) b () Var ( a b) a Var ( ) 期望值和期望變異數的性質可與第二章相對應 第五章常見的機率分配類型一 間斷型機率分配 :. 間斷均勻分配 (dscrete uform dstrbuto): 若間斷 r.v. 之 p.m.f. 為 : f ( ),,,, N ( N 個可能出現結果 ) N 則稱 r.v. 為均勻分配, 此分配中每個結果出現的機率相同 間斷均勻分配的性質 : () E ( ) N () Var ( ) N. 二項分配 (bomal dstrbuto): () 重複相同試驗 次 () 此試驗只有 成功 和 失敗 兩種結果, 且每次試驗 成功 的機率皆相同 (3) 每一次的試驗相互獨立 若 r.v. 表示此 次試驗中成功的次數, 則 之機率分配為 : C P f ( ) 0 ( P),,,, o / w 此種機率分配形式稱為二項分配, 以 ~ b(, P), 其中 為試驗次數 P 為每次試驗成功的機率 二項分配的性質 : () E( ) P () Var ( ) P( P) 3. 幾何分配 (geometrc dstrbuto): 在二項試驗中不限制試驗次數, 一直試驗直到第一次成功為止, 令 r.v. 表示直到成功為止的試驗次數, 則 的機率分配為 : 0
( P) f ( ) 0 P,,, o / w 此時稱隨機變數 的機率分配為幾何分配 幾何分配的特性 : () E( ) P P () Var ( ) P 4. 超幾何分配 (hypergeometrc dstrbuto): () 母體的 N 個樣本點中, 成功 的有 D 個, 失敗 有 N-D 個 () 試驗進行 次, 每次試驗並非獨立 ( 不返回樣本 ) (3) 每次試驗中, 成功的機率受前一次試驗結果的影響 若 r.v. 表示 次試驗中成功的次數, 則 的機率分配為 : f C ) 0 C D N D N ( C,,,, o / w 此時稱 的機率分配為超幾何分配 超幾何分配的性質 : D () E( ) N N D D () Var ( ) ( ) N N N (3) 當 N 很大或 N 很小時, 二項分配和超幾何分配近似 ( 一般當 N 0.05 時, 我們即可用二項分配來近似超幾何分配 ) 5.Posso 分配 ( 卜瓦松 泊松 波氏 ) 若令 r.v. 表示某一段時間或空間內, 某事件發生的次數 二 連續型機率分配 : 常態分配 (ormal dstrbuto): 設 為連續型 r.v., 若其 p.d.f. 如下,
f ( ) ( ) e 則稱 r.v. 為常態分配, 記為 ~ N(, ) 常態分配之特性 : () E ( ) () Var ( ) (3) 機率分配成鐘形 (bell-shaped), 對稱於, 故 Mo Me (4) 當樣本夠大時, 許多分配都會近似於常態分配 (5) 常態隨機變數的線性函數亦為常態分配 (6) 二個獨立的常態 r.v. 的線性組合亦為常態分配 標準常態分配 : ()r.v ~ N(, ), 若 Z 配, 記為 Z ~ N(0,) u, 則稱 r.v.z 的機率分配為標準常態分 () 標準常態的特性 : E ( ) 0 ; Var ( ) 標準常態仍保有常態分配鐘形 線性轉換 線性組合等特質 (3) 標準常態的查表 : 第六章二維隨機變數及其機率分配一 二維隨機變數 :. 聯合機率密度函數 (jot probablty mass fucto, jot p.m.f.) : 若一機率分配包含兩個 r.v., 則稱為聯合機率分配 (jot probablty dstrbuto), 兩個間斷 r.v. 的聯合機率分配函數稱為 jot p.m.f., 通常以聯合機率分配表來表示 f (, y) y, 即機率總和為. 邊際分配 (margal dstrbuto): 設 f(, y) 為 r.v. 與 r.v.y 的 jot p.m.f., 則稱 () f ( ) f (, y) 為 r.v. 之邊際機率質量函數 y
() f y ( y) f (, y) 為 r.v.y 之邊際機率質量函數 3. 條件機率質量函數 : f(, y) 為 r.v. 與 r.v.y 的 j.m.p.f., 若 P ( ) 0, 則在已知 = 的情況下, Y = y 的條件機率為 : f ( y ) P( Y y ) P(, Y P( ) y) f (, y) f ( ) 4. 獨立 與 Y 為聯合間斷 r.v., 則 與 Y 獨立的充要條件為 : f (, y) f ( ) f ( y) 5. 條件期望值與條件變異數 : y f(, y) 為 r.v. 與 Y 的 j.m.p.f., f () 與 (y) () 在已知 = 的情況下, r.v.y 的條件期望值為 : f y 分別為其邊際分配, 則 E[ Y ] y y P( Y y ) y y f (, y) f ( ) () 在已知 = 的情況下, r.v.y 的條件變異數為 : Var [ Y ] E[ Y ] [ E( Y )] y [ E( Y 3 y f (, y) f ( ) E( a by C) ae( ) be( Y) C 若 與 Y 獨立, 則 E( Y ) E( ) E( Y), 反之不一定成立 二 共變異數與相關係數. 共變異數 (covarace): Cov, Y) E[( )( Y )] E( Y ) E( ) E( Y) ( y. 共變異數的性質 : () Cov(, Y) Cov( Y, ) () Cov ( a, ) 0 (3) Cov(, ) E[( )( )] E[( ) ] Var ( ) (4) 若 與 Y 獨立, 則 Cov (, Y) 0, 反之不一定成立 (5) Var ( a by C) a Var ( ) b Var ( Y) abcov(, Y) 3. 相關係數 (coeffcet of correlato): 如同第二章中, 我們在比較兩組資料時, 使用變異係數來消除不同度量單位所造成的差異, 在測度 r.v. 與 r.v.y 的相關性時, 共變異數 )]
也會受到度量單位的影響, 此時我們使用相關係數來改善這一缺點, y Cov(, Y) 4. 相關係數的性質 : (), y y, () 0, y y (3) 若 與 Y 獨立, 則 0, 反之不一定成立, y (4) a b, cyd, y ( a, c同號 ), y ( a, c異號 ) 第七章抽樣 我們從母體所取出觀測值或個體即為樣本 ; 而如何由母體中選取樣本, 即為抽樣方法 因此歸納推論實際上包含三個部分 : 抽樣分析樣本資料推估母體參數想要使歸納推論的準確性提高, 這三個步驟同等的重要 選擇適當的抽樣方法才能使抽出的樣本具有代表性, 但是抽樣方法的種類相當多, 這裡我們只做最簡單的介紹 一 基本概念 :. 母體 :. 樣本 : 3. 抽樣調查 (samplg survey): 4. 普查 (cesus): 二 隨機樣本與抽樣分配 :. 簡單隨機抽樣 (smple radom samplg, p.64): 簡單隨機抽樣是抽樣方法最方便 常見的一種, 其方法為在母體的 N 個個體中, 抽取 為一組樣本, 而每一組樣本被取出的機會相同, 此稱為簡單隨機抽樣, 而此法抽出的樣本為簡單隨機樣本 () 採歸還方式 : 觀測值相互獨立 () 採不歸還方式 : 觀測值不獨立, 但母體規模很大可視為獨立. 隨機樣本 (radom sample): 若, 為由母體 f() 中抽出的 個隨機變數, 若 (), 其機率皆為 f(), 且 (), 相互獨立, 則稱, ) 為自母體 f() 中抽出的一組隨機樣本 ( 4
3. 樣本統計量 4. 抽樣分配樣本統計量的機率分配稱為抽樣分配 我們可利用抽樣分配的機率原理來說明統計推論的可靠性 樣本 統計量 母體 樣本 統計量 抽樣分配 樣本 統計量 估計式 三 之抽樣分配 樣本統計量中, 我們最感興趣的通常是表現集中趨勢的平均值, 以及表現離散程度的變異數 因此在探討統計量的機率分配時, 我們首先要探討的, 就是樣本平均數 的抽樣分配. 樣本平均數與樣本變異數 : 令 (, ) 為一組隨機樣本 則 : 樣本平均數 : 樣本變異數 : S ( ). 之抽樣分配的性質在 r.v. 的機率分配中我們會去計算 r.v. 的期望值及變異數, 而抽樣分配是統計量的機率分配, 統計量本身亦為隨機變數, 同樣的我們也對其期望值和變異數感到興趣 () E ( ) () Var ( ) 5
(3) 標準誤差 (stadard error): 的標準差, 表示 與其期望值的離差, 但是 E ( ), 所 以我們可以將 的標準差視為 與母體平均數 的離差, 也就是當我 們以 推估 時可能的誤差 因此, 我們特別將 的標準差稱為 之 標準誤差, 以 SE 表示 統計量的機率分配 ( 亦及抽樣分配 ) 的標準差, 稱為標準誤差 一般的標準差表示觀測值與其期望值的離差, 而標準誤差則表示這 組觀測值的統計量與此統計量期望值的離差 由於經由統計量的分 攤作用, 減低了某些極端值的影響程度, 因此標準誤差通常比標準 差小, 當樣本數越大時, 差別越明顯 3. 有限母體修正 ( 小規模母體修正 ): 當在抽樣時, 採取不歸還樣本的方式時, 樣本之間不相互獨立, 此時, 的期望值仍為 E ( ), 但是其變異數 Var ( ) 當母體 規模很大 ( 或母體無限時 ), 即使採取不歸還樣本的方式, 樣本的機率 的影響微乎其微, 但是當小規模母體時, 差異就非常明顯了 此時, 我們必須對變異數加以修正, 也就是乘上有限母體修正因子 四 中央極限定理 (Cetral Lmt Theorem, CLT): 6 N N. 定義 : 設母體分配 f(), 平均數 變異數, 今自母體抽取 個 r.v. 的一組隨機樣本, 樣本平均數, 則不論母體分配為何, 當 時 : ~ N(, ) 若母體為常態, 則 不論大小, 的抽樣分配皆服從常態 (p74). 中央極限定理之應用 : 在常態分配中, 我們通常將之標準化以便於比較和查表 同樣的, 當之抽樣分配服從常態, 我們也可將其標準化以便進一步分析 標準 化的定義為 r.v. 和其期望值的離差除以其標準差, 所以 : Z u ~ N(0.) 因此, 由 CLT 我們可以知道 : 不論母體分配為何, 當當 時 :
u 服從標準常態分配 謝比雪夫 (Chebyshev) 定理 : 設資料群,, 且其平均數為 變異數 S, 則資料群落 在平均數附近 K 倍標準差範圍內的比例至少有 K, 亦即 : P( KS KS) P( KS) K 若為 r.vy 則謝比雪夫不等式可改寫如下 : P( KS Y E( Y) KS) P( Y E( Y) KS) 五 樣本比例值 Pˆ 之抽樣分配 :. 點二項試驗 ( 伯努利試驗 ): 一試驗只有 成功 和 失敗 兩種可能結果, 稱之為伯努利 或點二項試驗 以 r.v 表示試驗結果為 成功 ; 以 r.v 0 表示試驗結果為 失敗. 設 ( 為自點二項母體抽出的一組隨機 r.v, 則稱 Pˆ 為樣本比例值 3. Pˆ 之性質 : () E( Pˆ) P K () Var ( Pˆ) P( P) (3) 當 時 : ˆ P(P) P~ N( P, ) ( CLT) 4. 若 Y, 則 Y ~ b(, p) 因此當小樣本不適合以常態來近似時, 我們可用二項分配來解題 六 中央極限定理之擴展. Y 之抽樣分配 設 (, ) 與 ( Y, Y Y ) 分別為自二獨立母體抽出的隨機 樣本, 兩母體之平均數分別為 與 皆很大時, E ( Y) 7 變異數 與, 則當樣本數 Var ( Y), 且 :
Y ~ N(, ). Pˆ ˆ P 之抽樣分配 由兩個點二項母體中分別抽出樣本數為 與 的兩組隨機樣 本, 母體比例值分別為 P 與 P, 則當樣本數 皆很大時, ˆ ˆ P ( P ) P ( P ) P P ~ N( P P, ) 第八章點估計 (pot estmato) 統計估計是指利用樣本統計量來估計母體參數, 可以分為點估計及區間估計 估計時先得出點估計然後進行區間估計, 常見的估計包括對於母體平均數 母體比例值 母體變異數的估計 點估計是以一組樣本所獲得的樣本統計量來推估母體參數的真實值, 並使樣本統計量盡可能的接近母體參數 點估計的步驟如下 :. 抽取樣本. 選擇一個優良的樣本統計量作為估計式 3. 計算樣本統計量的值 4. 以此樣本統計量值作為母體參數的估計值並做決策 一 母體 樣本特徵與估計. 母體平均值和變異數雖然通常未知, 但皆為常數, 我們將這些母體特徵, 稱為母體參數. 樣本平均值與樣本變異數是隨機變數, 每次抽取樣本的不同, 其值也會改變, 我們將這些象徵樣本特徵的樣本函數, 稱為樣本統計量 3. 估計 (estmato) 所謂估計是指用樣本統計量來推測母體未知參數的方法, 包括 : () 點估計 (pot estmato) 根據樣本資料求得一統計量的值, 作為某未知參數的估計值 () 區間估計 (terval estmato) 由樣本資料求得兩個統計值, 構成一區間來包含某未知參數的範圍 4. 估計式 (estmator) 若一統計量是用來推估某母體參數, 則將此統計量稱為估計式 5. 估計值 (estmate) 8
將實際樣本資料代入估計式中, 所得到的值即為估計值 優良估計式的評判標準 :. 不偏性 ;. 有效性 ; 3. 一致性 ; 4. 充分性二 不偏性 (ubasedess): 若某一估計式的的期望值等於所要估計的母體參數, 則此估計式為不偏估計式, 否則就是偏誤估計式.ˆ 為隨機樣本 (, ) 的一個統計量, 用以估計母體參數, 若 : E ( ˆ) 則稱 ˆ 為 之不偏估計式 (ubased estmator) E ( ˆ) 則稱 ˆ 為 之偏誤估計式 (based estmator) 偏誤 (bas) B E( ˆ ). 不偏估計式的性質 : () 若 ˆ 為 之不偏估計式, 則 aˆ b 為 a b 之不偏估計式 () 並非所有的母體參數皆存在不偏估計式 (3) 不偏估計式有時並不唯一 3. 漸進不偏估計式 (asympototcally ubased estmator): 設 ˆ 為母體參數 的估計式, 若 E ( ˆ) 但是 lm E( ˆ), 則 稱 ˆ 為 的漸進不偏估計式 三 有效性 (effcecy). 除了不偏性外, 我們也希望估計式的變動較小 較集中, 也就是說 希望其變異數較小, 我們稱變異數較小的估計式較具有效性. 均方誤差 (mea-square error, MSE) 估計式 ˆ 之均方誤差, 為 ˆ 與其估計參數 之離差平方的期望值 MSE E 3. 相對有效性 ˆ ˆ) [( ) ] Var ( B 一般以 MSE 來比較兩估計式的相對有效性 () 當 ˆ 與 ˆ 皆為不偏估計式時, 其偏誤 B 為 0, 此時 : MSE( ˆ ) ( ˆ Var ) ; MSE( ˆ ) ( ˆ Var ), 所以 ˆ 對 ˆ 之相對有效性為 : Var( ˆ ) Var( ˆ ) 當此比值 > 時, 表示相對於 ˆ 而言, ˆ 較有效 () 當 ˆ 與 ˆ 不皆為不偏估計式時, 其偏誤 B 存在, 我們以一般式來表現相對有效性, ˆ 對 ˆ 之相對有效性為 : 9
MSE( ˆ ) MSE( ˆ ) 當此比值 > 時, 表示相對於 ˆ 而言, ˆ 較有效 4. 最小變異不偏估計式 (MVUE) 設 ˆ 為 的不偏估計式, 若 Var (ˆ ) 是 的所有不偏估計式中, 變異數 最小的, 則稱 ˆ 為 的最小變異不偏估計式 ( MVUE) 設 (, ) T 為抽自某母體的一組隨機樣本, ˆ 為 的不偏估計 l f ( ) 式, 若 Var ( ˆ) E[ ], 則稱 ˆ 為 的 MVUE 四 一致性 (cosstecy) 若一估計式當樣本數增加時, 此估計式會越趨近母體參數, 則把 據此種性質的估計式稱為滿足一致性. 若存在 ε >0, 使得 lm P( ˆ ) 或 lm P( ˆ ) 0 則稱 ˆ 為 的一致估計式. 設 ˆ 為 的不偏估計式, 若 lmvar ( ˆ) 0, 則 ˆ 滿足一致性 3. 一致性的性質 : () 一致估計式有時並不唯一 () 一致性和不偏性並無一定關係, 滿足不偏性不一定滿足一致性, 反之亦然 (3) 當估計式滿足不偏性方, 可用. 來檢查其一致性, 否則需由. 的定義來加以檢查 五 充分性 (suffcecy) 若一統計量 ( 估計式 ) 能從樣本資料中, 對被估計的母體參數提供最多訊息, 則稱此統計量 ( 估計式 ) 為充分統計量 ( 估計式 ) 一估計式是否滿足充分性, 可以用 Neyma 分解定理來判斷 Neyma 分解定理 : 設 (, ) 為自母體 f ( ; ) 抽出的一組隨機樣本, 若 f (,,, ; ) f ( ; ) f ( ; ) f ( ; ) 可以分解為 : f,,, ; ) g( ˆ; ) h(,, ), 其中 h,, ) 和母體參數 無 ( 關, 則稱 ˆ 為 的充分估計式 ( 30