Regression Analysis

Transcription

1 十五 複迴歸分析 複迴歸模式 最小平方法... 4 利用 Excel 和 SPSS 統計軟體計算結果... 5 迴歸係數的解釋 複判定係數...10 複迴歸變異數分析 (aova) 表 模型假設 顯著性檢定...14 F 值檢定...15 t 值檢定...18 多重共線性 線性重合 (multicolliearity) 運用迴歸參數進行估計和預測...7 討論議題...49 重點整理...50 關鍵詞彙解釋...5 第 1 頁 共 53 頁

2 十五 複迴歸分析 Chapter 15 Multiple Regressio Aalysis 學習目標知識 ( 認知 ) 1. 可以清楚陳述複迴歸分析的意涵. 可以清楚陳述在複迴歸分析中複判定係數的意涵 3. 可以說明各種狀況下, 顯著性檢定的程序和標準 4. 評價各種情境下, 複迴歸分析的使用價值 技能 1. 依循教材的適當引導, 計算各種情境下的迴歸係數與截距樣本統計值. 依循教材的適當引導, 能夠利用顯著性檢定, 提出統計推論 3. 綜合所學, 能夠於實務領域中, 依據特定情境的需求進行複迴歸分析程序 態度 ( 情意 ) 1. 意識到在日常生活或未來工作環境中, 複迴歸分析的重要性. 在各種情境下, 依循複迴歸分析的程序, 接受統計推論所傳達的意涵 若欲分析的變數只有一個自變數 ( 自變項 ) 和另一個依變數 ( 依變項 ) 時, 兩者的關係趨近於比例關係 ( 線性關係 直線關係 ) 時, 則歸類為簡單線性迴歸分析 (simple liear regressio aalysis) 在迴歸程序中若有超過兩個 ( 含兩個 ) 的自變數與一個依變數時, 則歸類為複迴歸分析 多重迴歸分析或多元迴歸分析 (multiple regressio aalysis) 透過前一章簡單線性迴歸分析後, 了解到可以利用一個自變數預估另一個依變數的數值, 在管理實務領域中, 經常需要使用多個自變數, 期望能夠客觀與準確地預測另一個依變數的數值, 故, 凸顯出學習複迴歸分析的價值 15. 複迴歸分析 15.1 複迴歸模式 15. 最小平方法 利用 Excel 和 SPSS 統計軟體計算結果 迴歸係數的解釋 15.3 複判定係數 15.4 模式 複迴歸變異數分析 (aova) 表 假設 15.5 顯著性檢定 F 值檢定 15.6 運用迴歸參數進行估計和預測 t 值檢定 點估計 多重共線性 區間估計 章節結構圖 15.1 複迴歸模式 複迴歸分析中自變數有兩個 ( 含 ) 以上, 依變數僅有一個 Y 同時探索兩個( 含 ) 以上 ( 一般使用符號 k 或 p, 代表自變數數量 ) 自變數對一個依變數的關係, 即屬於複迴歸分析 多重迴歸分析或多元迴歸分析 複迴歸模式敘述自變數 (X 1 X X 3 X k) 依變數 Y 和誤差項 ε i 之間關係的方程式稱為複迴歸模式 多元迴歸模式 (multiple regressio model) 或一階複迴歸線性模式 (first-order multiple liear regressio model) y i = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki + ε i, 其中 i = 1,, 第 頁 共 53 頁

3 其中 y i = 依變數 Y 第 i 個觀測值的實際觀測值 x ki = 第 k 個自變數 X 第 i 個觀測值 β 0 = 複迴歸模式的參數 (parameter), 截距 (itercept) 數值可能範圍- ~+ β 1,, β k = 複迴歸模式的參數, 偏迴歸係數 (partial regressio coefficiet) 或迴歸係數 (regressio coefficiet) 數值可能範圍- ~+ ε i = 第 i 個觀測值的隨機變數, 屬於隨機誤差 (radom error), 讀音 epsilo 此誤差項(error term) 屬於在 X 和 Y 線性關係上無法解釋的依變數 Y 變異性 波動性 變動性 = 觀測值 ( 組 ) 數量 k = 自變數數量 ( 個數 ),k > 0, 正整數 複迴歸方程式複迴歸模式中假設誤差項 ε i 的平均值或期望值等於 0 因此, 依變數 y i 的平均值 y i 或期望值 E(y i) 即等於 β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki 敘述自變數(X 1 X X 3 X k) 與依變數 y i 的平均值 y i 或期望值 E(y i) 之間關係的方程式稱為複迴歸方程式 多元迴歸方程式 (multiple regressio equatio) 或一般複迴歸方程式 (geeral multiple regressio equatio) y i = E(y i) = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki, 其中 i = 1,, 其中 y i = 依變數第 i 個觀測點之觀測值的平均值 E(y i) = 依變數第 i 個觀測點之觀測值的期望值 y i = 依變數 Y 第 i 個觀測值的實際觀測值 ( 變量 ) x ki = 第 k 個自變數 X 第 i 個觀測值 ( 變量 ) β 0 = 複迴歸模式的參數 (parameter), 截距 (itercept) 數值可能範圍- ~+ β 1,, β k = 複迴歸模式的參數, 偏迴歸係數 (partial regressio coefficiet) 或迴歸係數 (regressio coefficiet) 數值可能範圍- ~+ = 觀測值 ( 組 ) 數量 k = 自變數數量 ( 個數 ),k > 0, 正整數估計複迴歸方程式或估計多元迴歸方程式 (Estimated multiple regressio equatio) 大部分情況下, 複迴歸模式中的迴歸參數 (β 0, β 1,, β k) 皆不知其實際數值 僅可以利用樣本數值估算, 分別以樣本統計值 b 0, b 1,, b k 作為迴歸參數 β 0, β 1,, β k 的點估計值 y i = b 0 + b 1 x 1i + b x i + b 3 x 3i + + b k x ki, 其中 i = 1,, 其中 y i = 依變數 Y 第 i 個觀測值的估計值 x ki = 第 k 個自變數 X 第 i 個觀測值 b 0 = 複迴歸模式的統計值 (statistic), 截距 (itercept) 數值可能範圍- ~+ b 1,, b k = 複迴歸模式的統計值, 偏迴歸係數 (partial regressio coefficiet) 或迴歸係數 (regressio coefficiet) 數值可能範圍- ~+ = 觀測值 ( 組 ) 數量 k = 自變數數量 ( 個數 ) 名稱 確定性數學模式 (Determiistic model) 模式或方程式 y i = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki 第 3 頁 共 53 頁

4 名稱 複迴歸模式 (Multiple regressio model) 複迴歸方程式 (Multiple regressio equatio) 估計複迴歸方程式 (Estimated multiple regressio equatio) 模式或方程式 y i = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki + ε i E(y i) = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki y i = b 0 + b 1 x 1i + b x i + b 3 x 3i + + b k x ki 15. 最小平方法 最小平方法 (Least squares method) 是依據依變數觀測值 y i 與預測值 y i 之差的平方和必須維持最小數值 為基準 最小平方法數學法則 Mi SSE = i=1 (y i y i) = i=1 (y i b 0 b 1 x 1i b x i b 3 x 3i b k x ki ) 其中 y i = 依變數 Y 第 i 個觀測值的實際觀測值 y i = 在自變數為 x i 時依變數 y i 的估計值 ; 依變數 Y 第 i 個觀測值的估計值或預測值 x ki = 第 k 個自變數 X 第 i 個觀測值 b 0 = 複迴歸模式 β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki 中, 參數 (parameter) β 0 的估計值, 截距 (itercept) 或常數項 (costat term) 數值可能範圍 - ~+ b 1 = 複迴歸模式 β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki 中, 參數 (parameter) β 1 的估計值, 迴歸係 數 (regressio coefficiet) 數值可能範圍 - ~+ 複迴歸分析中, 對於迴歸參數的統計值估算, 皆是使用矩陣方式計算, 較為繁雜, 不易使用表格與計 算機運算 故此兩個自變數以上的複迴歸分析中使用統計軟體估算迴歸參數的統計值 在兩個自變數的複迴歸中 (y i = b 0 + b 1 x 1i + b x i), 迴歸參數的估計值計算比較簡單, 迴歸係數的估 計值公式 : i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] b 1 = (x i x ) b = (x 1i x 1) b 0 = y i b 1 x 1 b x 其中 y i = 依變數第 i 個觀測值的實際觀測值 y = 依變數所有樣本觀測值的平均值 y i = 在自變數為 x i 時依變數 y i 的估計值 ; 依變數第 i 個觀測值的估計值 x ki = 第 k 個自變數第 i 個觀測值 x 1 = 第 1 個自變數所有樣本觀測值的平均值 x = 第 個自變數所有樣本觀測值的平均值 b 0 = 複迴歸模式 β 0 + β 1 x 1i + β x i 中, 參數 (parameter) β 0 的估計值, 截距 (itercept) 或常數項 (costat term) 數值可能範圍 - ~+ b 1 = 複迴歸模式 β 0 + β 1 x 1i + β x i 中, 參數 (parameter) β 1 的估計值, 迴歸係數 (regressio coefficiet) 數值可能範圍 - ~+ b = 複迴歸模式 β 0 + β 1 x 1i + β x i 中, 參數 (parameter) β 的估計值, 迴歸係數 (regressio coefficiet) 第 4 頁 共 53 頁

5 數值可能範圍 - ~+ 範例 15.1 阿花連鎖餐廳有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i( 新台幣 : 元 ) 吳郭魚 套餐定價 x i( 新台幣 : 元 ) 和平均每日販售吳郭魚套餐數 y i( 單位 : 套 ) 列於下表 請計算出估 計複迴歸方程式的統計值 題解 : 利用公式計算結果 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i 吳郭魚吳郭魚營業點行銷費 (x x 1i x i (x 套餐定 i 套餐數 y i y 1i (x i (x 1i x 1) (x i x ) 1i x 1) 用 x 1i x 1 x x 1) x ) (x i (y i y ) (y i y ) x ) 價 x i y i 合計 平均值 i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] ( 584.0) ( 591.0) = = [ 584.0] i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) b 1 = (x i x ) b = (x 1i x 1) = i=1 [ i=1 (x 1i x 1) (x i x ) ] ( 591.0) ( 584.0) (1189.6) [ 584.0] = = b 0 = y i b 1 x 1 b x = (-0.839) 15.5 = 估計複迴歸方程式 y i = x 1i x i 利用 Excel 和 SPSS 統計軟體計算結果 答案 : 估計複迴歸方程式統計值 b 1 = ;b = 0.839;b 0 = Excel 007 軟體中選擇檔案 選項 執行 (G) 勾選分析工具箱 確定 回到 excel 視窗 資料 資 料分析 迴歸 確定 單獨解析行銷費用 x 1i 對銷售套餐數量 y i 的估計簡單線性迴歸方程式 y i = b 0 + b 1 x 1i = x 1i 行銷費用 x 1i 可以解釋銷售套餐數量 y i 之 9.85% 變異量 第 5 頁 共 53 頁

6 摘要輸出 迴歸統計 R 的倍數 R 平方 調整的 R 平方 標準誤 觀察值個數 10 ANOVA 自由度 SS MS F 顯著值 迴歸 殘差 總和 係數標準誤 t 統計 P- 值下限 95% 上限 95% 截距 X 變數 殘差輸出 觀察值 預測 Y 殘差 標準化殘差 單獨解析吳郭魚套餐定價 x i 對銷售套餐數量 y i 的估計簡單線性迴歸方程式 y i = b 0 + b 1 x i = x i 吳郭魚套餐定價 x i 可以解釋銷售套餐數量 y i 之 88.16% 變異量 摘要輸出 迴歸統計 R 的倍數 R 平方 調整的 R 平方 標準誤 觀察值個數 10 ANOVA 自由度 SS MS F 顯著值 迴歸 第 6 頁 共 53 頁

7 自由度 SS MS F 顯著值 殘差 總和 係數標準誤 t 統計 P- 值下限 95% 上限 95% 截距 X 變數 殘差輸出 觀察值 預測 Y 殘差 標準化殘差 行銷費用 x 1i 和吳郭魚套餐定價 x i 對銷售套餐數量 y i 的估計複迴歸方程式 y i = b 0 + b 1 x 1i + b x i = x 1i x i 行銷費用 x 1i 和吳郭魚套餐定價 x i 可以解釋銷售套餐數量 y i 之 95.1 % 變異量 Regressio Variables Etered/Removed b Variables Variables Model Method Etered Removed 1 X, X1 a. Eter a All requested variables etered. b Depedet Variable: Y Model Summary Model R R Square Adjusted R Std. Error of the Square Estimate a a Predictors: (Costat), X, X1 ANOVA b Model Sum of Squares df Mea Square F Sig. 1 Regressio a Residual Total a Predictors: (Costat), X, X1 b Depedet Variable: Y Coefficiets a Model 1 Ustadardized Coefficiets Stadardized Coefficiets t Sig. B Std. Error Beta (Costat) X X 第 7 頁 共 53 頁

8 a Depedet Variable: Y 殘差輸出 觀察值 預測 Y 殘差 標準化殘差 迴歸係數的解釋 在簡單線性迴歸方程式中, 從統計值 b 1 可以解釋自變數 x i 變動一個單位時, 對依變數估計值產生的改 變量 因此, 從簡單線性迴歸方程式中, 可以解釋行銷費用 x 1i 對銷售套餐數量 y i 的估計值影響, 當行銷費 用 x 1i 增加 ( 減少 ) 一個單位時, 對銷售套餐數量 y i 的估計值 y i 增加 ( 減少 )1.00 個單位數 吳郭魚套餐定價 x i 增加 ( 減少 ) 一個單位時, 對銷售套餐數量 y i 的估計值 y i 減少 ( 增加 )1.993 個單位數 y i = b 0 + b 1 x 1i = x 1i y i = b 0 + b x i = x i 在複迴歸方程式中, 從統計值 b 1 b 和 b k 可以解釋自變數 x i 變動一個單位時, 在其他自變數不變 的情況下, 對依變數估計值產生的改變量 因此, 從複迴歸方程式中, 可以解釋行銷費用 x 1i 對銷售套餐數 量 y i 的估計值 y i 影響, 當吳郭魚套餐定價 x i 固定不變時, 行銷費用 x 1i 增加 ( 減少 ) 一個單位時, 對銷售套餐 數量 y i 的估計值 y i 增加 ( 減少 )0.649 個單位數 吳郭魚套餐定價 x i 對銷售套餐數量 y i 的估計值 y i 影響, 當行 銷費用 x 1i 固定不變時, 吳郭魚套餐定價 x i 增加 ( 減少 ) 一個單位時, 對銷售套餐數量 y i 的估計值 y i 減少 ( 增 加 )0.839 個單位數 y i = b 0 + b 1 x 1i + b x i = x 1i x i 答案 : 使用統計軟體運算獲得之估計複迴歸方程式統計值 b 1 = 0.649;b = ;b 0 = 練習 15.1 叮叮連鎖咖啡店有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i( 單位 : 新台幣元 ) 題解 : 利用公式計算結果 兩公里內競爭咖啡店數量 x i( 單位 : 家 ) 和平均每日販售咖啡杯數 y i( 單位 : 杯 ) 列於下表 請 計算出估計複迴歸方程式的統計值 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i 第 8 頁 共 53 頁

9 競爭咖販售咖營業點行銷費 (x (x 1i (x i (x 啡店數 i 啡杯數 x 1i x 1 x i x y i y 1i x 1 ) (x i x ) 1i x 1 ) 用 x 1i x 1) x ) (x (y i y ) (y i y ) i x ) 量 x i y i 合計 平均值 i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = ( 38.0) ( 664.0) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] b 1 = (x i x ) = b = (x 1i x 1) i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) = 4610 ( 664.0) ( 38.0) (4680) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] = b 0 = y i b 1 x 1 b x = (-6.486) 4.6 = 估計複迴歸方程式 y i = x 1i x i 答案 : 估計複迴歸方程式統計值 b 1 = ;b = 6.486;b 0 = 練習 15. 吻別連鎖咖啡店有 10 營業點, 每個營業點個別的前一日訓練費用 x 1i( 單位 : 新台幣百元 ) 方圓兩公里內競爭咖啡店數量 x i( 單位 : 家 ) 和前一日營業金額 y i( 單位 : 新台幣百元 ) 列於下 表 請計算出估計複迴歸方程式的統計值 營業點 i 訓練費用 x 1i 競爭咖啡店數量 x i 營業金額 y i 題解 : 透過表格製作, 協助理解運算過程 利用公式計算結果 競爭咖營業點訓練費營業金 (x (x 1i (x i (x 啡店數 x 1i x 1 x i x y i y 1i x 1 ) (x i x ) 1i x 1 ) i 用 x 1i 額 y i x 1) x ) (x i (y i y ) (y i y ) x ) 量 x i 第 9 頁 共 53 頁

10 競爭咖營業點訓練費營業金 (x (x 1i (x i (x 啡店數 x 1i x 1 x i x y i y 1i x 1 ) (x i x ) 1i x 1 ) i 用 x 1i 額 y i x 1) x ) (x (y i y ) (y i y ) i x ) 量 x i 合計 平均值 i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = ( 196.) ( 664.0) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 196.0] = b 1 = (x i x ) = b = (x 1i x 1) i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] ( 664.0) ( 196.) (319) = = [ 196.0] b 0 = y i b 1 x 1 b x = ( ) 4.6 = 估計複迴歸方程式 y i = x 1i x i 答案 : 估計複迴歸方程式統計值 b 1 = 0.604;b = ;b 0 = 複判定係數 在簡單線性迴歸分析中使用判定係數 (coefficiet of determiatio), 評估簡單線性迴歸方程式中的適合 度 (goodess of fit) 同樣的評估程序亦可使用於複迴歸方程式, 在複迴歸方程式中利用複判定係數 複迴 歸決定係數 複迴歸判定係數或多元決定係數 (multiple coefficiet of determiatio) 總平方和或總變異 (sum of squares total, SST) 可以分解成迴歸造成的平方和 迴歸項平方和 (sum of squares due to regressio, SSR) 或可解釋的變異和誤差造成的平方和 誤差項平方和 (sum of squares due to error, SSE) 不可解釋的變異或隨機變異兩部分 SST = SSR + SSE i=1 (y i y ) = i=1 (y i y ) + (y i y i) 複判定係數 多元判定係數 (multiple coefficiet of determiatio) 或判定係數 (coefficiet of determiatio) 即是迴歸造成的平方和 (sum of squares due to regressio, SSR) 佔總平方和 (sum of squares total, SST) 的比例, 常使用 R 或 r 符號代表 複判定係數代表迴歸方程式可以解釋 ( 說明 ) 依變數 Y 變異量的比例 R 稱為多元 相關係數或複相關係數 (multiple correlatio coefficiet) R = SSR R = R = SSR SST = i=1 (y i y ) SST i=1(y i y ) (y i y ) i=1 = i=1(y i y ) i=1 = 1 SSE = 1 i=1 (y i y i) SST (y i y ) i=1 = 1 SSE = 1 i=1 (y i y i) SST (y i y ) 利用複判定係數 R 評估複迴歸方程式的適合度時, 當樣本數量較少或自變數較多, 會使自由度降低, 導致對複判定係數 R 有高估, 自變數對可解釋之變異量 (SSR) 的影響 若在複迴歸模式中加入一些與模式 無關的自變數, 則複判定係數 R 會增加, 因此, 無法客觀的代表複迴歸模式的解釋能力 故, 建議使用調 整判定係數 調整複判定係數或調整後的決定係數 (adjusted coefficiet of multiple determiatio; adjusted multiple coefficiet of determiatio; adjusted R square, R a, R, adjusted R or adj - R ) 為評量複迴歸方程式的 解釋能力 R a = R = 1 (1 R ) i=1 1 = 1 SSE 1 = 1 i=1 (y i y i) k 1 SST k 1 (y i y ) i=1 1 k 1 其中 y i = 依變數第 i 個觀測值的估計值 = 觀測值數量 k = 自變數數量 ( 個數 ) 第 10 頁共 53 頁

11 1 從上述調整判定係數公式中, 發現 > 1, 因此複判定係數 R > 調整判定係數 R k 1 a 當樣本數量 SSE 和自變數數量 k 在特定的比值下, 可能出現 > k 1, 則調整判定係數 R SST 1 a 會出現負值 (R a < 0) 當調整判定係數 (adjusted R square) 是負值時, 一般統計軟體會出現調整判定係數 (adjusted R square) 等於 0 的結果 複迴歸變異數分析 (aova) 表 變異來源 (source of 自由度 (degrees 均方 (mea 平方和 (sum of square) variatio) of freedom) square) 迴歸項 (regressio) SSR = i=1 (y i y ) k MSR = SSR 誤差項 ( 隨機項 )(error) SSE = i=1 (y i y i) k 1 MSE = 總變異 (total) SST = i=1 (y i y ) 1 k SSE k 1 F 值 F = MSR MSE 範例 15. 阿花連鎖餐廳有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i 吳郭魚套餐定價 x i 和平均每日販售吳郭魚套餐數 y i 列於下表 請計算出估計複迴歸方程式的複判定係數和調 整判定係數數值 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i 題解 : 估計複迴歸方程式 y i = x 1i x i 行銷費吳郭魚套吳郭魚營業點 i 用 x 1i 餐定價 x i 套餐數 y i y i y i y (y i y ) y i y (y i y ) 合計 平均值 SSR = i=1 (y i y ) = SST = i=1 (y i y ) = ANOVA b Model Sum of Squares df Mea Square F Sig. 1 Regressio a Residual Total a b Predictors: (Costat), X, X1 Depedet Variable: Y R = SSR SST R a = R = 1 (1 R 1 ) 10 1 k 第 11 頁共 53 頁

12 答案 : 複判定係數 R = 和調整判定係數 R a = 練習 15.3 叮叮連鎖咖啡店有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i( 新台幣 : 元 ) 兩公 里內競爭咖啡店數量 x i( 單位 : 家 ) 和平均每日販售咖啡杯數 y i( 單位 : 杯 ) 列於下表 請計算 出估計複迴歸方程式的複判定係數和調整判定係數數值 題解 : 利用公式計算迴歸方程式統計值結果 b 1 = 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i 競爭咖販售咖營業點行銷費 (x (x 啡店數 i 啡杯數 x 1i x 1 x i x y i y 1i (x i (x 1i x 1 ) (x i x ) 1i x 1 ) 用 x 1i x 1) x ) (x i (y i y ) (y i y ) x ) 量 x i y i 合計 平均值 i=1 (x i x ) i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] = b = (x 1i x 1) 第 1 頁共 53 頁 ( 38.0) ( 664.0) [ 38.0] = i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) = 4610 ( 664.0) ( 38.0) (4680) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] = b 0 = y i b 1 x 1 b x = (-6.486) 4.6 = 估計複迴歸方程式 y i = x 1i x i 行銷費競爭咖啡販售咖營業點 i 用 x 1i 店數量 x i 啡杯數 y i y i y i y (y i y ) y i y (y i y )

13 行銷費競爭咖啡販售咖營業點 i y i y i y (y i y ) y i y (y i y ) 用 x 1i 店數量 x i 啡杯數 y i 合計 平均值 SSR = i=1 (y i y ) = SST = i=1 (y i y ) = R = SSR = = SST R a = R = 1 (1 R 1 ) = 1 ( ) 10 1 = 1 (0.103) 9 = k 答案 : 複判定係數 R = 和調整判定係數 R a = 練習 15.4 某房屋仲介公司欲了解中古房屋之售價 Y( 單位 : 萬元 ) 與地坪 X 1( 單位 : 坪 ) 建坪 X ( 單位 : 坪 ) 屋齡 X 3( 單位 : 年 ) 及所在區域 X 4(1 代表都會區,0 代表非都會區 ) 之關係, 其迴歸分析 變異數分析表如下所示, 請計算複判定係數和調整判定係數 變異來源 (source of variatio) 平方和 (sum of square) 迴歸項 (regressio) 第 13 頁共 53 頁 自由度 (degrees of freedom) 均方 (mea square) 誤差項 ( 隨機項 )(error) 總變異 (total) 題解 : 依據下列複迴歸變異數分析表, 運算出上述題目中變異數分析表的缺值 複迴歸變異數分析 (aova) 表 變異來源 (source of 自由度 (degrees 均方 (mea 平方和 (sum of square) variatio) of freedom) square) 迴歸項 (regressio) SSR = i=1 (y i y ) k MSR = SSR 誤差項 ( 隨機項 )(error) SSE = i=1 (y i y i) k 1 MSE = 總變異 (total) SST = i=1 (y i y ) 1 k SSE k 1 F 值 F 值 F = MSR MSE 本題目中一共有地坪 X 1( 單位 : 坪 ) 建坪 X ( 單位 : 坪 ) 屋齡 X 3( 單位 : 年 ) 及所在區域 X 4(1 代表都會區, 0 代表非都會區 ) 四個變數, 故 k = 4( 自變數數量 ) k 1 = 16 = 1 已知誤差項均方和自由度數值, 即可透過 MSE = = SSE k 1 關係, 獲得誤差項平方和 SSE = MSE ( k - 1) = 已知迴歸項和誤差項平方和數值, 即可透過 SST = SSR + SSE, 獲得總變異的平方和 SST = SSR + SSE = = 已知迴歸項平方和和自由度數值, 即可透過 MSR = SSR, 獲得迴歸項的均方 MSR = SSR k k F = MSR = = MSE 變異來源 (source of variatio) 平方和 (sum of square) 自由度 (degrees of freedom) 均方 (mea square) F 值 迴歸項 (regressio) 誤差項 ( 隨機項 )(error) 總變異 (total) 複判定係數 R = SSR = = SST 調整判定係數 R a = R = 1 (1 R 1 ) = 1 ( ) 1 1 k = = = 1 ( ) 0 16 =

14 練習 15.5 答案 : 複判定係數 R = 和調整判定係數 R a = 欲使用自變數 X 1 X X 3 和 X 4 對依變數 Y 進行複迴歸分析, 其模式為 y i = β 0 + β 1 x 1i + β x i + β 3 x 3i + β 4 x 4i 獲得下列部分變異數分析 (ANOVA) 表資料, 請將缺的數值填入 變異來源 (source of variatio) 迴歸項 (regressio) 平方和 (sum of square) 誤差項 ( 隨機項 )(error) 70 題解 : 自變數數量 k = 4 自由度 (degrees of freedom) 總變異 (total) 0 47 變異來源 (source of variatio) 平方和 (sum of square) 自由度 (degrees of freedom) 迴歸項 (regressio) 0-70 = 150 k = 4 誤差項 ( 隨機項 )(error) = 43 總變異 (total) 0 47 均方 (mea square) 均方 (mea square) = = F 值 F 值 = 模型假設 複迴歸模式敘述自變數 (X 1 X X 3 X k) 依變數 Y 和誤差項 ε i 之間關係的方程式稱為複迴歸模式 多元迴歸模式 (multiple regressio model) 或複迴歸線性模式 (multiple regressio liear model) y i = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki + ε i, 其中 i = 1,, 在複迴歸模式或多元迴歸模式與簡單線性迴歸模式對於誤差項 ε i 的假設皆相同 複迴歸模式或多元迴歸模式之顯著性檢定必須依據下列誤差項或殘差項 ε i 的假設條件 A. 全部觀測點之誤差項 ε i 的平均值或期望值為 0 ε i = E(ε i) = 0 B. 各觀測點之誤差項 ε i 之間相互獨立 Cov(ε i, ε j) = 0, 在 i j, 其中 i, j = 1,, 任何兩個誤差項不相關 C. 各觀測點之誤差項 ε i 之變異數 σ 皆相等 [ 標準 ( 偏 ) 差 σ 皆相等 ] V(ε i) = σ 殘差項之變異數具有均一性 ( 齊一性 ) D. 全部觀測點之誤差項 ε i 屬於常態分布,ε i~n E. 誤差項 ε i 與 k 個自變數的數值沒有關係 Cov(ε i, x ji) = 0, 其中 i = 1,,,j = 1,, k 15.5 顯著性檢定 在複迴歸分析中, 先利用 F 值檢定所有自變數 X 1,, X k 和依變數 Y 的關係是否達到顯著水準 此 F 值檢定稱為整體顯著性 (overall sigificace) 檢定或聯合檢定 (global test) 若在 F 值檢定中發現所有自變數 X 1,, X k 和依變數 Y 的關係達到顯著水準 則進一步利用 t 值檢定分別各自變數 X 1,, X k 與依變數 Y 的關係 此 t 值檢定稱為個別顯著性 (idividual sigificace) 檢定或個別迴歸係數檢定 (Testig idividual regressio coefficiets) 第 14 頁共 53 頁

15 F 值檢定 利用 F 機率分布檢定樣本資料迴歸方程式中斜率 β 1 β β 3 和 β k 是否等於 0, 使用於驗證迴歸關 係的顯著性 迴歸造成的均方 (mea square due to regressio) 迴歸均方或迴歸平均平方和 (mea square regressio, MSR) 是迴歸項平方和 (sum of squares due to regressio, SSR) 除以迴歸自由度 (regressio degrees of freedom) 獲得 迴歸自由度 (regressio degrees of freedom) 等於自變數之個數 k MSR = SSR df = SSR k = i=1 (y i y ) k 在自變數 X 與依變數 y i 的複迴歸模式 y i = β 0 + β 1 x 1i + β x i + β 3 x 3i + + β k x ki + ε i 中顯示, 誤差項 ε i 的變異數 σ 亦即是依變數 y i 在迴歸模式中的變異數 誤差均方或誤差平均平方和 (mea square error, MSE) 則為誤差項 ε i 之變異數 σ 的估計值 ( 可表示為 S ), 可由殘差平方和 (sum square error, SSE) 除以其自由度 (degree of freedom, df) 獲得 在計算殘差平方和 (sum square error, SSE) 時, 需先估算迴歸模式的參數 (β 0 β 1 β β 3 β k), 因此殘差平方和的自由度為 k 1 利用 F 值檢定的程序 A. 設定顯著水準 α MSE = S = SSE B. 虛無假設 (ull hypothesis) H 0: β 1 = β = β 3 = = β k = 0 = i=1 (y i y i) df k 1 C. 對立假設 (alterative hypothesis) H 1: β 1 0, β 0, β 3 0,, or β k 0 D. 計算檢定統計值 F 值 檢定統計值 F = MSR MSE E. 若檢定統計值 F 臨界值 F α,k,-k-1, 接受虛無假設 H 0: β 1 = β = β 3 = = β k = 0 F. 若檢定統計值 F > 臨界值 F α,k,-k-1, 拒絕虛無假設 H 0: β 1 = β = β 3 = = β k = 0, 接受對立假設 H 1: β 1 0, β 0, β 3 0,, or β k 0 其中 F α,k,-k-1: 為顯著水準 α, 分子自由度 k, 分母自由度 k 1 的 F 分布數值 ( 使用 Excel 軟體 F.INV.RT 函數查詢獲得 ) 範例 15.3 阿花連鎖餐廳有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i 吳郭魚套餐定價 x i 和平均每日販售吳郭魚套餐數 y i 列於下表 請利用 F 值法檢定複迴歸方程式中斜率 β 1 和 β 是否全部等於 0 題解 : 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i 變異數分析 (ANOVA) 第 15 頁共 53 頁

16 變異來源 (source of variatio) 自由度 (degrees of freedom) 平方和 (sum of square) 均方 (mea square) F 值 顯著值 迴歸 殘差 總和 A. 設定顯著水準 α = 0.05, 臨界值 F α,k,-k-1 = F 0.05,,10--1 = F 0.05,,7 = ( 使用 Excel 軟體 F.INV.RT 函數 查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = β = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 or β 0 D. 計算檢定統計值 F 值 檢定統計值 F = MSR = MSE = E. 檢定統計值 F = > 臨界值 F α,k,-k-1 = , 拒絕虛無假設 H 0: β 1 = β = 0, 接受對立假設 H 1: β 1 0 or β 0 答案 : 複迴歸方程式中斜率 β 1 和 β 沒有全部等於 0 練習 15.6 奇遇連鎖餐廳有 14 個營業點, 每個營業點個別的平均每月行銷費用 (x 1i, 單位 : 萬元 ) 訓 題解 : 練費用 (x i, 單位 : 萬元 ) 和營業額 (y i, 單位 : 十萬元 ), 欲建立複迴歸模式 y i = β 0 + β 1 x 1i + β x i + ε i, 其中 ε i 為誤差項 請利用顯著水準 α = 0.05 檢定複迴歸方程式中斜率 β 1 和 β 是 否全部等於 0 迴歸與殘差平方和 (SS) 如下所示 假設此資料適合於有母數統計方法 (parametric statistical method) 分析 SS 迴歸 3560 殘差 440 變異來源 (source 自由度 (degrees 平方和 (sum 均方 (mea F 值 of variatio) of freedom) of square) square) 迴歸 殘差 總和 A. 設定顯著水準 α = 0.05, 臨界值 F α,k,-k-1 = F 0.05,,11 = F 0.05,,14--1 = 3.983( 使用 Excel 軟體 F.INV.RT 函數 查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = β = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 or β 0 D. 計算檢定統計值 F 值 檢定統計值 F = MSR = 1780 = 44.5 MSE 40 E. 檢定統計值 F = 44.5 > 臨界值 F α,k,-k-1 = 3.983, 拒絕虛無假設 H 0: β 1 = β = 0, 接受對立假設 H 1: β 1 0 or β 0 答案 : 複迴歸方程式中斜率 β 1 和 β 沒有全部等於 0 練習 15.7 叮叮連鎖咖啡店有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i( 新台幣 : 元 ) 兩公 里內競爭咖啡店數量 x i( 單位 : 家 ) 和平均每日販售咖啡杯數 y i( 單位 : 杯 ) 列於下表, 欲建立 第 16 頁共 53 頁

17 題解 : 利用公式計算結果 複迴歸模式 y i = β 0 + β 1 x 1i + β x i + ε i, 其中 ε i 為誤差項 請利用 F 值法檢定複迴歸方程式 中斜率 β 1 和 β 是否全部等於 0 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i 營業點行銷費競爭咖啡販售咖 x 1i x 1 x i x y i y i 用 x 1i 店數量 x i 啡杯數 y i 第 17 頁共 53 頁 (x (x 1i (x i (x 1i x 1 ) (x i x ) 1i x 1 ) x 1) x ) (x (y i y ) (y i y ) i x ) 合計 平均值 i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = ( 38.0) ( 664.0) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] = b 1 = (x i x ) = b = (x 1i x 1) i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) = 4610 ( 664.0) ( 38.0) (4680) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] = = b 0 = y i b 1 x 1 b x = (-6.486) 4.6 = 估計複迴歸方程式 y i = x 1i x i 營業點行銷費競爭咖啡販售咖啡 i 用 x 1i 店數量 x i 杯數 y i y i y i y (y i y ) y i y (y i y ) 合計 平均值 SSR = i=1 (y i y ) = SST = i=1 (y i y ) =

18 變異來源 (source of variatio) 自由度 (degrees of freedom) 變異數分析 (ANOVA) 平方和 (sum of square) 均方 (mea square) F 值 顯著值 迴歸 殘差 總和 A. 設定顯著水準 α = 0.05, 臨界值 F α,k,-k-1 = F 0.05,,10--1 = F 0.05,,7 = ( 使用 Excel 軟體 F.INV.RT 函數 查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = β = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 or β 0 D. 計算檢定統計值 F 值 檢定統計值 F = MSR MSE = = E. 檢定統計值 F = > 臨界值 F α,k,-k-1 = , 拒絕虛無假設 H 0: β 1 = β = 0, 接受對立假設 H 1: β 1 0 or β 0 答案 : 複迴歸方程式中斜率 β 1 和 β 沒有全部等於 0 t 值檢定 經過 F 值檢定確認所有自變數 X 1,, X k 和依變數 Y 的關係是否達到顯著水準, 若有達到顯著性相關水 準 後續利用 t 值檢定法檢定個別自變數 X 1,, X k 和依變數 Y 的關係是否達到顯著相關水準 利用樣本資 料檢定複迴歸方程式中個別自變數參數 β i 是否等於 0, 才可以進一步決定是否接受複迴歸分析的結果 若 依變數母體變異數 σ y 已知時, 可以運用標準化 z 值進行檢定或區間估計 若依變數母體變異數 σ y 未知時, 必須使用其估計值 依變數樣本變異數 S y 或 S y x1 x 取代 SSE = i=1 (y i y i) k i=1(y i y ) b 1 i=1(x 1i x 1) (y i y ) b i=1(x i x ) (y i y ) S y = S y x1 x = MSE = = i=1 (y i b 0 b 1 x 1i b x i ) 3 運用依變數樣本變異數 S y 估算依變數母體變異數 σ y 時, 相對應的 b 0 b 1 與 b 估算的變異數依序為 : = [ x 1 i=1 (x i x ) +x (x 1i x 1) S b0 S b1 = S b = i=1 (x 1i x 1) (x i x ) i=1 x 1 x i=1(x 1i x 1) (x i x ) i=1 [ (x 1i x 1) (x i x ) i=1(x i x ) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) i=1(x 1i x 1) i=1 ] + 1 ] S y i=1 ] S y i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) i=1 ] S y = 利用 t 值檢定的程序 A. 設定顯著水準 α B. 虛無假設 (ull hypothesis) H 0: β i = 0 C. 對立假設 (alterative hypothesis) H 1: β i 0 D. 計算檢定統計值 t 值 檢定統計值 t = b i S bi E. 若左側臨界值 tα, k 1 < 檢定統計值 t < 右側臨界值 tα, k 1, 接受虛無假設 H 0: β i = 0 F. 若檢定統計值 t < 左側臨界值 tα, k 1 或檢定統計值 t > 右側臨界值 tα, k 1, 拒絕虛無假設 H 0: β i = 0, 接受對立假設 (alterative hypothesis) H 1: β i 0 第 18 頁共 53 頁

19 其中 tα, k 1: α 為顯著水準, 自由度 k 1 的 t 分布數值 ( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) 在兩個自變數的情況下, 可以簡化為 tα, 3 k = 自變數數量 ( 個數 ),k > 0, 正整數 經過統計驗證的結果顯示, 若接受虛無假設 H 0: β i = 0 時, 則顯示依變數 E(y i) 和自變數 x i 之間沒有足 夠的證據證明兩者關係存在 ; 若接受對立假設 (alterative hypothesis) H 1: β i 0 時, 代表依變數 E(y i) 和自變 數 x i 之間有統計上的相關性存在 在進行統計驗證時, 將依據迴歸方程式斜率 β i 之估計值 b i 之抽樣分布資 料 範例 15.4 阿花連鎖餐廳有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i 吳郭魚套餐定價 x i 和平均每日販售吳郭魚套餐數 y i 列於下表 請利用 t 值法在顯著水準 α = 0.05 分別檢定複 迴歸方程式中斜率 β 1 和 β 是否等於 0 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i 題解 : 估計複迴歸方程式 y i = x 1i x i 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i y i y i y i (y i y i) 合計 平均值 第一種算法 S y = S y x1 x = MSE = SSE = i=1 (y i y i) k 1 3 = 第 19 頁共 53 頁 = 行銷費用吳郭魚套吳郭魚套 x i 營業點 i x 1i x 1 x 1i 餐定價 x i 餐數 y i x y i y (y i y ) (x 1i x 1 ) (x i x ) (y i y ) (y i y )

20 行銷費用吳郭魚套吳郭魚套 x 營業點 i x 1i i x 1 y i y (y i y ) (x 1i x 1 ) (x i x ) x 1i 餐定價 x i 餐數 y i x (y i y ) (y i y ) 合計 平均值 SSE = (y i y ) i=1 b 1 i=1(x 1i x 1) (y i y ) b i=1(x i x ) (y i y ) k ( 0.839) ( ) = = = 第二種算法 S y = S y x1 x = MSE = 行銷費吳郭魚套吳郭魚套營業點 i x 1i x 1 xi y i y (y i y ) (x 1i x 1) (x i (x 1i x 1) 用 x 1i 餐定價 x i 餐數 y i x x ) (x i x ) 合計 平均值 S b1 = i=1(x i x ) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) S b = S b0 S i=1 ] y = = i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) i=1 [ (x 1i x 1) (x i x ) S i=1 ] y = = = [ x 1 (x i x ) 第 0 頁共 53 頁 [ ] = [ ] = i=1 +x i=1(x 1i x 1) x 1 x i=1(x 1i x 1) (x i x ) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) [ ( ) + 1 ] = [ ] [ = [ ] = i=1 ] + 1 ] S y = S b1 = S b1 = = S b = S b = = S b0 = S b0 = = 對 β 1 是否等於 0 進行假設檢定 = 10 ] A. 設定顯著水準 α = 0.05, 左側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646; 右側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 D. 計算檢定統計值 t 值 檢定統計值 t = b 1 S b 1 = = E. 檢定統計值 t = > 右側臨界值 tα, k 1 =.3646, 拒絕虛無假設 H 0: β 1 = 0, 接受對立假設 (alterative hypothesis) H 1: β 1 0 對 β 是否等於 0 進行假設檢定

21 A. 設定顯著水準 α = 0.05, 左側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646; 右側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β = 0 C. 對立假設 (alterative hypothesis) H 1: β 0 D. 計算檢定統計值 t 值 檢定統計值 t = b S b = = E. 檢定統計值 t =.476 < 左側臨界值 tα, k 1 =.3646, 拒絕虛無假設 H 0: β = 0, 接受對立假設 (alterative hypothesis) H 1: β 0 對 β 0 是否等於 0 進行假設檢定 A. 設定顯著水準 α = 0.05, 左側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646; 右側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 0 = 0 C. 對立假設 (alterative hypothesis) H 1: β 0 0 D. 計算檢定統計值 t 值 檢定統計值 t = b 0 S b 0 = =.5547 E. 檢定統計值 t =.5547 > 右側臨界值 tα, k 1 =.3646, 拒絕虛無假設 H 0: β 0 = 0, 接受對立假設 (alterative hypothesis) H 1: β 0 0 答案 : 迴歸方程式中參數 β 0 β 1 和 β 皆不等於 0 係數標準誤 t 統計 P- 值下限 95% 上限 95% 下限 95.0% 上限 95.0% 截距 X 變數 X 變數 練習 15.8 叮叮連鎖咖啡店有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i( 新台幣 : 元 ) 兩公里內競爭咖啡店數量 x i( 單位 : 家 ) 和平均每日販售咖啡杯數 y i( 單位 : 杯 ) 列於下表, 欲建立複迴歸模式 y i = β 0 + β 1 x 1i + β x i + ε i, 其中 ε i 為誤差項 請利用 t 值法在顯著水準 α = 0.05 分別檢定複迴歸方程式中斜率 β 1 和 β 是否等於 0 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i 題解 : 利用表格協助公式計算出迴歸係數營業點行銷費競爭咖啡販售咖 (x x 1i x i (x y i y 1i (x i (x 1i x 1 ) (x i x ) 1i x 1 ) i 用 x 1i 店數量 x i 啡杯數 y i x 1 x x 1) x ) (x (y i y ) (y i y ) i x ) 第 1 頁共 53 頁

22 營業點行銷費競爭咖啡販售咖 x 1i i 用 x 1i 店數量 x i 啡杯數 y i x 1 x i x y i y 第 頁共 53 頁 (x (x 1i (x i (x 1i x 1 ) (x i x ) 1i x 1 ) x 1) x ) (x (y i y ) (y i y ) i x ) 合計 平均值 i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = ( 38.0) ( 664.0) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] = b 1 = (x i x ) = b = (x 1i x 1) i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) = 4610 ( 664.0) ( 38.0) (4680) i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [ 38.0] = = b 0 = y i b 1 x 1 b x = (-6.486) 4.6 = 估計複迴歸方程式 y i = x 1i x i 行銷費競爭咖啡販售咖營業點 i y i y i y (y i y ) (y y i y i 用 x 1i 店數量 x i 啡杯數 y i y ) 合計 平均值 SSR = i=1 (y i y ) = SST = i=1 (y i y ) = 變異來源 (source of variatio) 自由度 (degrees of freedom) 變異數分析 (ANOVA) 平方和 (sum of square) 均方 (mea square) F 值 顯著值 迴歸 殘差 總和 A. 設定顯著水準 α = 0.05, 臨界值 F α,k,-k-1 = F 0.05,,10--1 = F 0.05,,7 = ( 使用 Excel 軟體 F.INV.RT 函數 查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = β = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 or β 0 D. 計算檢定統計值 F 值 檢定統計值 F = MSR MSE = =

23 E. 檢定統計值 F = > 臨界值 F α,k,-k-1 = , 拒絕虛無假設 H 0: β 1 = β = 0, 接受對立假設 H 1: β 1 0 or β 0 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i y i y i y i (y i y i) 合計 平均值 S y = S y x1 x = MSE = i=1 (y i y i) = = S b1 = S b = i=1 (x 1i x 1) (x i x ) = i=1(x i x ) i=1 [ (x 1i x 1) (x i x ) i=1 ] S y = i=1(x 1i x 1) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) =.6384 = [ x 1 (x i x ) S b0 i=1 ] S y = = [ 38.0] = [ 38.0] i=1 +x i=1(x 1i x 1) x 1 x i=1(x 1i x 1) (x i x ) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) [ ( 38.0) + 1 ] [ 38.0] = [ [ ] = i=1 ] + 1 ] S y = S b1 = S b1 = = S b = S b =.6384 = S b0 = S b0 = = 對 β 1 是否等於 0 進行假設檢定 10 ] = A. 設定顯著水準 α = 0.05, 右側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646; 左側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 D. 計算檢定統計值 t 值 檢定統計值 t = b 1 S b 1 = =.6845 E. 檢定統計值 t =.6845 > 右側臨界值 tα, k 1 =.3646, 拒絕虛無假設 H 0: β 1 = 0, 接受對立假設 (alterative hypothesis) H 1: β 1 0 對 β 是否等於 0 進行假設檢定 A. 設定顯著水準 α = 0.05, 右側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646; 左側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β = 0 C. 對立假設 (alterative hypothesis) H 1: β 0 D. 計算檢定統計值 t 值 第 3 頁共 53 頁

24 檢定統計值 t = b S b = = E. 檢定統計值 t = < 左側臨界值 tα, k 1 =.3646, 拒絕虛無假設 H 0: β = 0, 接受對立假設 (alterative hypothesis) H 1: β 0 對 β 0 是否等於 0 進行假設檢定 A. 設定顯著水準 α = 0.05, 右側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646; 左側臨界值 tα, k 1 = t0.05,10 1 = t0.05,7 =.3646( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 0 = 0 C. 對立假設 (alterative hypothesis) H 1: β 0 0 D. 計算檢定統計值 t 值 檢定統計值 t = b 0 S b 0 = =.6645 E. 檢定統計值 t =.6645 > 右側臨界值 tα, k 1 =.3646, 拒絕虛無假設 H 0: β 0 = 0, 接受對立假設 (alterative hypothesis) H 1: β 0 0 答案 : 迴歸方程式中參數 β 0 β 1 和 β 皆不等於 0 係數標準誤 t 統計 P- 值下限 95% 上限 95% 截距 X 變數 X 變數 練習 15.9 某旅行社有 8 位業務員, 上週工作時數 x 1i( 單位 : 小時 ) 年資 x i( 單位 : 年 ) 和上週業績 y i( 單 位 : 新台幣萬元 ) 列於下表, 欲建立複迴歸模式 y i = β 0 + β 1 x 1i + β x i + ε i, 其中 ε i 為誤差 項 請利用 t 值法在顯著水準 α = 0.05 分別檢定複迴歸方程式中斜率 β 1 和 β 是否等於 0 題解 : 利用表格協助公式計算出迴歸係數 業務員 i 上週工作 時數 x 1i 年資 x i 業務員 i 上週工作時數 x 1i 年資 x i 上週業績 y i 上週業 x 1i 績 y i x 1 x i x y i y 第 4 頁共 53 頁 (x (x 1i (x i (x 1i x 1 ) (x i x ) 1i x 1 ) x 1) x ) (x (y i y ) (y i y ) i x ) 合計 平均值 i=1 i=1(x 1i x 1) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x i x ) (y i y ) = = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] [4.5] b 1 = (x i x )

25 = (x b = 1i x 1) i=1 i=1(x i x ) (y i y ) i=1 (x 1i x 1) (x i x ) i=1(x 1i x 1) (y i y ) = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] = b 0 = y i b 1 x 1 b x = = 估計複迴歸方程式 y i = x 1i x i 第 5 頁共 53 頁 [4.5] = 業務員 i 上週工作時數 x 1i 年資 x i 上週業績 y i y i y i y (y i y ) y i y (y i y ) 合計 平均值 SSR = i=1 (y i y ) = SST = i=1 (y i y ) = 變異來源 (source of variatio) 自由度 (degrees of freedom) 變異數分析 (ANOVA) 平方和 (sum of square) 均方 (mea square) F 值 顯著值 迴歸 殘差 總和 A. 設定顯著水準 α = 0.05, 臨界值 F α,k,-k-1 = F 0.05,,8--1 = F 0.05,,5 = ( 使用 Excel 軟體 F.INV.RT 函數查 詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = β = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 or β 0 D. 計算檢定統計值 F 值 檢定統計值 F = MSR MSE = = E. 檢定統計值 F = > 臨界值 F α,k,-k-1 = , 拒絕虛無假設 H 0: β 1 = β = 0, 接受對立假設 H 1: β 1 0 or β 0 業務員 i 上週工作時數 x 1i 年資 x i 上週業績 y i y i y i y i (y i y i) 合計 平均值 S y = S y x1 x = MSE = i=1 (y i y i) = = S b1 = i=1 (x 1i x 1) (x i x ) = i=1(x i x ) i=1 [ (x 1i x 1) (x i x ) i=1 ] S y = [4.5] =

26 S b = i=1(x 1i x 1) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) =.3607 = [ x 1 (x i x ) S b0 i=1 ] S y = i=1 +x i=1(x 1i x 1) x 1 x i=1(x 1i x 1) (x i x ) i=1 (x 1i x 1) i=1(x i x ) [ (x 1i x 1) (x i x ) [ (4.5) + 1 ] = [4.5] [ ] = = [4.5] i=1 ] + 1 ] S y = S b1 = S b1 = = S b = S b =.3607 = S b0 = S b0 = = 對 β 1 是否等於 0 進行假設檢定 ] = [ A. 設定顯著水準 α = 0.05, 左側臨界值 -tα, k 1 = -t0.05,8 1 = -t0.05,5 = ; 右側臨界值 tα, k 1 = t0.05,8 1 = t0.05,5 =.5706( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 1 = 0 C. 對立假設 (alterative hypothesis) H 1: β 1 0 D. 計算檢定統計值 t 值 檢定統計值 t = b 1 S b 1 = = E. 左側臨界值 -tα, k 1 = < 檢定統計值 t = < 右側臨界值 tα, k 1 =.5706, 接受虛 無假設 H 0: β 1 = 0 對 β 是否等於 0 進行假設檢定 A. 設定顯著水準 α = 0.05, 左側臨界值 -tα, k 1 = -t0.05,8 1 = -t0.05,5 = ; 右側臨界值 tα, k 1 = t0.05 =,8 1 t0.05,5 =.5706( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β = 0 C. 對立假設 (alterative hypothesis) H 1: β 0 D. 計算檢定統計值 t 值 檢定統計值 t = b S b = = E. 檢定統計值 t = > 右側臨界值 tα, k 1 =.5706, 拒絕虛無假設 H 0: β = 0, 接受對立假設 (alterative hypothesis) H 1: β 0 對 β 0 是否等於 0 進行假設檢定 A. 設定顯著水準 α = 0.05, 左側臨界值 -tα, k 1 = -t0.05,8 1 = -t0.05,5 = ; 右側臨界值 tα, k 1 = t0.05 =,8 1 t0.05,5 =.5706( 使用 Excel 軟體 T.INV.T 函數查詢獲得 ) B. 虛無假設 (ull hypothesis) H 0: β 0 = 0 C. 對立假設 (alterative hypothesis) H 1: β 0 0 D. 計算檢定統計值 t 值 檢定統計值 t = b 0 S b 0 = =.106 E. 左側臨界值 -tα, k 1 = < 檢定統計值 t =.106 < 右側臨界值 tα, k 1 =.5706, 接受虛 無假設 H 0: β 0 = 0 答案 : 迴歸方程式中僅有參數 β 不等於 0 第 6 頁共 53 頁

27 係數 標準誤 t 統計 P- 值 下限 95% 上限 95% 截距 X 變數 X 變數 多重共線性 線性重合 (multicolliearity) 在複迴歸分析中, 自變數之間可能並非相互獨立, 而具有某種程度的相關性存在 利用自變數樣本觀 測值之間的相關係數 r xi x j, 代表兩自變數之間的相關程度 當兩自變數之間的相關係數 r xi x j 大於 0.7 時, 多重共線性的嚴重性就會很高, 影響迴歸係數估計值的估算 利用最小平方法估算迴歸模式參數的估計值時, 若自變數之間有多重共線性的問題發生, 則可能會對 於迴歸出來之係數數值產生很大的影響, 甚至於會造成正的數值, 變成負的數值 因此, 當發現自變數之 間有多重共線性時, 利用最小平方法估算迴歸模式參數的估計值, 其數值可信度, 恐需大幅度的懷疑其準 確性 Colliearity Diagostics a Model Dimesio Eigevalue Coditio Variace Proportios Idex (Costat) X1 X a Depedet Variable: Y 在共線性診斷表中, 當特徵值 (eigevalue) 愈小 條件指標 (coditio idex) 愈大 變異數比率 (variace proportios) 愈大, 表示迴歸模式具有共線性問題存在 在逐步迴歸分析中, 迴歸模式會依據自變數對依變數的影響程度, 逐一挑選自變數放入迴歸模式中, 因此, 若利用逐步迴歸分析時, 可以將共線性的問題排除 15.6 運用迴歸參數進行估計和預測 在多元線性迴歸模式中, 利用樣本資料以最小平方法, 獲得估計線性迴歸方程式 y i = b 0 + b 1 x 1i + b x i + b 3 x 3i + + b k x ki 若檢定迴歸方程式中斜率 β i 皆是顯著性的不等於 0( 拒絕虛無假設 H 0: β i = 0, 接受對立假設 H 1: β i 0), 而調整判定係數 (adjusted coefficiet of multiple determiatio) R a 數值高, 顯示其適合度亦高 則此複迴歸方程式可以應用於預測依變數 y i 點估計 (poit estimatio) 阿花連鎖餐廳有 10 營業點, 依據每個營業點個別的平均每日行銷費用 x 1i 吳郭魚套餐定價 x i 和平均每日販售吳郭魚套餐數 y i 的 10 個營業點樣本資料 獲得每個營業點個別的平均每日行銷費用 x 1i 和吳郭魚套餐定價 x i 對平均每日販售吳郭魚套餐數 y i 的估計複迴歸方程式 y i = x 1i x i 若平均每日行銷費用 x 1i 為 50 與吳郭魚套餐定價 x i 為 350 時, 則每日販售吳郭魚套餐數的預估值 y i = = 51.49; 平均每日行銷費用 x 1i 為 350 與吳郭魚套餐定價 x i 為 150 時, 則每日販售吳郭魚套餐數的預估值 y i = = 84.1 第 7 頁共 53 頁

28 區間估計 (iterval estimatio) 複迴歸分析的目的就是預測依變數 y i, 對依變數 y i 的預測可以分為兩種 : 第一種是各自變數依序為一特定數值 x 10, x 0, x 30,, x k0 時, 預測依變數之平均值 y 0 E(y 0) 或 E(y x 0) 的信賴區間 ; 第二種則是各自變數依序為一特定數值 x 10, x 0, x 30,, x k0 時, 預測依變數 y i 之個別數值 y 0 的信賴區間 以下內容針對兩個自變數的一階複迴歸線性模式 y i = β 0 + β 1 x 1i + β x i + ε i, i = 1,, 預測依變數之平均值 y 0 E(y 0) 或 E(y x 10,x 0) 的信賴區間 在複迴歸方程式中, 自變數 x 10 和 x 0 若屬於常態分布時, 透過加法定理在複迴歸方程式 (y i = b 0 + b 1 x 1i + b x i + b 3 x 3i + + b k x ki) 中的依變數估計值 y 0 亦屬於常態分布 y 0~N(E(y 0),σ y 0 ) σ y 0 = σ [ (x 10 x 1) i=1 (x i x ) +(x 0 x ) i=1(x 1i x 1 ) (x 10 x 1) (x 0 x ) i=1(x 1i x 1) (x i x ) + 1 ] i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] 若依變數母體變異數 σ 已知時, 在特定自變數數值 (x 10 和 x 0) 組合下, 依變數之平均值 y 0 E(y 0) 或 E(y x 10,x 0) 的信賴區間 : y 0 ± zα σ y 0 若依變數母體變異數 σ 未知時, 在特定自變數數值 (x 10 和 x 0) 組合下, 依變數之平均值 y 0 E(y 0) 或 E(y x 10,x 0) 的信賴區間 : y 0 ± tα, k 1 S y 0 在未知依變數母體變異數 σ 時, 可以利用依變數樣本變異數 S y x1 x = MSE = SSE = i=1 (y i y i) k 1 3 依變數母體變異數 σ 數值, 由依變數估計值 y 0 的變異數 S y 0, 再運用自由度 k 1 的 t 分布, 推估依變數 之平均值 y 0 E(y 0) 或 E(y x 10,x 0) 的信賴區間 : S y 0 [ (x 10 x 1) i=1 (x i x ) +(x 0 x ) (x 1i x 1) = S y x1 x 其中 S y = S y x1 x = MSE = i=1 (x 10 x 1) (x 0 x ) i=1(x 1i x 1) (x i x ) i=1 [ (x 1i x 1) (x i x ) = i=1 (y i b 0 b 1 x 1i b x i ) k 1 i=1 (x 1i x 1) (x i x ) SSE = i=1 (y i y i) k 1 k 1 i=1 ] + 1 ] 估計 範例 15.5 阿花連鎖餐廳有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i 吳郭魚套餐定價 x i 和平均每日販售吳郭魚套餐數 y i 列於下表 透過估計複迴歸方程式 y i = b 0 + b 1 x 1i + b x i 進行預測 請推估在每日行銷費用為 00 與吳郭魚套餐定價為 150 時, 平均販售吳郭魚套 餐數量 y 0 在顯著水準 α = 0.05 的信賴區間 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i 題解 : 估計複迴歸方程式 y i = x 1i x i 點估計值 y 0 = x 1i x i = = 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i y i y i y i (y i y i) 第 8 頁共 53 頁

29 S y 0 營業點 i 行銷費用 x 1i 吳郭魚套餐定價 x i 吳郭魚套餐數 y i y i y i y i (y i y i) 合計 平均值 S y = S y x1 x = MSE = SSE = i=1 (y i y i) k 1 k 1 = = 行銷費吳郭魚套吳郭魚套營業點 i x 1i x 1 xi y i y (x 1i x 1) (x i (x 1i x 1 ) 用 x 1i 餐定價 x i 餐數 y i x x ) (x i x ) 合計 平均值 [ (x 10 x 1) i=1 (x i x ) +(x 0 x ) (x 1i x 1) i=1 (x 10 x 1) (x 0 x ) i=1(x 1i x 1) (x i x ) i=1 [ (x 1i x 1) (x i x ) = S y x1 x + 1 ] = i=1 (x 1i x 1) (x i x ) i=1 ] [ ( ) ( ) ( ) ( ) ( ) + 1 ] = [ ] 10 [ ] = S y 0 = S y 0 = = y 0 ± tα, k 1 S = ± t = ± y 0,10 1 = ± 答案 : 在每日行銷費用為 00 與吳郭魚套餐定價為 150 時, 平均販售吳郭魚套餐數量的信賴區間 ~13.08 套 練習 叮叮連鎖咖啡店有 10 營業點, 每個營業點個別的平均每日行銷費用 x 1i( 新台幣 : 元 ) 兩公里內競爭咖啡店數量 x i( 單位 : 家 ) 和平均每日販售咖啡杯數 y i( 單位 : 杯 ) 列於下表, 欲建立迴歸模式 y i = β 0 + β 1 x 1i + β x i + ε i 進行預測, 其中 ε i 為誤差項 請推估在每日行銷費用為 00 與兩公里內競爭咖啡店數量為 5 家時, 平均每日販售咖啡杯數 y 0 在顯著水準 α = 0.05 的信賴區間 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i 第 9 頁共 53 頁

30 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i 題解 : 估計複迴歸方程式 y i = x 1i x i 點估計值 y 0 = x 1i x i = = 營業點 i 行銷費用 x 1i 競爭咖啡店數量 x i 販售咖啡杯數 y i y i y i y i (y i y i) 合計 平均值 S y = S y x1 x = MSE = SSE = i=1 (y i y i) k 1 k 1 營業點行銷費競爭咖啡販售咖 x 1i x 1 x i x y i y i 用 x 1i 店數量 x i 啡杯數 y i = = (x 1i (x i (x 1i x 1 ) (x i x ) (x 1i x 1) x 1) x ) (y i y ) (y i y ) (x i x ) 合計 平均值 S y 0 [ (x 10 x 1) i=1 (x i x ) +(x 0 x ) (x 1i x 1) = S y x1 x i=1 (x 10 x 1) (x 0 x ) i=1(x 1i x 1) (x i x ) + 1 ] = i=1 (x 1i x 1) i=1(x i x ) [ i=1 (x 1i x 1) (x i x ) ] ] = [ + 1 ] [ 38.0] [ ( ) (5 4.6) 4610 ( ) (5 4.6) ( 38.0) = S y 0 = S y 0 = = y 0 ± tα, k 1 S = ± t = ± y 0,10 1 = ± 答案 : 在每日行銷費用為 00 與兩公里內競爭咖啡店數量為 5 家時, 平均每日販售咖啡杯數 y 0 的信賴區間 ~0.91 杯 練習 某旅行社有 8 位業務員, 上週工作時數 x 1i( 單位 : 小時 ) 年資 x i( 單位 : 年 ) 和上週業績 y i( 單 位 : 新台幣萬元 ) 列於下表, 欲建立複迴歸模式 y i = β 0 + β 1 x 1i + β x i + ε i, 其中 ε i 為誤差 項 請推估在上周工作時數為 45 小時與年資 7 年時, 平均上週業績 y 0 在顯著水準 α = 0.05 第 30 頁共 53 頁