機率 台大電機系葉丙成 微博 : weibo.com/yehbo 臉書 : facebook.com/prof.yeh 部落格 : pcyeh.blog.ntu.edu.tw
本週主題概述 8-: 聯合機率分佈 8-2: 邊際機率分佈 8-3: 雙變數期望值 2
8-: 聯合機率分佈 (JOINT PROBABILITY DISTRIBUTION) 第八週 3
當小明出國去交換時 X: 小美臉書 /QQ 離線時間,X~UNIF(8, 2) Y: 小華臉書 /QQ 離線時間,Y~UNIF(8, 2) Z: 小園臉書 /QQ 離線時間,Z~UNIF(8, 2) 假設 X, Y, Z 都是離散隨機變數 p X (): p Y (y): p Z (z): 8 9 0 2 8 9 0 2 y 8 9 0 2 z
8 9 0 2 當小明出國去交換時 若將小美離線時間 X 與小園離線時間 Z 一起看呢? 畫出 P X =, Z = z : z 2 0 2 9 8
8 9 0 2 滿山盡是君雅照! 若將小美離線時間 X 與小園離線時間 Y 一起看呢? 畫出 P X =, Y = y, 赫然發現! y 2 0 9 8
聯合機率分佈 同時將多個隨機變數的行為一起拿來看, 我們可以看出更多以往看不到的資訊! 同時考慮多個隨機變數的機率分佈稱之為聯合機率分佈 (joint probability distribution) 聯合機率分佈亦有離散與連續的分別
聯合 PMF (Joint PMF) 若 X, Y 皆為離散隨機變數, 我們可以定義他們的聯合 PMF p X,Y, y = P(X = 且 Y = y) 聯合 PMF 決定了 X, Y 的聯合機率分佈
聯合 PMF (Joint PMF) E: 小美離線時間 X 與小華離線時間 Y 的聯合 PMF: P X,Y, y = P(X =, Y = y): y 2 0 9 8 8 9 0 2
聯合 PMF 的性質 0 p X,Y, y = y= p X,Y, y = X, Y 獨立 P X,Y, y = P(X =, Y = y) = P X = P(Y = y) = P X P Y (y) 對任何事件 B: P B = P X,Y (, y),y B y 2 0 9 8 E: B: 美 華下線時間不晚於十點 8 9 0 2 P B =)
聯合 CDF (Joint CDF) 若考慮兩個隨機變數 X, Y 的聯合機率分佈, 我們也可定義出所謂的聯合 CDF: F X,Y, y = P(X 且 Y y) = P(X, Y y) F X,Y 0, 0 = y 2 0 9 8 8 9 0 2
聯合 CDF (Joint CDF) 若考慮兩個隨機變數 X, Y 的聯合機率分佈, 我們也可定義出所謂的聯合 CDF: F X,Y, y = P(X 且 Y y) = P(X, Y y) F X,Y 9, = y 2 0 9 8 8 9 0 2
聯合 CDF (Joint CDF) F X,Y, y = P(X 且 Y y) = P(X, Y y) = (X, Y) 會落在黃色區域的機率 y D: F X P(X ) = (X, Y) 會落在黃色區域的機率 B -
聯合 CDF 的性質 0 F X,Y, y 若 2 且 y y 2, 則 F X,Y, y F X,Y ( 2, y 2 ) F X,Y, = P X, Y = P X = F X () F X,Y, y = P X, Y y = P Y y = F Y (y) F X,Y, = P X, Y = F X,Y, = P X, Y P Y = 0 F X,Y, y = P X, Y y P X = 0
聯合 CDF 的性質 四方格性質 : P X 2, y Y y 2 = F X,Y 2, y 2 F X,Y 2, y F X,Y, y 2 + F X,Y (, y ) y y y 2 y 2 y y 2 2
若 X, Y 皆為連續隨機變數怎辦? 回想之前一個變數 時 PDF 怎麼定義? 如何延伸 到兩個變數的情況? P,+ f X = lim 0 P f X,Y, y = lim 0 y 0 X,Y y Δ y Δ Δy
聯合 PDF (Joint PDF) 若 X, Y 皆為連續隨機變數, 我們可以定義聯合 PDF: P X, Y f X,Y, y = lim 0 y y 0 = lim 0 y 0 = P X + Δ 且 y Y y + Δy y
聯合 PDF (Joint PDF) f X,Y, y = lim y 0 y f X,Y, y F X,Y,y+ y = 2 F X,Y, y y F X,Y,y F X,Y, y = f X,Y u, v dvdu y D: 極小時 P X, + f X 2D:, y 極小時 P( X, Y ) f X,Y, y y y D: 2D: Δ Δ Δy
聯合 PDF E: 小美等公車時間為 X, 小園等公車時間為 Y X, Y 兩者獨立且皆為連續之機率分佈 UNIF 0, 0 則 X, Y 之聯合 PDF 為 00 z = f X,Y (, y) 0 y 其他聯合 PDF 的例子 : Bivariate Gaussian 0
聯合 PDF (Joint PDF) 聯合 PDF 亦決定了 X, Y 的聯合機率分佈 聯合 PDF 跟聯合 CDF 之間的關係 : F X,Y, y = f X,Y u, v dvdu f X,Y, y y = 2 F X,Y, y y
聯合 PDF 的性質 f,y, y 0 f X,Y, y ddy = 若 X, Y 獨立 f X,Y, y = f X f Y y 對任何事件 B, P B = f X,Y, y ddy,y B 00 z = f X,Y (, y) 0 y 0
本節回顧 何謂聯合機率分佈? 為何要看聯合機率分佈? 聯合 PMF 的定義? 聯合 CDF 的定義? 聯合 PDF 的定義? 22
8-2: 邊際機率分佈 (MARGINAL PROBABILITY DISTRIBUTION) 第八週 23
已知聯合 PMF, 欲得個別 PMF E:X, Y 分別為小美 小麗臉書 /QQ 離線時間 聯合 PMF 如下 : p X,Y (, y) X = 8 X = 9 X = 0 Y = 8 0.2 0. 0.0 Y = 9 0.0 0.2 0. Y = 0 0.0 0. 0. p X =? p Y y =?
邊際 PMF (Marginal PMF) 已知聯合 PMF p X,Y (, y), 則可求得 p X p Y y, 稱之為邊際 PMF 邊際 PMF 算法 : p X = p Y y =
邊際 PDF (Marginal PDF) 已知聯合 PDF f X,Y (, y), 則可求得 f X f Y y, 稱之為邊際 PDF 邊際 PDF 算法 : f X = f Y y =
邊際 PDF (Marginal PDF) E: 已知 f X,Y, y = 0., if 0 y 2, 0, otherwise. y 2 f X = f Y y = 2
本節回顧 邊際 PMF 的定義? 怎麼算? 邊際 PDF 的定義? 怎麼算? 28
8-3: 雙變數期望值 第八週 29
聯合 PMF 下的期望值 回想只考慮一個離散隨機變數 X 時其任意函數 g X 的期望值是 : E g X = 若同時考慮兩個離散隨機變數 X, Y 時, 他們的任意函數 h(x, Y) 的期望值是 E h X, Y =
聯合 PMF 下的期望值 E:X, Y 分別為小美 小麗臉書 /QQ 離線時間 聯合 PMF 如下 E X Y = p X,Y (, y) X = 8 X = 9 X = 0 Y = 8 0.2 0. 0.0 Y = 9 0.0 0.2 0. Y = 0 0.0 0. 0.
聯合 PDF 下的期望值 回想只考慮一個連續隨機變數 X 時 其任意函數 g X 的期望值是 : E g X = 若同時考慮兩個連續隨機變數 X, Y 時, 他們的任 意函數 h(x, Y) 的期望值是 E h X, Y =
聯合 PDF 下的期望值 E: 已知 f X,Y, y = E X + Y = 0., if 0 y 2, 0, otherwise. 2 y y 2
期望值的性質 E α h X, Y + β h 2 X, Y = αe h X, Y + βe[h 2 X, Y ] 證明 ( 離散 ): E α h X, Y + β h 2 X, Y = αh, y + βh 2, y p X,Y, y = = y=
期望值的性質 E α h X, Y + β h 2 X, Y = αe h X, Y + βe[h 2 X, Y ] 證明 ( 連續 ): E α h X, Y + β h 2 X, Y = αh, y + βh 2, y f X,Y, y ddy =
期望值的性質 若 X, Y 獨立, 則 E g X h Y = E g X E[h Y ] 證明 ( 離散 ): E g X h Y = g h y p X,Y, y = = y=
期望值的性質 若 X, Y 獨立, 則 E g X h Y = E g X E[h Y ] 證明 ( 連續 ): E g X h Y = g h y = f X,Y, y ddy
Variance 相關的性質 Var X + Y = E[(X + Y E X + Y μ X +μ Y ) 2 ] = X, Y 獨立 2E X μ X Y μ Y = 2E X μ X E[ Y μ Y ] = 0 Cov X, Y =0 Var(X + Y) = Var X + Var(Y)
本節回顧 期望值的定義? 期望值的性質? 兩隨機變數獨立的話, 期望值的計算? 39