概率统计 B Probability and Statistics 张思容数学与系统科学学院, 北京航空航天大学 School of Mathematics and System Sciences, BUAA October 21, 2014 张思容

Size: px

Start display at page:

Download "概率统计 B Probability and Statistics 张思容数学与系统科学学院, 北京航空航天大学 School of Mathematics and System Sciences, BUAA October 21, 2014 张思容"

摘畅衷
2 years ago
Views:

1 概率统计 B Probability and Statistics 张思容 zhangsirong@buaa.edu.cn 数学与系统科学学院, 北京航空航天大学 School of Mathematics and System Sciences, BUAA October 21, 2014 张思容 (BUAA) 概率统计 B October 21, / 47

2 Chapter 1: 概率模型 1 课程介绍 2 概率模型样本空间概率律 3 古典概率和概率计算样本空间与集合论集合运算概率计算 4 条件概率条件概率和乘法公式全概率与贝叶斯公式计算与应用 5 独立性与系统独立性系统与试验张思容 (BUAA) 概率统计 B October 21, / 47

3 课程介绍相互介绍教师 : 张思容 : Ph.D. 几何分析, 医学图像分析 ; 联系方式 : zhangsirong@buaa.edu.cn 办公时间 : 欢迎 dropby, 地点 : 学院路校区图书馆西配楼 501 概率统计课程答疑 : 星期一课上预约, 地点待定 ( 教师休息室?) 中午 12-1pm 或 15:30pm-16:30pm 课程网站 : 个人主页 ppt 和解答欢迎大家学期中提建议和问题, 不要考试后! 学生介绍 :1313: (11,12,13,14,41,61,62) 公共邮箱 buaajtxy2013@163.com 联系电话? 张思容 (BUAA) 概率统计 B October 21, / 47

4 课程介绍课程介绍 : 参考书目预备要求 : 微积分. 参考书目 : ( 教材 ) 概率统计及随机过程张福渊等, 北家航空航天大学出版社 ISBN: ( 推荐 ) 概率导论. (MIT 教材 ) 人民邮电出版社 ISBN MIT 公开课程 6.041,Probabilistic Systems Analysis and Applied Probability ( 参考 ) 概率论基础教程,S.M.ROSS, 人民邮电出版社,ISBN ( 考研 ) 概率论与数理统计盛骤等 ( 浙江大学教材 ). 高等教育出版社 ISBN ( 习题 ) 北航概率统计习题集 ; 浙江大学概率统计习题解答 ; 张思容 (BUAA) 概率统计 B October 21, / 47

5 课程介绍课程介绍 : 内容学习概率统计 : 最有用的数学课程, 没有之一例子 : 赌博, 股票, 市场调查我们生活在随机世界里 : 随机现象建模 + 统计决策困难 : 理论 ( 数学分析, 实变函数, 测度论...), 应用 ( 统计思想, 数据挖掘,AI...) 计算 :( 大数据, 软件 SAS,...) 课程学习目标 : 学会概率建模的思想和方法 ; 掌握经典例子, 练习技巧 ( 解题考试 ). 作业 : 每周上课交一次下周一返回成绩 : 平时成绩 10+ 期末考试 90=100 小测验若干 (quizs). 问题? Q&A(Questions and Answers) 张思容 (BUAA) 概率统计 B October 21, / 47

6 概率模型概率与真实世界什么是概率? 概率沉思录 E.T.Jaynes 赌博与彩票等 : 概率是等可能的古典概率模型 Laplace 红楼梦是否是曹雪芹写的? 明天会下雨吗? 概率是主观判断 ( 经验 ) 贝叶斯学派 Bayes 人口出生率 : 男孩 vs 女孩 105 : 100 概率是数据发生的频率频率学派 Fisher 概率模型 : 在不同的应用中选择不同的模型抓住老鼠就是好猫! Remark ( 数学建模 ) 确定现象 : 数函数随机现象 : 集合随机变量张思容 (BUAA) 概率统计 B October 21, / 47

7 概率模型样本空间样本空间 Definition 样本空间 : 表示一个试验的所有可能结果的集合记为 S 或 Ω 集合 + 所有结果 : ( 选择合适样本空间是 ART!) 样本空间的例子 : 投硬币 :(Head, Tail) 掷骰子 :(1,2,3,4,5,6) 射击打靶 :( 整个平面, 或者 3D) 事件 : 样本空间中关心的结果 ( 子集合 ). 用 A, B 等表示 A = { 骰子是偶数 },B = { 打靶中 9 环 } 事件与子集 ; 集合运算空集即不可能事件 ; 全集是必然事件 ; 注意 : 不是所有子集都是事件! 张思容 (BUAA) 概率统计 B October 21, / 47

8 概率模型概率律概率律 (law) 概率律 P: 给每个事件指定一个概率大小 1 P(A) 0 2 P(Ω) = 1 3 A B =, P(A B) = P(A) + P(B) 可加性 EXAMPLE 投硬币 :(Head, Tail) A = {Head},B = {Tail}, 指定 P(A) = P(B) = 1 2. 类似对掷骰子可以指定 P({1}) = ( 有限空间 ) 古典概率模型 :P(A) = #A #Ω 问题 : 空间无穷怎么办? 古怪子集怎么办? 张思容 (BUAA) 概率统计 B October 21, / 47

9 概率模型概率律无穷样本空间 : 可数 ** 古典模型 : 集合有 n 个元素, 每个元素可看成一个子集, 称为基本事件 ( 样本点 ); 可数模型 ( 离散模型 ): 集合有可数个元素每个元素可看成一个子集, 可看成事件 ; EXAMPLE ( 射击命中 ) 设一个人打靶命中率为 p, 重复射击直到打中靶停止我们关心的要射击多少次才能打中? 解答. 样本空间 :Ω = {1, 2, 3,..., n,..., } 概率律 :P(x = 1) = p, P(X = 2) = p(1 p),..., P(X = n) = p(1 p) n 1. 验证 P(X = 1) + P(X = 2) + = 1 一般的 : 可数模型的概率律可对应一个收敛的正项级数 ( 和为 1) 张思容 (BUAA) 概率统计 B October 21, / 47

10 概率模型概率律无穷样本空间 : 连续空间 ( 不可数 )** 连续模型 : 集合有不可数个元素每个元素可看成一个子集, 但一点作为事件无意义! 因为一点的概率必须为零! 古典概率推广 : 几何概率定义 P(A) = L(A) L(Ω), 其中 L(A) 表示其区域的面积或长度或体积 EXAMPLE ( 约会问题 ) 两个人约定在 8 点钟见面, 都可能迟到至多一个小时如果先到的等候 15 分钟, 问两个人能见面的概率解答. 设到达时间分别为 x, y, 样本空间 :Ω = {(x, y) 8 x 9, 8 y 9} 事件 : 两个人见面 A = {(x, y) x y 15/60} 概率律 :P(A) = L(A) L(Ω), 计算有 P(A) = 1 P(Ā) = = 7 16 一般的 : 连续模型的概率律对应一个可积函数张思容 (BUAA) 概率统计 B October 21, / 47

11 概率律的公理化 ** 概率模型概率律 Definition ( 概率 : 1930 Kolmogorov) P 是定义在样本空间 Ω 上所有事件 F 的一个函数 ;P : F [0, 1], 满足 1 非负性 : P(A) 0; 2 规范性 : P(Ω) = 1; 3 可数 ( 列 ) 可加性 : 如果 A i 是互不相容事件, 则 P( i=1 A i) = i=1 P(A i); 称 P 为 Ω 的一个概率 ( 律 ), 记 P(A) 为事件 A 的概率基本属性 P( ) = 0; 有限可加性 ; 单调性 :A B, 则 P(A) P(B); *** 连续性 : 有单调增序列 A i, 单调减序列 B i, 则 P( n=1 A n) = lim n P(A n ),P( n=1 B n) = lim n P(B n ) *** 数学上称概率为测度 ; 见实变函数论张思容 (BUAA) 概率统计 B October 21, / 47

12 思考题概率模型概率律将 52 张扑克扣在桌上一张张翻开 ; 一直到出现一张 A 为止再翻一张牌, 问下一张牌是黑桃 A 的概率和方块 2 的概率谁大? 一样大! p = 解释参考概率论基础教程 (S.M.ROSS,ISBN ) 例子 5j.p34,p65. 张思容 (BUAA) 概率统计 B October 21, / 47

13 事件与集合古典概率和概率计算样本空间与集合论集合 Ω: 元素 ω Ω 记子集 A = {ω ω A}. 集合运算 : Ā = Ω A, 乘法 A B = AB, 加法 A B, 减法 A B = A B 对应的事件意义? 不相容事件 : A B =. 对立事件 : Ā 集合运算的规律 : 交换律, 结合律 ; Venn 韦恩图有用公式 : A B = A + ĀB, A = AB + A B De-Morgan 公式 : j=n j=1 A i = j=n j=1 Āi. 张思容 (BUAA) 概率统计 B October 21, / 47

14 古典概率和概率计算样本空间与集合论 n 变大时, 情况迅速变复杂! 见后续讲解张思容 (BUAA) 概率统计 B October 21, / 47 配对问题 EXAMPLE ( 配对问题 ) 任意 n 个同学交了 n 本作业, 随机每人发回一本作业, 试求有 k = 0, 1, 2,..., n 个同学得到自己作业的概率? 简单情形 :n = 2, n = 3, 解答. 设 n = 3, 记三个人 A, B, C, 作业 a, b, c, Ab 表示 A 拿到 b 的作业样本空间 :Ω = {AaBbCc, AaBcCb, AbBaCc, AbBcCa, AcBbCa, AcBaCb} 事件 : X = k 个同学配对成功 ; k = 0: X = {AbBcCa, AcBaCb} k = 1: X = {AaBcCb, AbBaCc, AcBbCa} k = 2: X = ; k = 3: X = {AaBbCc} 古典概率计算有 P({X = 0}) = 1 3, P({X = 1}) = 1 2, P({X = 2}) = 0, P({X = 3}) = 1 6,

15 古典概率和概率计算样本空间与集合论计数方法 counting Theorem ( 乘法原理 ) 完成一件事要 k 步, 每一步分别有 n 1, n 2, n 3,..., n k 方法, 则完成这件事的方法共有 n = n 1 n 2 n k. 基本结果 : (m 次试验 ): 从 n 个元素中有放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 n m 种可能 ; 不同排列是等可能的 ; (m 元排列 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 A m n = n! (n m)! 种可能 ; 不同排列是等可能的 ; (m 元组合 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 放在一组 ; 共有 C m n = n! m!(n m)! 种可能 ; 不同组合是等可能的 ; 例子 :( 集合子集的个数 ) 集合有 n 个元素, 则所有子集的个数为 2 n 利用 : 组合数即二项式系数, 由二项式展开 (x + y) n = C n i x i y n i 可得张思容 (BUAA) 概率统计 B October 21, / 47

16 古典概率和概率计算样本空间与集合论例子 EXAMPLE ( 生日问题 ) 任意 n 个人中有 ( 至少两个人 ) 有相同生日的概率解答. 假设每个人等可能出生于 365 天中任一天 n 个人生日的样本空间 Ω 大小 :365 n Ā =[ 没有两个人生日相同 ], Ā 的集合大小为 n!c365 n, P(A) = 1 P(Ā) = 1 n!c 365 n 365 n n p n 张思容 (BUAA) 概率统计 B October 21, / 47

17 作业古典概率和概率计算样本空间与集合论北航教材 : P31 习题一. 1(2),(3),(5); 张思容 (BUAA) 概率统计 B October 21, / 47

18 古典概率和概率计算样本空间与集合论从古典到频率学派 P.Laplace VS J.Venn 概率的真实大小? 投硬币 :coin flipping 正面的概率? 拉普拉斯 :1/2 De Morgan 德摩根 :1061/2048 蒲丰 Buffon: 2048/4040 John Kerrich: 5067/10000 K Pearson: 12012/24000, Feller: 4979/10000; 频率学派 : 概率由大量数据的频率决定张思容 (BUAA) 概率统计 B October 21, / 47

19 Texas Hold em 古典概率和概率计算样本空间与集合论德州扑克 Texas Hold em, 是世界上最流行的扑克游戏每个玩家最后用五张扑克牌比大小得克萨斯扑克的大小规则如下 : 1 皇家同花顺 Royal straight flush ( 比如黑桃 10,J,Q,K,A) 2 同花顺 Straight flush ( 比如黑桃 3,4,5,6,7) 3 四条, 炸弹 Four of a kind ( 比如四条 9 和一个其它任何牌 ) 4 满堂彩 Full house ( 三条加一对 ) 5. 清一色 Flush ( 比如梅花 2,5,6,8,J) 5 一条龙 Straight ( 比如 4,5,6,7,8 不同花色混杂 ) 6 三条 Three of a Kind ( 比如三个 8 和其它任意两张单牌 ) 7 两对 Two Pair 8 一对 Pair 思考 : 这个规则合理吗? 各种情形的概率是多少? 张思容 (BUAA) 概率统计 B October 21, / 47

20 古典概率和概率计算样本空间与集合论 Review: 回顾 RECALL: TODAY 概率模型 = 样本空间 + 概率律公理化 : 有限到无穷 ( 数学分析工具!) 计数方法与生日问题事件与集合, 配对问题 ; 计算公式 : 加法和乘法 ; 条件概率统计推断 EXAMPLE ( 赌牌游戏 ) 有三张牌 : 一张两面都是红的, 一张两面都是黑的, 一张两面是一红一黑随机取出一张, 如果正面是红的, 反面是黑还是红? 怎样赢钱? 张思容 (BUAA) 概率统计 B October 21, / 47

21 事件与集合古典概率和概率计算集合运算集合 Ω: ω Ω 集合中的元素存在唯一判别法则 ; 记子集 A = {ω ω A}. 记为 A Ω; 集合运算 : Ā = Ω A, 乘法 A B = AB, 加法 A B, 减法 A B = A B 对应的事件意义? 不相容事件 : A B =. 对立事件 : Ā 集合运算的规律 : 交换律, 结合律 ; Venn 韦恩图有用公式 : A B = A + ĀB, A = AB + A B De-Morgan 公式 : j=n j=1 A i = j=n j=1 Āi. 张思容 (BUAA) 概率统计 B October 21, / 47

22 古典概率和概率计算集合运算 n 变大时, 情况迅速变复杂 ( 样本空间大小 n!)! 见后续讲解张思容 (BUAA) 概率统计 B October 21, / 47 配对问题 EXAMPLE ( 配对问题 ) 任意 n 个同学交了 n 本作业, 随机每人发回一本作业, 试求有 k = 0, 1, 2,..., n 个同学得到自己作业的概率? 简单情形 :n = 2, n = 3, 解答. 设 n = 3, 记三个人 A, B, C, 作业 a, b, c, Ab 表示 A 拿到 b 的作业样本空间 :Ω = {AaBbCc, AaBcCb, AbBaCc, AbBcCa, AcBbCa, AcBaCb} 事件 : X = k 个同学配对成功 ; k = 0: X = {AbBcCa, AcBaCb} k = 1: X = {AaBcCb, AbBaCc, AcBbCa} k = 2: X = ; k = 3: X = {AaBbCc} 古典概率计算有 P({X = 0}) = 1 3, P({X = 1}) = 1 2, P({X = 2}) = 0, P({X = 3}) = 1 6,

拉普拉斯 :1/2 De Morgan 德摩根 :1061/2048 蒲丰 Buffon: 2048/4040 John Kerrich:

23 古典概率和概率计算概率计算概率律的指定 : 古典 vs 频率学派概率的真实大小? P.Laplace VS J.Venn 投硬币 :coin flipping 正面的概率? 拉普拉斯 :1/2 De Morgan 德摩根 :1061/2048 蒲丰 Buffon: 2048/4040 John Kerrich: 5067/10000 K Pearson: 12012/24000, Feller: 4979/10000; 古典模型 : 集合中每个元素 ( 基本事件或样本点 ) 的概率一样 ; 频率学派 : 基本事件的概率由大量数据的决定张思容 (BUAA) 概率统计 B October 21, / 47

24 古典概率和概率计算概率计算计数方法 counting Theorem ( 乘法原理 ) 完成一件事要 k 步, 每一步分别有 n 1, n 2, n 3,..., n k 方法, 则完成这件事的方法共有 n = n 1 n 2 n k. 基本结果 : (m 次试验 ): 从 n 个元素中有放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 n m 种可能 ; 不同排列是等可能的 ; (m 元排列 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 A m n = n! (n m)! 种可能 ; 不同排列是等可能的 ; (m 元组合 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 放在一组 ; 共有 C m n = n! m!(n m)! 种可能 ; 不同组合是等可能的 ; 例子 :( 集合子集的个数 ) 集合有 n 个元素, 则所有子集的个数为 2 n 利用 : 组合数即二项式系数, 由二项式展开 (x + y) n = C n i x i y n i 可得张思容 (BUAA) 概率统计 B October 21, / 47

25 古典概率和概率计算概率计算加法公式 : 从基本事件到复杂事件 Proposition ( 加法公式 ) 1 P(A B) = P(A) + P(B) P(A B); 2 P(A 1 A 2 A 3 ) = P(A i ) P(A i A j ) + P(A 1 A 2 A 3 ); 3 Jordan 约旦公式 : P( n i=1 A i) = n k=1 ( 1)k 1 p k ; 其中 p k = P(A i1 A i2... A ik ). 证明 (1). P(A B) = P(A + Ā B) = P(A) + P(ĀB) = P(A) + P(ĀB) + P(AB) P(AB) = P(A) + P(B) P(AB) 张思容 (BUAA) 概率统计 B October 21, / 47

26 再谈 : 配对问题古典概率和概率计算概率计算 EXAMPLE ( 配对问题 ) 任意 n 个同学交了 n 本作业, 随机每人发回一本作业, 问没有一个同学得到自己作业的概率? n 无穷大时, 概率是多少? 解答. ( 对立事件 Ā) 计算至少有一个人得到自己的作业的概率. 设 E i 是第 i 个人得到自己作业的事件 ; 则 Ā = i=n i=1 E i. Jordan 公式 :P(Ā) = P( i=n i=1 E i) = n k=1 ( 1)k 1 p k, p k = P(E i1 E i2... E ik ). 记结果为 (1, 2, 3,..., n),(e i1 E i2... E ik ) 为其中 k 个人拿到自己作业 ; 剩下 n k 个任意排列 ; 样本空间是 n 个任意排列, 断定 :P(E i1 E i2... E ik ) = (n k)! n! 另外 : n 中选 k 个人共有 Cn k 可能 ; Jordan 公式中每一项求和有 p k = 1 k! P(Ā) = 1 1 2! + 1 3! + ( 1)n 1 1 n!, P(A) = 1 P(Ā). 特别 :n 充分大时,P(A) e 张思容 (BUAA) 概率统计 B October 21, / 47

27 产品检验古典概率和概率计算概率计算 EXAMPLE ( 超几何分布 ) 假设 N 个产品中有 M 个次品, 抽取 n 件产品检验, 其中恰有 m 件次品的概率 Proof. A m 是恰有 m 件产品的事件 (m n). P(A m ) = C M mc n m N M CN n 张思容 (BUAA) 概率统计 B October 21, / 47

28 古典概率和概率计算概率计算排列组合续 : 分组问题 (m 次试验 ): 从 n 个元素中有放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 n m 种可能 ; 不同排列是等可能的 ; (m 元排列 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 A m n = n! (n m)! 种可能 ; 不同排列是等可能的 ; (m 元组合 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 放在一组 ; 共有 C m n = n! m!(n m)! 种可能 ; 不同组合是等可能的 ; (k 重分组 ) 将 n 个元素分成不同的 k 组, 不考虑每组中的元素次序 ; 第 i 个组恰有 n i 个元素的可能分组为 n! n 1!n 2!...n k! 种可能 ; 不同分组是等可能的 ; 例子 : 导师有 4 个研究生 12 个本科生, 分配到 4 个项目中, 随机分配, 问每个项目正好有一个研究生的概率? Proof. 样本空间大小 : 16! 4!4!4!4!. 事件大小 : 12! 3!3!3!3! 4!. 概率 P(A) = 张思容 (BUAA) 概率统计 B October 21, / 47

29 条件概率 Review: 回顾计算公式 : 加法公式 P(A B) = 乘法公式 P(A B) =? 条件概率统计推断不断通过新的信息获得正确的概率推断! EXAMPLE ( 赌牌游戏 ) 有三张牌 : 一张两面都是红的, 一张两面都是黑的, 一张两面是一红一黑随机取出一张, 如果正面是红的, 反面是黑还是红? 怎样赢钱? 赢钱策略 : 永远赌反面和正面一样! 张思容 (BUAA) 概率统计 B October 21, / 47

30 条件概率的定义条件概率条件概率和乘法公式 EXAMPLE ( 概率的变化 ) 1 掷骰子一次, 结果为 6 的概率为 6. 如果已知结果为偶数, 结果为 6 的概 1 率为 3. 如果已知结果比 4 小呢? 解释 : 概率空间发生了变化 Definition ( 条件概率 ) 设 A, B 是事件, 已知 A 发生,B 发生的概率记为 P(B A). 其公式为 P(B A) = P(AB) P(A), 其中 P(A) > 0 古典模型解释 : P(A B) = (A B) Ω = (A B) A (A) Ω = P(A)P(B A) 公理化模型定理 : 记 P A (B) = P(B A),P A 是一个概率 ( 满足概率公理 ); 张思容 (BUAA) 概率统计 B October 21, / 47

31 条件概率条件概率和乘法公式条件概率是一个概率律! *** Theorem ( 条件概率 ) 条件概率满足概率公理化的三个条件非负 : P A (B) 0 归一化 :P A (Ω) = 1 ( 可列 ) 可加性 P A (B C) = P A (B) + P A (C). Corollary ( 条件概率下的条件概率 ) 设有事件 A, B, C, 已知 A 发生, 有条件概率 P A, 又已知 B 发生, 有条件概率 P AB, 则 P A (C B) = P AB (C). 张思容 (BUAA) 概率统计 B October 21, / 47

32 乘法公式条件概率条件概率和乘法公式 Proposition ( 乘法公式 ) P(A B) = P(A)P(B A) = P(B)P(A B), 可以推广到 n 个事件 P(A 1 A 2... A n ) = P(A 1 )P(A 2 A 1 )... P(A n A 1 A 2... A n 1 ) EXAMPLE ( 扑克 ) 一副牌 (52 张 ) 连续抽三张都不是红桃的概率? Proof. 设 A 1, A 2, A 3 表示第 i 张牌不是红桃 P(A 1 ) = 39 52, P(A 2) =? P(A 2 A 1 ) = 38 51, P(A 3 A 1 A 2 ) = 则 P(A 1 A 2 A 3 ) = P(A 1 )P(A 2 A 1 )P(A 3 A 1 A 2 ). 张思容 (BUAA) 概率统计 B October 21, / 47

33 第二次作业条件概率条件概率和乘法公式北航教材 : 习题一. 11,16,18,24,26,28 张思容 (BUAA) 概率统计 B October 21, / 47

概率分析 : 坚持 ( 一种可能 ) 赢奖概率 1/3, 改变 ( 两种可能 ) 赢奖概率 2/3 理解性解释 : 假设有一万扇门, 选定一个门后, 主持人打开所有 9998 扇门, 只剩一扇门, 是否改变选择?

34 条件概率条件概率和乘法公式 Monty Hall 三门问题 Monty Hall: 美国电视节目主持人. 问题 : 有三扇门, 其中一个后面有大奖 ( 汽车 ). 幸运观众选好一个门后, 主持人打开一扇门, 显示其中没有奖, 问该观众应该坚持原来的选择还是改变选择? 答案 : 永远应该改变选择! 概率分析 : 坚持 ( 一种可能 ) 赢奖概率 1/3, 改变 ( 两种可能 ) 赢奖概率 2/3 理解性解释 : 假设有一万扇门, 选定一个门后, 主持人打开所有 9998 扇门, 只剩一扇门, 是否改变选择? 条件概率分析 : 假设 C = 1, 2, 3 表示汽车在那个门,S = 1, 2, 3 表示观众的选择, H = 1, 2, 3 表示主持人打开的门设 S = 1, H = 3, 计算概率 P(C = 2 H = 3, S = 1) = 2/3 张思容 (BUAA) 概率统计 B October 21, / 47

35 条件概率条件概率和乘法公式 Review: 回顾 Remark ( 作业事宜 ) RECALL: 概率模型 = 样本空间 + 概率律计算 : 加法公式, 乘法公式, 条件概率例子 : 配对问题, TODAY 全概率, 贝叶斯公式 ; 计算例子 : 抽样原理, 保险评估, 假阳性之谜 ; 条件概率与独立性真实世界的概率模型? 影响因素极多 ( 独立性 ) 简化模型例子 : 系统与重复试验张思容 (BUAA) 概率统计 B October 21, / 47

36 全概率公式条件概率全概率与贝叶斯公式 Proposition ( 全概率公式 ) P(B) = P(A)P(B A) + P(Ā)P(B Ā), 可以推广到 n 个互不相容事件 ( 满足 Ai = Ω) 证明 : P(B) = P(B Ω) = P(B (A Ā)) P(B) = P(BA) + P(BĀ) = P(A)P(B A) + P(Ā)P(B Ā) EXAMPLE ( 风险评估 ) 保险公司认为开车者分为两类一类容易出事故, 一类为安全者统计发现容易出事故在一年内发生事故的概率是 0.4; 安全者为 0.2. 设第一类人口比例为 30%. 现有一个新司机买保险, 问他在一年内出事故的概率是多少? 如果他一年内出了事故, 他是容易出事故者的概率是多大? 解答 : 记 A = 容易出事故者 ;B = 一年内发生事故 ; (1): P(B) = P(B A)P(A) + P(B Ā)P(Ā) = = 0.26 (2): P(A B) = P(AB) P(B) = P(A)P(B A) P(B) = 6/13. 张思容 (BUAA) 概率统计 B October 21, / 47

条件概率全概率与贝叶斯公式 Bayes 概率与因果推理 *** Thomas Bayes(1702-1761) Theorem ( 贝叶斯定理 ) P(A B) = P(A)P(B A) P(B) = P(A) P(B A) P(B) Proof: P(AB) = P(A B)P(B) = P(B)P(B A) 设 A 是原因,B 是结果已知 B 发生, 推断 A 是否发生?

37 条件概率全概率与贝叶斯公式 Bayes 概率与因果推理 *** Thomas Bayes( ) Theorem ( 贝叶斯定理 ) P(A B) = P(A)P(B A) P(B) = P(A) P(B A) P(B) Proof: P(AB) = P(A B)P(B) = P(B)P(B A) 设 A 是原因,B 是结果已知 B 发生, 推断 A 是否发生? 称 P(A) 是先验概率 (prior),p(a B) 是后验概率 (posterior). P(B A) 是似然性 (likeliwood), P(B) 是边缘概率 (marginal). 贝叶斯推断 : 新的事件或信息 B 改变了 A 的概率 ( 贝叶斯定理 ) 通过更多信息得到更确切的原因判断. 张思容 (BUAA) 概率统计 B October 21, / 47

38 贝叶斯公式条件概率全概率与贝叶斯公式 Proposition ( 贝叶斯公式 ( 逆概率公式 )) P(A B) = P(A)P(B A) P(A)P(B A)+P(Ā)P(B Ā), 可以推广到 n 个互不相容事件 [ 证明 ]: 全概率公式有 P(B) = P(A)P(B A) + P(Ā)P(B Ā), 代入贝叶斯定理可得 EXAMPLE 赌牌游戏 : 有三张牌一张两面都是红的, 一张两面都是黑的, 一张两面是一红一黑随机取出一张, 如果是红的, 反面是黑的概率多大? 记牌为 RR, RB, BB, 取出的牌朝上为红事件为 A, P(RB A) P(RB A) = P(A RR)P(RR)+P(A RB)P(RB)+P(A BB)P(BB) = 1/3. 张思容 (BUAA) 概率统计 B October 21, / 47

39 抽签原理条件概率计算与应用 EXAMPLE ( 抽签原理 ) n 个签中有 m 个为中奖有放回的抽签 : 任一次中奖的概率为 m/n 无放回的随机抽签, 任一次的中奖概率也是 m/n. 即抽奖与次序无关! Proof. 有放回情形 : 显然任一次概率 m/n. 无放回情形 : 记 A k 表示第 k 次中奖的事件则 P(A 1 ) = m n. 数学归纳法 : 设 P(A k 1 ) = m/n, 对所有 m, n 都成立, 则用全概率公式 P(A k ) = P(A k A 1 )P(A 1 ) + P(A k Ā1)P(Ā1) P(A k ) = m 1 m n 1 n + m m n 1 n 1 = m/n. 直接证明 : 设第 k 次中奖, 样本空间为 n 个取 k 个的排列共 A k n. 事件 A k, 第 k 次抽奖中奖的可能性为 m 种 ; 其余 k 1 个任意排列共 A k 1 n 1. P(A k ) = m A k 1 n 1 /Ak n = m/n. 张思容 (BUAA) 概率统计 B October 21, / 47

40 条件概率计算与应用假阳性之谜医学里诊断疾病时对某种化验结果或试验结果, 也有阴阳性的区分阳性表示体内有某种病原体存在或者对某种药物有过敏反应. EXAMPLE ( 疾病判断 ) 已知人群中某种疾病的发病率是 0.1%. 有个抽血试验可以诊断该疾病, 但准确率是 90%( 有病为阳性或无病为阴性的概率 ). 有个人 ( 甲 ) 抽血试验为阳性, 问医生有多大把握 ( 概率 ) 判断这个人有该疾病? 解答. 记 A = 甲患病,B = 甲的试验结果阳性 ; P(A) = 0.001, P(B A) = 0.9, P(B Ā) = 0.1 P(A B) = 罕见病的检验结果更有可能是假阳性! 张思容 (BUAA) 概率统计 B October 21, / 47

41 独立性与系统独立性独立性的定义 Definition ( 两个事件独立 ) 如果 A, B 满足 P(AB) = P(A)P(B), 称事件 A, B 互相独立条件概率解释 : 如果 A, B 独立 (P(A) > 0), 则 P(B A) = P(B) 理解 : 不相容事件 (A B = ) 不相互独立! 必然事件 Ω 和不可能事件与任何事件相互独立如果 A, B 独立, 则 Ā, B 相互独立. 例子 : 掷骰子 :A = 结果为偶数 ;B = 结果为三的倍数问 A, B 是否独立? 正四面体, 正八面体骰子呢? 张思容 (BUAA) 概率统计 B October 21, / 47

42 独立性的判断独立性与系统独立性 EXAMPLE 掷骰子两次, 事件 A = 第一次为 1, 事件 B = 第二次为 6, A 与 B 是相互独立记事件 C = 两次的和为 7,A 与 C 是否相互独立? Proof. P(A = 1, B = 6) = 1 36 = P(A = 1)P(B = 6) P(A = 1, C = 7) = 1 36 = P(A = 1)P(C = 7) 问题 : 已知 C 发生,A, B 独立吗? 张思容 (BUAA) 概率统计 B October 21, / 47

43 多次事件的独立性独立性与系统独立性 EXAMPLE ( 条件影响独立 ) 掷硬币两次事件 A = 第一次为正面 H, 事件 B = 第二次为正面 H, 事件 C = 两次的结果不同, 如果已知 C 发生, 问 A, B 是否相互独立? 解答 P(A C) = P(A) = 1/2, P(B C) = P(B) = 1/2, P(AB C) = 0 P(A C)P(B C). 事实上 A, B, C 两两独立但三个不独立 Definition (n 个事件独立 ) 如果 A 1, A 2,..., A n 满足, 任取其中 k(1 k n) 个事件, 有 P(A i1 A i2 A ik ) = P(A i1 )P(A i2 ) P(A ik ). 称 A 1, A 2,..., A n 相互独立 n 次独立试验 ;n 次无放回抽样? 所有事件相互独立任意两组事件相互独立理解 : 两两相互独立不一定是所有事件相互独立张思容 (BUAA) 概率统计 B October 21, / 47

44 独立性与系统系统与试验系统的可靠性 EXAMPLE ( 系统 ) 系统有若干元件组成, 系统的可靠性由元件的可靠性和系统的结构 ( 网络 ) 共同决定基本假定 : 所有元件是相互独立的连接方式 : 并联或串联设每个元件正常工作的概率为 P(A i ). 概率公式 : 串联系统 :P(A 1 A 2 A n ) = P(A 1 )P(A 2 ) P(A n ). 并联 P(A 1 A 2 A n ) = 1 (1 P(A 1 ))(1 P(A 2 ) (1 P(A n )). EXAMPLE ( 教材 P22, 例 4) 2n 个元件可以组成两个系统, 比较两个系统的可靠性张思容 (BUAA) 概率统计 B October 21, / 47

45 独立性与系统独立试验与二项概率模型系统与试验 EXAMPLE ( 教务网站堵塞 ) 设教务网站有 c 个服务器, 每个可以处理 100 个网页访问请求, 用户帐号为 n 个如果固定时间段内每个帐号访问的概率是 p, 问网站堵塞的概率?( 即服务器不够用 ) 基本假定 : 所有帐号访问是独立的固定时间段内访问帐号的个数记为 X, 则 P(X = k) = C k n p k (1 p) n k 网站堵塞的概率 P = i=100c P(X = i) 若 c = 15, n = 20000, p = 0.1 呢? 一般称 n 次重复试验结果出现 k 次的概率为二项概率张思容 (BUAA) 概率统计 B October 21, / 47

46 作业独立性与系统系统与试验第三次作业 : 北航教材 : P35 习题一. 31,35,38,39,40 张思容 (BUAA) 概率统计 B October 21, / 47

47 QUIZ 小测验一独立性与系统系统与试验 1 设 A, B 为任意两事件, 则下列关系成立的有 ( ) (A) (A + B) B = A ;(B) (A + B) B = A B ; (C) (A B) + B = A ;(D) (A B) + B = AB. 2 从 0 9 这十个数码中任意取出 4 个排成一串数码, 则数码恰成四位偶数的概率为 : (A) ;(B) ;(C) 90 ; (D) 90 3 一盒子内装有 5 个红球,15 个白球, 从中不放回取 10 次, 每次取一个球, 则第 5 次取到的是红球的概率为多少? 4 袋中装有编号的八个球, 从中任取 3 个, 则最小号码为偶数的概率为多少? 张思容 (BUAA) 概率统计 B October 21, / 47

Microsoft Word - WQ.doc

Microsoft Word - WQ.doc 第章随机事件和概率事件和概率是概率论中的两个基本概念在这部分内容中, 要熟记事件的关系和运算, 因为在今后的计算中, 经常将一些事件用另一些事件的运算来表示, 文氏图是帮助分析和理解事件运算的重要工具 ; 在计算事件的概率时, 要正确使用加法公式减法公式乘法公式全概率公式和贝叶斯 (Bayes) 公式等, 在理解的基础上要记住这些公式并会分析实际问题考试内容随机事件与样本空间事件的关系与运算

概率统计 B Probability and Statistics 张思容 数学与系统科学学院, 北京航空航天大学 School of Mathematics and System Sciences, BUAA October 21, 2014 张思容

概率统计 B Probability and Statistics 张思容数学与系统科学学院, 北京航空航天大学 School of Mathematics and System Sciences, BUAA October 21, 2014 张思容