概率统计 B Probability and Statistics 张思容 zhangsirong@buaa.edu.cn 数学与系统科学学院, 北京航空航天大学 School of Mathematics and System Sciences, BUAA October 21, 2014 张思容 (BUAA) 概率统计 B October 21, 2014 1 / 47
Chapter 1: 概率模型 1 课程介绍 2 概率模型样本空间概率律 3 古典概率和概率计算样本空间与集合论集合运算概率计算 4 条件概率条件概率和乘法公式全概率与贝叶斯公式计算与应用 5 独立性与系统独立性系统与试验 张思容 (BUAA) 概率统计 B October 21, 2014 2 / 47
课程介绍 相互介绍 教师 : 张思容 : Ph.D. 几何分析, 医学图像分析 ; 联系方式 :134-3920-1025. zhangsirong@buaa.edu.cn 办公时间 : 欢迎 dropby, 地点 : 学院路校区图书馆西配楼 501 概率统计课程答疑 : 星期一课上预约, 地点待定 ( 教师休息室?) 中午 12-1pm 或 15:30pm-16:30pm 课程网站 : 个人主页 ppt 和解答 http://smss.buaa.edu.cn/szdw/jxls/zsr/index.htm 欢迎大家学期中提建议和问题, 不要考试后! 学生介绍 :1313: (11,12,13,14,41,61,62) 公共邮箱 buaajtxy2013@163.com 联系电话? 张思容 (BUAA) 概率统计 B October 21, 2014 3 / 47
课程介绍 课程介绍 : 参考书目 预备要求 : 微积分. 参考书目 : ( 教材 ) 概率统计及随机过程 张福渊等, 北家航空航天大学出版社 ISBN: 7810770047 ( 推荐 ) 概率导论. (MIT 教材 ) 人民邮电出版社 ISBN 9787115215444 MIT 公开课程 6.041,Probabilistic Systems Analysis and Applied Probability ( 参考 ) 概率论基础教程,S.M.ROSS, 人民邮电出版社,ISBN 978-7-115-22110-0. ( 考研 ) 概率论与数理统计 盛骤等 ( 浙江大学教材 ). 高等教育出版社 ISBN 9787040238969 ( 习题 ) 北航概率统计习题集 ; 浙江大学概率统计习题解答 ; 张思容 (BUAA) 概率统计 B October 21, 2014 4 / 47
课程介绍 课程介绍 : 内容学习 概率统计 : 最有用的数学课程, 没有之一 例子 : 赌博, 股票, 市场调查 我们生活在随机世界里 : 随机现象建模 + 统计决策 困难 : 理论 ( 数学分析, 实变函数, 测度论...), 应用 ( 统计思想, 数据挖掘,AI...) 计算 :( 大数据, 软件 SAS,...) 课程学习 目标 : 学会概率建模的思想和方法 ; 掌握经典例子, 练习技巧 ( 解题考试 ). 作业 : 每周上课交一次 下周一返回 成绩 : 平时成绩 10+ 期末考试 90=100 小测验若干 (quizs). 问题? Q&A(Questions and Answers) 张思容 (BUAA) 概率统计 B October 21, 2014 5 / 47
概率模型 概率与真实世界 什么是概率? 概率沉思录 E.T.Jaynes 赌博与彩票等 : 概率是等可能的 古典概率模型 Laplace 红楼梦是否是曹雪芹写的? 明天会下雨吗? 概率是主观判断 ( 经验 ) 贝叶斯学派 Bayes 人口出生率 : 男孩 vs 女孩 105 : 100 概率是数据发生的频率 频率学派 Fisher 概率模型 : 在不同的应用中选择不同的模型 抓住老鼠就是好猫! Remark ( 数学建模 ) 确定现象 : 数 函数随机现象 : 集合 随机变量 张思容 (BUAA) 概率统计 B October 21, 2014 6 / 47
概率模型 样本空间 样本空间 Definition 样本空间 : 表示一个试验的所有可能结果的集合 记为 S 或 Ω 集合 + 所有结果 : ( 选择合适样本空间是 ART!) 样本空间的例子 : 投硬币 :(Head, Tail) 掷骰子 :(1,2,3,4,5,6) 射击打靶 :( 整个平面, 或者 3D) 事件 : 样本空间中关心的结果 ( 子集合 ). 用 A, B 等表示 A = { 骰子是偶数 },B = { 打靶中 9 环 } 事件与子集 ; 集合运算 空集即不可能事件 ; 全集是必然事件 ; 注意 : 不是所有子集都是事件! 张思容 (BUAA) 概率统计 B October 21, 2014 7 / 47
概率模型 概率律 概率律 (law) 概率律 P: 给每个事件指定一个概率大小 1 P(A) 0 2 P(Ω) = 1 3 A B =, P(A B) = P(A) + P(B) 可加性 EXAMPLE 投硬币 :(Head, Tail) A = {Head},B = {Tail}, 指定 P(A) = P(B) = 1 2. 类似对掷骰子可以指定 P({1}) = 1 6... ( 有限空间 ) 古典概率模型 :P(A) = #A #Ω 问题 : 空间无穷怎么办? 古怪子集怎么办? 张思容 (BUAA) 概率统计 B October 21, 2014 8 / 47
概率模型 概率律 无穷样本空间 : 可数 ** 古典模型 : 集合有 n 个元素, 每个元素可看成一个子集, 称为基本事件 ( 样本点 ); 可数模型 ( 离散模型 ): 集合有可数个元素 每个元素可看成一个子集, 可看成事件 ; EXAMPLE ( 射击命中 ) 设一个人打靶命中率为 p, 重复射击直到打中靶停止 我们关心的要射击多少次才能打中? 解答. 样本空间 :Ω = {1, 2, 3,..., n,..., } 概率律 :P(x = 1) = p, P(X = 2) = p(1 p),..., P(X = n) = p(1 p) n 1. 验证 P(X = 1) + P(X = 2) + = 1 一般的 : 可数模型的概率律可对应一个收敛的正项级数 ( 和为 1) 张思容 (BUAA) 概率统计 B October 21, 2014 9 / 47
概率模型 概率律 无穷样本空间 : 连续空间 ( 不可数 )** 连续模型 : 集合有不可数个元素 每个元素可看成一个子集, 但一点作为事件无意义! 因为一点的概率必须为零! 古典概率推广 : 几何概率定义 P(A) = L(A) L(Ω), 其中 L(A) 表示其区域的面积或长度或体积 EXAMPLE ( 约会问题 ) 两个人约定在 8 点钟见面, 都可能迟到至多一个小时 如果先到的等候 15 分钟, 问两个人能见面的概率 解答. 设到达时间分别为 x, y, 样本空间 :Ω = {(x, y) 8 x 9, 8 y 9} 事件 : 两个人见面 A = {(x, y) x y 15/60} 概率律 :P(A) = L(A) L(Ω), 计算有 P(A) = 1 P(Ā) = 1 3 4 3 4 = 7 16 一般的 : 连续模型的概率律对应一个可积函数 张思容 (BUAA) 概率统计 B October 21, 2014 10 / 47
概率律的公理化 ** 概率模型 概率律 Definition ( 概率 : 1930 Kolmogorov) P 是定义在样本空间 Ω 上所有事件 F 的一个函数 ;P : F [0, 1], 满足 1 非负性 : P(A) 0; 2 规范性 : P(Ω) = 1; 3 可数 ( 列 ) 可加性 : 如果 A i 是互不相容事件, 则 P( i=1 A i) = i=1 P(A i); 称 P 为 Ω 的一个概率 ( 律 ), 记 P(A) 为事件 A 的概率 基本属性 P( ) = 0; 有限可加性 ; 单调性 :A B, 则 P(A) P(B); *** 连续性 : 有单调增序列 A i, 单调减序列 B i, 则 P( n=1 A n) = lim n P(A n ),P( n=1 B n) = lim n P(B n ) *** 数学上称概率为测度 ; 见实变函数论 张思容 (BUAA) 概率统计 B October 21, 2014 11 / 47
思考题 概率模型 概率律 将 52 张扑克扣在桌上一张张翻开 ; 一直到出现一张 A 为止 再翻一张牌, 问下一张牌是黑桃 A 的概率和方块 2 的概率谁大? 一样大! p = 1 52. 解释参考 概率论基础教程 (S.M.ROSS,ISBN 978-7-115-22110-0) 例子 5j.p34,p65. 张思容 (BUAA) 概率统计 B October 21, 2014 12 / 47
事件与集合 古典概率和概率计算 样本空间与集合论 集合 Ω: 元素 ω Ω 记子集 A = {ω ω A}. 集合运算 : Ā = Ω A, 乘法 A B = AB, 加法 A B, 减法 A B = A B 对应的事件意义? 不相容事件 : A B =. 对立事件 : Ā 集合运算的规律 : 交换律, 结合律 ; Venn 韦恩图 有用公式 : A B = A + ĀB, A = AB + A B De-Morgan 公式 : j=n j=1 A i = j=n j=1 Āi. 张思容 (BUAA) 概率统计 B October 21, 2014 13 / 47
古典概率和概率计算 样本空间与集合论 n 变大时, 情况迅速变复杂! 见后续讲解 张思容 (BUAA) 概率统计 B October 21, 2014 14 / 47 配对问题 EXAMPLE ( 配对问题 ) 任意 n 个同学交了 n 本作业, 随机每人发回一本作业, 试求有 k = 0, 1, 2,..., n 个同学得到自己作业的概率? 简单情形 :n = 2, n = 3, 解答. 设 n = 3, 记三个人 A, B, C, 作业 a, b, c, Ab 表示 A 拿到 b 的作业 样本空间 :Ω = {AaBbCc, AaBcCb, AbBaCc, AbBcCa, AcBbCa, AcBaCb} 事件 : X = k 个同学配对成功 ; k = 0: X = {AbBcCa, AcBaCb} k = 1: X = {AaBcCb, AbBaCc, AcBbCa} k = 2: X = ; k = 3: X = {AaBbCc} 古典概率计算有 P({X = 0}) = 1 3, P({X = 1}) = 1 2, P({X = 2}) = 0, P({X = 3}) = 1 6,
古典概率和概率计算 样本空间与集合论 计数方法 counting Theorem ( 乘法原理 ) 完成一件事要 k 步, 每一步分别有 n 1, n 2, n 3,..., n k 方法, 则完成这件事的方法共有 n = n 1 n 2 n k. 基本结果 : (m 次试验 ): 从 n 个元素中有放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 n m 种可能 ; 不同排列是等可能的 ; (m 元排列 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 A m n = n! (n m)! 种可能 ; 不同排列是等可能的 ; (m 元组合 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 放在一组 ; 共有 C m n = n! m!(n m)! 种可能 ; 不同组合是等可能的 ; 例子 :( 集合子集的个数 ) 集合有 n 个元素, 则所有子集的个数为 2 n 利用 : 组合数即二项式系数, 由二项式展开 (x + y) n = C n i x i y n i 可得 张思容 (BUAA) 概率统计 B October 21, 2014 15 / 47
古典概率和概率计算 样本空间与集合论 例子 EXAMPLE ( 生日问题 ) 任意 n 个人中有 ( 至少两个人 ) 有相同生日的概率 解答. 假设每个人等可能出生于 365 天中任一天 n 个人生日的样本空间 Ω 大小 :365 n Ā =[ 没有两个人生日相同 ], Ā 的集合大小为 n!c365 n, P(A) = 1 P(Ā) = 1 n!c 365 n 365 n n 20 30 40 50 60 70 80 p n 0.411 0.706 0.891 0.970 0.994 0.999 0.9999 张思容 (BUAA) 概率统计 B October 21, 2014 16 / 47
作业 古典概率和概率计算 样本空间与集合论 北航教材 : P31 习题一. 1(2),(3),(5); 4 5 6 8 张思容 (BUAA) 概率统计 B October 21, 2014 17 / 47
古典概率和概率计算 样本空间与集合论 从古典到频率学派 P.Laplace VS J.Venn 概率的真实大小? 投硬币 :coin flipping 正面的概率? 拉普拉斯 :1/2 De Morgan 德摩根 :1061/2048 蒲丰 Buffon: 2048/4040 John Kerrich: 5067/10000 K Pearson: 12012/24000, Feller: 4979/10000; 频率学派 : 概率由大量数据的频率决定 张思容 (BUAA) 概率统计 B October 21, 2014 18 / 47
Texas Hold em 古典概率和概率计算 样本空间与集合论 德州扑克 Texas Hold em, 是世界上最流行的扑克游戏 每个玩家最后用五张扑克牌比大小 得克萨斯扑克的大小规则如下 : 1 皇家同花顺 Royal straight flush ( 比如黑桃 10,J,Q,K,A) 2 同花顺 Straight flush ( 比如黑桃 3,4,5,6,7) 3 四条, 炸弹 Four of a kind ( 比如四条 9 和一个其它任何牌 ) 4 满堂彩 Full house ( 三条加一对 ) 5. 清一色 Flush ( 比如梅花 2,5,6,8,J) 5 一条龙 Straight ( 比如 4,5,6,7,8 不同花色混杂 ) 6 三条 Three of a Kind ( 比如三个 8 和其它任意两张单牌 ) 7 两对 Two Pair 8 一对 Pair 思考 : 这个规则合理吗? 各种情形的概率是多少? 张思容 (BUAA) 概率统计 B October 21, 2014 19 / 47
古典概率和概率计算 样本空间与集合论 Review: 回顾 RECALL: TODAY 概率模型 = 样本空间 + 概率律 公理化 : 有限到无穷 ( 数学分析工具!) 计数方法与生日问题 事件与集合, 配对问题 ; 计算公式 : 加法和乘法 ; 条件概率 统计推断 EXAMPLE ( 赌牌游戏 ) 有三张牌 : 一张两面都是红的, 一张两面都是黑的, 一张两面是一红一黑 随机取出一张, 如果正面是红的, 反面是黑还是红? 怎样赢钱? 张思容 (BUAA) 概率统计 B October 21, 2014 20 / 47
事件与集合 古典概率和概率计算 集合运算 集合 Ω: ω Ω 集合中的元素存在唯一判别法则 ; 记子集 A = {ω ω A}. 记为 A Ω; 集合运算 : Ā = Ω A, 乘法 A B = AB, 加法 A B, 减法 A B = A B 对应的事件意义? 不相容事件 : A B =. 对立事件 : Ā 集合运算的规律 : 交换律, 结合律 ; Venn 韦恩图 有用公式 : A B = A + ĀB, A = AB + A B De-Morgan 公式 : j=n j=1 A i = j=n j=1 Āi. 张思容 (BUAA) 概率统计 B October 21, 2014 21 / 47
古典概率和概率计算 集合运算 n 变大时, 情况迅速变复杂 ( 样本空间大小 n!)! 见后续讲解 张思容 (BUAA) 概率统计 B October 21, 2014 22 / 47 配对问题 EXAMPLE ( 配对问题 ) 任意 n 个同学交了 n 本作业, 随机每人发回一本作业, 试求有 k = 0, 1, 2,..., n 个同学得到自己作业的概率? 简单情形 :n = 2, n = 3, 解答. 设 n = 3, 记三个人 A, B, C, 作业 a, b, c, Ab 表示 A 拿到 b 的作业 样本空间 :Ω = {AaBbCc, AaBcCb, AbBaCc, AbBcCa, AcBbCa, AcBaCb} 事件 : X = k 个同学配对成功 ; k = 0: X = {AbBcCa, AcBaCb} k = 1: X = {AaBcCb, AbBaCc, AcBbCa} k = 2: X = ; k = 3: X = {AaBbCc} 古典概率计算有 P({X = 0}) = 1 3, P({X = 1}) = 1 2, P({X = 2}) = 0, P({X = 3}) = 1 6,
古典概率和概率计算 概率计算 概率律的指定 : 古典 vs 频率学派 概率的真实大小? P.Laplace VS J.Venn 投硬币 :coin flipping 正面的概率? 拉普拉斯 :1/2 De Morgan 德摩根 :1061/2048 蒲丰 Buffon: 2048/4040 John Kerrich: 5067/10000 K Pearson: 12012/24000, Feller: 4979/10000; 古典模型 : 集合中每个元素 ( 基本事件或样本点 ) 的概率一样 ; 频率学派 : 基本事件的概率由大量数据的决定 张思容 (BUAA) 概率统计 B October 21, 2014 23 / 47
古典概率和概率计算 概率计算 计数方法 counting Theorem ( 乘法原理 ) 完成一件事要 k 步, 每一步分别有 n 1, n 2, n 3,..., n k 方法, 则完成这件事的方法共有 n = n 1 n 2 n k. 基本结果 : (m 次试验 ): 从 n 个元素中有放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 n m 种可能 ; 不同排列是等可能的 ; (m 元排列 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 A m n = n! (n m)! 种可能 ; 不同排列是等可能的 ; (m 元组合 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 放在一组 ; 共有 C m n = n! m!(n m)! 种可能 ; 不同组合是等可能的 ; 例子 :( 集合子集的个数 ) 集合有 n 个元素, 则所有子集的个数为 2 n 利用 : 组合数即二项式系数, 由二项式展开 (x + y) n = C n i x i y n i 可得 张思容 (BUAA) 概率统计 B October 21, 2014 24 / 47
古典概率和概率计算 概率计算 加法公式 : 从基本事件到复杂事件 Proposition ( 加法公式 ) 1 P(A B) = P(A) + P(B) P(A B); 2 P(A 1 A 2 A 3 ) = P(A i ) P(A i A j ) + P(A 1 A 2 A 3 ); 3 Jordan 约旦公式 : P( n i=1 A i) = n k=1 ( 1)k 1 p k ; 其中 p k = P(A i1 A i2... A ik ). 证明 (1). P(A B) = P(A + Ā B) = P(A) + P(ĀB) = P(A) + P(ĀB) + P(AB) P(AB) = P(A) + P(B) P(AB) 张思容 (BUAA) 概率统计 B October 21, 2014 25 / 47
再谈 : 配对问题 古典概率和概率计算 概率计算 EXAMPLE ( 配对问题 ) 任意 n 个同学交了 n 本作业, 随机每人发回一本作业, 问没有一个同学得到自己作业的概率? n 无穷大时, 概率是多少? 解答. ( 对立事件 Ā) 计算至少有一个人得到自己的作业的概率. 设 E i 是第 i 个人得到自己作业的事件 ; 则 Ā = i=n i=1 E i. Jordan 公式 :P(Ā) = P( i=n i=1 E i) = n k=1 ( 1)k 1 p k, p k = P(E i1 E i2... E ik ). 记结果为 (1, 2, 3,..., n),(e i1 E i2... E ik ) 为其中 k 个人拿到自己作业 ; 剩下 n k 个任意排列 ; 样本空间是 n 个任意排列, 断定 :P(E i1 E i2... E ik ) = (n k)! n! 另外 : n 中选 k 个人共有 Cn k 可能 ; Jordan 公式中每一项求和有 p k = 1 k! P(Ā) = 1 1 2! + 1 3! + ( 1)n 1 1 n!, P(A) = 1 P(Ā). 特别 :n 充分大时,P(A) e 1 0.3678. 张思容 (BUAA) 概率统计 B October 21, 2014 26 / 47
产品检验 古典概率和概率计算 概率计算 EXAMPLE ( 超几何分布 ) 假设 N 个产品中有 M 个次品, 抽取 n 件产品检验, 其中恰有 m 件次品的概率 Proof. A m 是恰有 m 件产品的事件 (m n). P(A m ) = C M mc n m N M CN n 张思容 (BUAA) 概率统计 B October 21, 2014 27 / 47
古典概率和概率计算 概率计算 排列组合续 : 分组问题 (m 次试验 ): 从 n 个元素中有放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 n m 种可能 ; 不同排列是等可能的 ; (m 元排列 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 排成一列 ; 共有 A m n = n! (n m)! 种可能 ; 不同排列是等可能的 ; (m 元组合 ) 从 n 个元素中无放回的每次取一个 ; 取出 m 个元素, 放在一组 ; 共有 C m n = n! m!(n m)! 种可能 ; 不同组合是等可能的 ; (k 重分组 ) 将 n 个元素分成不同的 k 组, 不考虑每组中的元素次序 ; 第 i 个组恰有 n i 个元素的可能分组为 n! n 1!n 2!...n k! 种可能 ; 不同分组是等可能的 ; 例子 : 导师有 4 个研究生 12 个本科生, 分配到 4 个项目中, 随机分配, 问每个项目正好有一个研究生的概率? Proof. 样本空间大小 : 16! 4!4!4!4!. 事件大小 : 12! 3!3!3!3! 4!. 概率 P(A) = 64 455 张思容 (BUAA) 概率统计 B October 21, 2014 28 / 47
条件概率 Review: 回顾 计算公式 : 加法公式 P(A B) = 乘法公式 P(A B) =? 条件概率 统计推断 不断通过新的信息获得正确的概率推断! EXAMPLE ( 赌牌游戏 ) 有三张牌 : 一张两面都是红的, 一张两面都是黑的, 一张两面是一红一黑 随机取出一张, 如果正面是红的, 反面是黑还是红? 怎样赢钱? 赢钱策略 : 永远赌反面和正面一样! 张思容 (BUAA) 概率统计 B October 21, 2014 29 / 47
条件概率的定义 条件概率 条件概率和乘法公式 EXAMPLE ( 概率的变化 ) 1 掷骰子一次, 结果为 6 的概率为 6. 如果已知结果为偶数, 结果为 6 的概 1 率为 3. 如果已知结果比 4 小呢? 解释 : 概率空间发生了变化 Definition ( 条件概率 ) 设 A, B 是事件, 已知 A 发生,B 发生的概率记为 P(B A). 其公式为 P(B A) = P(AB) P(A), 其中 P(A) > 0 古典模型解释 : P(A B) = (A B) Ω = (A B) A (A) Ω = P(A)P(B A) 公理化模型 定理 : 记 P A (B) = P(B A),P A 是一个概率 ( 满足概率公理 ); 张思容 (BUAA) 概率统计 B October 21, 2014 30 / 47
条件概率 条件概率和乘法公式 条件概率是一个概率律! *** Theorem ( 条件概率 ) 条件概率满足概率公理化的三个条件 非负 : P A (B) 0 归一化 :P A (Ω) = 1 ( 可列 ) 可加性 P A (B C) = P A (B) + P A (C). Corollary ( 条件概率下的条件概率 ) 设有事件 A, B, C, 已知 A 发生, 有条件概率 P A, 又已知 B 发生, 有条件概率 P AB, 则 P A (C B) = P AB (C). 张思容 (BUAA) 概率统计 B October 21, 2014 31 / 47
乘法公式 条件概率 条件概率和乘法公式 Proposition ( 乘法公式 ) P(A B) = P(A)P(B A) = P(B)P(A B), 可以推广到 n 个事件 P(A 1 A 2... A n ) = P(A 1 )P(A 2 A 1 )... P(A n A 1 A 2... A n 1 ) EXAMPLE ( 扑克 ) 一副牌 (52 张 ) 连续抽三张都不是红桃的概率? Proof. 设 A 1, A 2, A 3 表示第 i 张牌不是红桃 P(A 1 ) = 39 52, P(A 2) =? P(A 2 A 1 ) = 38 51, P(A 3 A 1 A 2 ) = 37 50 则 P(A 1 A 2 A 3 ) = P(A 1 )P(A 2 A 1 )P(A 3 A 1 A 2 ). 张思容 (BUAA) 概率统计 B October 21, 2014 32 / 47
第二次作业 条件概率 条件概率和乘法公式 北航教材 : 习题一. 11,16,18,24,26,28 张思容 (BUAA) 概率统计 B October 21, 2014 33 / 47
条件概率 条件概率和乘法公式 Monty Hall 三门问题 Monty Hall: 美国电视节目主持人. 问题 : 有三扇门, 其中一个后面有大奖 ( 汽车 ). 幸运观众选好一个门后, 主持人打开一扇门, 显示其中没有奖, 问该观众应该坚持原来的选择还是改变选择? 答案 : 永远应该改变选择! 概率分析 : 坚持 ( 一种可能 ) 赢奖概率 1/3, 改变 ( 两种可能 ) 赢奖概率 2/3 理解性解释 : 假设有一万扇门, 选定一个门后, 主持人打开所有 9998 扇门, 只剩一扇门, 是否改变选择? 条件概率分析 : 假设 C = 1, 2, 3 表示汽车在那个门,S = 1, 2, 3 表示观众的选择, H = 1, 2, 3 表示主持人打开的门 设 S = 1, H = 3, 计算概率 P(C = 2 H = 3, S = 1) = 2/3 张思容 (BUAA) 概率统计 B October 21, 2014 34 / 47
条件概率 条件概率和乘法公式 Review: 回顾 Remark ( 作业事宜 ) RECALL: 概率模型 = 样本空间 + 概率律 计算 : 加法公式, 乘法公式, 条件概率 例子 : 配对问题, TODAY 全概率, 贝叶斯公式 ; 计算例子 : 抽样原理, 保险评估, 假阳性之谜 ; 条件概率与独立性 真实世界的概率模型? 影响因素极多 ( 独立性 ) 简化模型 例子 : 系统与重复试验 张思容 (BUAA) 概率统计 B October 21, 2014 35 / 47
全概率公式 条件概率 全概率与贝叶斯公式 Proposition ( 全概率公式 ) P(B) = P(A)P(B A) + P(Ā)P(B Ā), 可以推广到 n 个互不相容事件 ( 满足 Ai = Ω) 证明 : P(B) = P(B Ω) = P(B (A Ā)) P(B) = P(BA) + P(BĀ) = P(A)P(B A) + P(Ā)P(B Ā) EXAMPLE ( 风险评估 ) 保险公司认为开车者分为两类 一类容易出事故, 一类为安全者 统计发现容易出事故在一年内发生事故的概率是 0.4; 安全者为 0.2. 设第一类人口比例为 30%. 现有一个新司机买保险, 问他在一年内出事故的概率是多少? 如果他一年内出了事故, 他是容易出事故者的概率是多大? 解答 : 记 A = 容易出事故者 ;B = 一年内发生事故 ; (1): P(B) = P(B A)P(A) + P(B Ā)P(Ā) = 0.4 0.3 + 0.2 0.7 = 0.26 (2): P(A B) = P(AB) P(B) = P(A)P(B A) P(B) = 6/13. 张思容 (BUAA) 概率统计 B October 21, 2014 36 / 47
条件概率 全概率与贝叶斯公式 Bayes 概率与因果推理 *** Thomas Bayes(1702-1761) Theorem ( 贝叶斯定理 ) P(A B) = P(A)P(B A) P(B) = P(A) P(B A) P(B) Proof: P(AB) = P(A B)P(B) = P(B)P(B A) 设 A 是原因,B 是结果 已知 B 发生, 推断 A 是否发生? 称 P(A) 是先验概率 (prior),p(a B) 是后验概率 (posterior). P(B A) 是似然性 (likeliwood), P(B) 是边缘概率 (marginal). 贝叶斯推断 : 新的事件或信息 B 改变了 A 的概率 ( 贝叶斯定理 ) 通过更多信息得到更确切的原因判断. 张思容 (BUAA) 概率统计 B October 21, 2014 37 / 47
贝叶斯公式 条件概率 全概率与贝叶斯公式 Proposition ( 贝叶斯公式 ( 逆概率公式 )) P(A B) = P(A)P(B A) P(A)P(B A)+P(Ā)P(B Ā), 可以推广到 n 个互不相容事件 [ 证明 ]: 全概率公式有 P(B) = P(A)P(B A) + P(Ā)P(B Ā), 代入贝叶斯定理可得 EXAMPLE 赌牌游戏 : 有三张牌 一张两面都是红的, 一张两面都是黑的, 一张两面是一红一黑 随机取出一张, 如果是红的, 反面是黑的概率多大? 记牌为 RR, RB, BB, 取出的牌朝上为红事件为 A, P(RB A) P(RB A) = P(A RR)P(RR)+P(A RB)P(RB)+P(A BB)P(BB) = 1/3. 张思容 (BUAA) 概率统计 B October 21, 2014 38 / 47
抽签原理 条件概率 计算与应用 EXAMPLE ( 抽签原理 ) n 个签中有 m 个为中奖 有放回的抽签 : 任一次中奖的概率为 m/n 无放回的随机抽签, 任一次的中奖概率也是 m/n. 即抽奖与次序无关! Proof. 有放回情形 : 显然任一次概率 m/n. 无放回情形 : 记 A k 表示第 k 次中奖的事件 则 P(A 1 ) = m n. 数学归纳法 : 设 P(A k 1 ) = m/n, 对所有 m, n 都成立, 则用全概率公式 P(A k ) = P(A k A 1 )P(A 1 ) + P(A k Ā1)P(Ā1) P(A k ) = m 1 m n 1 n + m m n 1 n 1 = m/n. 直接证明 : 设第 k 次中奖, 样本空间为 n 个取 k 个的排列共 A k n. 事件 A k, 第 k 次抽奖中奖的可能性为 m 种 ; 其余 k 1 个任意排列共 A k 1 n 1. P(A k ) = m A k 1 n 1 /Ak n = m/n. 张思容 (BUAA) 概率统计 B October 21, 2014 39 / 47
条件概率 计算与应用 假阳性之谜 医学里诊断疾病时对某种化验结果或试验结果, 也有阴阳性的区分 阳性表示体内有某种病原体存在或者对某种药物有过敏反应. EXAMPLE ( 疾病判断 ) 已知人群中某种疾病的发病率是 0.1%. 有个抽血试验可以诊断该疾病, 但准确率是 90%( 有病为阳性或无病为阴性的概率 ). 有个人 ( 甲 ) 抽血试验为阳性, 问医生有多大把握 ( 概率 ) 判断这个人有该疾病? 解答. 记 A = 甲患病,B = 甲的试验结果阳性 ; P(A) = 0.001, P(B A) = 0.9, P(B Ā) = 0.1 P(A B) = 0.001 0.9 0.001 0.9+0.999 0.1 0.0089 罕见病的检验结果更有可能是假阳性! 张思容 (BUAA) 概率统计 B October 21, 2014 40 / 47
独立性与系统 独立性 独立性的定义 Definition ( 两个事件独立 ) 如果 A, B 满足 P(AB) = P(A)P(B), 称事件 A, B 互相独立 条件概率解释 : 如果 A, B 独立 (P(A) > 0), 则 P(B A) = P(B) 理解 : 不相容事件 (A B = ) 不相互独立! 必然事件 Ω 和不可能事件 与任何事件相互独立 如果 A, B 独立, 则 Ā, B 相互独立. 例子 : 掷骰子 :A = 结果为偶数 ;B = 结果为三的倍数 问 A, B 是否独立? 正四面体, 正八面体骰子呢? 张思容 (BUAA) 概率统计 B October 21, 2014 41 / 47
独立性的判断 独立性与系统 独立性 EXAMPLE 掷骰子两次, 事件 A = 第一次为 1, 事件 B = 第二次为 6, A 与 B 是相互独立 记事件 C = 两次的和为 7,A 与 C 是否相互独立? Proof. P(A = 1, B = 6) = 1 36 = P(A = 1)P(B = 6) P(A = 1, C = 7) = 1 36 = P(A = 1)P(C = 7) 问题 : 已知 C 发生,A, B 独立吗? 张思容 (BUAA) 概率统计 B October 21, 2014 42 / 47
多次事件的独立性 独立性与系统 独立性 EXAMPLE ( 条件影响独立 ) 掷硬币两次 事件 A = 第一次为正面 H, 事件 B = 第二次为正面 H, 事件 C = 两次的结果不同, 如果已知 C 发生, 问 A, B 是否相互独立? 解答 P(A C) = P(A) = 1/2, P(B C) = P(B) = 1/2, P(AB C) = 0 P(A C)P(B C). 事实上 A, B, C 两两独立但三个不独立 Definition (n 个事件独立 ) 如果 A 1, A 2,..., A n 满足, 任取其中 k(1 k n) 个事件, 有 P(A i1 A i2 A ik ) = P(A i1 )P(A i2 ) P(A ik ). 称 A 1, A 2,..., A n 相互独立 n 次独立试验 ;n 次无放回抽样? 所有事件相互独立 任意两组事件相互独立 理解 : 两两相互独立不一定是所有事件相互独立 张思容 (BUAA) 概率统计 B October 21, 2014 43 / 47
独立性与系统 系统与试验 系统的可靠性 EXAMPLE ( 系统 ) 系统有若干元件组成, 系统的可靠性由元件的可靠性和系统的结构 ( 网络 ) 共同决定 基本假定 : 所有元件是相互独立的 连接方式 : 并联或串联 设每个元件正常工作的概率为 P(A i ). 概率公式 : 串联系统 :P(A 1 A 2 A n ) = P(A 1 )P(A 2 ) P(A n ). 并联 P(A 1 A 2 A n ) = 1 (1 P(A 1 ))(1 P(A 2 ) (1 P(A n )). EXAMPLE ( 教材 P22, 例 4) 2n 个元件可以组成两个系统, 比较两个系统的可靠性 张思容 (BUAA) 概率统计 B October 21, 2014 44 / 47
独立性与系统 独立试验与二项概率模型 系统与试验 EXAMPLE ( 教务网站堵塞 ) 设教务网站有 c 个服务器, 每个可以处理 100 个网页访问请求, 用户帐号为 n 个 如果固定时间段内每个帐号访问的概率是 p, 问网站堵塞的概率?( 即服务器不够用 ) 基本假定 : 所有帐号访问是独立的 固定时间段内访问帐号的个数记为 X, 则 P(X = k) = C k n p k (1 p) n k 网站堵塞的概率 P = i=100c P(X = i) 若 c = 15, n = 20000, p = 0.1 呢? 一般称 n 次重复试验结果出现 k 次的概率为二项概率 张思容 (BUAA) 概率统计 B October 21, 2014 45 / 47
作业 独立性与系统 系统与试验 第三次作业 : 北航教材 : P35 习题一. 31,35,38,39,40 张思容 (BUAA) 概率统计 B October 21, 2014 46 / 47
QUIZ 小测验一 独立性与系统 系统与试验 1 设 A, B 为任意两事件, 则下列关系成立的有 ( ) (A) (A + B) B = A ;(B) (A + B) B = A B ; (C) (A B) + B = A ;(D) (A B) + B = AB. 2 从 0 9 这十个数码中任意取出 4 个排成一串数码, 则数码恰成四位偶数的概率为 : (A) 41 90 ;(B) 1 40 32 2 ;(C) 90 ; (D) 90 3 一盒子内装有 5 个红球,15 个白球, 从中不放回取 10 次, 每次取一个球, 则第 5 次取到的是红球的概率为多少? 4 袋中装有编号的八个球, 从中任取 3 个, 则最小号码为偶数的概率为 多少? 张思容 (BUAA) 概率统计 B October 21, 2014 47 / 47