Microsoft PowerPoint - Lect02 Probability_2

Size: px

Start display at page:

Download "Microsoft PowerPoint - Lect02 Probability_2"

故金
5 years ago
Views:

1 统计与数据分析统计与数据分析 Statistics & Data Analysis 2 概率理论基础 (Part II) Zhu Huaiqiu University 随机变量概率的概型 : 统计古典几何概型化的基本假设意义? 概率概型的局限不依赖于概型化的模型, 如何进一步研究随机事件 A 的概率? 建立一个关于随机事件 A 的数学模型! A Ω

2 随机变量及其分布函数定义设 E 是样本空间为 Ω={ω} 的随机试验若对每一 ω Ω, 都存在唯一的函数 X(ω) R 与之对应,R R 为实数, 则称 X(ω) 是一个随机变量 (random variable), 简记为 X 引入随机变量后, 随机试验就能用随机变量 X 的关系式来表达 Ω ω X(ω) x 关于随机变量的更严格的数学定义 : 设 (Ω,F Ω,P) 为概率空间,X=X(ω) (ω Ω) 是定义在 Ω 上的单值实函数, 若对于任一实数 x R,ω 的集合 {ω:x(ω) x} 是一随机事件, 亦即 {ω X(ω) x} F Ω, 则称 X(ω) 为随机变量, 简记为 X 不仅定义随机变量的取值 ( 可测函数 ), 也定义这 Ω 些取值具有一定的规律即概率分布特征 ω 也因此定义了一类事件 A, 建立了一个良好的数学模型 - X(ω) A(x) x

3 讨论 : (1) 随机变量的取值具有随机性, 并有一定的概率规律 ; (2) 随机变量实质上是定义在样本空间 Ω 的一个实值函数, 亦即对样本空间 Ω 上的某一样本点 ω 赋值 X(ω) 来表示该点 ; (3) 与概率函数 P(A) 的区别随机事件 A={ω X(ω)<x} P(A)=P{ω X(ω)<x} 是 x 的函数 P(X x) 随机变量 X x 定义设 X 是任一随机变量, 称定义在 (-, + ) 上的实值函数 F(x)=P(X x) 为随机变量 X 的分布函数或累计分布律 (CDF, cumulative distribution function) 分布函数的意义 : 随机变量 X 取值落入区域 (-, x] 的概率, 即 X 取那些不超过 x 的所有可能值的概率的累计值, 或者此处定义的随机事件 A 发生的概率 F(x)=P(X x) () ( ) 1 F(x 2 ) F(x 1 ) 0 X - x 1 0 x 2 +

4 分布函数 F(x) 的性质 : (1)0 F(x) 1,x (-, x (- + ) (2)F(x) () 单调非减, 即若 x 1<x 2, 则有 F(x 1 ) F(x 2 ) lim Fx ( ) 0 lim F( x) 1 (3), x x (4)F(x) 为右连续函数, 即对于每个实数 a, 有 lim F ( x ) F ( a ) xa0 (5)X 落入区间 (a, b] 内的概率 P(a<X b)=f(b)-f(a) ( ) () (6)X 落在任一点 a 处的概率 P(X=a)=F(a)-F(a-0) 离散型随机变量及其数学方法定义若一个随机变量 X 的全部可能取值只有有限多个或无穷可数多个, 则称 X 是离散型随机变量定义设离散型随机变量 X 的全部可能取值为 x 1, x 2,..., x i,..., X 取各个可能值相应的概率为 PX ( x ) p i 1, 2,..., x,... i i n 则称上式为离散型随机变量 X 的概率分布律 (frequency function, 或 probability mass function), 简称为 X 的分布律

5 分布律的性质 : (1) p 0, i 1, 2,... i (2) P ( X x ) p 1 i i i i 分布函数 : F ( x ) P ( X x ) p i x x x x i i i p(x) p i p 1 p 2 x 1 x 2 x i x 离散型随机变量的分布律与分布函数

6 Example 2.23 设随机变量 X 的分布律为 X p 1/6 1/2 1/3 试求 : (1)X 的分布函数 ; (2)P(X 0),P(-1<X 5/2),P(X>3/2) 一两点分布 B(1, p) (Bernoulli distribution) 若随机变量 X 只可能取值 0 和 1, 其分布律为 : {X, p}={(0,, 1 - p), (1, p)},0<p<1, p, 则称 X 服从参数为 p 的两点分布, 或 (0, 1) 分布记为 X~B(1, p) 亦可表示为分布律如下的分布 : p( x) p p x x 0 otherwise x 1 x (1 ) 0 或 1 背景 :Bernoulli trial An experiment whose outcome is random and can be either of two possible outcomes, success and failure.

7 Jacob Bernoulli ( ) Bernoulli's grave Changed d and yet the same, I rise again Bernoulli 家族 Bernoulli trial

8 二二项分布 (Binomial distribution) ) n 重 Bernoulli 试验 :Bernoulli 试验独立重复进行 n 次, 每次试验考察某一结果是否出现 ( 概率为 p 的事件 A 是否发生 ) 在 n 重 Bernoulli 试验中, 若事件 A 在每次试验发生的概率 P(A)=p, 0<p<1, 则事件 A 出现次数 X 的概率分布律为 : PX ( k) Cp(1 p) k k n k n, k=0, 1, 2,, n 满足该分布律的随机变量 X 称为服从参数 n, p 的二项分布, 记为 X~B(n, p) n=1:x~b(1, p) 就是两点分布二项分布 B(n, p) 的分布律

9 二项分布 B(n, p) 的分布律二项分布 B(n, p) 的分布函数

10 Example 2.24 Tay-Sachs 病是一种与神经鞘脂代谢相关的隐性常染色体遗传病, 多发于犹太人种群若一对夫妇都为 T-S 病携带者, 则他们所生孩子患病的概率为 1/4 假定该夫妇共育有 4 个孩子, 求这 4 个孩子当中至多 1 个患病的概率 Example 无线电通讯中信号发射器发出信号 0 或 1, 由于随机干扰导致接收器收到错误信号的概率为 p 为提高可靠性, 规定发射器每送出一个信号都连续独立不相关地发射 n 次 (n 为奇数 ), 接收器接收这 n 次信号后以多数原则来判断信号的内容试分析这一方案的可靠性有多高 ( 设 p=0.1,n=5) ) 三几何分布 (Geometric distribution) ) 若 Bernoulli 试验中事件 A 在每次试验发生的概率 P(A) = p, 0<p<1, 连续重复进行直至事件 A 首次发生 ( 前 k-1 次皆失败, 第 k 次成功 ), 则试验次数 X 的概率分布律为 : 1 P X k (1 k ( ) p) p,k=1,, 2, 满足该分布律的随机变量 X 称为服从参数 p 的几何分布, 记为 X~G(p) k1 k1 P( X k) (1 p) p p (1 p) 1 k1 k1 k1

11 The probability mass function of a geometric random variable with p = 1/9 独立性无记忆性几何分布 G(p) 的分布律

12 几何分布 G(p) 的分布函数四超几何分布 (Hypergeometric distribution) M N M P( X k) C k n k C C, k=0, 1, 2,, n, M<N, n<n n N 满足这种分布律的随机变量 X 称为服从参数 N, M, n 的超几何分布 k C N 10n: 令 p=m/n, 有 MC PX ( k) Cp n (1 p) C nk NM n N k k nk Example 年美国加州宣布六合彩从 49 选 6 改为 53 选 6 由于累积奖金额高达 1.2 亿美元, 在全州掀起了买六合彩的狂热, 平均每小时有 1~2 百万人购买六合彩, 极大地增加了该州的税收假定彩票中心是随机从 53 个数字中选择 6 个数字 ( 不考虑排列顺序 ), 试求彩票购买者能够买中的概率

13 When np<<n, 在 n 重 Bernoulli 试验中, 若事件 A 在每次试验发生的概率 P(A)=p, 0<p<1, <1 则事件 A 出现次数 X 的概率分布律为 : k k n k PX ( k) Cp (1 p) n, k=0 0, 1, 12,, n 满足该分布律的随机变量 X 称为服从参数 n, p 的二项分布, 记为 X~B(n, p) 五 Poisson 分布若随机变量 X 的分布律为 k P ( X k ) e,k=0, 1, 2,,λ>0, k! 则称 X 服从参数为 λ 的 Poisson 分布, 记为 X~P(λ) 证明 : 对于二项分布, 当试验次数 n 很大,p 很小时, Poisson 分布即二项分布的近似 Poisson 分布常用于描述在 Bernoulli 试验序列中, 某稀有事件 (rare event) ) 在某段时间内出现的次数, 参数 λ 的实际意义是该稀有事件在某段时间内出现的平均数

14 Siméon-Denis Poisson ( ) 法国数学家物理学家人生只有两样美好的事情 : 发现数学和教数学 La vie n est bonne qu à deux choses: découvrir les mathématiques et enseigner les mathématiques. Poisson Poisson 分布 P(λ) 的分布律

15 Poisson 分布 P(λ) 的分布函数

16 Example 年, 有人对普鲁士骑兵部队发生士兵在训练中被军马不幸踢死的数据进行分析他们获得了连续 20 年期间 10 个骑兵团记录的共 200 例数据 ( 即某个团某一年被军马踢死士兵的人数 ), 结果发现这一数据较好地服从参数 λ=0.61 的 Poisson 分布被踢死的数据例数频率 Poisson 分布士兵人数的概率 (λ=0.61) (1) 小概率事件 (2) 独立发生, 不互相影响 (3) 发生概率稳定

17 Poisson 分布的广泛应用 : 遗传学的遗传图距计算辐射生物学的定量分析病毒学中的病毒感染率计算分子生物学中一个基因文库所需克隆数的估计 PCR 扩增片段保真率的估算酵母单双杂交中转化率的估计连续型随机变量及其数学方法定义对于随机变量 X, 若存在一个定义域为 (-, + ) 的非负实值函数 f(x), 使得 X 的分布函数 F(x) 可表示为 x F( x) P( X x) f( t) dt 则称 X 为连续性随机变量,f(x) 为 X 的概率密度函数 (probability density function), ) 简称密度函数 (density function),x (-, + )

密度函数的性质性质 1: 性质 2 : f(x) 0, x (-, + ) f ( x ) d x 1 性质 3:

X 取值于 x 邻近的概率与 f(x) 的大小成正比同时,f(x) 本身并不表示概率事件 B Pa ( x b

18 密度函数的性质性质 1: 性质 2 : f(x) 0, x (-, + ) f ( x ) d x 1 性质 3: a, b (-, + ), a<b, 有 b Pa ( x b) Fb ( ) Fa ( ) f ( xdx ) a 性质 4: 对于实数轴上任意一个集合 S(S 可以是若干个区间的合并 ), 有 : PX ( S ) f ( x ) dx 性质 5: 在 f(x) 的连续点处, 若 x 充分小, 有 : Px ( X xx) f( x) x S 即 X 取值于 x 邻近的概率与 f(x) 的大小成正比同时,f(x) 本身并不表示概率事件 B Pa ( x b ) Fb ( ) Fa ( ) f ( xdx ) a b F(x) F(b) F(a) 事件 B a 事件 B b

19 连续型随机变量的补充讨论 (1) 分布函数 F(x) 在 (-, + ) 上处处连续, 但未必处处可导 ; (2) 若 f(x) 在 x 处连续, 则 F ( x) f ( x ) (3) 对于任意常数 C R, 有 P(X=C)=0 Example 2.28 设连续型随机变量 X 的分布函数为 1 x e, x x F ( x ), 0 x , x 1 求 X 的密度函数

20 一均匀分布 (uniform distribution) 若连续型随机变量 X 的密度函数为 1, a x b f ( x) b a 0, elsewhere, 则称 X 服从区间 [a, b] 上的均匀分布, 记为 X~U(a, b) f(x) 1 b a a b x 讨论 : (1)P(X b)=p(x a)=0; P(X a) (2) 背景 : 几何概型 c, d (a, b), c<d, 有 : d 1 d c Pc ( X d ) dx c b a b a (3)X 的分布函数 : 0, x a x a F ( x ), a x b b a 1, x b

21 二指数分布 (exponential distribution) 若连续型随机变量 X 的密度函数为 f ( x ) x e, x 0, 0, x 0, 其中,λ>0 为常数, 则称 X 服从参数为 λ 的指数分布, 记为 X~E(λ) 指数分布 E(λ) 的密度函数

22 指数分布 E(λ) 的分布函数指数分布 E(λ) 的讨论 (1) 分布函数为 t (2) PX ( t) e, ( t0) (3) x 1 e, x 0, F ( x) 0, x 0, Pt X t e e t t t1 t2 ( ), ( 0) (4) 无记忆性 (memoryless):t>0, s>0, 有 P ( X s t X s ) P ( X t ) (5) 指数分布与 Poisson 分布的联系 :Poisson 分布的相邻两个 ( 独立 ) 事件的间隔服从指数分布

23 Example 2.29 肌肉和神经细胞膜的离子通道的打开的持续时间长度可以通过复杂的实验技术测得一种简化的动力学模型表明离子通道打开的持续时间符合指数分布 Marshall 等 (1990) 通过对青蛙肌肉的一个离子通道 nicotinic receptor 的一种通道阻断因子 suxamethonium 的测量, 验证了这一假设假设且 suxamethonium 的浓度变化对应了不同参数 (λ=1/τ) 的指数分布,τ 为通道打开的平均时间长度 (Marshall C G et al. (1990) The action of suxamethonium (succinyldicholine) as an agonist and channel blockers at the nicotinic receptor of frog muscle. Journal of Physiology, 428: )

24 三 Gamma 分布 (Gamma distribution) 若连续型随机变量 X 的密度函数为 f ( x) ( ) 1 x x e, x 0, 0, x 0, 其中,α, λ>0 为常数, 则称 X 服从参数为 α, λ 的 Gamma 分布, 记为 X~Γ(α, λ) Γ 函数 : 1 ( ) x e x dx, 0 0 关于 Gamma 函数 1 ( ) x e x dx, 0 0 (1) (1) 1 (2) 1 ( ) 2 (3) (4),n 为自然数 ( 1) ( ) ( n 1) n!

25 Gamma 分布 Γ(α, λ) 的密度函数 1, 0.5 2, 0.5 3, 0.5 5, 1.0 9, 2.0 Gamma 分布 Γ(α, λ) 的分布函数 1, , 0.5 3, 0.5 5, 1.0 9, 2.0

26 关于 Gamma 分布的讨论 : (1) 分布函数为 F ( x) (, x / ), x 0, ( ) 0, x 0, 1 t 其中 (, x) t e dt 为不完全 Gamma 函数 ; 0 x (2)α=1 时, 退化为参数为 λ 的指数分布 (3)α 的改变对应于密度函数曲线形状的改变 ( 形参数, shape parameter); λ 的改变对应于测量单位的变化 ( 标度参数, scale parameter); (4) 随机变量 X: Example 2.30 Udias 和 Rice(1975 年 ) 根据美国加州某观测站年期间记录的一组连续发生轻微地震的时间间隔数据分别按指数分布和 Gamma 分布进行拟合, 发现地震发生的频率更符合 Gamma 分布 (α=0.509,, λ= ) Gamma distribution Exponential distribution Udias A and Rice J. (1975). Statistical analysis of microearthquake activity near San Andreas Geophysical Observatory, Hollister, California. Bulletin of the Seismological Society of America, 65:

27 四正态分布 (normal distribution) 当一个量可看成由许多微小独立的随机因素作用的总后果时 ( 每种因素在正常状态下都不起压倒性的主导作用 ), 一般都服从或近似服从正态分布自然和社会现象中, 大量的随机变量都 ( 近似 ) 服从正态分布是科学和工程领域数据统计分析研究中最重要的分布, 许多统计分析方法的数学前提就是数据遵循某种正态分布 The bean machine, also known as the quincunx or Galton box, is a device invented by S. F. Galton to demonstrate the law of error and the normal distribution. The machine consists of averticalboard with interleaved rows of pins. Balls are dropped from the top, and bounce left and right as they hit the pins. Eventually, they are collected into one-ball-wide bins at the bottom. The height of ball columns in the bins approximates a bell curve.

( 一 ) 定义及性质若随机变量 X 的概率密度函数为 1 f ( x) e 2 ( x ) 2 2 2,(-

σ 2 ) Bell curve: A beautiful curve 正态分布的有关性质 : ( x ) 2 2 1

f(x) 达到最大值 (3) 密度函数 f(x) 以 x 轴为渐近线 (4) 当 x=μ±σ 时,f(x) 有拐点

28 ( 一 ) 定义及性质若随机变量 X 的概率密度函数为 1 f ( x) e 2 ( x ) 2 2 2,(- <x<+ ), 其中 μ, σ 为常数且 σ>0, 则称 X 服从参数为 μ, σ 的正态分布, 记为 X~N(μ, σ 2 ) Bell curve: A beautiful curve 正态分布的有关性质 : ( x ) f ( x ) e 2 (1) 密度函数 f(x) 关于 x=μ μ 对称 (2) 当 x=μ 时, 密度函数 f(x) 达到最大值 (3) 密度函数 f(x) 以 x 轴为渐近线 (4) 当 x=μ±σ 时,f(x) 有拐点 (5) 固定 σ 值, 改变 μ,f(x) 沿 X 轴平移, 形状不变 ; 固定 μ 值, 改变 σ,f(x) ) 形状变化 2 1 2

29 (6) 参数的概率含义 : 标准差 σ(standard deviation) 正态变量取值的集中或分散程度 ; 形状参数均值 μ(mean) 正态变量的平均取值和集中位置 ; 位置参数 1 2 (7) 正态分布的 3σ 规则 P( X X ) P( 1) P ( X X 2 ) P ( 2) P( X X 3 ) P( 3)

30 (8) 分布函数 : ( t ) x F ( x) e dt, x (, ) 2 2 Carl Friedrich Gauss The Prince of Mathematicians ( ) 高斯分布 Stigler 法则 : 没有科学发现是以它的最初发现者命名的

31 ( 二 ) 标准正态分布及其计算当 μ=0, σ 2 =1 时, 正态分布 N(0, 1) 被称为标准正态分布 (standard normal distribution) 密度函数和分布函数 : 1 ( x) 2 e 2 x 2,(- <x<+ ) t x 1 2 ( x) e dt 2 2,(- <x<+ ) 标准正态分布的性质 : (1)φ(-x)=φ(x); ) ); (2)Φ(-x)=1-Φ(x),Φ(0)=1/2; (3)P(a<X b)=φ(b)-φ(a); (4) P( X a) ( a) ( a) 2 ( a) 1,a>0; (5) P( X a) 1 P( X a) 2(1 ( a)),a>0 1 2 x =0 x

32 ( 三 ) 一般正态分布的标准化及其计算定理若随机变量 X~N(μ, σ 2 ), 则 X X ~ N (0,1) 一般正态分布的计算转化为标准正态分布的查表计算 : (1) X x x PX ( x ) P ( ) ( ) (2) a X b b a Pa ( X b ) P ( ) ( ) ( ) ( 四 ) 标准正态分布的上 α 分位点设随机变量 X~N(0, 1), 其概率密度函数为 φ(x) 对于给定的 α (0<α<1), 称满足条件 PX ( Z) ( xdx ) 的数 Z α 为标准正态分布的上 α 分位点对于给定的 α, 可求 Z α : a Z Z Z P( X Z ) ( x) dx ( x) dx ( x) dx 1 ( Z ) 1 2 =0 Z

33 标准正态分布表 Example 2.31 海底声纳(sonar) 记录的声波由大量的背景噪声组成, 在北冰洋这样的背景噪声部分地由冰块的碰撞和拉伸造成 Veith 和 Wilks (1985 年 ) 分析了一组北冰洋海底声波记录数据, 发现背景噪声由两类可区分的信号组成 : 一类符合 Gauss 分布, 一类对应于大尺度的冲击 ( 波 ) (Veitch J., and Wilks A. (1985). A characterization ti of Arctic undersea noise. J. Acoust. Soc. Amer., 77: )

34 Example 2.32 湍流是典型的多尺度复杂自然现象流场某一点的速度受该点附近大量的随机涡 ( 具有不同的尺度 ) 影响, 故可认为速度分布符合正态分布 Van Atta 和 Chen(1968 年 ) 分析了风洞试验采样数据, 对某一速度分量的 409,600 个速度值统计后发现, 速度的 PDF 十分精确地服从正态分布 (Van Atta C, and Chen W. (1968) Correlation measurements in grid turbulence using digital harmonic analysis. J Fluid Mech, 34: ) Example 2.33 Isochores: 人基因组 DNA 序列核苷酸含量 ( 碱基组分 ) 的 Mosaic 结构 (Cohen N, Dagan T, Stone L and Graur D. (2005) GC composition of the human genome: in search of isochors, Mol Biol Evol, 22: )

35 A Bad Example: 正态分布的滥用与错误结果 The Bell Curve(1994) ) IQ 决定论的统计研究 Intelligence exists and is accurately measurable across racial, language, and national boundaries. Intelligence is one, if not the most, important correlative factor in economic, social, and overall success in America, and is becoming more important. Intelligence is largely (40% to 80%) genetically heritable. No one has so far been able to manipulate IQ long term to any significant degree through changes in environmental lfactors - except for child adoption - and in light of their failure such approaches are becoming less promising. The USA has been in denial regarding these facts, and in light of these findings a better public understanding of the nature of intelligence and its social correlates is necessary to guide future policy decisions in America. Flawed assumptions, flawed methodology, bad conclusions! Economic and social correlates of IQ IQ < >125 US population distribution Married by age Out of labor force more than 1 month out of year (men) Unemployed more than 1 month out of year (men) Divorced in 5 years % of children w/ IQ in bottom decile (mothers) Had an illegitimate baby (mothers) Lives in poverty Ever incarcerated (men) Chronic welfare recipient (mothers) High school dropout

36 随机变量函数离散型随机变量的函数连续性随机变量的函数分布函数法设 X 为连续型随机变量,X 的函数 Y=g(X) 也是随机变量若已知 X 的概率密度函数为 f(x), 求 Y=g(X) 的概率密度函数 φ(y) 的步骤为 : (1) 先由 X 的值域 Ω X, 求出 Y=g(X) 的值域 Ω Y ; (2) 对于任意的 y Ω Y, 记 Gy { x g( x) y},y 的分布函数为 FY( y) P( Yy) P( g( X ) y) P( XGy) f ( x) dx Gy (3) 求导可得 : (3) 求导可得 : ( y ) F ( y ) Y Example 2.34 已知 X~N(0, 1), 求的概率密度函数 φ(y) Y e X

37 定理已知随机变量 X 的密度函数 f(x),y=g(x) 当 y=g(x) 单调且处处可导, 则 Y=g(X) 的密度函数 φ(y) 为 f h ( y ) h ( y ), y Y ( y) 0, elsewhere 其中 x=h(y) 是 y=g(x) () 的逆函数,ΩΩ Y 是 Y=g(X) 的值域定理已知随机变量 X~N(μ, σ 2 ),Y=aX+b,, 则有 : Y~N(aμ+b, a 2 σ 2 ) 二维随机变量简介一概念定义设 Ω={ω} 是某一随机试验 E 的样本空间, 若对于任意的 ω Ω, 都有确定的两个实数 X(ω) 和 Y(ω) 与之对应, 则称有序二元总体 (X(ω), Y(ω)) 为一个二维随机变量, 也称二维随机向量实际上, 二维随机变量就是定义在同一样本空间上的一对随机变量类似可引入 n 维随机变量的定义多维随机变量的概率分布规律, 不仅依赖于各分量各自的概率分布规律, 而且还依赖于各分量之间的关系

38 二二维随机变量的联合分布函数二维随机变量的联合分布函数定义设 (X, Y) 为二维随机变量, 称定义在整个平面上的二元函数 F ( x, y) P( X x, Y y) 为 (X, Y) 的联合分布函数 (joint CDF), 其中 {X x, Y y} 表示事件 {X x} 与 {Y y} 之积显然, 有 : P( x1 X x2, y1 Y y2) F ( x2, y2 ) F ( x2, y1 ) Fx (, y) Fx (, y) y (x, y) x 联合分布函数的性质 (1)0 F(x, y) 1, F(+, + )=1, F(-, y)=f(x, - )=F(-, - )=0 (2)F(x, y) 关于 x 或 y 皆单调非递减的右连续 (3) 相容性 : 对于任意 x 1 <x 2, y 1 <y 2, 有 F( x, y ) F( x, y ) F( x, y ) F( x, y ) (4)(X, Y) 关于 X 的边缘分布函数 (marginal CDF) 定义 : F ( x) F( x, ) P( X x) X (X, Y) 关于 Y 的边缘分布函数定义 : F ( y) F(, y) PY ( y) Y

39 三二维二维连续型连续型随机变量 ( 一 ) 联合概率密度函数 (joint PDF) 定义设二维随机变量 (X, Y) 的联合分布函数为 F(x, y), 若存在非负函数 f(x, y), 使得对于任意 x, y 有 x y F ( xy, ) f ( uvdudv, ) d, 则称 f(x, y) 为 (X, Y) 的联合概率密度函数分子动力学模拟 :Joint probability density of the frequency of the OH stretch of HOD in liquid D 2 O and the hydrogen bond distance.

40 联合概率密度 f(x, y) 的性质 : (1)f(x, y) 0 (2) f( x, y) dxdy F(, ) 1 (3) 对平面上任一区域 D, 有 P ( X, Y) D f( xydxdy, ) d, D 特别有 : d b P a X b, c Y d f ( x, y ) dxdy c a (4) 当 x, y 充分小时, 在 f(x, y) 的连续点处 : P( x X xx, y Y yy) f ( x, y) xy (5) 二维连续型随机变量的联合分布函数 F(x, y) 在整个平面上连续, 且在 f(x, y) 的连续点 (x, y) 处有 : 2 F ( x, y) xy f( x, y) ( 二 ) 边缘概率密度函数 (marginal PDF) 条件概率密度函数 (conditional PDF) ) 定义设二维随机变量 (X, Y) 的联合概率密度函数为 f(x, y), 则分别称 f ( x) F ( x) f( x, y) dy X X 和 f ( y) F( y) f( x, y) dx Y Y 为 (X, Y) 关于 X 及关于 Y 的边缘概率密度函数

41 定义设二维随机变量 (X, Y) 的联合概率密度函数为 f(x, y), 且它们的边缘概率密度 f X (x)>0, f Y (y)>0, 则 (1) 定义 f ( x y) f ( x, y) 和 f ( y) ( ) x F x y f ( u y ) du Y 为 X 在 Y=y 条件下的条件概率密度函数和条件分布函数 (2) 定义 f ( y x) f ( x, y) 和 ( ) y f ( x) F y x ( ) X f x v dv 为 Y 在 X=x 条件下的条件概率密度函数和条件分布函数 Schematic showing joint, marginal, and conditional densities fy ( y) f( x, y) dx f ( y x) f ( x, y) f ( x ) X f X ( x) f ( x, y) dy

若二维随机变量 (X, Y) 的联合概率密度函数 1 f ( x, y) 2 2 1 x y e 2 2 1 ( x ) ( xx)( yy) ( yy) x 2 2 2 2 2(1 ) x x y y 其中,μμ x, μ y, σ x

42 ( 三 ) 随机变量的相互独立性定义对于两个随机变量 X, Y, 若对任意实数 x, y, 都有 P( X x, Y y) P( X x) P( Y y) 或 F( xy, ) F( x) F( y) 则称随机变量 X 与 Y 相互独立定理对于二维连续型随机变量 (X, Y),X 与 Y 相互独立的充要条件是 f ( x, y ) f ( x ) f ( y ) 在 f(x, y), f X (x), f Y (y) 的所有公共连续点上都成立 X Y X Y 四二维正态分布若二维随机变量 (X, Y) 的联合概率密度函数 1 f ( x, y) x y e ( x ) ( xx)( yy) ( yy) x (1 ) x x y y 其中,μμ x, μ y, σ x >0, σ y >0, ρ <1 是常数, 则称 (X, Y) 服从参数为 (μ x, μ y, σ x, σ y, ρ) 的二维正态分布, 并记为 (X, Y)~N(μ x, μ y, σ x2, σ y2, ρ) Bell curved surface

43 Example 2.35 已知(X, Y)~N(0, 0, 1, 1, ρ), 即 (1 ) f ( x, y) e x xy y 1 试求 (X, Y) 的两个边缘概率密度 f X (x), f Y (y) 2 2 Y X 定理若二维随机变量 (X, Y)~N(μ x, μ y, σ x2, σ y2, ρ), 则 X~N(μ x, σ x2 ), Y~N(μ y,σ y2 ), 即二维正态分布的两个边缘分布均为一维正态分布定理若二维随机变量 (X, Y)~N(μ x, μ y, σ x2, σ y2, ρ), 则 X 与 Y 相互独立的充要条件是 ρ=0 0

44 Example 2.36 已知 X~N(0, 1),Z~N(0, 1), Y=sign(X) Z, 其中函数 sign(x) 定义为 1, x 0 sign( x) 1, x 0 显然也有 Y~N(0, 1), 但 (X, Y) 不是二维正态分布 Y X

untitled

untitled Statistics & Data Analysis 2 (Part II) Zhu Huaiqiu @Peking University 2.2 2.2.1 EΩ={ω}ωΩ X(ω)RRX(ω) random variablex X Ω ω X(ω) x (ΩF Ω P)X=X(ω) (ωω)ω xrω{ωx(ω) x} {ωx(ω) x} F Ω X(ω) X Ω X(ω) 1 2Ω ΩωX(ω)