随机信号分析 复习课 罗锴 Signal processing & Information Networking in Communications
提纲 随机过程基本概念 泊松过程 马尔可夫链 正态过程 平稳过程 平稳过程的谱分析
随机过程的基本概念回顾 数学建模 时间
随机变量的基本概念概率空间 规定一个随机试验, 所有样本点之集合构成样本空间 Ω, 在样本空间中一个样本点或若干个样本点之适当集合 F 称为事件域,F 中的每一个集合称为事件 若 A F, 则 P(A) 就是事件 A 的概率, 并称这三个实体的结合 ( Ω,F,P) 为一个概率空间
随机变量的定义随机变量 定义 : 设 ( Ω,F,P) 是概率空间, 对任一个 e Ω, 都有实数 (e) 与之对应, 则称 (e) 为随机变量, 简记为 随机现象 随机变量
随机变量的分布函数相互独立的随机变量设,Y 是两个随机变量, 若对任意实数 x,y 有 ) ( ) ( )) ( ) (( ), ( y Y P x P y Y x P y Y x P = = 则称,Y 为相互独立的随机变量 若,Y 为相互独立随机变量, 则有 ) ( ) ( ), ( ) ( ) ( ), ( y f x f y x f y F x F y x F Y Y Y Y = = 联合密度边际密度联合密度边际密度
随机变量的数字特征 统计独立 不相关 Cov(, Y ) = E[( E )( Y EY )] = E[ Y ] E[ ] E[ Y ] = 0 统计独立 不相关
随机变量 思考 在实际应用中, 我们经常要涉及到在随机试验过程 中随时间 t 而改变的随机变量, 该怎么办呢?
随机过程定义与统计描述 随机过程 {(t,e),t T} 是定义在 T Ω 上的一个二元函数 1 对固定的 t,(t,e) 是一个随机变量 ; 2 对固定的 e, (t,e) 是随机过程 {(t,e),t T} 的一个样本函数 ( 轨道 ) 即定义在 T 上的普通函数 ; 3 对于固定的 e 和 t, (t,e) 是一个标量, 它表示时刻 t 所处的状态 对于一切 t T,(t) 所有可能的状态构成的集合称为状态空间 ; 4 当 t 和 e 都是变量时, (t,e) 是一个随机变量族或者时间函数族 ( 称为随机过程 )
随机过程数字特征 t t t Z iey E Z E t m + = = ) ( ) ( ))] ( ))( ( [( ] ) ( [ ) ( 2 = = t m Z t m Z E t m Z E t D Z t Z t Z t Z ] [ ), ( t s Z Z Z E t s R = ))] ( ))( ( [( ), ( = t m Z s m Z E t s B Z t Z s Z = ) ( ) ( ), ( ), ( t m s m t s R t s B Z Z Z Z 均值函数方差函数相关函数协方差函数相互之间的关系
随机过程基本类型 1. 正交增量过程 2. 独立增量过程 3. 马尔可夫过程 4. 正态过程 5. 维纳过程 6. 平稳过程
随机过程基本类型 正交增量过程 互不相关 独立增量过程 相互独立 正交增量过程 独立增量过程 正交增量过程 二阶矩存在, 均值函数恒为零 独立增量过程
例题 1.1 设随机过程 ( t) = Asin( ωt+θ, ) 其中 A, ω 为常数, 是 在 (- ππ, ) 上的均匀分布的随机变量, 令 Y( t = ( t 求 解 : R( tt, + τ ) 和 R( tt, + τ ) Y Y Θ 2 ) )
例题 1.1 解 : 由条件知 Θ ( x) f 的概率密度为 1/2 π, π < x < π = 0, 其他 2 2 ( ) ( ) ( ) ( ) ( sin ( ω )) sin ( ω ωτ ) sin ( ω ) sin ( ω ωτ ) R( t, t + τ)= EY t Y t + τ = E t t + τ Y ( ) 2 2 = E A t+θ A t+ +Θ 4 2 2 = A E t+θ t+ +Θ 4 A E t t ( ) ( 1 cos( 2ω 2 )) 1 cos( 2ω 2ωτ 2 ) = + Θ + + Θ 4 4 A 1 cos( 2ωt+ 2Θ) cos( 2ωt+ 2ωτ + 2Θ ) + = E 4 cos ( 2ωt+ 2Θ ) cos( 2ωt+ 2ωτ + 2Θ)
例题 1.1 π 1 Ecos( 2ωt+ 2ωτ + 2Θ ) = cos( 2ωt+ 2ωτ + 2θ ) dθ π 2π 1 sin ( 2 t 2 2 π = ω + ωτ + θ ) π = 0 4π Ecos 2ω t+ 2Θ = 0 同理可得 ( ) ( ω + Θ ) ( ω + ωτ + Θ) Ecos 2 t 2 cos 2 t 2 2 π 1 = cos ( 2 ωt+ 2 θ ) cos ( 2 ωt+ 2 ωτ + 2 θ ) dθ π 2π 1 = cos ( 2 ωτ ) 2
例题 1.1 4 A 1 4 2 所以 R( tt, + τ ) = 1+ cos( 2ωτ ) Y ( ) ( τ) R ( t, t + τ) = E t Y t+ Y ( ω ) sin ( ω ωτ ) = E Asin t+θ A t+ +Θ ( ) ( ω ) sin ( ω ωτ ) 3 2 = AE sin t+θ t+ +Θ π 3 2 1 = A sin ( ωt+ θ ) sin ( ωt+ ωτ + θ ) dθ π 2π = 0 2
例题 1.2 { ( ) } 设, 0 是实正交增量过程, 0 = 0, V 是标准正 t t ( ) t 0 ( ) 态随机变量 若对任意的, t, V 相互独立, ( ) ( ) 令 Y t t V, 求随机过程 Y t, t 0 的协方差函数 = + ( ) { } 解 :
例题 1.2 解 : 依题意知 ( ) ( ) = 0, = 0, = 1 E t EV DV, 所以 ( ) = ( ) + = ( ) + = 0 EY t E t V E t EV Y (, ) ( ) ( 1) ( 2) 2 σ ( t t ) ( )( ( ) ) B t t = E t + V t + V 1 2 1 2 = E t t + EV ( ) = min, + 1 1 2 2
泊松过程的回顾 计数过程 独立增量过程 平稳增量过程 泊松过程 基本概念 数字特征 时间间隔分布 等待时间分布 到达时间的条件分布
泊松过程定义 计数过程 设 {N(t),t 0} 为随机过程, 若 N(t) 表示到时刻 t 为止已 发生的 事件 A 的总数, 且 N(t) 满足下列条件 : 1. N(t) 0; 2. N(t) 取正整数值以及 0; 3. 若 s<t, 则 N(s) N(t); 4. 当 s<t 时,N(t)-N(s) 等于区间 (s,t] 中发生的 事件 A 的次数 ; 称随机过程 {N(t),t 0} 为计数过程
泊松过程定义 定义 3.2: 称计数过程 {(t),t 0} 为具有参数 λ>0 的泊松过程, 若它满足下列条件 : 1. (0)=0; 2. (t) 是 ( 平稳 ) 独立增量过程 ; 3. 在任一长度为 t 的区间中, 事件 A 发生的次数服从参数 λ>0 的泊松分布, 即对任意 s,t 0, 有 λt ( λt) P{ ( t + s) ( s) = n} = e, n = n! n 0,1,
泊松过程的数字特征设 {(t),t 0} 是泊松过程, 对任意的 t,s [0, ), 且 s<t, 有 ( ) s t s t D s t E = = λ )] ( ) ( [ )] ( ) ( [ 由于 (0)=0, 所以 t t D t t t E t m λ σ λ = = = = )] ( [ ) ( )] ( [ ) ( 2 1) ( )] ( ) ( [ ), ( + = = t s t s E t s R λ λ 一般情况下, 泊松过程的协方差函数可表示为 ), min( ), ( t s t s B λ =
泊松过程的时间间隔分布 时间间隔 T n 的分布 设 {(t),t 0} 是泊松过程, 令 (t) 表示 t 时刻事件 A 发生的次数,T n 表示从第 (n-1) 次事件 A 发生到第 n 次事件 A 发生的时间间隔
泊松过程的时间间隔分布 定理 3.2: 设 {(t),t 0} 为具有参数 λ 的泊松过程,{T n,n 1} 是对应的时间间隔序列, 则随机变量 T n 是独立同分布的均值为 1/λ 的指数分布 即 : 对于任意 n=1,2,, 事件 A 相继到达的时间间隔 T n 的分布为 λt 1 e, t 0 FT n ( t) = P{ Tn t} = 0, t < 0 其概率密度为 f λe = 0, λt T n ( t), t 0 t < 0
泊松过程的等待时间分布 等待时间 W n 的分布 等待时间 W n 是指第 n 次事件 A 出现的时刻 ( 或第 n 次事件 A 的等待时间 ) n W n = T i i= 1 因此,W n 是 n 个相互独立的指数分布随机变量之和
泊松过程的等待时间分布 定理 3.3: 设 {W n,n 1} 是与泊松过程 {(t),t 0} 对应的一个等待时间序列, 则 W n 服从参数为 n 与 λ 的 Г 分布 ( 也称爱尔兰分布 ), 其概率密度为 n 1 λt ( λt) λe, t 0 fw () t = ( n 1)! n 0, t < 0
泊松过程的到达时间的条件分布 假设在 [0,t] 内时间 A 已经发生一次, 我们要确定这一时间到达时间 W 1 的分布 P{ W 1 s ( t) = 1} =? 分布函数 F W 1 ( t) = 1 ( s) = 0, s t 1,, s < 0 0 s s t < t 概率密度函数 f W1 ( t) = 1 ( s) = 1, t 0, 0 s < 其它 t
例题 2.1 Machine 1 is currently working. Machine 2 will be put in use t at a time from now. If the lifetime of machine is exponential with rate λ, i = 1, 2, i What is the probability that machine 1 is the first machine to fail? i
例题 2.1 解 : 设机器 1 和机器 2 的使用寿命为 ( ) ( ) λ1 λ 2, 且 Y, 独立 ~ E, Y ~ E Y,, 则 所以联合概率密度 λλ f ( x, y) f ( x) f ( y) > > = = 0, 其他 要求的概率为 λ1x λ2y 1 2 e, x 0, y 0 ( < + ) = ( > ) = (, ) P Y t P Y t f x y dxdy D: x> 0, y > 0, y > x t D
例题 2.2 I am waiting for two friends to arrive at my house. The time until A arrives is exponentially distributed with rate λ a, and the time until B arrives is exponentially distributed with rate λ b. Once they arrive, both will spend exponentially distributed times, with respective rates µ a and µ b at my home before departing. The four exponential random variables are independent. What is the probability that A arrives before and departs after B?
例题 2.2 The probability that A arrives before B is derived as + λbta λat λ (1 A a F ( )) ( )d d 0 B ta fa ta t = + A e λ 0 ae t = A λ + a Similarly, the probability that B arrives before A λa departs is. µ + λ a b The probability that A departs after B is λ b µ b µ + µ Hence, the probability that A arrives before and departs after B is given as λa λ a µ b λ + λ µ + λ µ + µ a b a b a b a b
例题 2.2 2. Let F be the time of the first departure. Write F=T+A where T is the time of the first arrival and A is the additional time from then until the first departure. First take expectations and the condition on who arrives first to obtain 1 λa λb EF [ ] = + EAa [ ] + EAb [ ] λ + λ λ + λ λ + λ Now use and a b a b a b 1 λb 1 EAa [ ] = + µ + λ µ + λ µ + µ a b a b a b 1 λa 1 EAb [ ] = + µ + λ µ + λ µ + µ b a b a a b
马尔可夫链的回顾 马尔可夫链定义 一步转移概率及多步转移概率 初始概率及绝对概率 马尔可夫链状态分类 遍历的马尔可夫链及平稳分布
马尔可夫过程 时间离散状态离散 : 马尔可夫链 时间连续状态离散 : 连续时间的马尔可夫链 时间离散状态连续 : 马尔可夫序列 时间连续状态连续 : 马尔可夫过程
马尔可夫链定义 设有随机过程, 若对于任意的整数 n T 和任意的 i, 条件概率满足 0, i1,, i n 1 I P{ = P{ 则称 = n+ 1 i n+ 1 n+ 1 0 0 1 1 = i { n T} n, { n T} n+ 1 n, = n i =, i 将来的状态只与现在状态有关, 与过去状态无关 n + } = i,, 为马尔可夫链, 简称马氏链 n = i n } t t 0 < 过去 t = t 0 现在 t > t 0 将来
一步转移概率及多步转移概率 设 P 表示一步转移概率所组成的矩阵, 则 p11 p12 p1n P = p21 p22 p2n 称为系统状态的一步转移概率矩阵, 它具有如下性质 : 1. 2. p 0, i, j I ij j I p = 1, i, j I ij 满足上述两个性质的矩阵成为随机矩阵
一步转移概率及多步转移概率 定义 4.4 ( n) 称条件概率 pij P{ m 为马尔可夫链 { n T} = + = j = i}, i, j I, m 0, n n, n m 的 n 步转移概率, 并称 1 P ( n) ( n) = ( pij ) 为马尔可夫链的 n 步转移矩阵 规定 p (0) 0, ij = 1, i i = j j
一步转移概率及多步转移概率 定理 4.1 设 { n T} 为马尔可夫链, 则对任意整数 n 0, 1. n, 0 L< n, p 和 i j I,n 步转移概率具有下列性质 : ( n) ij = k I p ( l) ik p ( n l) kj Chapman- Kolmogorov 方程 2. p ( n) ij = k I k 1 n 1 I p ik 1 p k 1 k 2 p k n 1 j 3. P ( n) ( n 1) = PP i k : j 4. ( n) P = P n o l n- l t
初始概率及绝对概率定义 : 称 p j ( n) = P{ n = j}, ( j I) 为 n 时刻马尔可夫链的绝对概率 ; 称对概率向量 为 n 时刻的绝 称 pj (0) = P { 0 = j}, ( j I) 的初始概率, 简记为 ; T 称 P 0) = 概率向量 ( 2 p j 为马尔可夫链 ( p1, p, ) 为马尔可夫链的初始
初始概率及绝对概率 定理 4.2 设 { n,n T} 为马尔可夫链, 则对任意 j I 和 n 1, 绝对概率 p j (n) 具有下列性质 : 1. 2. 3. 4. T P T ( n ) = P (0) P T ( n) P ( n) = P ( n 1) P T
马尔可夫链状态分类 设马尔可夫链的状态空间 I={1,2,3,4,5,6,7,8,9}, 状态转移图如下 8 9 2 7 1 3 6 5 4 观察状态 1
马尔可夫链状态分类 周期 非周期 常返 非常返 常返分为正常返 零常返 非周期的正常返称为遍历状态 到达和互通
遍历的马尔可夫链及平稳分布 遍历性定义 : 对于状态有限的马尔可夫链, 若对一切 i,j I, 存在不依赖于 i 的常数 P j, 使得 lim p n ij = j n 此链遍历 P j 为极限分布 ( 最终分布 ) P, 则称 定理 : 若对状态有限的马尔可夫链, 存在正整数 P > ( S ) ij S, 对于一切 i,j I,, 则此链遍历 0
遍历的马尔可夫链及平稳分布 平稳分布 若存在一个概率分布 ( π, π,..., π ) ( π, π,..., π ) 1 2 k = 1 2 k P 是平稳的 稳分布 定理 : ( π1, π2,..., π k ) ( π1, π2,..., π k ), 使得, 则称该马尔可夫链 称为该马尔可夫链的平 遍历的马尔可夫链, 极限分布等于平稳分布
例题 3.1 已知本月销售状态的初始分布和转移概率矩阵 如下 : 1. p T 0.8 0.1 0.1 (0) = (0.4, 0.2, 0.4), P= 0.1 0.7 0.2 ; 0.2 0.2 0.6 2. p T 0.7 0.1 0.1 0.1 0.1 0.6 0.2 0.1 (0) = (0.2, 0.2, 0.3, 0.3), P= ; 0.1 0.1 0.6 0.2 0.1 0.1 0.2 0.6 求下一, 二个月的销售状态分布
例题 3.1 解 : 1. p p P T T (1) (1) = (0) = (0.42, 0.26, 0.32), p p P T T (2) (2) = (0) = (0.426, 0.288, 0.286) 2. p p P T T (1) (1) = (0) = (0.22, 0.20, 0.30, 0.28), p p P T T (2) (2) = (0) = (0.232, 0.200, 0.298, 0.270).
例题 3.2 设老鼠在如图所示的迷宫中做随机游动, 当它处于某个 1 方格中有 k条通道时, 以概率 k 随机通过任一通道 求老鼠做随机游动的状态空间, 转移概率矩阵以及状态空间可以分解成几个闭集 1 2 3 6 5 4 7 8 9
例题 3.2 解 : 状态空间为 转移概率矩阵为 0 1 0 0 1/2 0 1/2 0 0 0 1/2 0 1/2 0 0 1 0 P = 0 0 0 1 0 0 0 1 0 0 0 0 1/2 0 1/2 0 1/3 0 1/3 0 1/3 0 0 0 1 0 I = {1, 2,...,9}. 状态空间可以分解成两个闭集 C = {1, 2,3, 4}, C = {5, 6, 7,8,9} 1 2
正态随机过程 如果对一个随机过程任意选取 n 个时刻, 则得到 n 个相应的随机变量, 若此 n 个随机变量的联合分布都是 n 维正态分布, 则称随机过程 (t) 是正态随机过程 ( 高斯过程 ) 随机变量的概率密度函数和特征函数之间存在一一对应关系, 因此在得知随机变量的特征函数后, 就可以知道它的概率密度函数
正态随机过程回顾 随机变量的特征函数 多维随机变量的特征函数 正态随机变量的定义与性质 正态随机过程
随机变量特征函数的定义 设为随机变量, 称的数学期望为随机变量 的特征函数 记为 + e ju C ( ) jux u = e f ( x) dx i= 0 jux C ( u) = e P{ x = x } 已知特征函数, 求概率密度函数 i f ( x) 1 = + C ( u) e 2π - jux dx
随机变量特征函数的性质 性质 1 性质 2 C ( u) C ( 0) = 1 的特征函数为 C (u), 则 Y=a+b 的特征函数为 : C jub ( u) e C ( au) Y =
随机变量特征函数的性质 性质 3: 矩定理 设 和 Y 是随机变量, 若 称它为 的 K 阶原点矩 ( K E ), K = 1,2,... 存在, 则 性质 4 若 1, 2,..., n 是相互独立的随机变量, 则 = 1 +... + n 的特征函数 其中, C i ( ) = ( ) ( )... ( ) C u C u C u C u ( u) 1 2 n 是随机变量 的特征函数
多维随机变量特征函数的性质 性质 1 若 1,2 统计独立, 则 : 推广到 n 个 C ( u, u ) = C ( u ) C ( u ) x, x 1 2 x 1 x 2 1 2 1 2 C ( u,... u ) = C ( u )... C ( u ) x,... x 1 n 1 n 1 n 1 n
多维随机变量特征函数的性质 性质 2 边际特征函数 C ( u, 0) = C ( u ), 1 1 1 2 1 推广到 n 个 C ( u,... u,0) = C ( u... u ),... 1 n 1... 1 n 1 1 n 1 n 1 性质 3 已知, 且, 则
一维正态随机变量的基本概念 一维正态随机变量 的概率密度函数可以表示为 ( x a) 2 2 1 σ f ( x) = e 2πσ 2 记为 2 ~ Naσ (, ) 一维正态随机变量 的特征函数为 C 2 2 2 2 σ u u = e = jau 2 ) σ u jau 2 ( ) exp(
二维正态随机变量的基本概念 二维正态随机变量的联合密度也可表示为 其中
二维正态随机变量的基本概念 二维正态分布的协方差矩阵可表示为 2 C11 C12 σ1 ρσ1σ 2 C = = 2 C21 C22 ρσ1σ 2 σ 2 二维正态分布的协方差矩阵具有如下性质 : 1. 实对称矩阵 ; 2. 正定矩阵 3. 其逆矩阵可表示为 C 1 = 2 1 1 2 2 σ (1 ρ ) ρ (1 ρ ) σ σ 1 2 (1 ρ ) σ1σ 2 1 2 2 ρ 2 2 σ (1 ρ )
多维正态随机变量的定义 若 n 维随机变量的联合密度函数为 则称 阵 记为 为 n 维正态随机变量, 其中 C 为 n 维实对称正定 ~ N( a, C)
多维正态随机变量的性质 性质 1 若, 则存在 n 阶正交矩阵 A, 使得向量 ~ N( a, C) Y = A( a) 中的分量 Y 1,Y 2,,Y n 是独立的随机变量, 且 Y i 为一维正 态分布 N(0,d i ) 性质 2 ~ N( a, C) 的特征函数为 性质 3 n 元正态分布中任意 m 维子向量亦为正态分布 (m<n)
多维正态随机变量的性质 性质 4 n 元正态随机变量的线性变换也为正态随机变量 即若为正态随机向量, 则 Y = A + b 亦为正态随机向量 性质 5 若 为 n 维正态随机变量, 那么 1, 2,, n 相互独立的 充要条件是两两互不相关
正态随机过程 正态随机过程定义 : 若随机过程 (t) 的任意 n 维分布都是 n 维正态分布, 则称 (t) 是正态随机过程 ( 高斯过程 )
正态随机过程 正态随机过程的性质 : 1. 若正态随机过程为宽平稳, 则必为严平稳 2. 正态过程通过线性系统, 其输出亦为正态随机过程 3. 若系统输入端的随机过程为非正态过程, 只要输入随 机过程的等效带宽远大于系统的通频带, 系统输出端 得到正态随机过程 4. 平稳正态随机过程与确定信号之和的概率分布认为正 态随机过程
例题 5.1 设 t () 为标准高斯过程, 其自相关函数为 R ( τ ) = e τ 求随机变量 Y = 1 0 () t dt 的概率密度函数
例题 5.1 解 : 因为 t () 为高斯过程, 所以 Y 为高斯变量, 则 1 E[ Y ] = E[ ( t)] dt = 0 0 1 1 2 [ ] = [ () () 0 0 E Y E u du v dv = 得到 1 1 0 0 1 1 1 1 u v R (, ) 0 0 u v dudv e dudv 0 0 1 v 1 v+ u u+ v 1 0 0 E[ ( u) ( v)] dudv = = = ( e du + e du) dv = 2e f Y v 2 1 y ( y) = exp[ ] 1 1 4πe 4e
平稳随机过程回顾 严平稳过程的定义 平稳过程的数字特征 宽平稳过程的定义 平稳过程自相关函数的性质 平稳过程的各态历经性
严平稳过程的定义 设 {(t),t T} 是随机过程, 如果对任意常数 τ 和正整数 n, 满足下列条件 1.t 1,t 2,,t n T,t 1 +τ,t 2 +τ,,t n +τ T; 2. ((t 1 ),, (t n )) 与 ((t 1 +τ),,(t n +τ)) 有相同的联合分布 ; 称 {(t),t T} 为严平稳过程或狭义平稳过程 严平稳过程的统计特征是由有限维分布函数决定的, 在实际应用中难以确定
平稳过程的数字特征 对于平稳随机过程 (t) 的一维分布 F 1 ( 1 ;t 1 )=F 1 ( 1 ;t 1 + τ), 若令 τ =-t 1, 则 F 1 ( 1 ;t 1 )=F 1 ( 1 ;0)=F 1 ( 1 ) (1) 因此平稳随机过程的一维分布函数与时间无关, 其在任何时刻的统计规律相等 = 1 = m () t xf ( x) dx m Dt [ ( )] = 常数 2 2 2 ψ x () t E[ ()] t x f1( x) dx = = = 常数
平稳过程的数字特征 (2) 若随机过程 (t) 平稳过程, 则其均值 均方值和方差均为常数 (3) 对于平稳随机过程 (t) 的二维分布 F 2 ( 1, 2 ;t 1,t 2 )=F 2 ( 1, 2 ;t 1 + ε,t 2 + ε) 若令 ε=-t 1, 则 F 2 ( 1, 2 ;t 1,t 2 )=F 2 ( 1, 2 ;0,t 2 -t 1 ); 令 t 2 -t 1 = τ, 则 F 2 ( 1, 2 ;t 1,t 2 )=F 2 ( 1, 2 ;τ)
平稳过程的数字特征 (4) 平稳过程的自相关函数是时间 τ 的单变量函数 R( tt, + τ) = Ett [ ( ) ( + τ)] = x x f ( x, x ;, t t + τ ) dx dx = = R 1 2 2 1 2 1 2 x x f ( x, x ; τ ) dx dx 1 2 2 1 2 1 2 ( τ ) 同理, 协方差函数是时间 τ 的单变量函数
宽平稳过程的定义 设 {(t),t T} 是随机过程, 如果 1. {(t),t T} 是二阶矩过程 ; 2. 对任意 t T,m (t)=e(t)= 常数 ; 3. 对任意 s,t T,R (s,t)=e[(s)(t)]=r (s-t); 称 {(t),t T} 为广义平稳过程或宽平稳过程
严平稳与宽平稳 宽平稳过程 严平稳过程 宽平稳过程 二阶矩存在 严平稳过程 对于正态过程, 宽平稳过程和严平稳过程是等价的
平稳过程自相关函数的性质 设 {x(t),t T} 为平稳过程, 则其相关函数具有 下列性质 :
平稳过程自相关函数的性质 (4) 若 (t) 是周期为 T 的周期函数, 即 (t)=(t+t), 则 R (τ)=r (τ+t); (5) 若 (t) 是不含周期分量的非周期过程, 当 τ 时,(t) 与 (t+τ) 相互独立, 则有 lim R ( τ ) τ = m 2
随机分析 在普通函数的微积分中, 连续 导数和积分 的概念是建立在极限概念的基础上 对于随机过程, 随机过程的连续性 导数和 积分的等概念都是建立在随机序列极限的基础 上 这部分内容称为随机分析
随机分析的收敛 均分与微积分 (1) 以概率 1 收敛 n ae. (2) 以概率收敛 (3) 均方收敛 (4) 依分布收敛 n n P m. s d n a.e m.s P d 不收敛
随机分析的收敛 均分与微积分 均方连续 ( 定义 6.6) 设有二阶矩过程 {(t),t T}, 若对每一个 t T, 有 lim E[ h 0 ( t + h) 点均方连续, 记作 ( t) 2 ] =, 则称 (t) 在 t 0 l. i. m h 0 ( t + h) = ( t) 若 T 中一切点都均方连续, 则称 {t} 在 T 上均方连 续
平稳过程的各态历经性 平稳过程遍历性 ( 定义 6.10) 设 {(t),- <t< } 是均方连续的平稳过程, 若 以概率 1 成立, 则称该平稳过程的均值具有各态历经 性 ; 若 以概率 1 成立, 则称该平稳过程的相关函数具有各态 历经性
平稳过程遍历性定义 平稳过程遍历性 ( 定义 6.11) 如果均方连续的平稳过程 {(t),t T} 的均 值和相关函数都具有各态历经性, 则称该平稳 过程为具有各态历经性或遍历性
遍历性判定定理 定理 6.10 设 {(t),- <t< } 是均方连续的平稳过程, 则它的均值具有各态历经性的充要条件为
遍历性判定定理 定理 6.11 设 {(t),- <t< } 是均方连续的平稳过程, 则其相关函数具有各态历经性的充要条件为 其中 ( 1 1 1 B τ ) = E[ ( t) ( t τ ) ( t τ ) ( t τ τ ) ]
遍历性判定定理 各态历经定理的意义 一个实平稳过程, 如果它是各态历经的, 则可用任意一个样本函数的时间平均代替过程的集合平均, 即 1 T 1 T m = lim.. x() t dt, R ().. () ( ) 0 t = lim x t x t+ τ dt T T T T 0 若样本函数 (t) 只在有限区间 [0,T] 上给出, 则对于实平稳 过程有下列估计式
平稳过程课后习题 6.9 设 { n, n= 0, ± 1, ± 2, } 独立同分布随机序列, 令 是具有零均值, 方差为 1 的, 其中 a 为常数, 试证 { Y, n= 0, ± 1, ± 2, } 是平稳 过程 l n k Y = a ( n= 0, ± 1, ± 2, ) n l n l l= 0
平稳过程课后习题 6.9 k k 解 :(1) EY [ ] E[ a ] ae[ ] 0. (2) = = = n l n l l n l l= 0 l= 0 k k R ( n mn, ) E[ a ][ a ]. + = Y l n+ m l l n l l= 0 l= 0 由条件知 E n = 0, D n = 1, n相互独立, 故 0, i j, E [ i j] = 1, i = j, aa m 0+ am+ 1a1 + + aa k k m, 0 m k, 所以 RY ( n+ mn, ) = 0, m > k. 2 2 (3) E[ Yn ] = RY( nn, ) = ai < 由 (1)(2)(3) 知 k i= 0 { Yn, n= 0, ± 1, ± 2, } 是平稳过程
平稳过程课后习题 6.16 t () Yt () 设有随机过程和都不是平稳的, 且 () t = At ()cos, ty() t = Bt ()sint中的 At (), Bt () 是均值为零的相互独立的平稳过程, 它们有 相同的相关系数, 求证 Zt () = t () + Yt () 是平稳过程
平稳过程课后习题 6.16 解 : (1) EZt [ ()] = Et [ () + Yt ()] = EAt [ ()cos] t + EBt [ ()sin t] = 0 (2) RZ ( t+ τ, t) = E[( t ( + τ) + Yt ( + τ))( t ( ) + Yt ( ))] = R ( t+ τ,) t + R ( t+ τ,) t + R ( t+ τ,) t + R ( t+ τ,) t (3) Y Y YZ = R ( τ)cos( t+ τ)cos t+ R ( τ)sin( t+ τ)sin t = R A A ( τ)cosτ E Zt = R = R < 2 ( ) Z(0) A(0) 由 (1)(2)(3) 可知, Zt () = t () + Yt () 是平稳过程 B
平稳过程通过线性系统回顾 线性时不变系统 频率响应与脉冲响应 线性系统的输出均值函数和输出相关函数 线性系统的谱密度
线性时不变系统 系统 : 对各种输入按一定的要求产生输出的装置 如放大器, 滤波器, 无源网络等 x(t) L y(t) 设系统的输入为 x(t), 系统的作用为 L, 输出为 y(t), 则有 y t = L x t ( ) ( ) 其中, L 称为算子, 可以是加法 乘法 微分 积分和微分方程求解等数学运算
脉冲响应函数 根据 δ 函数的性质, 可得 : 由于 yt () = Lxt [ ()] 中的 L 只对时间函数进行运算, 将上式代入得 : 令 xt () = x( τδ ) ( t- τ) dτ, 则 当输入函数 xt () 为脉冲函数 δ () t 时, - yt ( ) = L x( τδ ) ( t- τ) dτ = x( τ) L[ δ (- t τ )] dτ (1) - - [ ] ht ( τ) = Lδ(- t τ) - yt () = x( τ) ht ( τ) dτ yt () = δτ ( ) ht ( τ) dτ= ht () (2) -
脉冲响应函数 ht () (2) 式表明是输入脉冲冲激函数时的输出, 故称其为 系统的脉冲响应函数 对 (1) 式做一些变换, 可得, ( ) u= t ττ= u ( yt ( ) - yt = x( τ )h t τ) dτ = x(t τ )h( τ) dτ - 上面两式从时域描述了系统输入和输出间的关系, 表明线性时不变系统的输出等于输入和脉冲响应的卷积, 即 y() t = ht () xt () = x( t) h( t)
频率响应 脉冲响应的傅氏变换 : 如果线性时不变系统的冲激响应 函数 则系统的频率响应函数是冲激响应函数的傅氏变换, 即 ht () 绝对可积, 即 h() t dt < iωt H ( ω) = h() t e dt 而 ht () 是 H ( ω) 的傅氏反变换, 即 1 iωt ht () = H( ω) e dω 2π ht ()
频率响应 ( ) x t y( t) y( t) 输入和输出的傅氏变换 : 如果 x t 和 都满足傅氏变换条件, 则有下列傅氏变换对 : 输入频谱和输出频谱 Y w 有下列关系 : 它从频域角度给出了系统输入和输出的关系 ( ) 1 iωt iωt ( ω) = xte () dt, xt () = ( ω) e dω 2π i t 1 ω iωt Y( ω) = yte () dt, yt () = Y( ω) e dω 2π ( w ) ( ) ( ) H( w) ( w) Y w = y t = ht) ( ) ( xt ( )
线性系统输出的均值和相关函数 (1) 若输入信号为平稳过程, 输出也为平稳过程 ( t) m ( ) 设输入平稳过程 的均值和相关函数与输出过程的均 值, 相关函数为 R τ, 则输出过程的均值和相关函 x 数分别为 Y 1 2 x x m () t = m h( u) du = 常数 ; R ( t, t ) = h( u) h( v) R ( τ u + v) dudv Y = R ( τ ), ( τ = t t ) Y (2) 若输入平稳过程遍历, 则输出平稳过程 Y t 也遍历 1 ( t ) ( ) 2
线性系统输出的均值和相关函数 ( t ) ( ) (1) 当输入过程平稳时, 其输出的均值 E Y t 为常数 相关函数 R ( ) 表明输出是平稳的 Y t1, t2 = RY( τ ) Y( t ) ( ) 并且, 输出和输入 t 还是联合平稳的 (2) 输出的相关函数可以通过两次卷积产生 R (τ ) R Y (τ ) R Y (τ ) h(τ) h(-τ) R ( τ) = R ( τ) h( τ) h( τ) Y
线性系统的谱密度 定理 : 设输入平稳过程具有谱密度, 则输 出平稳过程 Y( t) 的谱密度为 ( t ) s ( ω ) s ( ω) = H( ω) s ( ω) Y 2 其中 H ( ω) 是系统的频率响应函数 称 H ( ω) 为系统的 频率增益因子或频率传递函数 2
线性系统的谱密度 说明 : (1) 线性系统的输出谱密度等于输入谱密度乘以增益 因子 (2) 根据相关函数和谱密度的傅氏变换关系, 可得输 出相关函数的另一个比较简单的求法 1 1 iωτ 2 iωτ RY ( τ ) = sy ( ω) e dω = 2π s ( ) ( ) ω H ω e dω 2π 进一步可得输出的平均功率 ( 均方值 ) R Y (0) = 1 2π s ( ω) H( ω) dω 2
联合平稳过程的互谱密度 ( t ) Y( t ) RY ( tt, + τ) = RY ( τ) (, + τ) = Y ( τ), 则称 ( t ) 和 Y( t) 联合宽平稳 定义 : 若和均为宽平稳, 且 R tt R Y 互相关函数的性质 : ( ) ( ) ( t ) ( ) R Y τ = R τ 定义 : 设和 Y t 为两个随机过程, 且联合平稳, 则 : 性质 : (1) + jw ( ) ( ) ( t ) ( ) SY w = RY τ e τ dτ 是和 Y t 的互功率谱密度 Y ( ) = ( ) S w S w Y ( t ) ( ) (2) 若和正交, 则 Y t S ( w) = S ( w) = 0 Y Y Y
平稳过程通过线性系统课后习题 7.14 令 们的相关函数分别为 如果试证 { ( ) } ( ) 数 ) { } t, t T, Y t, t T R 是均值为零的实平稳过程, 它 ( ) ( ) τ, RY τ, 互相关函数为 R ( τ ) ( τ) = ( τ), ( τ) = ( τ) R R R R Y Y Y ( ) ( ) cos( ω ) ( ) sin ( ω ) Y 是平稳过程 ( ω 为常 = 0 + 0 0 Z t t t Y t t
平稳过程通过线性系统课后习题 7.14 解 EZ ( t) E ( t) ( ω t) EY ( t) ( ω t) R = Z E = cos + sin = 0 0 0 ( tt, + τ ) ( ( t) cos( ω ) ( ) ( )) 0t + Y t sin ω0t ( t+ τ) cos( ω0t+ ωτ 0 ) + Y( t+ τ) sin ( ω0t+ ωτ 0 ) ( τ) cos( ωτ) R ( τ) sin ( ωτ) ( ) = R 0 Y 0 E Zt = R = R < 故 2 ( ) Z(0) (0) Z( t) 为平稳过程
谢谢大家!