主标题

Transcription

1 随机信号分析 复习课 罗锴 Signal processing & Information Networking in Communications

2 提纲 随机过程基本概念 泊松过程 马尔可夫链 正态过程 平稳过程 平稳过程的谱分析

3 随机过程的基本概念回顾 数学建模 时间

4 随机变量的基本概念概率空间 规定一个随机试验, 所有样本点之集合构成样本空间 Ω, 在样本空间中一个样本点或若干个样本点之适当集合 F 称为事件域,F 中的每一个集合称为事件 若 A F, 则 P(A) 就是事件 A 的概率, 并称这三个实体的结合 ( Ω,F,P) 为一个概率空间

5 随机变量的定义随机变量 定义 : 设 ( Ω,F,P) 是概率空间, 对任一个 e Ω, 都有实数 (e) 与之对应, 则称 (e) 为随机变量, 简记为 随机现象 随机变量

6 随机变量的分布函数相互独立的随机变量设,Y 是两个随机变量, 若对任意实数 x,y 有 ) ( ) ( )) ( ) (( ), ( y Y P x P y Y x P y Y x P = = 则称,Y 为相互独立的随机变量 若,Y 为相互独立随机变量, 则有 ) ( ) ( ), ( ) ( ) ( ), ( y f x f y x f y F x F y x F Y Y Y Y = = 联合密度边际密度联合密度边际密度

7 随机变量的数字特征 统计独立 不相关 Cov(, Y ) = E[( E )( Y EY )] = E[ Y ] E[ ] E[ Y ] = 0 统计独立 不相关

8 随机变量 思考 在实际应用中, 我们经常要涉及到在随机试验过程 中随时间 t 而改变的随机变量, 该怎么办呢?

9 随机过程定义与统计描述 随机过程 {(t,e),t T} 是定义在 T Ω 上的一个二元函数 1 对固定的 t,(t,e) 是一个随机变量 ; 2 对固定的 e, (t,e) 是随机过程 {(t,e),t T} 的一个样本函数 ( 轨道 ) 即定义在 T 上的普通函数 ; 3 对于固定的 e 和 t, (t,e) 是一个标量, 它表示时刻 t 所处的状态 对于一切 t T,(t) 所有可能的状态构成的集合称为状态空间 ; 4 当 t 和 e 都是变量时, (t,e) 是一个随机变量族或者时间函数族 ( 称为随机过程 )

10 随机过程数字特征 t t t Z iey E Z E t m + = = ) ( ) ( ))] ( ))( ( [( ] ) ( [ ) ( 2 = = t m Z t m Z E t m Z E t D Z t Z t Z t Z ] [ ), ( t s Z Z Z E t s R = ))] ( ))( ( [( ), ( = t m Z s m Z E t s B Z t Z s Z = ) ( ) ( ), ( ), ( t m s m t s R t s B Z Z Z Z 均值函数方差函数相关函数协方差函数相互之间的关系

11 随机过程基本类型 1. 正交增量过程 2. 独立增量过程 3. 马尔可夫过程 4. 正态过程 5. 维纳过程 6. 平稳过程

12 随机过程基本类型 正交增量过程 互不相关 独立增量过程 相互独立 正交增量过程 独立增量过程 正交增量过程 二阶矩存在, 均值函数恒为零 独立增量过程

13 例题 1.1 设随机过程 ( t) = Asin( ωt+θ, ) 其中 A, ω 为常数, 是 在 (- ππ, ) 上的均匀分布的随机变量, 令 Y( t = ( t 求 解 : R( tt, + τ ) 和 R( tt, + τ ) Y Y Θ 2 ) )

14 例题 1.1 解 : 由条件知 Θ ( x) f 的概率密度为 1/2 π, π < x < π = 0, 其他 2 2 ( ) ( ) ( ) ( ) ( sin ( ω )) sin ( ω ωτ ) sin ( ω ) sin ( ω ωτ ) R( t, t + τ)= EY t Y t + τ = E t t + τ Y ( ) 2 2 = E A t+θ A t+ +Θ = A E t+θ t+ +Θ 4 A E t t ( ) ( 1 cos( 2ω 2 )) 1 cos( 2ω 2ωτ 2 ) = + Θ + + Θ 4 4 A 1 cos( 2ωt+ 2Θ) cos( 2ωt+ 2ωτ + 2Θ ) + = E 4 cos ( 2ωt+ 2Θ ) cos( 2ωt+ 2ωτ + 2Θ)

15 例题 1.1 π 1 Ecos( 2ωt+ 2ωτ + 2Θ ) = cos( 2ωt+ 2ωτ + 2θ ) dθ π 2π 1 sin ( 2 t 2 2 π = ω + ωτ + θ ) π = 0 4π Ecos 2ω t+ 2Θ = 0 同理可得 ( ) ( ω + Θ ) ( ω + ωτ + Θ) Ecos 2 t 2 cos 2 t 2 2 π 1 = cos ( 2 ωt+ 2 θ ) cos ( 2 ωt+ 2 ωτ + 2 θ ) dθ π 2π 1 = cos ( 2 ωτ ) 2

16 例题 A 所以 R( tt, + τ ) = 1+ cos( 2ωτ ) Y ( ) ( τ) R ( t, t + τ) = E t Y t+ Y ( ω ) sin ( ω ωτ ) = E Asin t+θ A t+ +Θ ( ) ( ω ) sin ( ω ωτ ) 3 2 = AE sin t+θ t+ +Θ π = A sin ( ωt+ θ ) sin ( ωt+ ωτ + θ ) dθ π 2π = 0 2

17 例题 1.2 { ( ) } 设, 0 是实正交增量过程, 0 = 0, V 是标准正 t t ( ) t 0 ( ) 态随机变量 若对任意的, t, V 相互独立, ( ) ( ) 令 Y t t V, 求随机过程 Y t, t 0 的协方差函数 = + ( ) { } 解 :

18 例题 1.2 解 : 依题意知 ( ) ( ) = 0, = 0, = 1 E t EV DV, 所以 ( ) = ( ) + = ( ) + = 0 EY t E t V E t EV Y (, ) ( ) ( 1) ( 2) 2 σ ( t t ) ( )( ( ) ) B t t = E t + V t + V = E t t + EV ( ) = min,

19 泊松过程的回顾 计数过程 独立增量过程 平稳增量过程 泊松过程 基本概念 数字特征 时间间隔分布 等待时间分布 到达时间的条件分布

20 泊松过程定义 计数过程 设 {N(t),t 0} 为随机过程, 若 N(t) 表示到时刻 t 为止已 发生的 事件 A 的总数, 且 N(t) 满足下列条件 : 1. N(t) 0; 2. N(t) 取正整数值以及 0; 3. 若 s<t, 则 N(s) N(t); 4. 当 s<t 时,N(t)-N(s) 等于区间 (s,t] 中发生的 事件 A 的次数 ; 称随机过程 {N(t),t 0} 为计数过程

21 泊松过程定义 定义 3.2: 称计数过程 {(t),t 0} 为具有参数 λ>0 的泊松过程, 若它满足下列条件 : 1. (0)=0; 2. (t) 是 ( 平稳 ) 独立增量过程 ; 3. 在任一长度为 t 的区间中, 事件 A 发生的次数服从参数 λ>0 的泊松分布, 即对任意 s,t 0, 有 λt ( λt) P{ ( t + s) ( s) = n} = e, n = n! n 0,1,

22 泊松过程的数字特征设 {(t),t 0} 是泊松过程, 对任意的 t,s [0, ), 且 s<t, 有 ( ) s t s t D s t E = = λ )] ( ) ( [ )] ( ) ( [ 由于 (0)=0, 所以 t t D t t t E t m λ σ λ = = = = )] ( [ ) ( )] ( [ ) ( 2 1) ( )] ( ) ( [ ), ( + = = t s t s E t s R λ λ 一般情况下, 泊松过程的协方差函数可表示为 ), min( ), ( t s t s B λ =

23 泊松过程的时间间隔分布 时间间隔 T n 的分布 设 {(t),t 0} 是泊松过程, 令 (t) 表示 t 时刻事件 A 发生的次数,T n 表示从第 (n-1) 次事件 A 发生到第 n 次事件 A 发生的时间间隔

24 泊松过程的时间间隔分布 定理 3.2: 设 {(t),t 0} 为具有参数 λ 的泊松过程,{T n,n 1} 是对应的时间间隔序列, 则随机变量 T n 是独立同分布的均值为 1/λ 的指数分布 即 : 对于任意 n=1,2,, 事件 A 相继到达的时间间隔 T n 的分布为 λt 1 e, t 0 FT n ( t) = P{ Tn t} = 0, t < 0 其概率密度为 f λe = 0, λt T n ( t), t 0 t < 0

25 泊松过程的等待时间分布 等待时间 W n 的分布 等待时间 W n 是指第 n 次事件 A 出现的时刻 ( 或第 n 次事件 A 的等待时间 ) n W n = T i i= 1 因此,W n 是 n 个相互独立的指数分布随机变量之和

26 泊松过程的等待时间分布 定理 3.3: 设 {W n,n 1} 是与泊松过程 {(t),t 0} 对应的一个等待时间序列, 则 W n 服从参数为 n 与 λ 的 Г 分布 ( 也称爱尔兰分布 ), 其概率密度为 n 1 λt ( λt) λe, t 0 fw () t = ( n 1)! n 0, t < 0

27 泊松过程的到达时间的条件分布 假设在 [0,t] 内时间 A 已经发生一次, 我们要确定这一时间到达时间 W 1 的分布 P{ W 1 s ( t) = 1} =? 分布函数 F W 1 ( t) = 1 ( s) = 0, s t 1,, s < 0 0 s s t < t 概率密度函数 f W1 ( t) = 1 ( s) = 1, t 0, 0 s < 其它 t

28 例题 2.1 Machine 1 is currently working. Machine 2 will be put in use t at a time from now. If the lifetime of machine is exponential with rate λ, i = 1, 2, i What is the probability that machine 1 is the first machine to fail? i

29 例题 2.1 解 : 设机器 1 和机器 2 的使用寿命为 ( ) ( ) λ1 λ 2, 且 Y, 独立 ~ E, Y ~ E Y,, 则 所以联合概率密度 λλ f ( x, y) f ( x) f ( y) > > = = 0, 其他 要求的概率为 λ1x λ2y 1 2 e, x 0, y 0 ( < + ) = ( > ) = (, ) P Y t P Y t f x y dxdy D: x> 0, y > 0, y > x t D

30 例题 2.2 I am waiting for two friends to arrive at my house. The time until A arrives is exponentially distributed with rate λ a, and the time until B arrives is exponentially distributed with rate λ b. Once they arrive, both will spend exponentially distributed times, with respective rates µ a and µ b at my home before departing. The four exponential random variables are independent. What is the probability that A arrives before and departs after B?

31 例题 2.2 The probability that A arrives before B is derived as + λbta λat λ (1 A a F ( )) ( )d d 0 B ta fa ta t = + A e λ 0 ae t = A λ + a Similarly, the probability that B arrives before A λa departs is. µ + λ a b The probability that A departs after B is λ b µ b µ + µ Hence, the probability that A arrives before and departs after B is given as λa λ a µ b λ + λ µ + λ µ + µ a b a b a b a b

32 例题 Let F be the time of the first departure. Write F=T+A where T is the time of the first arrival and A is the additional time from then until the first departure. First take expectations and the condition on who arrives first to obtain 1 λa λb EF [ ] = + EAa [ ] + EAb [ ] λ + λ λ + λ λ + λ Now use and a b a b a b 1 λb 1 EAa [ ] = + µ + λ µ + λ µ + µ a b a b a b 1 λa 1 EAb [ ] = + µ + λ µ + λ µ + µ b a b a a b

33 马尔可夫链的回顾 马尔可夫链定义 一步转移概率及多步转移概率 初始概率及绝对概率 马尔可夫链状态分类 遍历的马尔可夫链及平稳分布

34 马尔可夫过程 时间离散状态离散 : 马尔可夫链 时间连续状态离散 : 连续时间的马尔可夫链 时间离散状态连续 : 马尔可夫序列 时间连续状态连续 : 马尔可夫过程

35 马尔可夫链定义 设有随机过程, 若对于任意的整数 n T 和任意的 i, 条件概率满足 0, i1,, i n 1 I P{ = P{ 则称 = n+ 1 i n+ 1 n = i { n T} n, { n T} n+ 1 n, = n i =, i 将来的状态只与现在状态有关, 与过去状态无关 n + } = i,, 为马尔可夫链, 简称马氏链 n = i n } t t 0 < 过去 t = t 0 现在 t > t 0 将来

36 一步转移概率及多步转移概率 设 P 表示一步转移概率所组成的矩阵, 则 p11 p12 p1n P = p21 p22 p2n 称为系统状态的一步转移概率矩阵, 它具有如下性质 : p 0, i, j I ij j I p = 1, i, j I ij 满足上述两个性质的矩阵成为随机矩阵

37 一步转移概率及多步转移概率 定义 4.4 ( n) 称条件概率 pij P{ m 为马尔可夫链 { n T} = + = j = i}, i, j I, m 0, n n, n m 的 n 步转移概率, 并称 1 P ( n) ( n) = ( pij ) 为马尔可夫链的 n 步转移矩阵 规定 p (0) 0, ij = 1, i i = j j

38 一步转移概率及多步转移概率 定理 4.1 设 { n T} 为马尔可夫链, 则对任意整数 n 0, 1. n, 0 L< n, p 和 i j I,n 步转移概率具有下列性质 : ( n) ij = k I p ( l) ik p ( n l) kj Chapman- Kolmogorov 方程 2. p ( n) ij = k I k 1 n 1 I p ik 1 p k 1 k 2 p k n 1 j 3. P ( n) ( n 1) = PP i k : j 4. ( n) P = P n o l n- l t

39 初始概率及绝对概率定义 : 称 p j ( n) = P{ n = j}, ( j I) 为 n 时刻马尔可夫链的绝对概率 ; 称对概率向量 为 n 时刻的绝 称 pj (0) = P { 0 = j}, ( j I) 的初始概率, 简记为 ; T 称 P 0) = 概率向量 ( 2 p j 为马尔可夫链 ( p1, p, ) 为马尔可夫链的初始

40 初始概率及绝对概率 定理 4.2 设 { n,n T} 为马尔可夫链, 则对任意 j I 和 n 1, 绝对概率 p j (n) 具有下列性质 : T P T ( n ) = P (0) P T ( n) P ( n) = P ( n 1) P T

41 马尔可夫链状态分类 设马尔可夫链的状态空间 I={1,2,3,4,5,6,7,8,9}, 状态转移图如下 观察状态 1

42 马尔可夫链状态分类 周期 非周期 常返 非常返 常返分为正常返 零常返 非周期的正常返称为遍历状态 到达和互通

43 遍历的马尔可夫链及平稳分布 遍历性定义 : 对于状态有限的马尔可夫链, 若对一切 i,j I, 存在不依赖于 i 的常数 P j, 使得 lim p n ij = j n 此链遍历 P j 为极限分布 ( 最终分布 ) P, 则称 定理 : 若对状态有限的马尔可夫链, 存在正整数 P > ( S ) ij S, 对于一切 i,j I,, 则此链遍历 0

44 遍历的马尔可夫链及平稳分布 平稳分布 若存在一个概率分布 ( π, π,..., π ) ( π, π,..., π ) 1 2 k = 1 2 k P 是平稳的 稳分布 定理 : ( π1, π2,..., π k ) ( π1, π2,..., π k ), 使得, 则称该马尔可夫链 称为该马尔可夫链的平 遍历的马尔可夫链, 极限分布等于平稳分布

45 例题 3.1 已知本月销售状态的初始分布和转移概率矩阵 如下 : 1. p T (0) = (0.4, 0.2, 0.4), P= ; p T (0) = (0.2, 0.2, 0.3, 0.3), P= ; 求下一, 二个月的销售状态分布

46 例题 3.1 解 : 1. p p P T T (1) (1) = (0) = (0.42, 0.26, 0.32), p p P T T (2) (2) = (0) = (0.426, 0.288, 0.286) 2. p p P T T (1) (1) = (0) = (0.22, 0.20, 0.30, 0.28), p p P T T (2) (2) = (0) = (0.232, 0.200, 0.298, 0.270).

47 例题 3.2 设老鼠在如图所示的迷宫中做随机游动, 当它处于某个 1 方格中有 k条通道时, 以概率 k 随机通过任一通道 求老鼠做随机游动的状态空间, 转移概率矩阵以及状态空间可以分解成几个闭集

48 例题 3.2 解 : 状态空间为 转移概率矩阵为 /2 0 1/ /2 0 1/ P = /2 0 1/2 0 1/3 0 1/3 0 1/ I = {1, 2,...,9}. 状态空间可以分解成两个闭集 C = {1, 2,3, 4}, C = {5, 6, 7,8,9} 1 2

49 正态随机过程 如果对一个随机过程任意选取 n 个时刻, 则得到 n 个相应的随机变量, 若此 n 个随机变量的联合分布都是 n 维正态分布, 则称随机过程 (t) 是正态随机过程 ( 高斯过程 ) 随机变量的概率密度函数和特征函数之间存在一一对应关系, 因此在得知随机变量的特征函数后, 就可以知道它的概率密度函数

50 正态随机过程回顾 随机变量的特征函数 多维随机变量的特征函数 正态随机变量的定义与性质 正态随机过程

51 随机变量特征函数的定义 设为随机变量, 称的数学期望为随机变量 的特征函数 记为 + e ju C ( ) jux u = e f ( x) dx i= 0 jux C ( u) = e P{ x = x } 已知特征函数, 求概率密度函数 i f ( x) 1 = + C ( u) e 2π - jux dx

52 随机变量特征函数的性质 性质 1 性质 2 C ( u) C ( 0) = 1 的特征函数为 C (u), 则 Y=a+b 的特征函数为 : C jub ( u) e C ( au) Y =

53 随机变量特征函数的性质 性质 3: 矩定理 设 和 Y 是随机变量, 若 称它为 的 K 阶原点矩 ( K E ), K = 1,2,... 存在, 则 性质 4 若 1, 2,..., n 是相互独立的随机变量, 则 = n 的特征函数 其中, C i ( ) = ( ) ( )... ( ) C u C u C u C u ( u) 1 2 n 是随机变量 的特征函数

54 多维随机变量特征函数的性质 性质 1 若 1,2 统计独立, 则 : 推广到 n 个 C ( u, u ) = C ( u ) C ( u ) x, x 1 2 x 1 x C ( u,... u ) = C ( u )... C ( u ) x,... x 1 n 1 n 1 n 1 n

55 多维随机变量特征函数的性质 性质 2 边际特征函数 C ( u, 0) = C ( u ), 推广到 n 个 C ( u,... u,0) = C ( u... u ),... 1 n n 1 1 n 1 n 1 性质 3 已知, 且, 则

56 一维正态随机变量的基本概念 一维正态随机变量 的概率密度函数可以表示为 ( x a) σ f ( x) = e 2πσ 2 记为 2 ~ Naσ (, ) 一维正态随机变量 的特征函数为 C σ u u = e = jau 2 ) σ u jau 2 ( ) exp(

57 二维正态随机变量的基本概念 二维正态随机变量的联合密度也可表示为 其中

58 二维正态随机变量的基本概念 二维正态分布的协方差矩阵可表示为 2 C11 C12 σ1 ρσ1σ 2 C = = 2 C21 C22 ρσ1σ 2 σ 2 二维正态分布的协方差矩阵具有如下性质 : 1. 实对称矩阵 ; 2. 正定矩阵 3. 其逆矩阵可表示为 C 1 = σ (1 ρ ) ρ (1 ρ ) σ σ 1 2 (1 ρ ) σ1σ ρ 2 2 σ (1 ρ )

59 多维正态随机变量的定义 若 n 维随机变量的联合密度函数为 则称 阵 记为 为 n 维正态随机变量, 其中 C 为 n 维实对称正定 ~ N( a, C)

60 多维正态随机变量的性质 性质 1 若, 则存在 n 阶正交矩阵 A, 使得向量 ~ N( a, C) Y = A( a) 中的分量 Y 1,Y 2,,Y n 是独立的随机变量, 且 Y i 为一维正 态分布 N(0,d i ) 性质 2 ~ N( a, C) 的特征函数为 性质 3 n 元正态分布中任意 m 维子向量亦为正态分布 (m<n)

61 多维正态随机变量的性质 性质 4 n 元正态随机变量的线性变换也为正态随机变量 即若为正态随机向量, 则 Y = A + b 亦为正态随机向量 性质 5 若 为 n 维正态随机变量, 那么 1, 2,, n 相互独立的 充要条件是两两互不相关

62 正态随机过程 正态随机过程定义 : 若随机过程 (t) 的任意 n 维分布都是 n 维正态分布, 则称 (t) 是正态随机过程 ( 高斯过程 )

63 正态随机过程 正态随机过程的性质 : 1. 若正态随机过程为宽平稳, 则必为严平稳 2. 正态过程通过线性系统, 其输出亦为正态随机过程 3. 若系统输入端的随机过程为非正态过程, 只要输入随 机过程的等效带宽远大于系统的通频带, 系统输出端 得到正态随机过程 4. 平稳正态随机过程与确定信号之和的概率分布认为正 态随机过程

64 例题 5.1 设 t () 为标准高斯过程, 其自相关函数为 R ( τ ) = e τ 求随机变量 Y = 1 0 () t dt 的概率密度函数

65 例题 5.1 解 : 因为 t () 为高斯过程, 所以 Y 为高斯变量, 则 1 E[ Y ] = E[ ( t)] dt = [ ] = [ () () 0 0 E Y E u du v dv = 得到 u v R (, ) 0 0 u v dudv e dudv v 1 v+ u u+ v E[ ( u) ( v)] dudv = = = ( e du + e du) dv = 2e f Y v 2 1 y ( y) = exp[ ] 1 1 4πe 4e

66 平稳随机过程回顾 严平稳过程的定义 平稳过程的数字特征 宽平稳过程的定义 平稳过程自相关函数的性质 平稳过程的各态历经性

67 严平稳过程的定义 设 {(t),t T} 是随机过程, 如果对任意常数 τ 和正整数 n, 满足下列条件 1.t 1,t 2,,t n T,t 1 +τ,t 2 +τ,,t n +τ T; 2. ((t 1 ),, (t n )) 与 ((t 1 +τ),,(t n +τ)) 有相同的联合分布 ; 称 {(t),t T} 为严平稳过程或狭义平稳过程 严平稳过程的统计特征是由有限维分布函数决定的, 在实际应用中难以确定

68 平稳过程的数字特征 对于平稳随机过程 (t) 的一维分布 F 1 ( 1 ;t 1 )=F 1 ( 1 ;t 1 + τ), 若令 τ =-t 1, 则 F 1 ( 1 ;t 1 )=F 1 ( 1 ;0)=F 1 ( 1 ) (1) 因此平稳随机过程的一维分布函数与时间无关, 其在任何时刻的统计规律相等 = 1 = m () t xf ( x) dx m Dt [ ( )] = 常数 ψ x () t E[ ()] t x f1( x) dx = = = 常数

69 平稳过程的数字特征 (2) 若随机过程 (t) 平稳过程, 则其均值 均方值和方差均为常数 (3) 对于平稳随机过程 (t) 的二维分布 F 2 ( 1, 2 ;t 1,t 2 )=F 2 ( 1, 2 ;t 1 + ε,t 2 + ε) 若令 ε=-t 1, 则 F 2 ( 1, 2 ;t 1,t 2 )=F 2 ( 1, 2 ;0,t 2 -t 1 ); 令 t 2 -t 1 = τ, 则 F 2 ( 1, 2 ;t 1,t 2 )=F 2 ( 1, 2 ;τ)

70 平稳过程的数字特征 (4) 平稳过程的自相关函数是时间 τ 的单变量函数 R( tt, + τ) = Ett [ ( ) ( + τ)] = x x f ( x, x ;, t t + τ ) dx dx = = R x x f ( x, x ; τ ) dx dx ( τ ) 同理, 协方差函数是时间 τ 的单变量函数

71 宽平稳过程的定义 设 {(t),t T} 是随机过程, 如果 1. {(t),t T} 是二阶矩过程 ; 2. 对任意 t T,m (t)=e(t)= 常数 ; 3. 对任意 s,t T,R (s,t)=e[(s)(t)]=r (s-t); 称 {(t),t T} 为广义平稳过程或宽平稳过程

72 严平稳与宽平稳 宽平稳过程 严平稳过程 宽平稳过程 二阶矩存在 严平稳过程 对于正态过程, 宽平稳过程和严平稳过程是等价的

73 平稳过程自相关函数的性质 设 {x(t),t T} 为平稳过程, 则其相关函数具有 下列性质 :

74 平稳过程自相关函数的性质 (4) 若 (t) 是周期为 T 的周期函数, 即 (t)=(t+t), 则 R (τ)=r (τ+t); (5) 若 (t) 是不含周期分量的非周期过程, 当 τ 时,(t) 与 (t+τ) 相互独立, 则有 lim R ( τ ) τ = m 2

75 随机分析 在普通函数的微积分中, 连续 导数和积分 的概念是建立在极限概念的基础上 对于随机过程, 随机过程的连续性 导数和 积分的等概念都是建立在随机序列极限的基础 上 这部分内容称为随机分析

76 随机分析的收敛 均分与微积分 (1) 以概率 1 收敛 n ae. (2) 以概率收敛 (3) 均方收敛 (4) 依分布收敛 n n P m. s d n a.e m.s P d 不收敛

77 随机分析的收敛 均分与微积分 均方连续 ( 定义 6.6) 设有二阶矩过程 {(t),t T}, 若对每一个 t T, 有 lim E[ h 0 ( t + h) 点均方连续, 记作 ( t) 2 ] =, 则称 (t) 在 t 0 l. i. m h 0 ( t + h) = ( t) 若 T 中一切点都均方连续, 则称 {t} 在 T 上均方连 续

78 平稳过程的各态历经性 平稳过程遍历性 ( 定义 6.10) 设 {(t),- <t< } 是均方连续的平稳过程, 若 以概率 1 成立, 则称该平稳过程的均值具有各态历经 性 ; 若 以概率 1 成立, 则称该平稳过程的相关函数具有各态 历经性

79 平稳过程遍历性定义 平稳过程遍历性 ( 定义 6.11) 如果均方连续的平稳过程 {(t),t T} 的均 值和相关函数都具有各态历经性, 则称该平稳 过程为具有各态历经性或遍历性

80 遍历性判定定理 定理 6.10 设 {(t),- <t< } 是均方连续的平稳过程, 则它的均值具有各态历经性的充要条件为

81 遍历性判定定理 定理 6.11 设 {(t),- <t< } 是均方连续的平稳过程, 则其相关函数具有各态历经性的充要条件为 其中 ( B τ ) = E[ ( t) ( t τ ) ( t τ ) ( t τ τ ) ]

82 遍历性判定定理 各态历经定理的意义 一个实平稳过程, 如果它是各态历经的, 则可用任意一个样本函数的时间平均代替过程的集合平均, 即 1 T 1 T m = lim.. x() t dt, R ().. () ( ) 0 t = lim x t x t+ τ dt T T T T 0 若样本函数 (t) 只在有限区间 [0,T] 上给出, 则对于实平稳 过程有下列估计式

83 平稳过程课后习题 6.9 设 { n, n= 0, ± 1, ± 2, } 独立同分布随机序列, 令 是具有零均值, 方差为 1 的, 其中 a 为常数, 试证 { Y, n= 0, ± 1, ± 2, } 是平稳 过程 l n k Y = a ( n= 0, ± 1, ± 2, ) n l n l l= 0

84 平稳过程课后习题 6.9 k k 解 :(1) EY [ ] E[ a ] ae[ ] 0. (2) = = = n l n l l n l l= 0 l= 0 k k R ( n mn, ) E[ a ][ a ]. + = Y l n+ m l l n l l= 0 l= 0 由条件知 E n = 0, D n = 1, n相互独立, 故 0, i j, E [ i j] = 1, i = j, aa m 0+ am+ 1a1 + + aa k k m, 0 m k, 所以 RY ( n+ mn, ) = 0, m > k. 2 2 (3) E[ Yn ] = RY( nn, ) = ai < 由 (1)(2)(3) 知 k i= 0 { Yn, n= 0, ± 1, ± 2, } 是平稳过程

85 平稳过程课后习题 6.16 t () Yt () 设有随机过程和都不是平稳的, 且 () t = At ()cos, ty() t = Bt ()sint中的 At (), Bt () 是均值为零的相互独立的平稳过程, 它们有 相同的相关系数, 求证 Zt () = t () + Yt () 是平稳过程

86 平稳过程课后习题 6.16 解 : (1) EZt [ ()] = Et [ () + Yt ()] = EAt [ ()cos] t + EBt [ ()sin t] = 0 (2) RZ ( t+ τ, t) = E[( t ( + τ) + Yt ( + τ))( t ( ) + Yt ( ))] = R ( t+ τ,) t + R ( t+ τ,) t + R ( t+ τ,) t + R ( t+ τ,) t (3) Y Y YZ = R ( τ)cos( t+ τ)cos t+ R ( τ)sin( t+ τ)sin t = R A A ( τ)cosτ E Zt = R = R < 2 ( ) Z(0) A(0) 由 (1)(2)(3) 可知, Zt () = t () + Yt () 是平稳过程 B

87 平稳过程通过线性系统回顾 线性时不变系统 频率响应与脉冲响应 线性系统的输出均值函数和输出相关函数 线性系统的谱密度

88 线性时不变系统 系统 : 对各种输入按一定的要求产生输出的装置 如放大器, 滤波器, 无源网络等 x(t) L y(t) 设系统的输入为 x(t), 系统的作用为 L, 输出为 y(t), 则有 y t = L x t ( ) ( ) 其中, L 称为算子, 可以是加法 乘法 微分 积分和微分方程求解等数学运算

89 脉冲响应函数 根据 δ 函数的性质, 可得 : 由于 yt () = Lxt [ ()] 中的 L 只对时间函数进行运算, 将上式代入得 : 令 xt () = x( τδ ) ( t- τ) dτ, 则 当输入函数 xt () 为脉冲函数 δ () t 时, - yt ( ) = L x( τδ ) ( t- τ) dτ = x( τ) L[ δ (- t τ )] dτ (1) - - [ ] ht ( τ) = Lδ(- t τ) - yt () = x( τ) ht ( τ) dτ yt () = δτ ( ) ht ( τ) dτ= ht () (2) -

90 脉冲响应函数 ht () (2) 式表明是输入脉冲冲激函数时的输出, 故称其为 系统的脉冲响应函数 对 (1) 式做一些变换, 可得, ( ) u= t ττ= u ( yt ( ) - yt = x( τ )h t τ) dτ = x(t τ )h( τ) dτ - 上面两式从时域描述了系统输入和输出间的关系, 表明线性时不变系统的输出等于输入和脉冲响应的卷积, 即 y() t = ht () xt () = x( t) h( t)

91 频率响应 脉冲响应的傅氏变换 : 如果线性时不变系统的冲激响应 函数 则系统的频率响应函数是冲激响应函数的傅氏变换, 即 ht () 绝对可积, 即 h() t dt < iωt H ( ω) = h() t e dt 而 ht () 是 H ( ω) 的傅氏反变换, 即 1 iωt ht () = H( ω) e dω 2π ht ()

92 频率响应 ( ) x t y( t) y( t) 输入和输出的傅氏变换 : 如果 x t 和 都满足傅氏变换条件, 则有下列傅氏变换对 : 输入频谱和输出频谱 Y w 有下列关系 : 它从频域角度给出了系统输入和输出的关系 ( ) 1 iωt iωt ( ω) = xte () dt, xt () = ( ω) e dω 2π i t 1 ω iωt Y( ω) = yte () dt, yt () = Y( ω) e dω 2π ( w ) ( ) ( ) H( w) ( w) Y w = y t = ht) ( ) ( xt ( )

93 线性系统输出的均值和相关函数 (1) 若输入信号为平稳过程, 输出也为平稳过程 ( t) m ( ) 设输入平稳过程 的均值和相关函数与输出过程的均 值, 相关函数为 R τ, 则输出过程的均值和相关函 x 数分别为 Y 1 2 x x m () t = m h( u) du = 常数 ; R ( t, t ) = h( u) h( v) R ( τ u + v) dudv Y = R ( τ ), ( τ = t t ) Y (2) 若输入平稳过程遍历, 则输出平稳过程 Y t 也遍历 1 ( t ) ( ) 2

94 线性系统输出的均值和相关函数 ( t ) ( ) (1) 当输入过程平稳时, 其输出的均值 E Y t 为常数 相关函数 R ( ) 表明输出是平稳的 Y t1, t2 = RY( τ ) Y( t ) ( ) 并且, 输出和输入 t 还是联合平稳的 (2) 输出的相关函数可以通过两次卷积产生 R (τ ) R Y (τ ) R Y (τ ) h(τ) h(-τ) R ( τ) = R ( τ) h( τ) h( τ) Y

95 线性系统的谱密度 定理 : 设输入平稳过程具有谱密度, 则输 出平稳过程 Y( t) 的谱密度为 ( t ) s ( ω ) s ( ω) = H( ω) s ( ω) Y 2 其中 H ( ω) 是系统的频率响应函数 称 H ( ω) 为系统的 频率增益因子或频率传递函数 2

96 线性系统的谱密度 说明 : (1) 线性系统的输出谱密度等于输入谱密度乘以增益 因子 (2) 根据相关函数和谱密度的傅氏变换关系, 可得输 出相关函数的另一个比较简单的求法 1 1 iωτ 2 iωτ RY ( τ ) = sy ( ω) e dω = 2π s ( ) ( ) ω H ω e dω 2π 进一步可得输出的平均功率 ( 均方值 ) R Y (0) = 1 2π s ( ω) H( ω) dω 2

97 联合平稳过程的互谱密度 ( t ) Y( t ) RY ( tt, + τ) = RY ( τ) (, + τ) = Y ( τ), 则称 ( t ) 和 Y( t) 联合宽平稳 定义 : 若和均为宽平稳, 且 R tt R Y 互相关函数的性质 : ( ) ( ) ( t ) ( ) R Y τ = R τ 定义 : 设和 Y t 为两个随机过程, 且联合平稳, 则 : 性质 : (1) + jw ( ) ( ) ( t ) ( ) SY w = RY τ e τ dτ 是和 Y t 的互功率谱密度 Y ( ) = ( ) S w S w Y ( t ) ( ) (2) 若和正交, 则 Y t S ( w) = S ( w) = 0 Y Y Y

98 平稳过程通过线性系统课后习题 7.14 令 们的相关函数分别为 如果试证 { ( ) } ( ) 数 ) { } t, t T, Y t, t T R 是均值为零的实平稳过程, 它 ( ) ( ) τ, RY τ, 互相关函数为 R ( τ ) ( τ) = ( τ), ( τ) = ( τ) R R R R Y Y Y ( ) ( ) cos( ω ) ( ) sin ( ω ) Y 是平稳过程 ( ω 为常 = Z t t t Y t t

99 平稳过程通过线性系统课后习题 7.14 解 EZ ( t) E ( t) ( ω t) EY ( t) ( ω t) R = Z E = cos + sin = ( tt, + τ ) ( ( t) cos( ω ) ( ) ( )) 0t + Y t sin ω0t ( t+ τ) cos( ω0t+ ωτ 0 ) + Y( t+ τ) sin ( ω0t+ ωτ 0 ) ( τ) cos( ωτ) R ( τ) sin ( ωτ) ( ) = R 0 Y 0 E Zt = R = R < 故 2 ( ) Z(0) (0) Z( t) 为平稳过程

100 谢谢大家!