矩阵论 第三章：矩阵分析

Transcription

1 矩阵论 第三章 : 矩阵分析 马锦华 数据科学与计算机学院 中山大学

2 第三章 : 矩阵分析 3.1 矩阵序列 3.2 矩阵级数 3.3 矩阵函数 3.4 矩阵的微分与积分 3.5 矩阵分析应用举例 2

3 矩阵序列 定义 3.1: 设有中的矩阵序列 其中 若 m n C lim a a i 1, 2,, m; j 1, 2,, n, ij ij, 收敛于 记为 或 a ij mn 不收敛的矩阵序列称为发散., 则称矩阵序列 lim. a, ij mn 定理 3.1: 设 m, n C 0,1, 2,, 则 lim 的充要条件是 lim 0, m n 其中 是 C 上的任一 矩阵范数

4 矩阵序列 推论 : 设 则 m, n C 0,1, 2,, lim, lim, 其中是上任一矩阵范数. m n C 注 : 该推论的逆不成立.

5 矩阵序列 定理 3.2: 设 lim, lim B B, 其中, B,, B 为适当阶的矩阵,, C, 则 (1) lim B B (2) lim B B (3) 当 与均可逆时, 1 1 lim. 5

6 收敛矩阵 nn 定义 : 设 C, 若 lim 0, 则称为收敛矩阵. nn 定理 3.3: 设 C, 则为收敛矩阵的充要条件 是 1. n 推论 : 设 n n n C. 若对 C 上的某一矩阵范数 有 1, 则 为收敛矩阵.

7 第三章 : 矩阵分析 3.1 矩阵序列 3.2 矩阵级数 3.3 矩阵函数 3.4 矩阵的微分与积分 3.5 矩阵分析应用举例 7

8 矩阵级数 定义 3.3: 由中的矩阵序列 构成的无穷和 m n C 0 称为矩阵级数. 对任一正整数 为矩阵级数的部分和. 如果由部分和构成的矩阵 N N 序列 S 收敛, 即 S lim S 则称矩阵级 0 数收敛, 而且有和 S 记为 不收敛的矩阵级数称为发散的 N, N, 0 称. S N N 0 lim S N S, N

9 绝对收敛 定义 3.4: 设 个数项级数 都绝对收敛, 即 0 定理 3.4: 设 0 0 a 绝对收敛. mn a C 0,1,2,. ij mn 如果 都收敛, 则称矩阵级数 绝对收敛的充要条件是正项级数 m n, 其中 是 C 上任一矩阵范数. i 1, 2,, m; ij, 0 a ij j 1, 2, mn a C 0,1,, ij mn n mn 则矩阵级数 0 收敛

10 矩阵级数收敛的性质 定理 3.5: 设 0, 是适当阶的矩阵, 则 0 B B, 其中, B,, B (1) 0 ( ) B; (2) 对任意 C, 有 B 0 (3) 绝对收敛 ( 的矩阵级数 ) 必收敛, 并且任意调换其项的顺序所得的矩阵级数仍收敛, 且其和不变 ; ;

11 矩阵级数收敛的性质 (4) 若矩阵级数 收敛 ( 或绝对收敛 ), 则矩阵级 数 0 P Q 0 也收敛 ( 或绝对收敛 ), 并且有 0 P Q P 0 Q;

12 矩阵级数收敛的性质 (5) 若 与 B 均绝对收敛, 则它们按 0 0 项相乘所得的矩阵级数 B B B B 也绝对收敛, 且其和为 B B. B 12

13 幂级数 定义 3.5: 设 为矩阵的幂级数. n n C, a C 0,1, 2,, 称矩阵级数 0 0 a 定理 3.6: 设幂级数 a z nn 的收敛半径为 r, C, 则 (1) 当 r时, 矩阵幂级数 a 绝对收敛. 0 (2) 当 r 时, 矩阵幂级数 a 发散. 0

14 幂级数 推论 : 设幂级数 的收敛半径是 若存在上的某一矩阵范数使得 n n C 则矩阵幂级数 a 绝对收敛. nn 定理 3.7: 设 C, 矩阵幂级数 收敛的充 要条件是 0 0 1, a nn. z r, C 并且在收敛时, 其和为 0 r,. I 1

15 第三章 : 矩阵分析 3.1 矩阵序列 3.2 矩阵级数 3.3 矩阵函数 3.4 矩阵的微分与积分 3.5 矩阵分析应用举例 15

16 矩阵函数 定义 3.6: 设幂级数 a z 的收敛半径为 r, 0 当 z < r 时, 幂级数收敛于 f z a z nn 如果 C 满足 r, 则称 0 a 的和为矩阵函数, 记为 f a 0. 0.

17 几个常用的矩阵函数 e I, ;! 2! sin, ; 0 2 1! 3! 5! ! 2! 4! 3 cos I, ; I I, 1; ln I,

18 带参数的矩阵函数 将矩阵函数的变元 换成 t, 其中 t 为参数, 则得到带参数的矩阵函数 : f t a t. 0

19 矩阵函数值的计算 利用 Hamilton-Cayley 定理或零化多项式 - 例 3.6 已知四阶方阵 的特征值为, -, 0, 0, 求 sin, cos Solution. H-C 0, 由已知及定理有从而 =, =, =, =,, 即, 故 = = sin, cos I. 2 2

20 矩阵函数值的计算 利用 Jordan 分解 nn 设 C, 由 Jordan分解定理, 存在可逆矩阵 P使得 故 J1 J PJP P P J s 1 2 1, f a PaJ P Pf J P

21 s s aj aj P P aj f J f J P P f J 利用 Jordan 分解

22 i i i i i i r r J 1 1 的计算 : ! 1! = 1 1! i i ' r i i ' r J 利用 Jordan 分解

23 i f J 的计算 : ! 1! 1 1! i i r ' i i ' f f f r f f J f f 利用 Jordan 分解

24 f t a t P a Jt P f Jt P P s f J t f J t P P f J t 利用 Jordan 分解

25 利用 Jordan 分解 例 3.8: 1 1 1! 1! 1! i i i ' i i ' r r t t t f f f r f f J t t f f , sin e t 求

26 利用 Jordan 分解 解. 在第一章已求得 P= 1 1 1, P P 1, J 1, J J1 J 1 e 1 1 e Pe P P P, J 2 e 1 ' e e e e 1! e e J1 J2 e e e 1 2,,

27 利用 Jordan 分解 故 2 e e e 0 e e P e P = 3e e e 2 e e. 2 e 4e 0 3e sin t P sin Jt P P P, 2 sin Jt sin Jt 2 t ' sin sin sint t cost sin Jt 1 1!, sint sin sin J t sin 2 t, t

28 利用 Jordan 分解 故 sin t t cost sin t P sint P sin 2t sin t 2tcost 0 tcost = sin t 2t cost sin 2t sin 2t t cost sin t sin 2 t. 4t cost 0 2t cost sin t 1

29 矩阵函数值的计算 待定系数法 nn 设 C 的特征多项式或零化多项式为 r s = - - -, r r r m n. 1 2 r 1 2 s 1 2 将 f t 表为 f t = q, t r, t 的形式后可得 为此, 设 f t r, t, f r,1. r, t b t b t b t, m1 m1 r 1 0 再用待定系数法求出 b t,, b t, b t. m1 1 0 s

30 矩阵函数值的计算 待定系数法 b t,, b t, b t 即 m d d l l 满足的方程是 l d f t r, t, l d i l l l d d t f r, t, l l d d t l 0,1,, r 1; i 1,2,, s. i i i i

31 待定系数法例子 例 t 求 e, cos 解. 在第一章已求得 的特征多项式 设 t e q, t 1 2 b t b t b t 则有方程组,

32 待定系数法例子 d d d t 2 e b 1 2 t b1 t b0 t 1 t 2 e b 2 t b1 t b0 t 1 d 1 t 2 e b 2 2 t b1 t b0 t 2 t e b 2 t b1 t b0 t, t 即 te 2b 2 t b1 t, 2t e 4b 2 t 2 b1 t b0 t.,.,

33 解得 从而 待定系数法例子 2t t t b2 t e e te, b 1 t e e te 2t t b0 t e 2 te. 2t t t 2 2 3, t 2 e b 2 t b1 t b0 t I t t t e 2te 0 te 2t t t 2t 2t t t e e 2 te e e e te. t t t 4te 0 e 2te

34 再设 cos q 1 2 b b b, 得方程组 2 cos b 1 2 b1 b0, 1 d d cos b b b d 2 cos b 2 2 b1 b d 1,

35 待定系数法例子 cos1 b2 b1 b0, 即 sin1 2b2 b1, cos 2 4b2 2 b1 b0. 解得 从而 cos b b b I b sin1 cos1 cos 2, 2 b1 3sin1 2cos1 2cos 2, b 0 2sin1 cos 2. 2sin1 cos 2 0 sin1 2sin1 cos1 cos 2 cos 2 sin1 cos1 cos 2. 4sin1 0 2sin1cos1

36 常用矩阵函数的性质 定理 3.8: 定理 3.9: nn 设 C,,,, 是 的 n个特征值, 1 2 则矩阵函数 f 的特征值为 f, f,, f. n sin sin, cos cos ; 1 cos sin, cos, 2 1 i i sin e e. 2i i 2 i i e i e e n

37 常用矩阵函数的性质 定理 3.10: 1 2 e e e e e B B B 推论 : 定理 3.11: Remar nn 设, B C, 且 B B, 则 ; sin B sin cos B cos sin B; 3 cos B cos cos B sin sin B. 2 2 sin 2 2sin cos, cos 2 cos sin. tr 1 (1)det e e, (2) e e. 对任一方阵, e 总可逆, 但 sin,cos 未必.

38 第三章 : 矩阵分析 3.1 矩阵序列 3.2 矩阵级数 3.3 矩阵函数 3.4 矩阵的微分与积分 3.5 矩阵分析应用举例 38

39 矩阵的微分与积分 函数矩阵的微分 定义 3.7:, 设 t = a t, 如果每个 a t 都在 a b ij mn 上可微, 则称矩阵 t 在上可微, 并定义 a, b ' ' d d t = a, ij t 或 t = aij t, mn dt dt 称为矩阵 t 对 t的导数或微商. ij mn

40 函数矩阵的求导法则 定理 d t B t d t d B t ; dt dt dt d d d 2 t t t t t t, dt dt dt 其中 t 为一数量函数 ; d d d 3 t B t t B t t B t ; dt dt dt

41 d d 4 ' u t u u t. dt du d 1 1 d 1 5 t t t t ; dt dt 定理 3.13: 矩阵的求导法则 u u t (1) d e t e t e t ; dt d (2) sin t cos t cos t ; dt d (3) cos t sin t sin t. dt

42 矩阵的积分 定义 3.7:, 设 t = a t, 如果每个 a t 都在 a b 上可积, b a ij a, b mn 则称矩阵 t 在上可积, 并定义 t dt= a t dt b a ij a, b ij mn 称为矩阵 t 在区间上的积分.,

43 定理 3.14: 矩阵的积分运算法则 b b b 1 t B t dt t dt B t dt; a a a b 2 t dt t dt, ; a b 其中为常数 b 3 B t dt B t dt, a b b a b a t Bdt t dt B, 其中, B为常数矩阵 ; a a

44 微分与积分的关系 d t 4 t 在 a, b 连续 t a, b, s ds t ; dt a b d 5 t 在 a, b 连续可微 t dt b a. a dt

45 数量函数对矩阵变量的导数 定义 : f X X x ij m n 设是以矩阵变量为自变量 f 的 mn元函数, 且存在, 定义 x df dx ij f f f x11 x12 x 1n f f f f = x x x =, n x ij mn f f f x x x m1 m2 mn

46 数量函数对向量变量的导数 Re mar. 当 X x, x,, x 时, 1 2 df df df df,,, grad f. dx dx1 dx2 dxn 例 3.12 a a, a,, a, x x, x,, x, T n T T df f x = a x x a. 求. dx 1 2 n 1 2 f f f f f So lutio n. aj,,, a. x j x x1 x2 xn T T n T T

47 例 数量函数对矩阵变量的导数 df. 3 a, X x, f X = tr X. 求. mn nm dx 31 ij ij Solution. f x ij a ji, n m n X a x, f X a x, i j s s 1 mm s1 1 f f ji X x nm ij nm T a. T T df 例 3.14 aij, x x1, x2,, xn, f x = x x. 求. nn dx

48 Solution. 数量函数对矩阵变量的导数 i 1 l1 n n T T T T ail x + l aix = i x i x x i x i l1 1 T T = x, i i n f x a x x n l l f x f x 1 1, 2 2,, n n T T T T T T x x x x,,, T T T T n n,,, x T T T n n, T T T

49 数量函数对矩阵变量的导数,,, x T T T n n T T T T x x x T T n n n n T df n 特别, 当 时, dx 1 2 x T T 1 2 n x T 2 x. x.

50 数量函数对矩阵变量的导数, det 例 3.15 X x X 0, f X = det X. 证明 ij nn df 1 =det T X X. dx Proof. 设 x. det ij的代数余子式为 X ij 把 X 按第 i行展开, 得 易见 df dx det X xi X i, n 1 f X ij, 故 xij 1 1 det det T X ij X X ij X X. det X

51 矩阵值函数对矩阵变量的导数 定义 : 设 F X = f X, X x, 称 F X 为矩阵值函数, 定义 F X ij st ij mn 对矩阵变量 X的导数为 F F f11 f1 t x x 11 x 1n ij x ij df F : =, 其中. dx xij F F fs1 f st x x x x m1 mn mn ij ij st

52 矩阵值函数对矩阵变量的导数 例 3.16,,. x 1, 2 n,,, T 例 3.17 a a a a a, X x. d Xa T T ij 24 a 0 a 0 a 0 a 0, 0 a1 0 a2 0 a3 0 a dx d Xa dx dx a1 a2 a3 a a1 a2 a3 a4 dx dx I, T n dx T In.

53 第三章 : 矩阵分析 3.1 矩阵序列 3.2 矩阵级数 3.3 矩阵函数 3.4 矩阵的微分与积分 3.5 矩阵分析应用举例 53

54 矩阵分析应用举例 求解一阶线性常系数微分方程组 dx t dt = x t + f t x t 0 = x 0 此微分方程组的解为 x t = e (t t 0) x 0 + t 0 t e (t s) f s ds 54

55 矩阵分析应用举例 求解矩阵方程定理 3.15: 给定矩阵方程 X + XB = F (Sylvester equation) 其中 C m m, B C n n, F C m n. 如果 和 B 的所有特征值具有负实部 ( 这种矩阵称为稳定矩阵 ), 则该矩阵方程有唯一解 X = 0 + e t Fe Bt dt 55

56 矩阵分析应用举例 推论 1: 设 C m m, B C n n, F C m n, 则矩阵微分方程 dx t = X t + X t B dt X 0 = F 的解为 X t = e t Fe Bt 56

57 矩阵分析应用举例 推论 2: 设, F C n n, 且 的所有特征值具有负实部, 则矩阵方程 H X + XB = F (Lyapunov equation) 的唯一解为 X = 0 + e Ht Fe t dt 如果 F 是 Hermite 正定矩阵, 则解矩阵 X 也是 Hermite 正定矩阵 57

58 矩阵分析应用举例 最小二乘问题定理 3.16: 设 R m n, b R m. 若 x 0 R n 是最小二乘解, 即 x 0 = arg min x b x R n 2 2 则 x 0 是方程组 T x = T b 的解. 称此方程组为 x = b 的法方程组 58

59 基本概念 矩阵序列 - 收敛性 收敛矩阵 矩阵级数 - 收敛性 幂级数 Neumann 级数 矩阵函数 - 收敛的矩阵幂级数 : 指数函数 三角函数等 矩阵微分和积分 - 函数矩阵对参数的微分和积分 - 数量函数对矩阵变量的导数 - 矩阵函数对矩阵变量的导数 59

60 主要结论 矩阵序列的收敛性 - 充要条件 : 对任何矩阵范数, 有 - 矩阵序列收敛的性质 : 线性 乘积 逆矩阵 - 收敛矩阵的充要条件 :ρ < 1 - 收敛矩阵的充分条件 : < 1 lim 0, 60

61 主要结论 矩阵级数的收敛性 - 充要条件 : 对任何矩阵范数, 正项级数收敛 - 矩阵级数收敛的性质 : 收敛 : 线性 左 ( 右 ) 乘常数矩阵 绝对收敛 : 左 ( 右 ) 乘常数矩阵 求和顺序 乘积 - 矩阵幂级数的敛散性 ρ < r 收敛 ρ > r 发散 - Neumann 级数收敛的充要条件 :ρ < 1 - Neumann 级数收敛的充分条件 : <

62 主要结论 矩阵函数的性质 - 矩阵指数函数与三角函数的关系 ( 欧拉公式 ) - 矩阵指数函数的性质 可交换矩阵的指数函数 行列式 逆矩阵 - 矩阵三角函数的性质 和角公式 倍角公式 平方关系 周期性 62

63 主要结论 矩阵微分与积分的性质 - 微分与积分的线性运算 - 微分 函数乘积的导数 逆矩阵的导数 矩阵指数函数和三角函数的导数 - 积分 微分与积分的关系 定积分的计算 63

64 主要结论 矩阵函数求值的常用方法 - 利用零化多项式 ( 特征多项式或最小多项式 ) 找出矩阵方幂的特殊关系 待定系数法 - 利用 Jordan 标准型 矩阵分析的应用 - 求解微分方程组 - 求解矩阵方程 - 求解最优化问题 最小二乘问题 64

65 ssignment 徐仲 张凯院等. 矩阵论简明教程, 第三版. 科学出版社出版. - 习题三 : (2) - Submit on pril 26 Thursday,