第六章線性轉換與特徵值問題 最後更新日期 :9 年 月 8 日 本章介紹線性轉換 (liear trasformatio), 將線性系統看成一個函數, 探討在不同向量空間裡之向量的對應情形 定義函數時, 定義域與值域是重要的元素, 在線性轉換中, 對應前者的是轉換矩陣的核 (kerel), 而對應後者的是轉換矩陣的值域 (rage) 特徵值問題(eigevalue ad eigevector) 是線性轉換的一個重要的應用, 而對稱矩陣的對角化 (diagoalizatio) 則是該問題的直接應用 對稱矩陣對角化讓矩陣的運算擴展到指數 三角函數等超越函數 本章的內容安排如下 : 6. 線性轉換 6. 核心與值域 6. 轉換矩陣 6.4 特徵值與特徵向量 6.5 矩陣對角化 6. 線性轉換 對一個線性系統而言, 線性轉換 (liear trasformatio) 是以函數的觀點來看線性系統 考慮以下線性系統 x 7 Ax b 其中 A, y, 4 x b 9 z x, yz, 線性轉換如同下圖的黑盒子, 我們需決定輸進去的 ( ) 後, 產出 R 的 ( ) 7,9 : R, 使得經過黑盒子轉換 x x y R z 7 b R 9 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
我們也可以將線性系統看成下圖的函數對應關係, 定義域是 R, 而值域是 R : L R ( x, yz, ) ( 7,9) R 以數學符號來表示則為 L: R 7 R 或 L( x ) 9 當然, 轉換或函數 L 必須滿足某些條件才可以稱為線性轉換或線性函數 定義 ( 線性轉換 ) 令 V W 為兩向量空間, L 為以 V 為定義域 W 為值域的函數, 若任意 uv, V, c R滿足以下兩性質 ( a) L( + ) L( ) + L( ) ( b) L( c ) cl( ) u v u v (6-) u u (6-) 則 L 稱為 V 對應至 W 的線性轉換 (liear trasformatio), 記為 LV : W 題外話 ( 線性運算子 ) 若線性轉換 L 的定義域與值域是相同的向量空間, 如 LV : V, 則我們稱 L 為向量空間 V 的一個線性運算子 (liear operator) 例題 6- ( 驗證線性轉換 ) 令 L : Mm M m, 定義如下 ( A) A L 試驗證 L 是否為線性轉換 解答 令 AB, M m, c R, 則 ( a) L( A+ B) ( A+ B) A + B L( A) + L( B ) ( b) ( ) ( ) L ca ca ca cl( A ) 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
故 L 是一個線性轉換 例題 6- ( 驗證線性轉換 ) 解答 令 L: M L ( A) A R, 定義如下 試驗證 L 是否為線性轉換 令 AB, M, c R, 則 a L A+ B A+ B A + B L A + L B ( ) ( ) ( ) ( ) 故 L 不是一個線性轉換 例題 6- ( 驗證線性轉換 ) 令 L: R 解答 m R, 定義如下 L ( x) Ax 其中 A M 試驗證 L 是否為線性轉換 m m 令 xy, R, c R, 則 ( a) L( x+ y) A( x+ y) Ax+ Ay L( x) + L( y ) ( b) L( cx) A( cx) cax cl( x ) 故 L 是一個線性轉換 定理 6- ( 線性轉換之性質 ) 若 LV : W 為一線性轉換, 則 ( a) L( c v + c v + + c v ) c L( v ) + c L( v ) + + c L( v ) (6-) k k k k ( b) L( ) L( ) V ( c) L( u v) L( u) L( v ) W 其中, v, v,, vk, u, v V, c, c,, ck R, V W 分別為 V W 的加法單位元 證明 素, 而 v 為 v 之加法反元素 自行練習吧 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
記得使用 (6-) 與 (6-),( b ) 需加上加法單位元素的定義 : v+ v, 而 ( c ) 則需考慮加法反元素的定義 : v+ ( v) 定理 6- ( 以基底轉換表示 ) 若 LV : 證明 W為線性轉換, { v, v,, v} 為 V 的基底, 且 V { L( v), L( v),, L( v )} 將 u 表示成 u cv+ cv + + cv ( 以線性組合 ) 來表示, 則經由 (6-) 自然可將 ( ) ( u) ( v ) + ( v ) + + ( v ) u, 則 ( ) L u 表示為 L u 可由 L c L c L c L 題外話 ( 應用定理 6-) 定理 6- 告訴我們, 只要知道基底向量的轉換結果, 即使不知道整個轉換機制, 也可以作任何向量的轉換 若 LV : W 換, { v v v } L( u ) : u A [ u ] L ( u) A [ u ] 為線性轉,,, 為 V 的基底 令 u V, 我們使用以下兩個公式來計算 L 其中 A v v v [ ] L( ) L( ) L( ) A v v v L 我們稱 A 為基底 的轉換矩陣 (matrix of a liear trasformatio) L 例題 6-4 ( 利用基底的線性轉換 ) 令 L: R 解答 R 為線性轉換, { v, v } 是 R 的基底, 其中 v ( ) v ( ) 而且 L( v ) (,, 4 ), L( v ) (,,5), u u 試求 L ( ), ( 5,4) 先求 [ u ],, 其為以下線性系統的解 [ A u] [ u ] 5 基本列運算 4 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 4 / 7
則 L L 9 4 5 4 ( u) A [ u ] 例題 6-5 ( 利用基底的線性轉換 ) 令 L: R ( a) L (, 4) ; ( b) L( s, t ) R 為線性轉換, 且已知 (,) (, ) L (, ) (, ) 解答 令 {(, ), (, ) }, A, A L ( a ) ( ), 4 為以下線性系統的解 L, 試求 基本列運算 4 (, 4) L (, 4) A (, 4) ( b ) 一樣的作法, ( s, t) 7 L 6 為以下線性系統的解 7 7 s+ t st s 基本列運算 t s+ t ( st, ) st s+ t s t L st s (, ) A ( s, t) L s t 題外話 ( 與座標變換比較 ) 若 LV : W為線性轉換, { v, v,, v} 為 V 的基底, 依據定理 6- 的結果, L( v), L( v),, L( v ) 也是一個基底, 但不要搞錯了, { } 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 5 / 7
它不見得是 W 的基底! 我們會在下一節處理這個問題 現在與上一章的座標變換 比較一下, 若將 L 看成座標變換, 則 L 是在相同空間作轉換 L: R R ; 這時, 就是 R 的基底了 這也就是我們可以將座標變換視為一個運算的道理 6. 核心與值域 對從向量空間 V 映射至向量空間 W 的轉換 LV : W, 在本節, 我們關心 V W 的大小 ( 對向量空間應該是維度才恰當 ) 這牽涉到函數的映射是否一對一 (oe-to-oe) 與映 成 (oto) 的觀念 定義 ( 一對一 ) 令 LV : W為線性轉換, 對任意元素 uv, V, 若 u v L( u) L( v ) 或 L( ) L( ) u v u v 則稱 L 為一對一 (oe-to-e) 定義 ( 核心 ) 令 LV : W 為線性轉換, 則 V 所有映射到 W 之元素所成的集合稱為 L 的核心 (kerel), 標記為 ker L, ker L v L v, v V { ( ) W } 定義 ( 值域 映成 ) 令 LV : W為線性轉換, 則所有映射的元素 L( v), v V 所成的集合稱為 L 的值域 (rage), 標記為 rage L, { ( v) v } rage L L V 若值域與對應域相等, rage L W, 則稱 L 為映成 (oto) 定理 6- ( 核心 值域與一對一之性質 ) 令 LV : W ( a) 為線性轉換, 則 ker L 為 V 之次空間 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 6 / 7
( b) rage L 為 W 之次空間 ( c ) 若 ( ) dim ker L, 則 L 為一對一 ( d ) 若 dim( rage L) ( e ) ( ) ( ) dimv, 則 L 為一對一 dim ker L + dim rage L dimv 請參考圖 6-, 說明兩種不能成為函數的映射狀況 另外, 圖 6- 呈現一對一 映 成 與一對一且映成等三種情況 圖 6- 圖 6- 題外話 ( 一對一且映成的重要性 ) 檢視圖 6- 之各對應圖, 若我們把對應的箭頭倒 過來, 則只有 一對一且映成 還是一個合法的函數! 這個對應箭頭倒過來就是反 函數 (iverse fuctio) 的意思, 因此, 正式的說法為, 一對一且映成的函數才存 在其反函數 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 7 / 7
題外話 ( 值域 核心 v.s. 列空間 零空間 ) 我們一直用線性系統 Ax b 來串連本 書的抽象題材, 介紹完值域 核心的定義後, 當然還是要透過將它們與已經學過的 東西結合 若 L: R m R, ( x) ( a) rage L A 之行空間 ( b) ker L A 之零空間 L Ax, 則 既然我們將 rage L ker L 比擬為矩陣的行空間 零空間, 則線性轉換 L 有零度 秩的概念也是理所當然的了 ( c ) dim( rage L ) 稱為 L 之秩 (rak of L ), 即 dim( rage L) ( d ) dim( ker L ) 稱為 L 之零度 (ullity of L ), 即 dim( ker L) rak A ; ullity A 將以上 ( a ) 至 ( d ) 放在心裡, 並結合定理 6- 的各性質, 我們可以用簡單求解本章 的題目 例題 6-6 ( 值域 核心 ) 令 L: R 解答 4 R 為線性轉換, 其中 x x y z y + + L y + z + w z x z w 試求 ( a) rage L; ( b) ker L; ( c) L 是否一對一 ; ( d) L 是否映成 首先, 改寫函數 x x x y z y + + y L y+ z+ w z z x z w w 基本列運算 A ( a) rage L( A 的行空間 ) {( ) ( )} rage L spa,,,,, ( 基底為 A 中帶頭一相對行之行向量 ) 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 8 / 7
( b) ker L( A 的零空間 ) x y s + t, s, t R z w {( ) ( )} ker L spa,,,,,,, ( c ) ( ) dim ker L, 故 L 並非一對一 ( d ) dim( rage L) dim R, 故 L 並非映成 例題 6-7 ( 值域 核心 ) 令 L: R 解答 4 R 為線性轉換, 其中 (,,, ) ( +, +, + ) L xyzw x yz wx z 試求 :( a) rage L 之基底 ;( b) ker L 之基底 ;( c) L 是否一對一 ;( d) L 是否映成 首先, 改寫函數 x y L( xyzw,,, ) ( x+ yz, + wx, + z) z w 基本列運算 A ( a) rage L( A 的行空間 ) rage L spa{ (,, ),(,, ),(,, )} 基底為 (,, ),(,, ),(,, ) { } ( b) ker L( A 的零空間 ) 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 9 / 7
x y s, s R z w ker L spa{ (,,, ) } 基底為 (,,, ) ( c ) ( ) { } dim ker L, 故 L 並非一對一 ( d ) dim( rage L) dim R, 故 L 為映成 6. 轉換矩陣 本節整合線性轉換與上一章介紹的座標變換 首先, 請牢記以下基本觀念 : 座標變換, 兩個基底 ( 座標系統 ) 間的座標變換, 只涉及一個向量空間 ; 線性轉換, 兩個向量空間之間的座標變換, 可能涉及不同基底 另外, 我們會與一堆數學符號周旋, 這是沒有辦法的事 ; 請先參考圖 6- 圖 6- V v, v,, vm LV : W W w, w,, w { } { } u w L( u) L [ ] ( u) AL [ u] w A [ w] L( u) [ A ] [ u] u A u L 首先, 我們將符號歸成五類, 向量空間 向量 基底 座標 轉換矩陣 : 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
向量空間 :V W ; 向量 : u w L( u ); 基底 : { v v v } { w w w },,, m 座標 :[ u ] [ ] L 轉換矩陣 : A A u ;,,, ; w ( ) A [ ] L A A A L 其中, 轉換矩陣要特別注意, 依據不同內容間的轉換, 又分成好幾類 : 向量 座標 : u A [ u ] L( u) A L( u ) L ( ) [ ] 座標 向量 :[ u] A u L( ) L( ) 座標 座標 : L( ) [ ] [ ] u AL u u A u ; u A u ; 請注意, 轉換矩陣並不見得都存在反矩陣! A A 可以有反矩陣, 但 L A [ A ] 不一定有, 為什麼? 動點腦筋想想吧 最後, 要熟記這些轉換矩陣如何以及由哪些向量 ( 座標 ) 所組成 : L L 就 [ ] A v v v ; m [ ] A w w w ; ( ) ( ) ( ) A L v L v L v ; L m 好了, 我們已經介紹完座標變換與線性轉換的符號與基本關係式 剩下來的就是眼睛放 亮一點, 發揮創意由這些基本關係式組成我們要的東西 題外話 ( 轉換矩陣之符號意義 ) 我們來解讀一下 [ A ] L 符號的意義 A 表示這是一 個轉換矩陣, 下標的 L 表示這是一個線性轉換 ( 若沒有 L 則為座標變換 ), 下標的 表示輸入端是 基底的座標,[ i ] A L 則表示轉換的結果是一個向量 表示轉換成 基底的座標 若沒有座標符號, 如 好了, 我們練習一下沒有出現的符號 :[ A ] 換成 座標的座標變換矩陣, 關係式寫出來應如 [ ] [ ] [ ] 看出來了嗎? 這是一個將 座標轉 u A u 定義 ( 表示 L 之轉換矩陣 ) 令 LV : W為線性轉換, { v, v,, vm} { w w w },,, 分別為 V W 之 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
基底, 任意 u V, 若 ( u) [ A ] [ u ] L 則稱 [ A ] L L 為表示線性轉換 L 之轉換矩陣 (matrix represetig L with respect to the bases ad ) 題外話 ( 推導 [ A ] ) 在上面的關係式, 沒有提供 [ A ] ( L A A A ) 組合而來 以下是推導過程 : L ( ) L( ) [ ] [ ] L u A u A A u A A A L L L L, 它可以由基本轉換矩陣 可以這樣想, A L 轉換後的結果是向量 ( 把 A L 看成向量 ), 而 A A ) 轉換成 之座標 : A A ( L 的基底, 則 [ A ] 的推導如下 L 則進一步將向量 相同道理, 若 為在同一個向量空間上 [ ] [ ] [ ] u A u A A u A A A 上一章, 我們將這個座標變換矩陣 [ ] A 標記為 P 題外話 ( 計算課題 : 不要直接找 A ) 在座標變換或線性轉換的計算, 我們常常有 面臨反矩陣的場合, 不要真的直接去找反矩陣, 那會煩死人 以下是建議作法 : () 已知 [ ] u A u u A, 求 [ ] u A u 作法為處理以下增廣矩陣 基本列運算 [ ] A u A A A u I A u 以基本列運算將左方轉換為單位矩陣, 則右方即為所求之 [ u ] () 已知 A A, 求 [ ] L L L A A A 處理以下增廣矩陣 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
基本列運算 [ ] A A L A A A AL I A AL 有沒有捉到重點? 將需要求反矩陣的矩陣 ( 如 A A ) 擺在增廣矩陣的左方, 其它部分擺在右方, 然後以基本列運算將左方轉換成單位矩陣即可 例題 6-8 ( 避開直接找反矩陣 ) 令 LV : W 解答 而且已知 為線性轉換, { v, v, v } { w, w } (,, ), (,, ), (,, ), (, ), (,) v v v w w L( v) (, ), L( v) (, ), L( v ) (,) 試求 座標與 座標間的轉換矩陣 [ A ] 我們知道 [ ] A A A L L 由題目資訊, 我們有 L 分別為 V W 基底, 其中 A [ w w], L L( ) L( ) L( ) A v v v 處理以下增廣矩陣 基本列運算 4 4 [ A L ] 還記得反矩陣的數值解過程嗎? 是不是與這裡處理的增廣矩陣有所雷同 所以呢, 事實上, 我們是有求反矩陣, 間接的啦 向量空間內的線性轉換 本小節討論線性轉換 LV : V( 定義域與對應域的空間相同 ) 的轉換矩陣 這時, 基底 { v, v,, vm} { w, w,, wm} 能性 我們將討論相同基底座標間的線性轉換矩陣,[ A ] 與 [ A ] 在相同的向量空間, 因此有座標變換的可 L L, 並建立這兩個 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
轉換矩陣的關係式 定理 6-4 ( 線性轉換矩陣之座標變換 ) 令 LV : 轉換矩陣 A V為線性轉換, { v, v,, vm} 已知如下 L L L( ) L( ) L( m ) A v v v 則對任意 u V, 其中, 證明 ( a ) ( a ) [ AL ] A A L ( b ) [ A ] [ A ] [ A ] [ A ] L L { w w w },,, m [ ], [ ], [ ] A v v v A w w w A A A m 由定義 L ( u) A [ u ] L( ) L( ) L u A u, 故 ( ) [ ] ( ) ( ) [ ] L L 為 V 之基底, 若 L u A u A L u L u A A u (6-4) 可得到 ( b ) [ ] A A A (6-5) L L 由定義 u A [ u] A [ u ] L( ) L( ) L( ) [ u] A A[ u ] L( u) A A L( u ) u A u A u, 故 將這兩式代入 (6-4), 可得 ( ) ( ) [ ] A A u A A A A u L L ( ) ( ) ( )( L u A A A AL A A )[ u] [ A] [ AL] [ A] [ u ] 也就是 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 4 / 7
[ ] [ ] [ ] [ ] A A A A (6-6) L L 題外話 (6-6) 的意義為, 我們在向量空間 V 的基底 上已經 ( 辛苦地 ) 建立一個表示 L 的線性轉換矩陣 [ A ] L 現在, 假如我們在 V 上定義一個新的基底, 那麼可不 可以利用已知的 [ A ] 資訊, 來建立新基底上來表示 L 的線性轉換矩陣 [ A ] L 然答案是肯定的, 我們只要先 ( 簡單 ) 建立 座標到 座標的座標變換矩陣 [ ] L? 當 A, 再利用 (6-6) 就可以了 例題 6-9 ( 驗證轉換矩陣 ) 令 L: R R 為線性轉換, x x+ y L y x y ; 又令,,, 為 R 的基底 則 () 基本轉換矩陣如下 A,, L L A A 4 A 其中 L, L, L, L 4 () 求 [ ] A A A, 處理以下增廣矩陣 L L 基本列運算 4 [ A L ] () 求 [ ] A A A, 處理以下增廣矩陣 L L 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 5 / 7
基本列運算 [ A L ] (4) 求 [ ] A A A, 處理以下增廣矩陣 5 基本列運算 5 [ A ] (5) 求 [ A ] [ A ] [ A ] [ A ] L L [ A ] [ A ] L 5 處理以下增廣矩陣 5 基本列運算 [ A L ] () 與 (5) 求到的 [ ] A 相同 L 6.4 特徵值與特徵向量 本節介紹同向量空間的一個非常特殊的線性轉換 : LV : V, L ( ) u λu (6-7) 其中, u V, λ R 線性轉換的結果沒有改變向量的方向, 只是將它的大小作比例 λ 之改變 若持續作相同的線性轉換, 如 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 6 / 7
L L ( ) ( ) L L( ) u u λ u ( u) λ u 則向量的大小會趨近於 或 : 若 λ < lim L ( u) u 若 λ 若 λ > 上面 ( 會使向量大小並為無限大的 ) 性質應用在許多領域, 例如, 工程建物的共振 並不是所有向量空間 V 中的向量都有 (6-7) 的性質, 事實上, 最多只有 dimv 個向量滿足 (6-7) 沒有錯, 就是與 V 的維度有關 還有更有趣的, 這些向量都伴隨著特定的 λ 值 我們稱這些特殊向量為特徵向量 (eigevector,characteristic vector), 而這些伴隨著的 λ 值為特徵值 (eigevalue,characteristic value) 根據上一節的結果, 若 V R, 則存在一表示 L 之轉換矩陣 A M, 使得 (6-7) 變成如下的線性系統 : L ( ) x Ax λx (6-8) 我們的興趣是, 找出方陣 A 的特徵值與特徵向量 一共最多有 對, 還記得? 例題 6- ( 驗證特徵向量 特徵值 ) 令 A 試驗證 ( a ) v [ ], ( b ) v [ ] 解答 驗證如下 為 A 之特徵向量 Av, v Av v 故 v v 為 A 之特徵向量, 且其特徵值分別為 λ λ 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 7 / 7
定理 6-5 ( 特徵向量的非零倍數仍為特徵向量 ) 證明 令 A M, u R, λ R, 使得 Au λu 若 w cu, c, 則 Aw λw ( ) ( ) ( ) ( ) Au λu c Au c λu A cu λ cu Aw λw 題外話 ( 特徵向量不可以為零向量 ) 決定特徵向量的是以下齊次系統 : ( λ ) A I x 這個系統一定有 x 這個瑣碎解, 在這個情況下, 特徵值 λ 可以為任何實數值, 並沒有為我們帶來任何有意義的訊息 因此, 特徵值不能為 考慮以下矩陣與向 量 : A, x Ax 這個情況, 我們認定特徵值 λ 也就是說, 特徵值可以為零, 但特徵向量不可 以為零向量 例題 6- ( 驗證特徵向量 特徵值 ) 令 解答 7 A 7 試驗證 ( a) λ, ( ) b λ 6 為 A 之特徵值 我們需將 λ 代入, 並檢測下列線性系統 ( 齊次系統 ) 的解 : ( ) Ax λx Ax λx A λi x 若只有瑣碎解 x, 則該 λ 不是特徵值 ; 反之若有非瑣碎解, 則 λ 為特徵值, 而 且該非瑣碎解為特徵向量 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 8 / 7
( ) a λ, 處理以下線性系統 ( ) 7 基本列運算 7 x s, s R λ 為特徵值, 而其特徵向量為 [ ] 故 b λ 6, 處理以下線性系統 x λ 76 6 基本列運算 76 x s + t, s, t R 故 λ 6 為特徵值, 而其特徵向量有許多, 上式的 x 都是 題外話 ( 特徵值空間 ) 在例題 6- 的 ( ) λ 6 的特徵向量 b λ 6, 以下向量空間的向量都是 W s x x + t, s, t R 一般我們會以該空間的基底的向量來代表, 如 x, x 我們已經知道, 一個向量空間會有許許多多的基底 現在問題來了, 哪一個基底比 較好呢? 答案很明顯, 就是單模正交基底 以下是將一般基底轉換為單模正交基底 的 Gram-chmidt 程序, 正交步驟 : 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 9 / 7
v x 5 xiv v x v 5 v iv 5 正規化步驟 : w w v 5 v v 5 v 若與 ( a) λ 得到的特徵向量 [ ] x 比較, 我們可以發現, x 也正交於 w w 它的門道在於 A 為對稱矩陣 (symmetric matrix), 我們在下一節會討論 這個課題 找特徵值與特徵向量 方陣 A M 的特徵向量, 為下列線性系統的解 Ax λx 亦即, 特徵向量為下列齊次系統的非瑣碎解 ( λ ) A I x (6-9) 而 (6-9) 有非瑣碎解的條件為 ( λ ) det A I A λi (6-) 其中, 多項式 f ( λ ) det ( Aλ ) 程式 f ( λ) ( λ ) I 稱為 A 的特徵多項式 (characteristic polyomial), 而方 det A I 稱為 A 的特徵方程式 (characteristic equatio) 也就是說,A 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
之特徵方程式的根即為其特徵值 f ( λ) ( λ ) 最多有 個實數根, 所以呢, A 最多有 個特徵值 det A I 為 dim A 階的多項方程式, 找方陣 A 之特徵值 特徵向量的步驟如下 : 步驟一 : 找出特徵值 解特徵方程式 ( ) ( A λi ) f λ det 其實數根, λ, λ,, λk, k, 即為特徵值 步驟二 : 找特徵向量 將步驟一得到的特徵值 λ i, i,, k 分別代入 (6-9): A λi x ( ) 以上齊次系統的非瑣碎解 ( 基底向量 ) 即為 λ i 的特徵向量 若有基底向量數目多於一, 則以 Gram-chmidt 程序找正交基底 例題 6- ( 找特徵值 特徵向量 ) 令 A 解答 試求其特徵值 特徵向量 求解特徵方程式 : λ λ ( λ)( λ) 4 λ λ, λ () 令 λ, 處理以下線性系統 : 基本列運算, x t t R x () 令 λ, 處理以下線性系統 : 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
( ) 基本列運算, ( ) x t t R x 故其特徵值為 λ λ, 特徵向量為 x [ ] [ ] x 例題 6- ( 找特徵值 特徵向量 ) 令 7 A 7 解答 試求其特徵值 特徵向量 求解特徵方程式 : 7λ 6λ 6λ λ 基本列運算 6λ + λ 7λ 7λ 6λ 6λ 6λ 6 λ + λ 基本行運算 6 λ 7λ λ λ,6,6 () 令 λ, 處理以下線性系統 : 7 基本列運算 7 x s, s R 故其特徵向量為 [ ] x () 令 λ 6, 處理以下線性系統 : 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
76 6 基本列運算 76 x s + t, s, t R 因 λ 6 為重根, 有兩個特徵向量是正常的 以 Gram-chmidt 程序將上式的基底轉換為正交基底 : v x xiv v x v v iv 故其特徵向量為 v [ ] [ ] 本題特徵值為 λ λ 6 6 x [ ] [ ] v λ, 其特徵向量分別為 [ ] x x 題外話 ( 有關特徵方程式 A λi 的求解 ) 找特徵值 特徵向量的過程, 求解特徵方程式是必要的 非常令人討厭的步驟 一句箴言 : 不要草率的直接將行列式值乘開! 乘開後, 除了加加減減整理多項式的程序很煩, 容易出錯, 最要命的是配方, 有些時候就是配不出來 筆者建議先用基本列運算 基本行運算, 將行列式中弄一些零元素出來, 這樣作列展開 ( 或行展開 ) 時會清爽許多 例如 λ 列 :() + ( ) λ λ 行 :( ) ( ) λ λ λ λ 若所有根都是有理數, 以上作法可以一路到底, 直接從對角元素看出答案 當然, 如果有無理根或虛根來攪局, 只好打起精神來, 拼配方技巧了 以下是幾個有關特徵值與特徵向量的重要性質 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
定理 6-6 證明 若 A M 為奇異矩陣, 則 λ 為 A 的特徵值 ; 反之亦然 考慮特徵方程式 det ( A λi ), 將 λ 代入, 則為 det ( A ) ; 反之, 由 ( A) 可得 λ 為 ( λ ) det det A I 之一個解 定理 6-7 λ, λ,, λ 為 若 證明 A M 的 個特徵值, 則 det ( ) λ λ λ λ λ λ λ 考慮特徵方程式 ( ) ( )( ) ( ) det ( ) A λ λ λ det A I, 將 λ 代入, 則得到 A λ λ λ 定理 6-8 證明 若 λ 為 A M 之特徵值, 且 det ( A ), 則 λ 為 A 的特徵值 由已知條件 : Ax λx, 兩邊乘上 A : A Ax x λa x A x λ x ( A ) det 告訴我們 A 存在, 且 λ 定理 6-9 λ, λ,, λk 為 A M 之相異特徵值, 則其特徵向量 x, x,, xk 互相獨立 若 證明 令 xk cx+ cx+ + ck xk (6-) c, c,, ck R, 則 其中 Ax c Ax + c Ax + + c Ax k k k λ x cλx + c λ x + + c λ x k k k k k 將該式與 (6-) 的 λ k 倍, 則 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 4 / 7
( λ λ ) ( λ λ ) ( λ λ ) c k x+ c k x + + ck k k xk λ, λ,, λk 互不相等, 故 因 c c c k x 獨立於 { x x x } 即 k,,, k, 我們沒有特意排序, 故 x, x,, xk 互相獨立 題外話 ( 與 ( ) det A 相關的敘述 ) 以下有關 A M 的敘述散在各課題的討論, 雖然涉及不同名詞, 但數學意涵完全一樣 : () A 不是奇異矩陣 (osigular) () Ax 只有瑣碎解 (trivial solutio) () A 與 I 列等價 (row equivalet) (4) Ax b 有唯一解 det A (5) ( ) (6) rak A (7) ullity A (8) A 的列向量線性獨立 (9) A 的行向量線性獨立 () A 的特徵值不為零, λ 6.5 矩陣對角化 本節對一個特殊矩陣有興趣 : 對角矩陣 就特徵值與特徵向量的觀點, 對角矩陣非常優秀 : 其對角元素就是特徵值 : λ i aii, i,,, 而特徵向量就是自然基底向量 : e i, e i 為單位矩陣 I 的第 i 行向量, i,, 例題 6-4 ( 對角矩陣的特徵值 特徵向量 ) 令 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 5 / 7
A 4 試求其特徵值 特徵向量 解答 求解特徵方程式 : λ ( )( )( ) 4 λ λ 4λ λ λ λ, 4, () 令 λ, 處理以下線性系統 : 4 基本列運算 x s, s R 故其特徵向量為 [ ] x e 其它特徵向量分別為 : x e [ ] [ ] x e 以下討論的定義 性質只有一個目的 : 將一般矩陣與對角矩陣搭上線, 好利用對角 矩陣一眼就可以看出特徵值與特徵向量的好特性 定義 ( 相似矩陣 ) 矩陣 AB, M, 若存在非奇異矩陣 P, 使得 B P AP 則稱 A B 為相似矩陣 (similar matrix) 定義 ( 可對角化矩陣 ) 若矩陣 A M 與對角矩陣相似, 則稱 A 為可對角化 (diagoalizable) 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 6 / 7
例題 6-5 ( 驗證相似矩陣 ) 令 A,, B P 解答 試驗證 A B 為相似矩陣 驗算這些矩陣 P AP A PB 我們有 PB AP B P AP 故 A B 相似 且 A 為可對角化矩陣 定理 6- 若 AB, M, 且存在非奇異矩陣 P M 使得 B P AP, 則 A B 有相同的特 徵值, 而且 證明 xb P x A, 其中 A x x B 分別為 A B 之特徵向量 若已知 λ x A 為 A 之特徵值 特徵向量, 即 Ax A λx A 等號兩邊同乘 P, 並令 P x y, 即 x A Py, 則 A A A Ax λx P APy λp Py By λy 故知 λ 也是 B 之特徵值, 且其特徵向量 x y P x 倒過來, 若已知 λ x B 為 B 之特徵值 特徵向量, 則 B A B λ B B λ B B B λ B Bx x P APx x PP APx APx Px 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 7 / 7
故知 λ 也是 A 之特徵值, 且其特徵向量 xa Px B 例題 6-6 ( 驗證相似矩陣的特徵值 特徵向量 ) 令 A,, B P 因 B P AP, 故知 A B 為相似矩陣 試驗證 A B 特徵值 特徵向量之關係 解答 我們已於例題 6- 找出 A 的特徵值與特徵向量 :,, x, λ A A B 是對角矩陣, 其的特徵值與特徵向量可目視而得 :,, x, λ B B 驗證 xa Px B, B x P x : A P PXB A X P XA X B 這驗證了定理 6- 介紹相似矩陣特徵向量的關係 定理 6- ( 將矩陣對角化的方法 ) 若 A M 為可對角化矩陣, 則 A 有 個相互獨立的特徵向量, 反之亦然 也就是說, 若 A 為可對角化, 則以下等式成立 P AP D 其中,P 之行向量為由 A 之特徵向量,D 為由 A 之特徵值為對角元素的對角矩陣 證明 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 8 / 7
( 若的部分 ) 若 ( P ) det, 使得 A M 為可對角化矩陣, 則存在 P [ p p p ],,,, P AP D AP PD DP (6-) 其中, i, i,, p 為 P 之第 i 行向量, ( a a a ) 可以 P 之各行拆開為 個等式 D 為對角矩陣 (6-) diag,,, Ap a p Ap Ap a a p p 此證明 a, a,, a 為 A 之特徵值, p, p,, p 故 { p p p },,, 獨立 為 A 之特徵向量, 又 ( ) ( 唯若的部分 ) 令 P [ x x x ], ( λ λ λ ) x, x,, x,,, D diag,,,, 其中, 分別為 A 之特徵值 特徵向量 因 { x x x } 獨立故 ( P ),,, det P, λ, λ,, λ, det, 則 AP PD DP P AP D 故 A 為可對角化矩陣 例題 6-7 ( 驗證可對角化矩陣 ) 令 A 5 4 解答 試驗證 A 為可對角化矩陣 求解特徵方程式 : λ λ 6, 5 4 λ () 令 λ 6, 處理以下線性系統 : 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 9 / 7
6 5 基本列運算 5, 5 4 6 x s s R () 令 λ, 處理以下線性系統 : ( ) 基本列運算, 5 4 ( ) x s s R 得到 5 5 P, P 5 因 A 有 個獨立特徵向量, 故 A 為可對角化矩陣 其實, dim A, 且找到 個 相異實數特徵值, 就可以下 A 為可對角化矩陣的結論 題外話 ( 相似矩陣中 P 的前後位置 ) 在相似矩陣的定義 定理 6- 以及定理 6- 中, 同學會頭痛 : 到底應該是 P 擺前面, 還是 P 擺前面? 以下是筆者學生時代 發展的記憶法, 滿管用的 記住 P x 特徵向量 以及 D λ 特徵值, 然後回憶以下兩個式子 : Ax λx AP DP 並隨時提醒自己 特徵向量 x 擺在 A 的後面, 這就夠了 以下是真正要記的公式 AP PD DP P AP D A PDP 題外話 ( 可對角化矩陣之超越函數 ) 矩陣的可對角化性質可以豐富矩陣運算 : 從四 則運算擴展到指數 對數 與三角函數等超越函數的運算 所有的這些故事根源於兩個地方 :() 對角矩陣的 次方很容易求得,() 泰勒展開式 diag a, a,, a M 為對角矩陣, 很容易可以驗證, 其 k R次方為 令 D ( ) 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
( a a a ) k k k D diag,,, 另外, 以下是我們會用到的泰勒展開式 (aylor expasio): x e + x+ x + x +!! 5 7 si x x x + x x +! 5! 7! 若 A M 為可對角化矩陣, 即存在對角矩陣 D diag ( λ, λ,, λ ) 與非奇異矩陣 P 與, 使得 A PDP 則 ( λ λ λ ) ( λ λ ) k k k k k A PD P Pdiag,,, P A D e Pe P Pdiag e, e,, e λ P ( ) ( ) λ λ λ λi l A P l D P Pdiag l,l,,l P, >,,, ( ) ( λ λ λ ) si A P si D P Pdiag si,si,,si P 同學可以自行練習以上各式的詳細推導 基本原則是, 所有對 A 的運算都會直接 反應到 D 上 ( 與 P P 無關 ), 而對 D 的運算就直接寫在對角元素上即可 例題 6-8 ( 可對角化矩陣之超越函數 ) 令 A 5 4 k 試求 () A ;() e A 解答 求得 A 之特徵值與特徵向量 : λ 6,, x, 5 即 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
6 D,, P 5 P 7 5 () A k k 6 k k k 5 A PD P 6 k 7 5 + ( ) 5 7 5 5 7 5 ( ) k () e A A D e Pe P e + e 7 5 e 5 7 5 5 7 5 6 e 6 5 題外話 ( 有關 PDP 的計算 ) 在矩陣對角化的課題裡, 我們常常需要作 PDP 型式 的計算, 過程有點煩 以下提供一個徒手計算時比較不會犯錯的方法 假設我們要算出 PDQ 的結果, 其中, P p ij Q q ij D diag ( λ, λ,, λ ), 我們可以將整個結果寫成 項 ( 每個 λ i 一項 ) 之和 : pi p pi i 第 i 項 : λ [ q q q ] i i i i 例如 6 e 6 5 e e 5 5 + 5 e e 5 5 + 5 [ ] e [ 5 ] 6 6 6 e + 5e e e 6 6 5e 5e 5e + e 多算幾次就可以掌握這是怎麼一回事了 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
對稱矩陣的對角化 有關矩陣對角化課題上, 對稱矩陣 (symmetric matrix) 有一些非常管用的特性 :() 對稱矩陣的特徵方程式全部是實數跟,() 對稱矩陣一定為可對角矩陣,() 對稱矩陣可 以找到正交特徵向量,(4) 對稱矩陣的 P P 就計算的觀點, 第 (4) 點最帥 題外話 ( 對稱矩陣 ) 還是囉唆一點, 複習一下對稱矩陣, 免得有人快到終點站前, 才搔頭 不好意思地問 : 什麼是對稱矩陣? 矩陣 A M, 若 A A, 則稱 A 為對稱矩陣 (symmetric matrix) 以下都是對稱矩陣 : 4 7 A,, 5, 4 I D B 7 5 對任何矩陣 M, 與 都是對稱矩陣 證明如下 : m ( ) ( ), ( ) ( ) 例如, 4 4 6,, 4 6 9 [ ] [ ] [ ] 記得這個箴言 : 對稱矩陣與轉置有關! 定理 6- 若 A 為對稱矩陣, 則其特徵方程式, f ( λ) ( λ ) det A I, 只有實數根 定理 6- 若 A 為對稱矩陣, 則 A 為可對角化矩陣 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 / 7
定理 6-4 ( 特徵向量正交 ) 若 A 為對稱矩陣, 則其相異特徵值之特徵向量互相正交 證明 首先, 需瞭解以下算式成立 Axiy y Ax x A y xi A y 令 ( λ, x ) (, ) λ x 為 A 之兩個特徵值 特徵向量, 且 λ λ, 即以下兩式成立 Ax λ x, Ax λ x 則 ( x ix ) ( x ) ix ( Ax ) ix x i( A x ) x i( Ax ) x i( x ) ( x i x ) λ λ λ λ ( λ λ )( x i x ) λ λ, 故 xi x, 即該兩特徵向量正交 因 題外話 ( 正交向量的好處 ) 若 { x, x,, x } [ ] P x x x R 正交, 令 則 ( ) P P x i x diag x i x, x i x,, x i x i j x, x,, x 也都是正規化後的向量, 即 xi xii xi, i,,, 則 若 ( ) P P x i x diag x i x, x i x,, x i x I i j 也就是說, 若 { x, x,, x } R 為單模正交基底, 則 P P 定義 ( 正交矩陣 ) 矩陣 A M, 若 A A, 則稱 A 為正交矩陣 (orthogoal matrix) 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 4 / 7
定義 ( 可正交對角化矩陣 ) 矩陣 A M, 若存在正交矩陣 P 與對角矩陣 D, 使得 P AP D, 則稱 A 為可正 交對角化矩陣 (orthogoally diagoalizable) 定理 6-5 ( 對稱矩陣為可正交對角化矩陣 ) 若 A 為對稱矩陣, 則其為可正交對角化矩陣, 反之亦然 證明 ( 唯若的部分 ) 若 A 為可正交對角化矩陣, 則存在正交矩陣 P 與對角矩陣 D, 使 ( ) ( ) P AP D A PDP PDP PDP PDP A 得證 A 為對稱矩陣 例題 6-9 ( 驗證對稱矩陣為可正交對角化 ) 令 7 A 7 試驗證 A 可正交對角化矩陣 解答 () 找 A 之特徵值求解特徵方程式 : 7λ 6λ 6λ λ 基本列運算 6λ + λ 7λ 7λ 6λ 6λ 6λ 6 λ + λ 基本行運算 6 λ 7λ λ λ,6,6 () 找正交特徵向量 令 λ, 處理以下線性系統 : 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 5 / 7
7 基本列運算 7 x s, s R 故其特徵向量為 [ ] x 令 λ 6, 處理以下線性系統 : 76 6 基本列運算 76 x s + t, s, t R 因 λ 6 為重根, 有兩個特徵向量是正常的 以 Gram-chmidt 程序將上式的基底轉換為正交基底 : v x xiv v x v v iv 故其特徵向量為 v [ ] [ ] () 將特徵向量正規劃 v ( ) ( ) x,, i,, 6 ( ) ( ) v,, i,, ( ) ( ) v,, i,, 得到 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 6 / 7
6 6 6 6 P, D 6, 6 P 6 6 驗證 6 6 6 6 P P 6 6 6 6 6 7 6 P AP 6 6 7 6 6 9 陳欣得 ( 線性代數 ) 6 線性轉換與特徵值問題 7 / 7