Ch. 1. 什麼是人工智慧

Size: px

Start display at page:

Download "Ch. 1. 什麼是人工智慧"

哉唯解
4 years ago
Views:

1 深度學習基礎 Foundations of Deep Learning -- 卷積神經網路 Convolutional Neural Network; CNN 授課教師 : 陳士杰國立聯合大學資訊管理學系

2 Outlines Why CNN for image processing? CNN 的層級架構 CNN 的相關應用國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 2

3 Why CNN for image processing? 傳統淺層神經網路皆屬於全連接網路 (Fully Connected Networks) 所有的輸入項目皆與隱藏層所有節點連接, 而所有隱藏層節點皆與輸出層所有節點連接讓每個隱藏層節點能擷取到所有輸入項目的資料特徵, 即 Feature Extraction 每個節點學習到的資料特徵可能不盡完善, 但是當所有節點放在一起執行時, 就能得到不錯的執行結果國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 3

4 Fully Connected Network 若應用於圖形或手寫辨識, 主要的問題是其待訓練參數量將非常可觀討論 1 Fully Connected NN 每個節點需連結所有 Pixels Fully Connected NN 第一隱藏層的所有節點, 均需與整張圖的 pixels 做連結, 以獲得圖形的特徵 (28 28) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 4

5 以一張具百萬像素的 image 來說 : ImageNet 提供種物品的 1500 萬張照片, 至今仍不斷擴展中國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 5

6 思考如果只讓 NN 中的一個節點, 辨認圖形當中的某一個 Pattern, 這樣就不用讓一個節點去連結整張圖了鳥嘴偵測每個節點僅需以較少的參數, 連結部份區域所有節點的偵測結果合併起來後, 就可以得知圖片中是否有一隻鳥鳥尾偵測羽毛偵測鳥爪偵測國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 6

7 討論 2 同樣的 Pattern 在圖片中, 可能會位於不同位置不同位置的相同 Pattern,Fully Connected NN 可能會以不同節點的不同參數組合來表示上方鳥嘴偵測中間鳥嘴偵測思考相同的 Pattern 在圖片的不同位置, 所代表的還是相同的事物, 所以理應共享相同的節點, 或是讓這些節點共用同一組參數組合, 以減少要使用之參數量國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 7

8 討論 3 圖像的 Pixels 縮減透過 Subsampling 可以減少圖像的 Pixels, 同時也可讓 image 看起來很類似 Subsampling 思考透過 Subsampling 減少圖像的 Pixels, 使各節點需要使用之參數量得以減少國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 8

9 CNN 的概念 CNN 的運作概念如下 : Bird Cat Dog Repeat many times ( 需事先確定 ) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 9

10 CNN 的設計概念如下 : 連結某一 Pattern 所需的參數量, 比連結整張圖要少很多相同的 Pattern 在圖片的不同位置, 所代表的還是相同的事物透過 Subsampling 減少圖像的 Pixels, 也不會改變圖像內的 Object Repeat many times ( 需事先確定 ) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 10

11 CNN 層級架構的各項功能 Bird Cat Dog Repeat many times ( 需事先確定 ) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 11

12 Convolution 假設有一個 6 6 的 image NN 中需學習的參數 Property 1 每個 Filter 用以偵測小範圍的 Pattern 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 12

13 Filter 的類型 : Input image Generic Filters ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 13

14 接著, 各 Filter 對原 image 做掃描, 由左上到右下本範例 Stride( 位移量 ) 設為 1 內積計算 [1*1+0*(-1)+0*(-1)+0*(-1)+1*1+ 0*(-1)+0*(-1)+ 0*(-1)+1*1] =3 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 14

15 經上述的掃描, 可得知該 Filter 欲找尋的 Pattern 是在 image 的哪個位置上 Property 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 15

16 其餘的 Filters 依相同程序, 對原 image 做掃描 (Stride=1) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 16

17 = = 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 17

18 ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 18

19 Filter 移動的距離就是位移量 (Stride) Stride 的設置通常是一個整數而非分數 Filter 移動距離愈大 (Stride 愈大 ),Feature Map 的節點數會愈少, 節點重疊訊息也愈少 Output size at different stride Stride = 1 Stride = 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 19

20 問題 : 每經過一次 Filter 掃描, 得到的特徵圖 (Feature Map) 就會小一些, 要是多經過幾次, 是否最後什麼重要特徵都不見了? 思考點可否讓經過 Convolution 後的 Feature Map 大小, 盡可能與原 image 一致? Stride 若設定不當, 可能會使 Filter 無法順利掃描完整的 image Image:6 6; Filter: 3 3; Stride = 2 思考點可否提升邊緣訊息的可參考程度? Image 最邊緣像素只會被掃描一次, 而 image 中間的像素則會被掃描多次, 等同於降低了邊緣訊息的參考程度國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 20?

21 Padding ( 填充 ): 在原始 image 週邊填充 1 至數圈的數值 Zero Padding: 在原始 image 週邊填充 0 Repetition: 在原始 image 週邊填充重覆的邊界值國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 21

22 令 p 為圈數, 則原本計算 Output size 的公式變成 : N F stride 1 N p 2 F stride 1 為什麼是 p 2 呢? 因為若加了一圈之後, 兩側都加了 1 範例 : 假設 image 的 size 為 N N, 若希望經 Filter 掃描後, 所得到的 Feature Map Size (Output size) 仍為 N N, 則需要做幾圈的 Padding? N p 2 F 1 N stride ( N 1) stride F N p 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 22

23 前述範例為黑白 image, 若處理的 image 是彩色的呢? 由於彩色 image 是由 RGB 三原色組成, 故表示 Original image 的 Matrix 有三層此時每個 Filter 也是立方體, 與 Original image 的三層資料同時做內積運算國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 23

24 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 24

25 RGB 層國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 25

26 Stride = 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 26

27 Stride = 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 27

28 Stride = 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 28

29 Stride = 2 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 29

30 Convolution v.s. Fully Connected 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 30

31 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 31

32 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 32

33 How to train? 以 Gradient Descent 去訓練 Activation Function 由於不同的節點, 其權重是共享的故每個節點在調整權重時, 可將各節點之共享權重的變化量求平均, 然後依平均值做等量的權重調整 Filter 每次與部份 image 像素做完內積後將結果存入 Feature Map 前, 通常還會經過 Activation Function 的計算建議依序嘗試採用 ReLU Leaky ReLU 或 Maxout 不要用 Sigmoid Function 不要用 Sigmoid Function 不要用 Sigmoid Function Activation Function 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 33

34 ReLU 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 34

35 Pooling 對 Convolution 的結果拆分成多個 2 2 的區域進行壓縮 (Subsampling), 以減少參數的量 Pooling 作法有數種, 在此以 Max Pooling 為例 Property 3 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 35

36 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 36

37 New image size 比 Original image 小 New image 的層數 = Filter 的個數國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 37

38 Flatten 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 38

39 CNN 所學到的東西, 和人類所想像的是一樣的嗎? We input: We hope: We get: Deep Neural Networks are Easily Fooled 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 39

40 ( Ian J. Goodfellow et al., (2014) Generative Adversarial Nets ( 生成式對抗網路 ) 兩部分組成 : 生成器 (generator), 辨別器 (discriminator) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 40

41 小結不同 Filter 所建構出來的國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 41

42 ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 42

43 ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 43

44 CNN 的相關應用 Deep Style Deep Dream Playing Go 文字處理 Visual-Semantic Alignments 其它 CNN 模型國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 44

45 Deep Style 將照片轉換成特定的繪畫風格 + ( = + = + = 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 45

46 A Neural Algorithm of Artistic Style 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 46

47 Deep Dream Given a photo, machine adds what it sees ( Deep Dream 來襲世界萬物都可畫成超現實樣貌 ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 47

48 Playing Go Image 19 x 19 matrix Next move (19 x 19 positions) 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 48

49 Training: 黑 : 5 之五白 : 天元黑 : 5 之五國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 49

50 為何 CNN 適合用於 Play Go? 連結某一 Pattern 所需參數量, 比連結整張圖要少很多相同的 Pattern 在圖片的不同位置, 所代表的還是相同的事物國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 50

51 透過 Subsampling 減少圖像的 Pixels, 也不會改變圖像內的 Object 與圍棋真實情況不符?! ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 51

文字處理 Source of image: http://citeseerx.ist.psu.

52 文字處理 Source of image: d?doi= &rep=rep1&type=pdf 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 52

53 Visual-Semantic Alignments ( 視覺 - 語義結合 ) ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 53

其它 CNN 模型 LeNet 最早用於手寫數字識別的 CNN (http://blog.csdn.

54 其它 CNN 模型 LeNet 最早用於手寫數字識別的 CNN ( 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 54

55 AlexNet 2012 ILSVRC 比賽冠軍錯誤率 16.4%, 當年度第二名的錯誤率為 26.1% 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 55

56 ZF Net 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 56

57 VGG 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 57

58 GoogleNet 2014 ILSVRC 比賽冠軍捨棄 Fully Connected Layer 錯誤率 6.7% 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 58

59 Deep Residual Net 國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 59

致謝感謝台大電機所李宏毅教授 (http://speech.ee.ntu.edu.tw/~tlkagk/courses.

60 致謝感謝台大電機所李宏毅教授 ( 提供機器學習授課講義, 並同意本講義引用其相關內容國立聯合大學資訊管理學系機器學習課程 ( 陳士杰 ) 60

穨japhkesch.PDF

穨japhkesch.PDF : 1.1? : : ( ) : What?,,,.. -->p.44-45 Why? : 1.2 : : ( ) : -->p.94-95 -->p.44-45 -->p.158-162 : ( ) : (1995) : : ( 1) ( 2) ( 3) ( 4) ( 5) ( 1) -1994 - - ( 2) - -, -, - ( 3) -1938 9