親愛的同學 大家好 我是桑慧敏 現在講第三個單元 人工智慧的分類器 期望能夠輕鬆學會三個分類器 SDM ANN與CNN 我們要分辨輕光眼 也就是要分類有輕光眼或沒有輕光眼 所以首先我們來學人工智慧分類的方法 在這次演講中 我只會講前三種方法 SVM ANN與CNN 這張圖是人工智慧分類器的進展 今天只談前面三種分類器 首先講SVM SVM是Support Vectors Machine的縮寫 這兩張圖中有紅點與藍點兩類的資料

現在有兩個問題 請教各位如何給上述的紅點與藍點命名 第二個問題 如何選擇上圖中的黑線 去分類紅點與藍點呢 這個黑線在高維度的空間是一個超平面 Separating Hyperplane 我們稱這些紅點與藍點為向量Vectors 這些向量中支持我們得到紅色虛線與藍色虛線 就稱為支持向量Support Vectors 紅色與藍色的虛線是平行的 這兩條虛線又稱為Support Hyperplanes 以圖B為例 當我們得到兩條平行的虛線之後 我們就在紅色虛線與藍色虛線的中間 找一條黑色的線 就是右下角圖D中的黑線 稱為Separating Hyperplane

將紅點與藍點分開 圖A與圖B都可以找到Separating Hyperplane 但是我們選擇圖B 因為圖B中這兩條虛線的距離比較大 回到我們原來問的問題 我們將這些點稱為向量Vectors 在這兩條線中 我們認為右邊這條黑線作為Separating Hyperplane 區隔的超平面是比較適當的 Support Vector Machine是支持向量機制 這個Machine翻成機制 現在我們考慮這種情況 紅點在中間 藍點在旁邊 根本不可能用一條線來分開這兩類的資料 從二維升為到三維度以後 你可以看到我們就可以用一個平面 將這兩種顏色的點分開了 這個是一個便利商店7-11的提袋 放關東煮的提袋 這個便利商店7-11的提袋 可以讓我們輕鬆學會SVM升維

以至於有效分類的精神 講完SVM 我們來講另外一種分類的方法 稱為ANN 就是大家耳熟能詳的類神經網路 Artificial Neural Network的縮寫 我用三思而後行來表示ANN的精神 這個圖形是ANN的架構 第一層稱為輸入層 是我們要給定的資料 第二層是我們要給定的資料 最後一層是輸出層 是我們要判定有清光眼或沒有清光眼 中間都是我們加入的隱藏層 這個C圖中有三個隱藏層 就好像我們想了一次 再想一次 又想一次 想了三次 表示想的深度很夠 所以類神經網路ANN 與等一下要講的捲肌類神經網路CNN

都可以稱為深度學習的方法 深度學習 我在這一兩年的讀書會名稱就定為 古人云三思而後行 今人云深度學習 同學認為 以三思而後行來比喻深度學習 適當嗎 我認為用常識或普羅大眾都熟悉的生活經驗 來描述新的知識 可以讓人輕鬆學會又終生牢記 隱藏層中的每一個圈圈裡面的值 都是前一層的函數 例如這個圖形中的H 是前一層 X1,X2,X3 與權重 W1,W2,W3 還有常數項B的函數 這個圖中間有一個等式 等式的右邊是F一個括號

大家可以看到這個括號裡面是 W1,X1 加W2,X2 加W3,X3,加B 這是一個線性的函數 為了要使線性的函數更有彈性 成為非線性的函數 所以才經過F的轉換 非線性函數有很多的選擇 在這一頁中的右上方 我們列出一個簡單的非線性函數 英文是Rectified Linear Unit 簡稱ReLU 當X軸是正的時候 Y軸維持不變 當X軸是負的時候 Y軸就選擇零 從右上方的圖形可以看出來 這個ReLU函數是兩個線段所組成的 所以稱為線段的整合 Rectified Linear Unit 所以每一層都經過線性函數

再經過ReLU函數的轉換 用同樣的邏輯去計算隱藏層中的每一個H值 剛才從輸入層Input 經過隱藏層再到最後的輸出層 這樣子的方式稱為正向傳播 到了最後一層我們必須要計算 我們判定出來的結果 跟真實的結果之間的誤差 如果這個誤差很大 就表示這個權重不是最適當的 所以我們必須要有一個機制 再回去修正這些權重 這種權重的機制我們稱為反向傳播 其中反向傳播需要用到的數學邏輯是微分 我想高中學生可能還沒有學過微分 所以就暫時不在這邊詳細說明 可能同學常聽人家說 人工智慧有自我學習的功能 所謂自我學習就是他能夠回去修正這個權重

請同學留意 正向傳播與反向傳播中的所有邏輯 都是人寫出來的 電腦只是執行人寫的邏輯而已 電腦只是跑腿而已 現在我們讓ANN來辨識一張圖像 如果我們給定一張照片 這是我的照片 用剛才類神經ANN的邏輯 如何辨識這張相片呢 每一個灰階的相片都介在0與255之間 0代表全黑 255代表全白 所以這張圖中的相片 你可以看到0到255的數字 這些數字稱為像素值 把這些矩陣中的像素拉成一個vector 放到剛才類神經網路中 當成輸入程 用訓練級的資料來訓練 可以得到一個訓練的模型 因為戴了眼鏡 眼睛部分的像素值

就跟沒有戴眼鏡的時候的像素值不一樣了 所以如果訓練級的資料 是我沒有戴眼鏡的相片 那要測試我戴眼鏡的相片 是不是尚未明 使用ANN類神經網路的邏輯 會是失敗的 基於ANN的邏輯來判辨圖像 不是很準確 所以我們產生要改善ANN的動機 所以接著我們要講第三種分類的模型 稱為CNN CNN是Convolutional Neural Network的縮寫 中文是捲機神經網路 請同學想一想你是怎麼辨認人呢 從隔壁鄰居小孩說起 隔壁鄰居的小孩只有三歲 看到我戴了眼鏡 還是能夠很快的認出我是尚未明 他是怎麼做到的呢

他一定不是從一張像素的像素點去辨認 而是用人的特徵 眼睛嘴巴眉毛嘴角的特徵 現在如果用一個人像的特徵當成輸入值 數學上要如何進行呢 這是一個重要的問題 聽起來也好像是一個困難的問題 但結果證實用數學上所謂的 捲機Convolution就可以辦得到 假設一張人像的像素值 可以用左下方這個8x8的矩陣來表示 裡面都是像素值 我們再找一個W矩陣是3x3 當然你也可以找其他例如5x5 然後將左下方這個8x8的矩陣中 從左上方開始找一個3x3的紅色矩陣 與W相乘 相同的位置相乘然後相加 如2x0 加5x0

加5x1 直到加1x2 等於35 再把這個紅色的位置往右移一格 再把這個3x3的紅色矩陣 與W矩陣相乘 以此類推直到右下方這個 3x3的紅色矩陣與W矩陣相乘 所以從原始的相片有8x8的矩陣 變成一個6x6的矩陣 我們稱這個6x6的矩陣 是左邊這個相片的一個特徵矩陣 我們可以持續做捲機的運算 也持續尋找W裡面的最佳值 這個W矩陣稱為filter或是kernel CNN就是使用了convolution的邏輯 再搭配類神經網路ANN 可以看這張圖 這張圖的步驟 5.1、5.2、5.3、5.4 是做了4次的捲機

還有配合其他的一些轉換 暫時在這邊不講 Step 6就是將前面 Step 5.4最後的捲機矩陣 拉成一個向量 這個例子中這個向量 裡面有480個值 Step 7是前面講過的 類神經網路ANN 詳細的邏輯可以看這張圖 步驟8 Step 8 放在這個圖的最上方 從右邊一直反向傳播 到最左邊的第一次convolution 目的是修正kernel或是filter 這個matrix中的值 還有ANN中的所有權重 CNN的邏輯就講到這裡 最後我們來做一個小練習 請將下面三個人工智慧的方法 與其相對應的圖形連連看

這個圖形是指什麼方法呢 對了是ANN 那這個圖形呢 對了是SVN 這個圖形呢 是Convolutional Neural Network CNN 大家都答對了嗎 簡單說明了人工智慧 用的三種分類的方法 SVN ANN與CNN 休息一下