今天開始我的 AI 人工智慧冒險之旅

我的AI人工智慧冒險之旅應數系炎龍老師的 2019 政大新生焦點工作坊政大新生書院今天開始

!2 課程講義 http://bit.ly/2019nccuAI

!3 吳恩達 (Andrew Ng) AI for Everyone AI 大師深信人人都可以做 AI
蔡炎龍人人都可參一咖的人工智慧 Coursera 課程

!4 美國爾灣加州大學數學博士政大應數系老師政大新生書院總導師、數理資訊社指導老師人工智慧學校講師、鴻海《人工智慧導論》前兩章主筆政大數理資訊學程召集人, 推廣 Python
超過十年關於我

!5 高中寫遊戲程式出版。

!6 碩士班就是研究神經網路的。

!7 業界、學校面對技術型與一般大眾多次人工智慧分享。

!8 【珊蒂微AI】專訪

!9 鴻海《人工智慧導論》 (給高中生的 AI 補充教材) 前兩章主筆。

!10 AI 不過就是問個好問題 AI 核心技術—神經網路的原理設計思考, 創意解決問題怎麼在政大實現你的 AI 夢想
大綱

1 AI 不過就是問個好問題 !11

!12 很多人說人工智慧會取代我們

!13 有些事的確在發生、或會發生⾃動駕駛近 100% 機會會實現無人駕駛協助醫生診斷無人商店協助音樂創作 
Alex da Kid “Not Easy” 自動交易

!14 哆啦a夢不過我們還有 93 年的時間 2112 年 9 月 3
日近期內不可能

!15 今天的解說之後, 你會發現 AI 其實沒那麼神祕, 甚至可能有點失望它好像不那麼萬能...

!16 問題化為函數 f 然後用深度學習找到這個函數

!17 函數其實是一個解答本所有的問題, 都有一個答案

!18 在野外看到一隻動物, 我想知道是什麼?

!19 想成函數就是 f “台灣黑熊” 輸入一張動物的照片, 輸出就是這是什麼動物

!20 問題答案台灣黑熊蟒蛇我們有部份解答

!21 問題答案台灣黑熊蟒蛇但我們還沒碰過的情況可能有無限多題 ?

!22 f 我們打造一個「函數學習機」, 把這個函數學起來! (方法是不斷做「考古題」)

!23 f 成功的話, 沒看過的也可以合理推論出來! (所以叫「人工智慧」) “台灣黑熊”

!24 人工智慧中要打造的函數學習機叫「神經網路」!

!25 深度學習 (神經網路)   三大天王標準 NN CNN RNN

!26 我們先問一個問題 1 在野外看到一隻動物, 我想知道是什麼?

!27 f 台灣黑熊 2 化成函數的形式

!28 注意輸入輸出都要是固定長像的數字 (矩陣, tensor 等等)

!29 G R B 數位相片本來就是一堆數字

!30 輸出不是數字, 我們就給一個數字! 台灣黑熊豬蠎蛇 1 2 3

!31 台灣黑熊豬蠎蛇 1 2 3 [ 1 0
0 ] [ 0 1 0 ] [ 0 0 1 ] 我們常把它做成 one-hot encoding

( , "台灣黑熊") ( , "蠎蛇") , , ... x
k+1 , y k+1 x k , y k x1 , y1 x n , y n 訓練資料測試資料 3 準備歷史資料

!33 要注意是否有夠多 (常常是上萬筆) 歷史資料。

!34 還要注意資料是否在合理的努力下可取得。

വᏐላ शػ !35 不管我們用了什麼阿貓阿狗法, 打造了一台函數學習機。就會有一堆參數要調。完成! {wi
, bj } θ 4 打造我們的神經網路

!36 決定好這些參數的值, 就會出現一個函數。 fθ 白話文就是, 「這個神經網路可以動了」...

!37 fθ “台灣藍鵲” 只是, 很有可能發生... 唬爛也要有個限度, 這該怎麼辦呢?

!38 我們會定義個 loss function, 看看我們的神經網路考考古題的時候, 和正確答案差多少? fθ 5 學習

!39 目標是找到一組 θ* 這組參數代入 loss function L(θ*) 值是最小的 (也就是誤差最小)。

!40 基本上就是用 gradient descent 因神經網路的特性, 叫 backpropagation

!41 f 成功的話, 沒看過的也可以合理推論出來! (所以叫「人工智慧」) 台灣黑熊 CNN

!42 問問題的各種可能

!43 我想知道某支股票某個有開盤的日子的收盤價。

!44 f 日期 x 某股票 x 當天的收盤價　不合理的是, 日期這個資訊太少,
不太能推出收盤價...

!45 f NN, CNN, RNN 用前 1 週的情況預測下一期。

!46 我想知道某位 MLB 選手 2019 球季可以打幾隻全壘打?

!47 第 t-1 年資料    [Age, G, PA, AB, R,
H, 2B, 3B, HR, RBI, SB, BB, SO, OPS+, TB] 15 個 features! f 第 t 年全壘打數 RNN 結果不準!

!48 不要猜精確數目, 猜區間即可! 分五段: 0-9, 10-19, 20-29, 30-39, 40+

!49 Mike Trout (LAA) 預測 30-39 實際 33 Mookie Betts
(BOS) 預測 20-29 實際 24 Jose Altuve (HOU) 預測 20-29 實際 24 Kris Bryant (CHC) 預測 30-39 (第⼆⾼ 20-29) 實際 29 Daniel Murphy (WSH) 預測 20-29 實際 23 Corey Seager (LAD) 預測 20-29 實際 22 2017 預測結果 (2017 年 6 月預測) !49

!50 我想知道病人有沒有感染某種流感病毒?

!51 f CNN 有 or 沒有看我有沒
有在裡面? !51

!52 我喜歡的字型有缺字, 我想要這個字!

!53 f 字型A 字型B 字型 A 有完整字型, 字型 B 有缺字。

!54 對話機器人【事件篇】

!55 f 客戶說的話客服機器人回應這樣會有問題!

!56 f 目前的字下一個字

!57 注意這樣的模式, 每次輸入和輸出都不是固定的長度! 字1 字2 回1 EOS 回1 回2 回k
EOS

!58 我想讓電腦和我一樣會創作。

!59 f 一段音樂 ??? 到底是要輸入什麼呢?

!60 G 一小段曲子靈感 D 一小段曲子像 or 不像首曲子
這就是所謂的生成對抗網路 (GAN)! 結果是做了兩個神經網路

!61 這攏係假ㄟ啦 (1024x1024 明星照) (2018 NVIDIA 團隊) GAN 的另一個應用

!62 我想讓 AI 自己玩遊戲。

!63 π 最好的動作這樣做通常不行! どうして?

!64 我那麼會我就世界冠軍了啊!

!65 Q CNN + NN + 這就是強化學習 (reinforcement learning) 嚴格來說,
是強化學習中的 Q-Learning。直接學哪個動作最好不容易。於是我們學習給每個動作「評分」, 通常是計算做了這個動作後「得分的期望值」。

!66 Montezuma s Revenge StarCraft (星海爭霸) II Quake (雷神之鎚 )
III Arena Capture the Flag 2019 AI 重大突破! 以前玩不好的, 再繼續玩...

!67 我想把文字編碼, 於是電腦可以處理。

!68 f 一個詞這個詞的編碼這個人的個性有點天天。我天天都會喝一杯咖啡。傳統的 word embedding 可是一個字、一個
詞, 在不同的地方可能有不一樣的意思。

!69 f 一個語意這個語意的編碼這要怎麼做啊?

!70 ELMO BERT 結果很多和芝麻街角色有關。這裡的技巧超過今天的範圍, 不過有興趣的可以查一下這兩位芝麻街角色。    尤其是 BERT, 到底怎麼問問題的呢?

!71 你的第一個函數任務 01

2 AI 核心技術— 神經網路 !72

!73 現代 AI 主軸是深度學習

!74 深度學習的核心是神經網路

記得我們就是要學個函數 !75 f x1 x2 xn y1 y2 ym

!76 函數學習三部曲真實世界我們要問的問題化做函數。收集我們知道「正確答案」的訓練資料。找出這個函數!

暗黑學習法真的有學任意函數的技法 !77

就是「神經網路」! !78

在 1980-1990 左右是很潮的東西 !79

厲害的是神經網路什麼都學得會! 而且你完全不用告訴它函數應該長什麼樣子: 線性啦、二次多項式啦等等。 !80

!81 Hidden Layer Output Layer Input Layer 暗黑魔法

!82 然後它就死掉了...

!83 複雜的軟體電腦計算能⼒⼤量的數據 Yann LeCun 說主要是因為神經網路要成功, 需要的三大要件當時不具足。

!84 直到...

!85 Human-level control through deep reinforcement learning ” “ DeepMind
2015-2-26 Deep Q- Learning letter 玩電動上《Nature》!

!86 Deep Learning” “ LeCun-Bengio-Hinton 2015-5-28 http://bit.ly/ai_history 介紹 Deep Learning「三巨頭」
的故事。延申閱讀走過黑暗時光的 deep learning 三巨頭

!87 Mastering the game of Go with deep neural networks
and tree search” “ DeepMind 2016-2-26 當然還有 AlphaGo!

!88 重點就是神經網路三大天王 NN CNN RNN

打開暗黑世界 !89

!90 Fully Connected Neural Networks 1980 年代就火紅的 model 標準 (全連結)
NN

!92 基本上我們要決定的只有要用幾層隱藏層。每層要用幾個神經元。用什麼激發函數。

每個神經元動作基本上是一樣的! !93

!94 每個神經元就是接受若干個輸入, 然後送出一個輸出。

!95 輸入做加權和。

!96 加上偏值 (bias)。

!97 再⽤激活函數作⽤上去, 即為輸出。

!98 幾個 activation functions ReLU Sigmoid Gaussian

!99 神經元的輸出任務 02

!100 變數就是 weights, biases

!101 「學成的」神經網路 1 2 1 2 1 1

!102 假設輸入 2 1 1 (x1 ,x2 ) = (1,3)
1 3 1 3 8 1 2 1

!103 假設用 ReLU 1 3 1 2 1

3 打造神經網路 !104

!105 現在我們準備一起打造一個神經網路, 我們準備用一個叫 Keras 的超好用 Python 套件。

!106 f 6 手寫辨識放進一張 28x28 大小的手寫數字影像, 然後希望我們打造的神經網路可以正確辨別!

!107 MNIST 這其實是有名的資料集。 Modified 美國國家標準暨技術研究院

!108 f 6 還有兩件小事這要「拉平」 * 這是因為我們要用標準 NN 才需要。 0
0 0 0 0 0 1 0 0 0 One-hot encoding 反正老師會幫你做...

!109 暗黑魔法 { } 784 10 神經網路函數學習機

!110 打造你神經網路任務 03

!111 基本上我們要決定的只有要用幾層隱藏層。每層要用幾個神經元。用什麼激發函數。

!112 Q1 隱藏層要幾層?

!113 Q2 每層幾個神經元? Q2

!114 Activation Function? ReLU Sigmoid or Q3

!115 為大家準備好了訓練資料測試資料 x_train y_train x_test y_test 用到的套件也都讀進來了...

重點打開一個函數學習機打開一個神經網路函數學習機。 model = Sequential() !116

重點第一層隱藏層填入同學指定的神經元個數、選用的激發函數。 model.add(Dense(?, input_dim=784, activation='??')) !117

重點第二層隱藏層如果有第二層, 一樣指定多少個神經元、激發函數 model.add(Dense(?, activation='??')) !118

重點輸出層 10 維, 唯一指定 softmax 當 activation function! model.add(Dense(10,
activation='softmax')) !119

!120 z1 z2 z3 z4 z5 z7 z8 z9 z0
z6 α0 α1 α2 α3 α4 α5 α6 α7 α8 α9 有 10 個數字, 怎麼轉換, 可以變成加起來等於 1? 9 ∑ i=0 αi = 1

!121 αj = ezj ∑9 i=0 ezi 這就叫 softmax

!122 Deep Learning   三大天王標準 NN CNN RNN

4 卷積神經網路 CNN !123

!124 Convolutional Neural Network 圖形辨識的超級天王 CNN

!125 台灣黑熊圖形辨識 f ( ) =

!126 電腦打電動目前狀態「最佳」動作 π ( ) = 搭配 reinforcement
learning

!127 filter 1 filter 2 input 每個 ﬁlter 看⼀一個特徵, 掃過每
⼀一個點, 紀錄該點附近的「特徵強度」。 Convolutional Neural Network (CNN)

!128 Convolutional Layer 1

!129 例如 3x3 的大小我們要做 filters

!130 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 想成這是⼀張圖所成的矩陣 ﬁlter 內積這學來的Ｗ＝

!131 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 27 ﬁlter 右移⼀一格還是⼀樣的矩陣Ｗ＝

!132 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 27 44 32 36 38 36 36 37 36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 filter 一路到最後Ｗ＝

!133 35 27 44 32 36 38 36 36 37
36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 最後就是一個 6x6 的矩陣有時我們會把它弄成還是 8x8 基本上和原矩陣一樣大而且我們通常 filter 會很多!

!134 神經元是這樣看的

!135 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 27 44 32 36 38 36 36 37 36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 filter 圖片上的點是一個個輸入層神經元

!136 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 27 44 32 36 38 36 36 37 36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 filter Conv 層也是一個個神經元

!137 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 27 44 32 36 38 36 36 37 36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 ﬁlter 兩層中沒有完全相連Ｗ＝

!138 2 5 5 2 5 2 0 1 2
3 4 0 4 2 1 5 4 3 1 3 5 5 4 3 5 3 4 5 0 2 1 5 2 3 1 1 1 0 1 3 4 4 1 1 5 1 1 4 2 3 2 2 0 4 2 4 0 5 4 5 3 4 1 4 35 27 44 32 36 38 36 36 37 36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 ﬁlter 再來 share 同樣的 weights Ｗ＝

!139 35 27 44 32 36 38 36 36 37
36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 最後就是一個 6x6 的矩陣有時我們會把它弄成還是 8x8 基本上和原矩陣一樣大而且我們通常 filter 會很多!

!140 Max-Pooling Layer 2

!141 看我們要多大區選一個代表, 例如 2x2 基本上就是「投票」

!142 35 27 44 32 36 38 36 36 37
36 36 43 37 37 23 26 17 35 29 25 22 18 14 27 27 25 24 21 24 32 31 38 27 34 25 40 36 44 43 37 26 35 38 34 40 每區投出最大的!!

!143 convolution, max-pooling, convolution,   max-pooling… 可以不斷重覆

!144 做完再送到「正常的」神經網路

5 遞迴神經網路 RNN !145

!146 Recurrent Neural Network 「有記憶」的神經網路 RNN

!147 對話機器人【解決篇】

!149 字1 字2 回1 EOS 回1 回2 回k EOS 注意這樣的模式,
每次輸入和輸出都不是固定的長度!

!151 其實輸入不一定要文字, 是影片 (一張一張的圖) 也是可以的! 輸出還是可以為文字, 最常見的大概是讓電腦說影片中發
生什麼事。

!152 翻譯。 Video Captioning 生成影片敘述。生成一段文字。畫一半的圖完成它。同樣型式的應用

!153 Andrej Karpathy 生出代數幾何介紹 "Stacks" 的文字 http://karpathy.github.io/2015/05/21/rnn- effectiveness/

!154 潘達洛斯：唉，我想他應該過來接近一天當小的小麥變成從不吃的時候，誰是他的死亡鏈條和臣民，我不應該睡覺。第二位參議員：他們遠離了我心中產生的這些苦難，當我滅亡的時候，我應該埋葬和堅強許多國家的地球和思想。
電腦仿的莎士比亞作品。

!155 一般的神經網路一筆輸入和下一筆是沒有關係的...

!156 RNN 會偷偷把上一次的輸出也當這一次的輸入。

!157 很多人畫成這樣。

!158 Recurrent Neural Network (RNN) ht 1 = σ (w1
xt 1 + w2 xt 2 + w3 h3 t−1 + w4 h4 t−1 + b1 ) 會加入上⼀一次的 outputs 當這次的 inputs。

!159 注意為了讓大家更容易瞭解, 我們會用較簡單的圖示。請注意輸入都是個向量、會有權重; 輸出都是純量。 xt = ⎡
⎢ ⎢ ⎢ ⎣ xt,1 xt,2 . . . xt,n ⎤ ⎥ ⎥ ⎥ ⎦ 可能長這樣

!160 注意為了讓大家更容易瞭解, 我們會用較簡單的圖示。請注意輸入都是個向量、會有權重; 輸出都是純量。實際輸入長這樣

!161 注意為了讓大家更容易瞭解, 我們會用較簡單的圖示。請注意輸入都是個向量、會有權重; 輸出都是純量。同理 h 也是這樣

!162 對同一層第 k 個 cell, 就一個輸出。輸入可能是向量。第 k
號 RNN Cell

!163 真正連結的樣子, 注意 RNN Cell 會把記憶傳給同一層其他 RNN Cells。

!164 標準 RNN 一個 Cell 的輸出

!165 LSTM GRU Long Short Term Memory Gated Recurrent Unit
事實上現在⼤家說到 RNN 是想到...

!166 LSTM Long Short Term Memory RNN 系的王牌救援

!167 編號 k 的  LSTM 多一個「cell 狀態」

!168 Gate 控制閥重要概念

!169 輸出 0 到 1 間的一個數 sigmoid 只是決定「閥」要開多大

!170 LSTM 有三個 Gates

!171 忘記門輸入門輸出門

!172 插播 tanh sigmoid

!173 -1 1

!174 0 1 σ(x) = 1 1 + e−x

!175 編號 k 的  LSTM LSTM 再一次多出來的 cell state
是屬於這個 cell 的一個 cell 的 output 還是會和同一層分享

!176 「新的」狀態資訊

!178 真要弄得那麼複雜? 要忘多少和要記多少難道不能一起...

!179 GRU Gated Recurrent Unit LSTM 的簡化版

!180 雖然名稱有 gated 只留兩個 Gates

!181 記憶門重設門

!182 input 可不考慮從前

!184 重點 RNN 的名字現在說到 RNN, 其實包括原始 RNN, LSTM, GRU
等各種變形。特別要叫原始的 RNN, 我們習慣叫它 Vanilla RNN, 在 Keras 中是 SimpleRNN。

!185 我想知道某位 MLB 選手 2019 球季可以打幾隻全壘打?

!186 第 t-1 年資料    [Age, G, PA, AB, R,
H, 2B, 3B, HR, RBI, SB, BB, SO, OPS+, TB] 15 個 features! f 第 t 年全壘打數 RNN 分五段: 0-9, 10-19, 20-29, 30-39, 40+ !186

!187 1 3 2 4 5 10-19 One-Hot encoding 0
1 0 0 0 ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ ⎢ ⎢ ⎤ ⎦ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥ 0-9 10-19 20-29 30-39 40+

!188 運用 LSTM, 輸入 10 年的資料猜下一年只有一層 LSTM 層!

!189 Mike Trout (LAA) 預測 30-39 實際 33 Mookie Betts
(BOS) 預測 20-29 實際 24 Jose Altuve (HOU) 預測 20-29 實際 24 Kris Bryant (CHC) 預測 30-39 (第⼆⾼ 20-29) 實際 29 Daniel Murphy (WSH) 預測 20-29 實際 23 Corey Seager (LAD) 預測 20-29 實際 22 2017 預測結果 (2017 年 6 ⽉預測)

6 !190 深度學習心法

!191 同理定義發想原型測試 Standford d.school 風的設計思考步驟 Empathize
Deﬁne Ideate Prototype Test

!192 我們的 model 很少第一次就成功。 —清華大學陳宜欣老師 “ ” 心法一

!193 數據量大的時候, 深度學習通常比一般方法好。 “ ” 心法二 * 甚至常常只有深度學習可以「學」。 !193

!194 要相信神經網路一定學得會! —東華大學魏澤人老師 “ ” 心法三 !194

!195 學不好的時候考慮一些「正則化」 (regularization) 的方法。 “ ” 心法四 * Drop
out, L1/L2 regularization, SELU 等等 !195

!196 超展開的問問題方式

!197 NN CNN RNN Transformer Auto Encoder Reinforcement Learning GAN
神經網路軍團

7 生成對抗網路  GAN !198

!199 生成對抗網路 (Generative Adversarial Network) Yann LeCun 稱為最有潛力的 model GAN

!200 There are many interesting recent development in deep learning…
The most important one, in my opinion, is adversarial training (also called GAN for Generative Adversarial Networks). ” “ —Yan LeCun (楊立昆), 2016

!201 The GAN Zoo https://github.com/hindupuravinash/ the-gan-zoo

!202 生成器 generator Noise 鑑別器 discriminator 真的 or 假的 GAN
是兩個神經網路, 一個生成、一個判斷, 相互對抗! z x G D G(z)

!203 希望接近 1 希望接近 0 接近 1 生成
判斷 D, G 大對抗!

!204 朱俊彦等人 (ECCV 2016) “Generative Visual Manipulation on the Natural
Image Manifold” iGAN https://arxiv.org/abs/1609.03552

!205 人人都是大畫家! https://youtu.be/9c4z6YsBGQ0

!206 Karras 等 NVIDIA 團隊 (ICLR 2018) “Progressive Growing of
GANs for Improved Quality, Stability, and Variation” Progressive GAN https://arxiv.org/abs/1710.10196

!207 Karras-Aila-Laine-Lehtinen NVIDIA 團隊最近很有名的⽂章⽤ Theano (不是快退出了), Python 2, 單
GPU Progressive Growing of GANs for Improved Quality, Stability, and Variation

!208 這攏係假ㄟ啦 (1024x1024 明星照)

!209 Isola, 朱俊彦等人 (CVPR 2017) “Image-to-Image Translation with Conditional Adversarial
Networks” Pix2Pix https://arxiv.org/abs/1611.07004

!210 * 來自 Isola, 朱俊彦等人的原始論文 (2017) Pix2pix 把衛星圖變地圖。

!211 * 來自 Isola, 朱俊彦等人的原始論文 (2017) Pix2pix 隨手畫畫變街景。

!212 * Christopher Hesse 依原論文做出 Pix2pix 線上版。 https://affinelayer.com/pixsrv/

!213 朱俊彦等人 (ICCV 2017) “Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial
Networks” CycleGAN https://arxiv.org/abs/1703.10593

!214 G  生成器 F  生成器 Domain A Domain B 鑑別器
B 鑑別器 A CycleGAN

!215 資料「不需要」配對! 於是有無限可能...

!216 全世界的人都驚呆了的馬變斑馬。 https://youtu.be/9reHvktowLY

!217 CycleGAN 作者自己提到的失敗例子。

!218 Goodfellow 也關注的變臉 (魏澤人老師)。 https://youtu.be/Fea4kZq0oFQ

8 強化學習  Reinforcement Learning !219

!220 Reinforcement Learning AlphaGo 核心技術強化學習

!221 Agent  (電腦) 環境動作 action 獎勵 reward r t

!222 我們以玩打磚塊為例

!223 π 左 1 Policy Based 右 or 狀態動作
policy function

!224 通常直接學不容易...

!225 Q 評分 + 動作 2 Value Based (通常估計 reward)
Value function

!226 2017 年台灣人工智慧年慧  AlphaGo 創始人之一黃士傑博士演講 AlphaGo 的故事

!227 AlphaGo  Lee AlphaGo  Master AlphaGo  Zero 中國烏鎮圍棋會 4:1
擊敗世界棋王李世乭神秘高手網路 60 連勝與柯潔對奕, 人工智慧與人的合作完全自學的人工智慧, 擊敗之前版本 2016.3 2016.12.29  —2017.1.4 2017.5 2017.10

!228 Netflix AlphaGo 紀錄片 (大推) 故事感人不輸電影, 而且都是真人。

!229 還有人人都在做的自動駕駛

!230 陳非霆卷積深度 Q-學習之 ETF 自動交易系統

!231 選定一支 ETF 開始 20,000 美金經過一年 (最後手上還有 ETF 就全賣)
使用 reinforcement learning * ETF 資料由全球智能提供

!232 過去 20 天的資料  (20x6 的矩陣) f 1 2 3
4 5 買 20 單位買 10 單位不做交易賣 10 單位賣 20 單位五種 actions

!233 CDQN 無腦法 CDQN 無腦法 ETF1 17.71% 10.89% ETF11 10.76%
5.26% ETF2 16.53% 12.6% ETF12 10.19% 13.17% ETF3 16.3% 0.35% ETF13 7.8% 1.42% ETF4 14.4% 13.25% ETF14 6.23% 3.56% ETF5 14.3% 12.7% ETF15 5.73% 4.61% ETF6 13.91% 13.37% ETF16 3.78% -12.76% ETF7 13.17% 10.52% ETF17 2.85% 5.83% ETF8 12.35% 17.07% ETF18 1.59% -4.45% ETF9 11.68% 10.81% ETF19 1.07% -18.09% ETF10 11.09% 8.14% ETF20 -0.59% -0.75% 交易結果 * 「無腦法」正確的名稱是「買入持有策略」

!234 課程篇 (實體 + 線上) 魔法程式家+數理資訊社學長姐作品實現你的 AI 夢

!235 一年課程。AI 達人數學軟體應用三234 計算機程式設計 1081 1082 Python 數據分析基礎
人工智慧程式蔡炎龍老師

!236 設計思考與人工智慧陳宜秀老師蔡炎龍老師 1081 推出預定: 三D56 台灣難得一見、具業界實務經驗設計思考一流老
師! 用人工智慧真真實實解決一個實務的問題!

!237 自學線上課程

!238 eWant 正式開課 (9/9 起)

!239 fb.me/nccumit 魔法程式家 FB 社團政大數理資訊社

!240 其實我也在 FB 上啊 fb.me/yenlung 你不要夾帶!

!241 2018 年 4 月政大數理資訊社成立

!242 新生書院 x 數理資訊社每週二晚上 7:00 魔法程式家

!243 經濟碩經濟傳院應數經濟上海實習

!244 政大學長姐的成果政大數理資訊學程/數理資訊社

!245 Deep Learning 讀書會獲教發中心「自主學習讀書行動小組」第一名

!246 政大專屬的風格轉移陳先灝，吳柏寬，黃梓育，林奕勳, 廖原豪，邢恆毅

!247 很少的訓練資料達成任務! 我們想用神經網路, 生出一個字型中欠缺的字。舊字型新字型創造新字型應用 f
( ) = * 莊喻能、黃梓育 (政大應數) * 論文發表於國際研討會

!248 π GAN * 方宜晟、陳先灝、黄平、林澤佑 (政大應數) * 科技部 AI 推動中心「GAN」大賽佳作

!249 科技部科技部AI 推動中心「GAN 大賽」

!250 中⽂基本字的 encoding 中⽂約有 300 個基本字型 (感謝 justfont 專業指導) 我們想做這
300 字「適合的」標碼之後⽤這 300 字可⽣所有字

!251 ⽤ VAE 做出 300 個字編碼

!252 ⿂⽷⽺⻘

!253 股價的預測智慧路燈文青機器人跌倒判斷火車車牌辨識 … 還有更多進行中方案

!254 實現你的AI夢任務 04

今天開始我的 AI 人工智慧冒險之旅

今天開始我的 AI 人工智慧冒險之旅

More Decks by [email protected]

Other Decks in Technology

Featured

Transcript