這次的分享, 很快為大家介紹深度學習的概念, 並且體會一下用 Python 實現深度學習是多麼容易的事。我們也會討論, 既然都這麼容易了, 一個 AI 的工程師還有什麼價值呢? 最後我們會推薦一些方向, 做為未來更深入學習的參考。
用 TensorFlow 2快速進入深度學習的世界蔡炎龍政治大學應用數學系Kaohsiung.py
View Slide
TensorFlow 2 度學習 2程式碼http://bit.ly/yenlung今天的在 nccu-jupyter-math > 基本神經網路
TensorFlow 2 度學習 3關於我美國爾灣加州大學 (UC Irvine) 數學博士政治大學應用數學系副教授代數幾何
TensorFlow 2 度學習 4高中時代就寫了程式賣錢...密
TensorFlow 2 度學習 5尋找一個簡單易學的程式語言那時電腦打開都有個可愛的程式語言BASIC
TensorFlow 2 度學習 6遇見 Python我想找一個可以取代 BASIC 的程式語言, 最後終於是找到Python
TensorFlow 2 度學習 7今生唯一的一次捐錢給程式語言交了 50 美元的年費!2000 年時, Python Software Activity 只有 271 人
TensorFlow 2 度學習 8寫了一本 Python 的書少年Py的大冒險成為Python數據分析達人的第一門課作者: 蔡炎龍, 季佳琪, 陳先灝出版: 全華圖書
TensorFlow 2 度學習 9我和 AI 有什麼關係呢?碩士班就是研究神經網路的。
TensorFlow 2 度學習 10近年介紹主題都是神度學習多次在學界、業界介紹 Python及人工智慧。
TensorFlow 2 度學習 11最適切的形容大概是不務正業【珊蒂微AI】專訪
TensorFlow 2 度學習 12和多位台灣一流學者專家寫了一本給高中生的 AI 書鴻海《人工智慧導論》(給高中生的 AI 補充教材) 前兩章主筆。
TensorFlow 2 度學習 13安裝 Anaconda冒險01
TensorFlow 2 度學習 14找到 Anaconda Download 點https://www.anaconda.com/products/individual也可以 Google 搜尋 Anaconda
TensorFlow 2 度學習 15選擇適合你的 OS
TensorFlow 2 度學習 16找到你適合的終端機我們來試試剛開始可能有點可怕的終端機。> Windows 使用者請用Anaconda Prompt
TensorFlow 2 度學習 17安裝 TensorFlow> conda install tensorflow
TensorFlow 2 度學習 18安裝 TensorFlow GPU 版> conda install Tensorflow-gpu要先更新 NVIDIA GPU 顯卡 Driver
TensorFlow 2 度學習 19cd 進入你的工作資料夾> cd
TensorFlow 2 度學習 20拖拉神技出現工作資料夾用拖拉的方式,可以找到完整路徑!
TensorFlow 2 度學習 21用 Colab 免安裝冒險02
TensorFlow 2 度學習 22其實也可以直接用 ColabColab不用安裝, 用 Google 帳號登入, 免費使用 GPU 或 TPU。
TensorFlow 2 度學習 23檢查 TensorFlow 版本檢查 TensorFlow 版本 (現在應該預設就是 2.x)
TensorFlow 2 度學習 24打開 GPU在編輯 > 筆記本設定中,打開 GPU 或 TPU。
TensorFlow 2 度學習 25Mount 你的 Google Drive, 存取資料要點網址 copy 金鑰你會需要點網址, 選擇你的 Google 帳號授權, 然後 copy 出現的金鑰, 回來貼在這裡。
TensorFlow 2 度學習 26進入你的資料夾你可以 cd 進入任何你 Colab 的資料夾。前面的部份我們沒有耍可愛,Google 真的把你的 Google Drive 家目錄叫 My Drive。
TensorFlow 2 度學習 27極速深度學習入門冒險03
TensorFlow 2 度學習 28把我們的問題, 化為函數f 6把我們的問題, 化為函數。比如說我們想做手寫辨識, 就是輸入一個掃描的手寫數字, 輸入電腦, 希望電腦輸出這個數字是什麼。
TensorFlow 2 度學習 29One-hot encodingf我們在做分類問題時, 常會用 one-hot encoding。00000010006
TensorFlow 2 度學習 30深度學習考量點 1: 是否有夠多的數據要注意是否有夠多(常常是上萬筆) 歷史資料。
TensorFlow 2 度學習 31深度學習考量點 2: 可否在合理努力下取得還要注意資料是否在合理的努力下可取得。
TensorFlow 2 度學習 32Step 1: 用深度學習的方式打造函數學習機函數學習機不管我們用了什麼阿貓阿狗法, 打造一台深度學習函數學習機。然後有一堆參數要調。完成!{wi, bj}θ
TensorFlow 2 度學習 33基本元件是神經元φ(3∑i=1wixi+ b) = h
TensorFlow 2 度學習 34深度學習就是建一層層「隱藏層」x ̂yinputlayerhiddenlayersoutputlayer想辦法去決定要用幾層, 每一層用什麼樣的形式。
TensorFlow 2 度學習 35每層就三種選擇 (基本上)x1x2xnh1h2hkx hℱ1全連結層 (Dense)卷積層 (Conv)遞歸層 (LSTM, GRU)差不多就是決定幾個神經元就結束了。
TensorFlow 2 度學習 36Step 2: fit 訓練我們收集真實世界的歷史資料。{(x1, y1), (x2, y2), …, (xn, yn)}也就是說, 真實世界的函數應該是⻑這個樣子。f yixi
TensorFlow 2 度學習 37事實上我們的神經網路 (在初始化之後) 也會...fθ Ë台灣藍鵲Î只是開始時都在唬爛...
TensorFlow 2 度學習 38我們當然希望越接近真實答案越好xîyiyi正確答案看差多遠fθ於是我們會做一個計算誤差的函數, 叫 loss function 。L(θ)
TensorFlow 2 度學習 39然後用「萬用」學習法Gradient Descent事實上我們是用:Stochastic Gradient Descent
TensorFlow 2 度學習 40Coding 時間冒險05-07
TensorFlow 2 度學習 41討論、Q&A冒險08
TensorFlow 2 度學習 42深度學習看來很簡單,那...比起上個世紀, 要寫個強強的深度學習程式,真的太容易了!
TensorFlow 2 度學習 43深度學習其實人人可以做, 也該人人都來做!吳恩達 (Andrew Ng)AI for EveryoneCoursera 課程
TensorFlow 2 度學習 44關鍵在「問一個好問題」專業上、技術上都要!
TensorFlow 2 度學習 45綠島海洋生物辨識Photo by Juuyoh TANAKA, from Wikipedia.**Tambja morosa(藍紋鏽邊海蛞蝓)CNN本來想這麼容易的問題,當然是這樣做就好了啊。
TensorFlow 2 度學習 46綠島海洋生物辨識Photo by Juuyoh TANAKA, from Wikipedia.**Embedding vector結果, 我們其實要的是一個好的 embedding,也就是一個海洋生物, 我們需要一個「好的」向量代表牠。
TensorFlow 2 度學習 47綠島海洋生物辨識Photo by Steve Childs, from Flickr.*Photo by zsispeo, from Flickr.*****Amphiprion ocellaris眼斑雙鉅海葵魚Tambja morosa藍紋鏽邊海蛞蝓Tambja morosa藍紋鏽邊海蛞蝓AnchorPositiveNegativeMaxMin一個方式是用所謂的triplet loss。
TensorFlow 2 度學習 48深度學習推薦學習內容NN CNN RNNTransformerAuto EncoderReinforcement LearningGAN
TensorFlow 2 度學習 49程式技巧上, 我們要學會 Functional API 的做法會了 Functional API,真的什麼特別的神經網路都做得出來!
TensorFlow 2 度學習 50這本書介紹了所有程式寫法精通機器學習:使用Scikit-Learn,Keras與TensorFlow 第二版Aurélien Géron
TensorFlow 2 度學習 51Trasnformer 很值得深入瞭解當紅的 model, 原理包括attention, 本身就有很多啟發。transformer
TensorFlow 2 度學習 52尤其是「芝麻街」系列是怎麼問問題的瞭解新近的 NLP models, 如BERT, GPT-3 等等。
TensorFlow 2 度學習 53SimpleTransformerhttps://simpletransformers.ai/輕鬆享用 Transformer 的樂趣!
TensorFlow 2 度學習 54Q & A有問題嗎?