第2回 ゼロから作るオトナのDeep Learning

第2回 ゼロから作るオトナのDeep Learning

4d8c732195d7beca7a2ea743e164245e?s=128

Takahiro Yano

March 01, 2017
Tweet

Transcript

  1. 3.

    今日用いるデータセット • Pima Indiain Diabetes – ある生体データを持ったが糖尿病であるかどうか? – 2値分類問題 •

    Iris Data Set – SepalとPetalという2種類の花弁の長さ、幅からアヤメの種類 を判別分類する – 多値分類問題 • Housing Data Set – 犯罪率などのその土地の様々なデータから、その土地の地価 を予測する – 回帰問題(数値予測問題)
  2. 12.

    model.fit(...)の中身(NNの学習) のざっくりとした説明 [ ] OR NAND OR 2 NAND 2

    OR 1 NAND 1 b b w w w w ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ AND AND 2 AND 1 b w w ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ ( ) ⋯ , , , , 2 1 2 1 w w x x f y = 正解データ : y′ 2 y y loss − ′ = は予測データ y XORのNN y′ ) 比較(loss
  3. 13.

    model.fit(...)の中身(NNの学習) のざっくりとした説明 [ ] OR NAND OR 2 NAND 2

    OR 1 NAND 1 b b w w w w ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ AND AND 2 AND 1 b w w ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ https://elix-tech.github.io/images/2016/kaggle_facial_keypoints/animation1.gif ( ) ⋯ , , , , 2 1 2 1 w w x x f y = 正解データ : y′ 2 y y loss − ′ = NNのパラメータ空間 等高線はlossをあらわす 転がってる球が現在のNNの状態 転がり方が最適化方法の違い は予測データ y 定数 定数 変数 XORのNN 2 w 1 w y′ ) 比較(loss
  4. 15.
  5. 18.
  6. 27.

    本日の参考文献 • Kerasの実践的な教則本 オススメ! – https://machinelearningmastery.com/deep-learning-with-python2/ – より詳しい解説 • Cross Validation(交差検定)

    • Hyper ParameterのGrid Search • CNNを用いた画像データの解析 • LSTMを用いたテキストデータの解析 • あと、Keras公式のexamples – https://github.com/fchollet/keras/tree/master/examples
  7. 28.

    広大なDeepLearningの世界 まだやってないところ • 画像データのDeepLearning – CNN(Convolutional Neural Network) • テキストデータのDeepLearning

    – LSTM(Long Short Term Memory)、1次元CNN • モデルの層を深くした場合の調整方法 – Dropout、Pooling • さらに最前線の領域 – GAN、DNC、U-Net、ResNet、DQN、分岐したNN… • Kaggleチャレンジ • OpenAI Gym
  8. 30.

    END