Upgrade to Pro — share decks privately, control downloads, hide ads and more …

AI講座資料

Sponsored · Ship Features Fearlessly Turn features on and off without deploys. Used by thousands of Ruby developers.
Avatar for yusuke yusuke
February 02, 2023

 AI講座資料

Avatar for yusuke

yusuke

February 02, 2023
Tweet

Other Decks in Technology

Transcript

  1. ⼈⼯知能研究の歴史 第⼀次⼈⼯知能ブーム (探索と推論) 1960~70年代 10 7 13 3 探索 →

    ⽬的の状態、条件を、 パターンから場合分けして探し出すこと 8 15 3, 8, 10, 15, 7, 13
  2. ⼊⼒ 出⼒ 𝑤! 𝑥! 𝑥$ 𝑤$ 𝑦 = 𝑥! 𝑤!

    + 𝑥$ 𝑤$ + 𝑤# 𝑤# 1 𝑦 全結合 線形 ⼈⼯ニューロン
  3. 出⼒ 活性化関数 ⾮線形変換 𝑦 𝑧 ⼈⼯ニューロン 𝑧 = 𝑓 𝑦

    - STEP関数 - ReLU関数 - Sigmoid関数 - tanh関数 - Softmax関数 線形変換
  4. 出⼒ 活性化関数 ⾮線形変換 𝑦 𝑧 ⼈⼯ニューロン 𝑧 = 𝑓 𝑦

    - STEP関数 - ReLU関数 - Sigmoid関数 - tanh関数 - Softmax関数 線形変換
  5. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = + 1, 𝑦

    ≥ 0 0, 𝑦 < 0 STEP関数 𝑧 = 𝑓 𝑦 ⾮線形変換 線形変換
  6. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = + 1, 𝑦

    ≥ 0 0, 𝑦 < 0 STEP関数 𝑧 = 𝑓 𝑦 ⾮線形変換 ⼊⼒︓1.2
  7. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = + 1, 𝑦

    ≥ 0 0, 𝑦 < 0 STEP関数 𝑧 = 𝑓 𝑦 ⼊⼒︓1.2 𝑧 = 𝑓 1.2 1.2
  8. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = + 1, 𝑦

    ≥ 0 0, 𝑦 < 0 STEP関数 𝑧 = 𝑓 𝑦 ⼊⼒︓1.2 𝑧 = 𝑓 1.2 1.2 1.0
  9. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = + 1, 𝑦

    ≥ 0 0, 𝑦 < 0 STEP関数 𝑧 = 𝑓 𝑦 ⼊⼒︓1.2 𝑧 = 𝑓 1.2 1.2 1.0 1.0
  10. 出⼒ 活性化関数 ⾮線形変換 𝑦 𝑧 ⼈⼯ニューロン 𝑧 = 𝑓 𝑦

    - STEP関数 - ReLU関数 - Sigmoid関数 - tanh関数 - Softmax関数 線形変換
  11. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = 1 1 +

    𝑒%& Sigmoid関数 𝑧 = 𝑓 𝑦 ⾮線形変換 線形変換
  12. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = 1 1 +

    𝑒%& Sigmoid関数 𝑧 = 𝑓 𝑦 ⼊⼒︓1.2 𝑧 = 𝑓 1.2 1.2
  13. 出⼒ 𝑦 𝑧 ⼈⼯ニューロン 𝑓 𝑦 = 1 1 +

    𝑒%& Sigmoid関数 𝑧 = 𝑓 𝑦 ⼊⼒︓1.2 𝑧 = 𝑓 1.2 1.2 0.77 0.77
  14. ⼈⼯ニューロン 𝑤" ︓重み ⼊⼒ 出⼒ 𝑤! 𝑥! 𝑥" 𝑤" 𝑤#

    1 個々の重みにより答えを出す 重みの値を変えると結果も変わる
  15. ⼈⼯ニューロン 𝑤" ︓重み ⼊⼒ 出⼒ 𝑤! 𝑥! 𝑥" 𝑤" 𝑤#

    1 個々の重みにより答えを出す 重みの値を変えると結果も変わる 正解、不正解などを フィードバックすることで重みを調整する
  16. ⼈⼯ニューロン 𝑤" ︓重み ⼊⼒ 出⼒ 𝑤! 𝑥! 𝑥" 𝑤" 𝑤#

    1 個々の重みにより答えを出す 重みの値を変えると結果も変わる 正解、不正解などを フィードバックすることで重みを調整する 誤差逆伝搬法 フィードバック
  17. ⼈⼯ニューロン 𝑤" ︓重み ⼊⼒ 出⼒ 𝑤! 𝑥! 𝑥" 𝑤" 𝑤#

    1 個々の重みにより答えを出す 重みの値を変えると結果も変わる 正解、不正解などを フィードバックすることで重みを調整する 学習 フィードバック
  18. ⼈間の思考 ⼊⼒層 出⼒層 中間層 本を決める要素 本の決定 値段 帯紙 表紙 感覚や経験等による調整

    温度 時間 ⾊ コンビニ⼈間 檸檬 1.2 0.7 0.3 重み 村⽥沙耶⾹ 梶井基次郎
  19. ⼈間の思考 出⼒層 中間層 本を決める要素 本の決定 感覚や経験等による調整 温度 時間 ⾊ コンビニ⼈間

    檸檬 ⼊⼒層 値段 帯紙 表紙 1.2 0.7 0.3 重み 0.5 0.1 村⽥沙耶⾹ 梶井基次郎
  20. ⼈間の思考 出⼒層 中間層 本を決める要素 本の決定 感覚や経験等による調整 温度 時間 ⾊ コンビニ⼈間

    檸檬 ⼊⼒層 値段 帯紙 表紙 1.2 0.7 0.3 重み 0.5 0.1 村⽥沙耶⾹ 梶井基次郎
  21. ⼈間の思考 出⼒層 中間層 本を決める要素 本の決定 感覚や経験等による調整 温度 時間 ⾊ コンビニ⼈間

    檸檬 ⼊⼒層 値段 帯紙 表紙 1.2 0.7 0.3 重み 0.5 0.1 1.1 0.4 村⽥沙耶⾹ 梶井基次郎
  22. ⼈間の思考 出⼒層 中間層 本を決める要素 本の決定 80 % 20 % 感覚や経験等による調整

    温度 時間 ⾊ コンビニ⼈間 檸檬 ⼊⼒層 値段 帯紙 表紙 1.2 0.7 0.3 重み 0.5 0.1 1.1 0.4 村⽥沙耶⾹ 梶井基次郎
  23. ディープラーニング(深層学習) ⼊⼒層 出⼒層 中間層 ⋯ ⋮ ⋮ ⋮ ⋮ ⋮

    ⋮ 中間層が増えたことで、 複雑な繋がりを持てるようになる。
  24. ディープラーニング(深層学習) 1. LSTM (Long Short-Term Memory)とは [概要] (https://cvml-expertguide.net/terms/dl/rnn/lstm/) 繋がりの組み合わせ⽅ LSTM(Long

    Short-Term Memory) ⻑期間保持し、 不要になった情報を忘れるようにする 過去の情報を保持し続けて、 最新の情報が⼊ってこない
  25. ディープラーニング(深層学習) 1. LSTM (Long Short-Term Memory)とは [概要] (https://cvml-expertguide.net/terms/dl/rnn/lstm/) 繋がりの組み合わせ⽅ LSTM(Long

    Short-Term Memory) - 時系列データの予測 - 株価の予想 - 地震の予測 - ⾃然⾔語処理 - AIチャットボット - ⾳声認識
  26. ⼊⼒層 出⼒層 中間層 ⋯ ⋮ ⋮ ⋮ ⋮ ⋮ ⋮

    画像 物体検出 - 種類 - 位置 画像系 ディープラーニングでできること
  27. ⾃然⾔語系 ディープラーニングでできること ユーザからの⼊⼒ ⽂章 - 質問 - 答え ⽂章 -

    質問 - 答え ChatGPT ⼊⼒層 出⼒層 中間層 ⋯ ⋮ ⋮ ⋮ ⋮ ⋮ ⋮
  28. ⼊⼒層 出⼒層 中間層 ⋯ ⋮ ⋮ ⋮ ⋮ ⋮ ⋮

    ⾳声系 ディープラーニングでできること ユーザからの⼊⼒ - ⾳声 ⽂章 - 質問 - 答え Siri Googleアシスタント