Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

Avatar for kkeeth kkeeth
December 15, 2016
Science
2
3.1k

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

機械学習を学ぶ上で必要となる「微分・偏微分」と、単純パーセプトロンを学ぶ上で必要となる「勾配降下法（最急降下法）」を理解し、実際に計算ができることが目標です。

Avatar for kkeeth

kkeeth

December 15, 2016
Tweet

More Decks by kkeeth

See All by kkeeth
Programming to play with p5.js
Avatar for kkeeth clown0082
0
57
とある EM の初めての育休からの学び
Avatar for kkeeth clown0082
1
4.8k
The history of Javascript frameworks: changes in front-end design philosophy
Avatar for kkeeth clown0082
2
200
Visually experience the beauty of mathematics with p5.js
Avatar for kkeeth clown0082
1
3.2k
Rediscover the joy of coding with Creative Coding
Avatar for kkeeth clown0082
0
1.8k
全員が意思決定する会社で開発者体験や生産性を見る大変さについて
Avatar for kkeeth clown0082
0
640
JavaScript × Mathematics go to Digital Art
Avatar for kkeeth clown0082
1
430
In-house study group at YUMEMI
Avatar for kkeeth clown0082
0
220
Playing Ionic Logo by p5.js
Avatar for kkeeth clown0082
0
310

Other Decks in Science

See All in Science
データベース09: 実体関連モデル上の一貫性制約
Avatar for Y. Yamamoto trycycle
PRO
0
1.1k
データベース11: 正規化(1/2) - 望ましくない関係スキーマ
Avatar for Y. Yamamoto trycycle
PRO
0
1k
機械学習 - ニューラルネットワーク入門
Avatar for Y. Yamamoto trycycle
PRO
0
910
知能とはなにかーヒトとAIのあいだー
Avatar for Y-h. Taguchi tagtag
PRO
0
160
My Little Monster
Avatar for Juzi juzishuu
0
360
データベース10: 拡張実体関連モデル
Avatar for Y. Yamamoto trycycle
PRO
0
1k
力学系から見た現代的な機械学習
Avatar for Han Bao hanbao
3
3.7k
会社でMLモデルを作るとは @電気通信大学 データアントレプレナーフェロープログラム
Avatar for yuto16 yuto16
1
460
HDC tutorial
Avatar for Michiel Stock michielstock
1
280
Optimization of the Tournament Format for the Nationwide High School Kyudo Competition in Japan
Avatar for konakalab konakalab
0
140
蔵本モデルが解き明かす同期と相転移の秘密　〜拍手のリズムはなぜ揃うのか？〜
Avatar for Syota-Sasaki syotasasaki593876
1
170
academist Prize 4期生 研究トーク延長戦！「美は世界を救う」っていうけど、どうやって？
Avatar for Jimpei jimpe_hitsuwari
0
460

Featured

See All Featured
Bridging the Design Gap: How Collaborative Modelling removes blockers to flow between stakeholders and teams @FastFlow conf
Avatar for Kenny Baas-Schwegler baasie
0
410
Rebuilding a faster, lazier Slack
Avatar for samanthasiow samanthasiow
85
9.3k
Java REST API Framework Comparison - PWX 2021
Avatar for Matt Raible mraible
34
9k
Stop Working from a Prison Cell
Avatar for Chris Michel hatefulcrawdad
273
21k
Money Talks: Using Revenue to Get Sh*t Done
Avatar for Nikki Halliwell nikkihalliwell
0
120
Mobile First: as difficult as doing things right
Avatar for Swwweet swwweet
225
10k
The Power of CSS Pseudo Elements
Avatar for Geoffrey Crofte geoffreycrofte
80
6.1k
Leading Effective Engineering Teams in the AI Era
Avatar for Addy Osmani addyosmani
9
1.4k
Odyssey Design
Avatar for Ryan Kendrick rkendrick25
PRO
0
440
Design in an AI World
Avatar for tapps tapps
0
100
The MySQL Ecosystem @ GitHub 2015
Avatar for Sam Lambert samlambert
251
13k
Google's AI Overviews - The New Search
Avatar for Barry Adams badams
0
870

Transcript

  1. Copyright©　2016 Leprachaun Corp. All Rights Reserved 機械学習のための数学 微分・偏微分の計算, 勾配降下法（最急降下法）

  2. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分

  3. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分とは

  4. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数？導関数？

  5. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは

  6. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは What’s !?

  7. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（補足） この値を 極限という

  8. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  9. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 因数分解！

  10. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  11. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 約分して

  12. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  13. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  14. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  15. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） この値は何を 意味する？

  16. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  17. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  18. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  19. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数の値と一致

  20. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数は, 点aにおける 接線の傾きを表す！

  21. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数とは

  22. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（求め方）

  23. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（具体例）

  24. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題

  25. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  26. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  27. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  28. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  29. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  30. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分（具体例）

  31. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分

  32. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏…微分？

  33. Copyright©　2016 Leprachaun Corp. All Rights Reserved そう, 偏った微分.

  34. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分とは

  35. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例） 実際に計算してみよう！

  36. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例）

  37. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  38. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  39. Copyright©　2016 Leprachaun Corp. All Rights Reserved もちろんこいつ！ 勾配降下法（最急降下法）

  40. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） これはグラフ全体が分かって いるから分かる！

  41. Copyright©　2016 Leprachaun Corp. All Rights Reserved じゃあ、全体が分からない ときはどうする？ 勾配降下法（最急降下法）

  42. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  43. Copyright©　2016 Leprachaun Corp. All Rights Reserved こいつに 注目！ こいつに注目！ 勾配降下法（最急降下法）

  44. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点での 傾きは正！ この点での 傾きは負！

    勾配降下法（最急降下法）

  45. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向 に！ 勾配降下法（最急降下法）

    この点は 正の方向に！

  46. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向に！ この点は 正の方向に！

    勾配降下法（最急降下法） 緑の点を傾きに比例した 距離だけ動かしてみる

  47. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  48. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  49. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  50. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） この勾配降下法には 弱点がある…（次回）

  51. Copyright©　2016 Leprachaun Corp. All Rights Reserved 以上です。

  52. Copyright©　2016 Leprachaun Corp. All Rights Reserved ありがとうございました！

  53. Copyright©　2016 Leprachaun Corp. All Rights Reserved 付録

  54. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の極限の厳密な定義

  55. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数一覧

  56. Copyright©　2016 Leprachaun Corp. All Rights Reserved 合成関数の微分