Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

Avatar for kkeeth kkeeth
December 15, 2016
Science
2
3k

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

機械学習を学ぶ上で必要となる「微分・偏微分」と、単純パーセプトロンを学ぶ上で必要となる「勾配降下法（最急降下法）」を理解し、実際に計算ができることが目標です。
Avatar for kkeeth

kkeeth

December 15, 2016
Tweet

More Decks by kkeeth

See All by kkeeth
Programming to play with p5.js
Avatar for kkeeth clown0082
0
19
とある EM の初めての育休からの学び
Avatar for kkeeth clown0082
1
3.7k
The history of Javascript frameworks: changes in front-end design philosophy
Avatar for kkeeth clown0082
2
170
Visually experience the beauty of mathematics with p5.js
Avatar for kkeeth clown0082
1
3k
Rediscover the joy of coding with Creative Coding
Avatar for kkeeth clown0082
0
1.6k
全員が意思決定する会社で開発者体験や生産性を見る大変さについて
Avatar for kkeeth clown0082
0
620
JavaScript × Mathematics go to Digital Art
Avatar for kkeeth clown0082
1
390
In-house study group at YUMEMI
Avatar for kkeeth clown0082
0
210
Playing Ionic Logo by p5.js
Avatar for kkeeth clown0082
0
280

Other Decks in Science

See All in Science
Trend Classification of InSAR Displacement Time Series Using SAE–CNN
Avatar for SatAI.challenge satai
3
460
CV_3_Keypoints
Avatar for Mohammed Hachama hachama
0
190
サイゼミ用因果推論
Avatar for LW lw
1
7.3k
データベース02: データベースの概念
Avatar for Y. Yamamoto trycycle
PRO
2
760
深層学習を用いた根菜類の個数カウントによる収量推定法の開発
Avatar for Kenta Itakura kentaitakura
0
160
Online Feedback Optimization
Avatar for Florian Dörfler floriandoerfler
0
2.3k
MoveItを使った産業用ロボット向け動作作成方法の紹介 / Introduction to creating motion for industrial robots using MoveIt
Avatar for Ryo Kabutan ry0_ka
0
500
03_草原和博_広島大学大学院人間社会科学研究科教授_デジタル_シティズンシップシティで_新たな_学び__をつくる.pdf
Avatar for Sip3ristex sip3ristex
0
490
Agent開発フレームワークのOverviewとW&B Weaveとのインテグレーション
Avatar for W&B Si siyoo
0
280
Explanatory material
Avatar for InnovativeSpaceCerrier yuki1986
0
330
統計的因果探索: 背景知識とデータにより因果仮説を探索する
Avatar for Shohei SHIMIZU sshimizu2006
4
930
データベース09: 実体関連モデル上の一貫性制約
Avatar for Y. Yamamoto trycycle
PRO
0
710

Featured

See All Featured
ピンチをチャンスに：未来をつくるプロダクトロードマップ #pmconf2020
Avatar for Aki / @LoveIdahoBurger aki_iinuma
126
52k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
Avatar for Rebecca Miller-Webster rmw
34
3.1k
Typedesign – Prime Four
Avatar for Hannes Fritz hannesfritz
42
2.7k
Unsuck your backbone
Avatar for Amy Palamountain ammeep
671
58k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
Avatar for Dan Newman danielanewman
229
22k
[RailsConf 2023 Opening Keynote] The Magic of Rails
Avatar for Eileen M. Uchitelle eileencodes
29
9.6k
Build The Right Thing And Hit Your Dates
Avatar for Maggie C. maggiecrowley
36
2.8k
Embracing the Ebb and Flow
Avatar for Simon Collison colly
86
4.7k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
Avatar for Eileen M. Uchitelle eileencodes
35
2.4k
Six Lessons from altMBA
Avatar for Skipper Chong Warson skipperchong
28
3.9k
For a Future-Friendly Web
Avatar for Brad Frost brad_frost
179
9.8k
Site-Speed That Sticks
Avatar for Harry Roberts csswizardry
10
680

Transcript

  1. Copyright©　2016 Leprachaun Corp. All Rights Reserved 機械学習のための数学 微分・偏微分の計算, 勾配降下法（最急降下法）

  2. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分

  3. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分とは

  4. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数？導関数？

  5. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは

  6. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは What’s !?

  7. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（補足） この値を 極限という

  8. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  9. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 因数分解！

  10. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  11. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 約分して

  12. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  13. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  14. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  15. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） この値は何を 意味する？

  16. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  17. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  18. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  19. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数の値と一致

  20. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数は, 点aにおける 接線の傾きを表す！

  21. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数とは

  22. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（求め方）

  23. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（具体例）

  24. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題

  25. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  26. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  27. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  28. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  29. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  30. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分（具体例）

  31. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分

  32. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏…微分？

  33. Copyright©　2016 Leprachaun Corp. All Rights Reserved そう, 偏った微分.

  34. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分とは

  35. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例） 実際に計算してみよう！

  36. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例）

  37. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  38. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  39. Copyright©　2016 Leprachaun Corp. All Rights Reserved もちろんこいつ！ 勾配降下法（最急降下法）

  40. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） これはグラフ全体が分かって いるから分かる！

  41. Copyright©　2016 Leprachaun Corp. All Rights Reserved じゃあ、全体が分からない ときはどうする？ 勾配降下法（最急降下法）

  42. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  43. Copyright©　2016 Leprachaun Corp. All Rights Reserved こいつに 注目！ こいつに注目！ 勾配降下法（最急降下法）

  44. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点での 傾きは正！ この点での 傾きは負！

    勾配降下法（最急降下法）

  45. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向 に！ 勾配降下法（最急降下法）

    この点は 正の方向に！

  46. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向に！ この点は 正の方向に！

    勾配降下法（最急降下法） 緑の点を傾きに比例した 距離だけ動かしてみる

  47. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  48. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  49. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  50. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） この勾配降下法には 弱点がある…（次回）

  51. Copyright©　2016 Leprachaun Corp. All Rights Reserved 以上です。

  52. Copyright©　2016 Leprachaun Corp. All Rights Reserved ありがとうございました！

  53. Copyright©　2016 Leprachaun Corp. All Rights Reserved 付録

  54. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の極限の厳密な定義

  55. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数一覧

  56. Copyright©　2016 Leprachaun Corp. All Rights Reserved 合成関数の微分