Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

Avatar for kkeeth kkeeth
December 15, 2016
Science
2
3.1k

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

機械学習を学ぶ上で必要となる「微分・偏微分」と、単純パーセプトロンを学ぶ上で必要となる「勾配降下法（最急降下法）」を理解し、実際に計算ができることが目標です。

Avatar for kkeeth

kkeeth

December 15, 2016
Tweet

More Decks by kkeeth

See All by kkeeth
Programming to play with p5.js
Avatar for kkeeth clown0082
0
33
とある EM の初めての育休からの学び
Avatar for kkeeth clown0082
1
4.2k
The history of Javascript frameworks: changes in front-end design philosophy
Avatar for kkeeth clown0082
2
180
Visually experience the beauty of mathematics with p5.js
Avatar for kkeeth clown0082
1
3.1k
Rediscover the joy of coding with Creative Coding
Avatar for kkeeth clown0082
0
1.7k
全員が意思決定する会社で開発者体験や生産性を見る大変さについて
Avatar for kkeeth clown0082
0
620
JavaScript × Mathematics go to Digital Art
Avatar for kkeeth clown0082
1
410
In-house study group at YUMEMI
Avatar for kkeeth clown0082
0
210
Playing Ionic Logo by p5.js
Avatar for kkeeth clown0082
0
290

Other Decks in Science

See All in Science
Explanatory material
Avatar for InnovativeSpaceCerrier yuki1986
0
400
AIによる科学の加速： 各領域での革新と共創の未来
Avatar for Masaya Mori (森正弥) / CAIO (Chief AI Officer) masayamoriofficial
0
120
My Favourite Book in 2024: Get Rid of Your Japanese Accent
Avatar for Kent OHASHI lagenorhynque
1
110
知能とはなにかーヒトとAIのあいだー
Avatar for Y-h. Taguchi tagtag
0
120
Cross-Media Technologies, Information Science and Human-Information Interaction
Avatar for Beat Signer signer
PRO
3
31k
機械学習 - DBSCAN
Avatar for Y. Yamamoto trycycle
PRO
0
1k
ttl2html (RDF/Turtle to HTML)
Avatar for Masao Takaku masao
0
110
mathematics of indirect reciprocity
Avatar for Yohsuke Murase yohm
1
180
Gemini Prompt Engineering: Practical Techniques for Tangible AI Outcomes
Avatar for Mfonobong Umondia mfonobong
2
160
機械学習 - 授業概要
Avatar for Y. Yamamoto trycycle
PRO
0
240
アナログ計算機『計算尺』を愛でる Midosuji Tech #4/Analog Computing Device Slide Rule now and then
Avatar for quiver quiver
1
260
ランサムウェア対策にも考慮したVMware、Hyper-V、Azure、AWS間のリアルタイムレプリケーション「Zerto」を徹底解説
Avatar for Climb climbteam
0
110

Featured

See All Featured
The Pragmatic Product Professional
Avatar for Laura Van Doore lauravandoore
36
6.9k
A better future with KSS
Avatar for Kyle Neath kneath
239
17k
Practical Tips for Bootstrapping Information Extraction Pipelines
Avatar for Matthew Honnibal honnibal
PRO
23
1.4k
A Tale of Four Properties
Avatar for Chris Coyier chriscoyier
160
23k
Being A Developer After 40
Avatar for Adrian Kosmaczewski akosma
90
590k
VelocityConf: Rendering Performance Case Studies
Avatar for Addy Osmani addyosmani
332
24k
Agile that works and the tools we love
Avatar for Rasmus Luckow-Nielsen rasmusluckow
330
21k
Improving Core Web Vitals using Speculation Rules API
Avatar for Sergey Chernyshev sergeychernyshev
18
1.1k
[RailsConf 2023] Rails as a piece of cake
Avatar for Vladimir Dementyev palkan
57
5.8k
Stop Working from a Prison Cell
Avatar for Chris Michel hatefulcrawdad
271
21k
10 Git Anti Patterns You Should be Aware of
Avatar for Lemi Orhan Ergin lemiorhan
PRO
656
61k
Dealing with People You Can't Stand - Big Design 2015
Avatar for Cassini Nazir cassininazir
367
27k

Transcript

  1. Copyright©　2016 Leprachaun Corp. All Rights Reserved 機械学習のための数学 微分・偏微分の計算, 勾配降下法（最急降下法）

  2. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分

  3. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分とは

  4. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数？導関数？

  5. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは

  6. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは What’s !?

  7. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（補足） この値を 極限という

  8. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  9. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 因数分解！

  10. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  11. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 約分して

  12. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  13. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  14. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  15. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） この値は何を 意味する？

  16. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  17. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  18. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  19. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数の値と一致

  20. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数は, 点aにおける 接線の傾きを表す！

  21. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数とは

  22. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（求め方）

  23. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（具体例）

  24. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題

  25. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  26. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  27. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  28. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  29. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  30. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分（具体例）

  31. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分

  32. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏…微分？

  33. Copyright©　2016 Leprachaun Corp. All Rights Reserved そう, 偏った微分.

  34. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分とは

  35. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例） 実際に計算してみよう！

  36. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例）

  37. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  38. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  39. Copyright©　2016 Leprachaun Corp. All Rights Reserved もちろんこいつ！ 勾配降下法（最急降下法）

  40. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） これはグラフ全体が分かって いるから分かる！

  41. Copyright©　2016 Leprachaun Corp. All Rights Reserved じゃあ、全体が分からない ときはどうする？ 勾配降下法（最急降下法）

  42. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  43. Copyright©　2016 Leprachaun Corp. All Rights Reserved こいつに 注目！ こいつに注目！ 勾配降下法（最急降下法）

  44. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点での 傾きは正！ この点での 傾きは負！

    勾配降下法（最急降下法）

  45. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向 に！ 勾配降下法（最急降下法）

    この点は 正の方向に！

  46. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向に！ この点は 正の方向に！

    勾配降下法（最急降下法） 緑の点を傾きに比例した 距離だけ動かしてみる

  47. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  48. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  49. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  50. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） この勾配降下法には 弱点がある…（次回）

  51. Copyright©　2016 Leprachaun Corp. All Rights Reserved 以上です。

  52. Copyright©　2016 Leprachaun Corp. All Rights Reserved ありがとうございました！

  53. Copyright©　2016 Leprachaun Corp. All Rights Reserved 付録

  54. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の極限の厳密な定義

  55. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数一覧

  56. Copyright©　2016 Leprachaun Corp. All Rights Reserved 合成関数の微分