Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

Avatar for kkeeth kkeeth
December 15, 2016
Science
2
3.1k

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

機械学習を学ぶ上で必要となる「微分・偏微分」と、単純パーセプトロンを学ぶ上で必要となる「勾配降下法（最急降下法）」を理解し、実際に計算ができることが目標です。

Avatar for kkeeth

kkeeth

December 15, 2016
Tweet

More Decks by kkeeth

See All by kkeeth
Programming to play with p5.js
Avatar for kkeeth clown0082
0
58
とある EM の初めての育休からの学び
Avatar for kkeeth clown0082
1
4.9k
The history of Javascript frameworks: changes in front-end design philosophy
Avatar for kkeeth clown0082
2
210
Visually experience the beauty of mathematics with p5.js
Avatar for kkeeth clown0082
1
3.2k
Rediscover the joy of coding with Creative Coding
Avatar for kkeeth clown0082
0
1.8k
全員が意思決定する会社で開発者体験や生産性を見る大変さについて
Avatar for kkeeth clown0082
0
640
JavaScript × Mathematics go to Digital Art
Avatar for kkeeth clown0082
1
430
In-house study group at YUMEMI
Avatar for kkeeth clown0082
0
220
Playing Ionic Logo by p5.js
Avatar for kkeeth clown0082
0
320

Other Decks in Science

See All in Science
データベース03: 関係データモデル
Avatar for Y. Yamamoto trycycle
PRO
1
330
データベース12: 正規化(2/2) - データ従属性に基づく正規化
Avatar for Y. Yamamoto trycycle
PRO
0
1.1k
俺たちは本当に分かり合えるのか？ ～ PdMとスクラムチームの “ずれ” を科学する
Avatar for Takeo Imai bonotake
2
850
デジタルアーカイブの教育利用促進を目指したメタデータLOD基盤に関する研究 / Research on a Metadata LOD Platform for Promoting Educational Uses of Digital Archives
Avatar for Masao Takaku masao
0
140
HDC tutorial
Avatar for Michiel Stock michielstock
1
300
Text-to-SQLの既存の評価指標を問い直す
Avatar for Gota gotalab555
1
160
A Guide to Academic Writing Using Generative AI - A Workshop
Avatar for Kenji Saito ks91
PRO
0
170
ド文系だった私が、 KaggleのNCAAコンペでソロ金取れるまで
Avatar for wakama1994 wakamatsu_takumu
2
1.8k
Lean4による汎化誤差評価の形式化
Avatar for Kei Tsukamoto milano0017
1
400
力学系から見た現代的な機械学習
Avatar for Han Bao hanbao
3
3.8k
防災デジタル分野での官民共創の取り組み (1)防災DX官民共創をどう進めるか
Avatar for Masakatsu Sugii ditccsugii
0
460
Distributional Regression
Avatar for takyas tackyas
0
260

Featured

See All Featured
Rails Girls Zürich Keynote
Avatar for Gregor Martynus gr2m
95
14k
Effective software design: The role of men in debugging patriarchy in IT @ Voxxed Days AMS
Avatar for Kenny Baas-Schwegler baasie
0
190
16th Malabo Montpellier Forum Presentation
Avatar for AKADEMIYA2063 akademiya2063
PRO
0
37
The Illustrated Children's Guide to Kubernetes
Avatar for Chris Short chrisshort
51
51k
Conquering PDFs: document understanding beyond plain text
Avatar for Ines Montani inesmontani
PRO
4
2.2k
Evolving SEO for Evolving Search Engines
Avatar for Ryan Jones ryanjones
0
93
Efficient Content Optimization with Google Search Console & Apps Script
Avatar for Katarina Dahlin katarinadahlin
PRO
0
280
How to build an LLM SEO readiness audit: a practical framework
Avatar for Nick Samuel nmsamuel
1
590
Neural Spatial Audio Processing for Sound Field Analysis and Control
Avatar for NII S. Koyama's Lab skoyamalab
0
140
Information Architects: The Missing Link in Design Systems
Avatar for Michelle Chin soysaucechin
0
730
Designing for Performance
Avatar for Lara Hogan lara
610
70k
First, design no harm
Avatar for Per Axbom axbom
PRO
1
1.1k

Transcript

  1. Copyright©　2016 Leprachaun Corp. All Rights Reserved 機械学習のための数学 微分・偏微分の計算, 勾配降下法（最急降下法）

  2. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分

  3. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分とは

  4. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数？導関数？

  5. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは

  6. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは What’s !?

  7. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（補足） この値を 極限という

  8. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  9. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 因数分解！

  10. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  11. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 約分して

  12. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  13. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  14. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  15. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） この値は何を 意味する？

  16. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  17. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  18. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  19. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数の値と一致

  20. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数は, 点aにおける 接線の傾きを表す！

  21. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数とは

  22. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（求め方）

  23. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（具体例）

  24. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題

  25. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  26. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  27. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  28. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  29. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  30. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分（具体例）

  31. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分

  32. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏…微分？

  33. Copyright©　2016 Leprachaun Corp. All Rights Reserved そう, 偏った微分.

  34. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分とは

  35. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例） 実際に計算してみよう！

  36. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例）

  37. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  38. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  39. Copyright©　2016 Leprachaun Corp. All Rights Reserved もちろんこいつ！ 勾配降下法（最急降下法）

  40. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） これはグラフ全体が分かって いるから分かる！

  41. Copyright©　2016 Leprachaun Corp. All Rights Reserved じゃあ、全体が分からない ときはどうする？ 勾配降下法（最急降下法）

  42. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  43. Copyright©　2016 Leprachaun Corp. All Rights Reserved こいつに 注目！ こいつに注目！ 勾配降下法（最急降下法）

  44. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点での 傾きは正！ この点での 傾きは負！

    勾配降下法（最急降下法）

  45. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向 に！ 勾配降下法（最急降下法）

    この点は 正の方向に！

  46. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向に！ この点は 正の方向に！

    勾配降下法（最急降下法） 緑の点を傾きに比例した 距離だけ動かしてみる

  47. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  48. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  49. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  50. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） この勾配降下法には 弱点がある…（次回）

  51. Copyright©　2016 Leprachaun Corp. All Rights Reserved 以上です。

  52. Copyright©　2016 Leprachaun Corp. All Rights Reserved ありがとうございました！

  53. Copyright©　2016 Leprachaun Corp. All Rights Reserved 付録

  54. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の極限の厳密な定義

  55. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数一覧

  56. Copyright©　2016 Leprachaun Corp. All Rights Reserved 合成関数の微分