Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

Avatar for kkeeth kkeeth
December 15, 2016
Science
2
3.1k

機械学習のための数学　〜微分・偏微分の計算, 勾配降下法（最急降下法）〜

機械学習を学ぶ上で必要となる「微分・偏微分」と、単純パーセプトロンを学ぶ上で必要となる「勾配降下法（最急降下法）」を理解し、実際に計算ができることが目標です。

Avatar for kkeeth

kkeeth

December 15, 2016
Tweet

More Decks by kkeeth

See All by kkeeth
Programming to play with p5.js
Avatar for kkeeth clown0082
0
44
とある EM の初めての育休からの学び
Avatar for kkeeth clown0082
1
4.5k
The history of Javascript frameworks: changes in front-end design philosophy
Avatar for kkeeth clown0082
2
190
Visually experience the beauty of mathematics with p5.js
Avatar for kkeeth clown0082
1
3.1k
Rediscover the joy of coding with Creative Coding
Avatar for kkeeth clown0082
0
1.7k
全員が意思決定する会社で開発者体験や生産性を見る大変さについて
Avatar for kkeeth clown0082
0
630
JavaScript × Mathematics go to Digital Art
Avatar for kkeeth clown0082
1
420
In-house study group at YUMEMI
Avatar for kkeeth clown0082
0
220
Playing Ionic Logo by p5.js
Avatar for kkeeth clown0082
0
300

Other Decks in Science

See All in Science
データベース03: 関係データモデル
Avatar for Y. Yamamoto trycycle
PRO
1
280
Explanatory material
Avatar for InnovativeSpaceCerrier yuki1986
0
410
データベース04: SQL (1/3) 単純質問 & 集約演算
Avatar for Y. Yamamoto trycycle
PRO
0
1k
機械学習 - DBSCAN
Avatar for Y. Yamamoto trycycle
PRO
0
1.2k
学術講演会中央大学学員会府中支部
Avatar for Y-h. Taguchi tagtag
0
320
サイゼミ用因果推論
Avatar for LW lw
1
7.6k
SciPyDataJapan 2025
Avatar for k schwalbe10
0
270
academist Prize 4期生 研究トーク延長戦！「美は世界を救う」っていうけど、どうやって？
Avatar for Jimpei jimpe_hitsuwari
0
420
[Paper Introduction] From Bytes to Ideas: Language Modeling with Autoregressive U-Nets
Avatar for omoto haruumi haruumiomoto
0
150
サイコロで理解する原子核崩壊と拡散現象 〜単純化されたモデルで本質を理解する〜
Avatar for Syota-Sasaki syotasasaki593876
0
100
Machine Learning for Materials (Challenge)
Avatar for Aron Walsh aronwalsh
0
350
データから見る勝敗の法則 / The principle of victory discovered by science (open lecture in NSSU)
Avatar for konakalab konakalab
1
200

Featured

See All Featured
The Pragmatic Product Professional
Avatar for Laura Van Doore lauravandoore
36
7k
Put a Button on it: Removing Barriers to Going Fast.
Avatar for kastner kastner
60
4.1k
Thoughts on Productivity
Avatar for Jon Yablonski jonyablonski
72
4.9k
Typedesign – Prime Four
Avatar for Hannes Fritz hannesfritz
42
2.8k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
Avatar for mongodb mongodb
48
9.7k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
Avatar for Eileen M. Uchitelle eileencodes
26
3.1k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
Avatar for Morgane Peng morganepeng
132
19k
Into the Great Unknown - MozCon
Avatar for Noah Learner thekraken
40
2.1k
Context Engineering - Making Every Token Count
Avatar for Addy Osmani addyosmani
8
330
Producing Creativity
Avatar for Steve Smith orderedlist
PRO
348
40k
The MySQL Ecosystem @ GitHub 2015
Avatar for Sam Lambert samlambert
251
13k
Fireside Chat
Avatar for paigeccino paigeccino
41
3.7k

Transcript

  1. Copyright©　2016 Leprachaun Corp. All Rights Reserved 機械学習のための数学 微分・偏微分の計算, 勾配降下法（最急降下法）

  2. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分

  3. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分とは

  4. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数？導関数？

  5. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは

  6. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数とは What’s !?

  7. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（補足） この値を 極限という

  8. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  9. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 因数分解！

  10. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  11. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） 約分して

  12. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  13. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  14. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例）

  15. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数（具体例） この値は何を 意味する？

  16. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  17. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  18. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味

  19. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数の値と一致

  20. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分係数の意味 微分係数は, 点aにおける 接線の傾きを表す！

  21. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数とは

  22. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（求め方）

  23. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数（具体例）

  24. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題

  25. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  26. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  27. Copyright©　2016 Leprachaun Corp. All Rights Reserved 微分練習問題（回答）

  28. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  29. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分

  30. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の四則演算に対する微分（具体例）

  31. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分

  32. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏…微分？

  33. Copyright©　2016 Leprachaun Corp. All Rights Reserved そう, 偏った微分.

  34. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分とは

  35. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例） 実際に計算してみよう！

  36. Copyright©　2016 Leprachaun Corp. All Rights Reserved 偏微分（具体例）

  37. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  38. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  39. Copyright©　2016 Leprachaun Corp. All Rights Reserved もちろんこいつ！ 勾配降下法（最急降下法）

  40. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） これはグラフ全体が分かって いるから分かる！

  41. Copyright©　2016 Leprachaun Corp. All Rights Reserved じゃあ、全体が分からない ときはどうする？ 勾配降下法（最急降下法）

  42. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  43. Copyright©　2016 Leprachaun Corp. All Rights Reserved こいつに 注目！ こいつに注目！ 勾配降下法（最急降下法）

  44. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点での 傾きは正！ この点での 傾きは負！

    勾配降下法（最急降下法）

  45. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向 に！ 勾配降下法（最急降下法）

    この点は 正の方向に！

  46. Copyright©　2016 Leprachaun Corp. All Rights Reserved この点は 負の方向に！ この点は 正の方向に！

    勾配降下法（最急降下法） 緑の点を傾きに比例した 距離だけ動かしてみる

  47. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  48. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  49. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法）

  50. Copyright©　2016 Leprachaun Corp. All Rights Reserved 勾配降下法（最急降下法） この勾配降下法には 弱点がある…（次回）

  51. Copyright©　2016 Leprachaun Corp. All Rights Reserved 以上です。

  52. Copyright©　2016 Leprachaun Corp. All Rights Reserved ありがとうございました！

  53. Copyright©　2016 Leprachaun Corp. All Rights Reserved 付録

  54. Copyright©　2016 Leprachaun Corp. All Rights Reserved 関数の極限の厳密な定義

  55. Copyright©　2016 Leprachaun Corp. All Rights Reserved 導関数一覧

  56. Copyright©　2016 Leprachaun Corp. All Rights Reserved 合成関数の微分