Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
誤差逆伝播法/machine-learning-lecture-backpropagation
Search
monochromegane
July 17, 2020
Technology
1
7.6k
誤差逆伝播法/machine-learning-lecture-backpropagation
GMOペパボ新卒研修2020 機械学習入門 補足資料#06
monochromegane
July 17, 2020
Tweet
Share
More Decks by monochromegane
See All by monochromegane
Go言語での実装を通して学ぶLLMファインチューニングの仕組み / fukuokago22-llm-peft
monochromegane
0
140
不確実性下における目的と手段の統合的探索に向けた連続腕バンディットの応用 / iot70_gp_rff_mab
monochromegane
2
190
なめらかなシステムと運用維持の終わらぬ未来 / dicomo2025_coherently_fittable_system
monochromegane
0
3.9k
ベクトル検索システムの気持ち
monochromegane
37
11k
Go言語での実装を通して学ぶ、高速なベクトル検索を支えるクラスタリング技術/fukuokago-kmeans
monochromegane
1
220
Go言語でターミナルフレンドリーなAIコマンド、afaを作った/fukuokago20_afa
monochromegane
2
300
多様かつ継続的に変化する環境に適応する情報システム/thesis-defense-presentation
monochromegane
1
1k
Online Nonstationary and Nonlinear Bandits with Recursive Weighted Gaussian Process
monochromegane
0
710
AIを前提とした体験の実現に向けて/toward_ai_based_experiences
monochromegane
2
1.1k
Other Decks in Technology
See All in Technology
名刺メーカーDevグループ 紹介資料
sansan33
PRO
0
940
なぜAWSを活かしきれないのか?技術と組織への処方箋
nrinetcom
PRO
5
1k
Databricks AI/BI Genie の「値ディクショナリー」をAmazonの奥地(S3)まで見に行く
kameitomohiro
1
310
技育祭2025【秋】 企業ピッチ/登壇資料(高橋 悟生)
hacobu
PRO
0
120
React19.2のuseEffectEventを追う
maguroalternative
2
520
LLMプロダクトの信頼性を上げるには?LLM Observabilityによる、対話型音声AIアプリケーションの安定運用
ivry_presentationmaterials
0
610
Claude Code Subagents 再入門 ~cc-sddの実装で学んだこと~
gotalab555
10
16k
フレームワークを意識させないワークショップづくり
keigosuda
0
210
プロダクトのコードから見るGoによるデザインパターンの実践 #go_night_talk
bengo4com
1
2.7k
AI時代こそ求められる設計力- AWSクラウドデザインパターン3選で信頼性と拡張性を高める-
kenichirokimura
3
350
Introduction to Sansan Meishi Maker Development Engineer
sansan33
PRO
0
310
Introduction to Sansan, inc / Sansan Global Development Center, Inc.
sansan33
PRO
0
2.8k
Featured
See All Featured
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
37
2.6k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
3.1k
Into the Great Unknown - MozCon
thekraken
40
2.1k
Optimizing for Happiness
mojombo
379
70k
Statistics for Hackers
jakevdp
799
220k
Building Flexible Design Systems
yeseniaperezcruz
329
39k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Testing 201, or: Great Expectations
jmmastey
45
7.7k
A designer walks into a library…
pauljervisheath
209
24k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.2k
Fantastic passwords and where to find them - at NoRuKo
philnash
52
3.4k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
115
20k
Transcript
1 ペパボ研究所 三宅悠介 新卒研修 機械学習入門 補足資料#06 (2020/07/03 Update) 誤差逆伝播法
2 2 ニューラルネットワークの 構造 線形から非線形へ
3 ニューラルネットワークの構造 3 *本資料では簡単のため、バイアス項は導入しない
4 ニューラルネットワークの構造 4
5 ニューラルネットワークの構造 5
6 ニューラルネットワークの構造 6
7 ニューラルネットワークの構造 7
8 ニューラルネットワークの構造 8
9 ニューラルネットワークの構造 9
10 ニューラルネットワークの構造 10
11 ニューラルネットワークの構造 11 活性化関数
12 ニューラルネットワークの構造 12
13 ニューラルネットワークの構造 13
14 14 誤差逆伝播法 デルタ!
15 誤差関数と偏微分 15 誤差関数 パラメータごとの偏微分
16 個別のパラメータごとに偏微分するの ではなく、出力層に近い層の偏微分の 結果を前の層に渡すことで各層でのパ ラメータの偏微分を行う。 誤差信号と呼ばれる値が出力から入力 の方向へ(逆向きに)伝播していくこと から名付けられている。 誤差逆伝播法
16 誤差逆伝播法
17 出力層のパラメータの偏微分 17
18 隠れ層のパラメータの偏微分 18
19 隠れ層のδは一つ先の層のδを使って 求めることができる。 隠れ層のδ 19 隠れ層のδ
20 隠れ層のδ 20 上流のδの数だけ足し合わせ Lはz2(z1)の合成関数
21 隠れ層のδ 21 活性化関数によって異なる
22 隠れ層のδ 22 上流のδの数だけ足し合わせ Lはz2(z1)の合成関数
23 出力層(はじめの)のδ 23 Lkはyk’(z2)の合成関数 活性化関数によって異なる 誤差
24 各層における入力xと重みとの線形結 合した結果であるzを保持する。これを パラメータの更新に用いる。 誤差逆伝播法によるパラメータの更新 24 順伝播
25 誤差逆伝播法によるパラメータの更新 25 出力層の誤差またはパラメータの値と 活性化関数の偏微分を用いて各層に おけるδを求める 逆伝播
26 誤差逆伝播法によるパラメータの更新 26 δとxからパラメータを更新する 逆伝播
27 * 誤差逆伝播法 27 誤差関数に対するパラメータの偏微分 パラメータの更新
28 参考: 活性化関数の微分 28 シグモイド関数 ReLU 実際はx=0の時は微分不可
29 29 参考
30 参考文献 30 本資料における誤差逆伝播法の導出は以下の文献を参考にしました。 より詳細、発展的な説明が必要であれば、精読し、理解を深めてみてください。 - スマートニュース株式会社 立石
賢吾, やさしく学ぶ ディープラーニングがわか る数学のきほん ~アヤノ&ミオと学ぶ ディープラーニングの理論と数学、実装~, マイナビ出版, 2019年07月31日. ISBN:978-4-8399-6837-3 - 斎藤 康毅, ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理 論と実装, オライリー・ジャパン, 2016年09月, ISBN:978-4-87311-758-4 - 新納 浩幸, Chainerによる実践深層学習, オーム社, 2016年09月, ISBN:978-4-274-21934-4