Slide 16
Slide 16 text
損失関数
「分類」と呼ばれる、1か0かを判断するモデルでは、損失は下記のような「交差エントロピー関数」になります。
なぜこの関数で損失が計算できるかはやや複雑な話なので省略しますが、
損失から先のパラメータ最適化の考え⽅は「回帰」の場合とまったく同じです。
͠·͍ɺଛࣦؔؒͰͷਫ਼ͷൺֱ͕͘͠ͳͬͯ͠·͏ͷͰɺฏۉΛ
ͱΔ͜ͱͰσʔλ݅ͷӨڹΛͳ͘͠·͢ɻ
ɹ
ʢʣ
1ZUIPO ͰྻͷΠϯσοΫε ͔Β࢝·ΔͷͰɺm ͷ։࢝Λ
ͱ͠·͢ɻ
ɹ͢Δͱ࠷ऴతͳଛࣦؔͷࣜ࣍ͷܗʹͳΓ·͢ ɻ
ɹͨͩ͠
ʢʣ
L(w0, w1, w2) = −
1
M
M−1
m=0
(yt(m) · log (yp(m)) + (1 − yt(m)) log (1 − yp(m)))
u(m) = w · x(m) = w0 + w1x(m)
1
+ w2x(m)
2
yp(m) = f(u(m))
࣮
ʢʣ
ͷ͕ࣜొ͢ΔͷຊॻͰ Ͱ͢ɻ࠷ॳʹग़͖ͯͨͷ અ
ʮ͡Ίͯͷػ
※この理由を詳しく知りたい⽅には、講演者の著書の⼀つである「ディープラーニングの数学」がお勧めです。
https://www.amazon.co.jp/dp/4296102508