Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ソーイAI勉強会 第2回:深層学習の計算

Avatar for sewii sewii
May 30, 2025
44

ソーイAI勉強会 第2回:深層学習の計算

Avatar for sewii

sewii

May 30, 2025
Tweet

Transcript

  1. YX YXB     ˞ॏΈ͸ҎԼͷΑ͏ʹ࢖͏ X XɿॏΈ Y

    Yɿೖྗ஋ ྫʣ΋͠Yͷೖྗ͕ॏཁͰͳͯ͘ɺYͷೖྗ͕ॏཁͩͬͨ৔߹ Y YB   ͷΑ͏ʹ࢖͏ɻ ˠೖྗ৴߸ͷ࿨Bʹ͍ͨͯ͠ɺΑΓYͷ஋͕൓ө͞Ε͍ͯΔɻ
  2. Y Y    C X X Z 

     ɿॏΈ X  X  CɿόΠΞε Yɿೖྗ৴߸ Zɿग़ྗ৴߸ χϡʔϥϧωοτϫʔΫͷܭࢉͷਤࣜԽ χϡʔϩϯͷ଍͠ࢉΛ ʮZʹม׵ʯͯ͠ग़ྗ
  3. Y Y    C X X Z 

     ɿॏΈ X  X  CɿόΠΞε χϡʔϥϧωοτϫʔΫͷܭࢉͷਤࣜԽ ग़ྗ ॏΈ͚ͩͰ͸දݱͰ͖ͳ͍෦෼ ΛόΠΞεͰิڧɻ
  4. BɿZʹૹΒΕͯ͘Δೖྗ৴߸ͷ૯࿨ C YX YXB     ZI B

     ׆ੑԽؔ਺ͷม׵ ೖྗ৴߸ ୅ೖʂʂ ग़ྗ৴߸ ͜ͷIΛ׆ੑԽؔ਺ͱ͍͏ ೖྗ஋Λग़ྗ஋ʹม׵ʂʂ
  5. Y Y    C X X B 

     χϡʔϥϧωοτϫʔΫͷܭࢉͷਤࣜԽʢΑΓৄࡉʹʣ Zͱͯ͠ग़ྗ Z I B
  6. ͦ΋ͦ΋ޯ഑ͱ͸ʁ ଛࣦؔ਺ʹର͢ΔॏΈͷඍ෼஋ ∂E ∂w = [ ∂E ∂w1 ⋯ ∂E

    ∂wn ] Ͱද͞ΕΔ XʢॏΈʣΛม͑ͨ࣌ʹɺ&ʢଛࣦؔ਺ʣ͕ͲΕ͘Β͍มΘΔ͔
  7. ʮޯ഑๏ʯͷ਺ࣜ wnew = wold − η × ∂E ∂w ʢߋ৽ޙͷॏΈʣʢߋ৽લͷॏΈʣʢֶश཰ʣºʢޯ഑ʣ

    ˞ֶश཰ʢБʣɿճͷֶशͰͲΕ͘Β͍ύϥϝʔλΛߋ৽͢Δ͔ ޯ഑ํ޲ʹҠಈ͢Δྔ
  8. ʮޯ഑๏ʯͷ਺ࣜ͸ͳʹΛද͍ͯ͠Δͷ͔ʁ ॏΈʢXʣ ଛࣦؔ਺ʢ&ʣ ϶X ޯ഑͸ෛ ߋ৽લ ߋ৽ޙ ͲͷΑ͏ʹॏΈ͕ߋ৽͞ΕΔͷ͔ʁ wnew =

    wold − η × ∂E ∂w ʢྫʣޯ഑͕ෛ ˠ"͸ਖ਼ ˠߋ৽લͷXʹ"͕଍͞ΕΔ ˠX͸ӈʹҠಈʢߋ৽ʣ "ͱ͢Δ
  9. wnew = wold − η × ∂E ∂w ˣˣˣॏΈͷܭࢉ͸ɺԼͷࣜͰٻΊ͍͚ͯ͹͍͍ X

    X X ॏΈͷมԽΛΈΑ͏ʂ ˠXΛಈ͔ͯ͠ΈΔ ˠXΛΛม͑Δͱͦͷ͋ͱશͯʹӨڹ ˠܭࢉ͕େมʂʂ ॱ఻೻