Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ガウス過程と機械学習 3章後半

ガウス過程と機械学習 3章後半

「ガウス過程と機械学習」輪読会(リターンズ) #3 の発表資料です
https://reading-circle-beginners.connpass.com/event/142115/

Asei Sugiyama

August 18, 2019
Tweet

More Decks by Asei Sugiyama

Other Decks in Technology

Transcript

  1. ํ਑ & ग़య • Ψ΢εաఔͱػցֶशͷ 3.4 - 3.6 Λத৺ʹѻ͍·͢ •

    ग़యΛ໌ه͍ͯ͠ͳ͍ਤ͸͜ͷॻ੶ ͔ΒͷҾ༻Ͱ͢ • ͚ͩ͜͜Λ࿩͢ͷ͸೉͍͠ͷͰɺ෮श ͔ΒೖΓ·͢ • ϕΠζਪ࿦ʹΑΔػցֶशೖ໳ • 3.1 - 3.3 • 3.4 - 3.6
  2. ϕΠζਪ࿦ʹΑΔػցֶशೖ໳ • ஶऀ : ਢࢁರࢤ (@sammy_suyama) • ଞʹ͸ʮϕΠζਂ૚ֶशʯ • ϕΠζਪ࿦ͷجૅʹ͍ͭͯͷຊ

    • ࣍ͷ಺༰Λ෮श͢Δ 1.ϕΠζਪ࿦ 2.MCMC (ΪϒεαϯϓϦϯά) 3.ઢܗճؼ 4.ϩδεςΟοΫճؼ
  3. ઢܗճؼ • ೖྗ஋Λ ग़ྗ஋Λ ॏΈΛ , ϊΠζ੒෼Λ ͱ͠ ͯɺઢܗճؼ͸ ͱఆࣜԽͰ͖Δ

    • ϊΠζʹ͍ͭͯ ΛԾఆ͢Δͱɺग़ྗ ͸ ͱਖ਼ن෼෍ʹै͏ • ॏΈʹ͍ͭͯ ΛԾఆ͢Δͱɺࣄޙ෼෍ ͕ਖ਼ن෼෍ʹै͏ (ϕΠζਪ࿦ͷҙຯͰֶशՄೳ)
  4. ϕΠζਪ࿦ʹΑΔػցֶशೖ໳ Recap ߲໨ ϙΠϯτ 1. ϕΠζਪ࿦ ֶशͰ΋ਪ࿦Ͱ΋֬཰෼෍Λߟ͑Δ 2. MCMC (ΪϒεαϯϓϦϯά)

    ෳࡶͳ෼෍Λۙࣅ͢Δख๏͕͋Δ 3. ઢܗճؼ ॏΈΛ֬཰ม਺ͩͱଊֶ͑ͯश͢Δ 4. ϩδεςΟοΫճؼ ޯ഑߱Լ๏ΛϕΠζͰ΋࢖͑Δ
  5. ༨ஊ ϕΠζਂ૚ֶश • ୈ 1 ষ ͸͡Ίʹ • ୈ 2

    ষ χϡʔϥϧωοτϫʔΫͷج ૅ • ୈ 3 ষ ϕΠζਪ࿦ͷجૅ • ୈ 4 ষ ۙࣅϕΠζਪ࿦ • ୈ 5 ষ χϡʔϥϧωοτϫʔΫͷϕ Πζਪ࿦ • ୈ 6 ষ ਂ૚ੜ੒Ϟσϧ • ୈ 7 ষ ਂ૚ֶशͱΨ΢εաఔ
  6. Ψ΢εաఔ֓ཁ ߲໨ ϙΠϯτ 1. Ψ΢εաఔͷఆٛ ฏۉͱڞ෼ࢄߦྻͰܾ·Δ 2. Χʔωϧؔ਺ͷಋೖ Χʔωϧؔ਺͸಺ੵΛҰൠԽͨ͠΋ͷ 3.

    Χʔωϧؔ਺ͱάϥϜߦྻ άϥϜߦྻ͕Ψ΢εաఔʹ͓͚Δڞ෼ࢄ ߦྻʹͳΔ 4. ؍ଌϊΠζͱΧʔωϧؔ਺ Χʔωϧؔ਺ʹΑΓΨ΢εաఔͰ͞·͟ ·ͳϞσϧΛදݱͰ͖Δ
  7. ิ଍ Mercer ͷఆཧ • ਖ਼ఆ஋Χʔωϧ ʹରͯ͠͸ɺ࣍Λຬ ͨ͢Α͏ͳಛ௃ۭؒ΁ͷࣹӨ ͕ ଘࡏ͢Δɺͱ͍͏ఆཧ •

    ࣹӨ͢Δಛ௃ۭؒͷ࣍ݩ͸Ұൠʹ͸༗ ݶͰͳ͍ • ͭ·Γຊ౰ʹӈͷΑ͏ʹͳ͍ͬͯΔͱ ࢥͬͯ΋ྑ͍ (ػցֶशਤ͔ؑΒൈਮ)
  8. ؍ଌϊΠζͱΧʔωϧؔ਺ • ઢܗճؼ ʹ͓͍ͯɺ ͱ ͓͖ɺ ͱ ΛԾఆ͢Δ • ͜ͷͱ͖

    Ͱ ( ͱͨ͠) • ͕ਖ਼ఆ஋Ͱ͋Δ͜ͱͱɺΧʔωϧؔ਺͸࿨ʹดͯ͡ ͍Δ͜ͱΛ༻͍Δͱ ͱ͍͏ ৽͍͠Χʔωϧؔ਺Λఆٛͨ͠ͱΈͳͤΔ
  9. Ψ΢εաఔ֓ཁ Recap ߲໨ ϙΠϯτ 1. Ψ΢εաఔͷఆٛ ฏۉͱڞ෼ࢄߦྻͰܾ·Δ 2. Χʔωϧؔ਺ͷಋೖ Χʔωϧؔ਺͸಺ੵΛҰൠԽͨ͠΋ͷ

    3. Χʔωϧؔ਺ͱάϥϜߦྻ άϥϜߦྻ͕Ψ΢εաఔʹ͓͚Δڞ෼ࢄ ߦྻʹͳΔ 4. ؍ଌϊΠζͱΧʔωϧؔ਺ Χʔωϧؔ਺ʹΑΓΨ΢εաఔͰ͞·͟ ·ͳϞσϧΛදݱͰ͖Δ
  10. Ψ΢εաఔͷ༧ଌ෼෍ • ֶशσʔλ Λ࢖ͬͯະ஌σʔλ ʹର͢Δग़ྗ Λ༧ଌ͍ͨ͠ ( ͱ͢Δ) • ͱ͍͏ؔ܎͕͋Γ

    ͱ͢Δ • ͷै͏෼෍͸άϥϜߦྻ Λ༻͍Δͱɺ (Ψ΢εաఔͷఆٛΑΓ) • ະ஌σʔλͰ͸Ͳ͏͢΂͖͔Λߟ͍͑ͨ
  11. ະ஌σʔλʹର͢Δਪ࿦ (1/2) • ະ஌ͷೖྗ ʹର͢Δग़ྗ Λؚ ΊͯάϥϜߦྻΛܭࢉͯ͠ਪ࿦͢Δ • ະ஌σʔλΛՃ͑ͨग़ྗ ͱɺະ஌σʔλΛ

    Ճ͑ͨάϥϜߦྻ Λܭࢉ͢Δ • ະ஌σʔλΛؚΊͨग़ྗͷ෼෍ (ط஌ σʔλͱະ஌σʔλͷಉ࣌֬཰෼෍) ͕ਪ࿦Ͱ͖Δ
  12. Ψ΢εաఔճؼͷܭࢉ (1/2) • ֬཰෼෍ ͷύϥ ϝʔλͷܭࢉʹ͓͍ͯɺ ͷܭࢉ͕ඞཁ • ٯߦྻͷܭࢉͰ͸ϥϯΫ (͜͜Ͱ͸σʔλྔ)

    ʹରͯ͠ܭ ࢉྔ͕ ඞཁʹͳΔͨΊͳΜͱ͔ͯ͠ճආ͍ͨ͠ • Ψ΢γΞϯΧʔωϧͰ͸ճආͰ͖Δ • ৄ͘͠͸ 5 ষͰ!
  13. Ψ΢εաఔճؼͷܭࢉ (2/2) • ۪௚ͳ࣮૷ͰؾʹͳΔՕॴΛݕ౼͢Δ • K[n, n'] ͷϝϞϦফඅྔ͕σʔλ਺ ʹରͯ͠ •

    ٯߦྻͷܭࢉྔ͕ߴ͍ ( ) • άϥϜߦྻͷܭࢉྔ΋ߴ͍ ( ) • train ʹ֘౰͢Δ෦෼͕ͳ͍ • άϥϜߦྻΛهԱ͢Δ͚ͩ • ޙ΄Ͳ࠶ݕ౼
  14. Ψ΢εճؼաఔͷཁૉදݱ (2/3) • Λݕ౼͢Δ ( ͸ݻఆͯ͠ߟ͑Δ) • ͸ ൪໨ͷσʔλͱະ஌ σʔλͷྨࣅ౓

    • ͸ ൪໨ͷσʔλͱͷ ൪໨ͷσʔ λͷؔ࿈౓߹͍ • ͸ະ஌σʔλ͕ ൪໨ͷط஌σʔλ ͱͲΕ͚ͩؔ࿈͢Δ͔ɺશମతͳฏۉ Λͱͬͨ΋ͷ
  15. Ψ΢εաఔճؼϞσϧ Recap ߲໨ ϙΠϯτ 1. Ψ΢εաఔͷ༧ଌ෼෍ ਪ࿦͸Χʔωϧؔ਺Λ༻͍ͨط஌ͷσ ʔλͱͷྨࣅ౓ܭࢉ͔ΒͰ͖Δ 2. Ψ΢εաఔճؼͷܭࢉ

    ۩ମతͳ࣮૷Ͱ͸ٯߦྻͷܭࢉ͕ܭࢉ ͷେ൒Λ઎ΊΔ 3. Ψ΢εճؼաఔͷཁૉදݱ αϙʔτϕΫτϧϚγϯ΍χϡʔϥϧ ωοτϫʔΫͱͷؔ࿈͕ࣔࠦ͞ΕΔ
  16. ༨ஊ Firebase • Firebase ͷυΩϡϝϯτʹʮߴ౓ͳ ϕΠζ౷ܭʯΛ༻͍ͯͱ͋Γ·͢Ͷ • Optimize1 Ͱ΋࢖͍ͬͯΔΈ͍ͨͰ͢ Ͷ

    • ࣄલ෼෍ʹ Beta(0, 0) Λ༻͍͍ͯ Δͷ͸ͼͬ͘Γ͠·ͨ͠ 1 Google Analytics Λ༻͍ͨ Web αΠτͷ A/B ςετ༻αʔϏε
  17. ϋΠύʔύϥϝʔλͱہॴղ • େҬղͰ͸ͳ͘ہॴղʹؕΔ৔߹͕͋ Δͷʹ஫ҙ • ͜Ε͸઴ۙܭࢉʹҰൠͷੑ࣭ • ϋΠύʔύϥϝʔλͷ࣍ݩ͕ߴ͍৔߹͸ MCMC3 ͳͲΛ࢖ͬͯܭࢉ͢Δͱྑ͍ͱ

    ओு͍ͯ͠Δ 3 ͜͜Ͱݴ͏ MCMC ͸ Metropolis–Hastings Ͱཚ਺Λੜ੒ͯ͠ظ଴஋Λܭ ࢉ͢Δͱ͍͏ҙຯͰ͸ͳ͘ɺͦΕΛϋΠύʔύϥϝʔλʔ୳ࡧʹ࢖͏ͱ͍͏ҙຯ (ޮ཰Α͘ϥϯμϜαʔνΛ΍ΔΠϝʔδ) cf. ஫ऍ 26
  18. Ψ΢εաఔճؼͷϋΠύʔύϥϝʔλਪఆ Recap ߲໨ ಺༰ 1. ϋΠύʔύϥϝʔλͷ࠷దԽ ޯ഑߱Լ๏Λ༻͍ͨ࠷దԽ͕Ͱ͖Δ(Χ ʔωϧʹΑΔ) 2. ϋΠύʔύϥϝʔλͱہॴղ

    େҬղʹ౸ୡ͢Δอূ͸ͳ͍ͷͰ஫ҙ ͢Δ 3. Χʔωϧͷબ୒ RBF ΧʔωϧҎ֎ͷΧʔωϧ΋ซ༻͢ Δͱྑ͘ͳΔ৔߹͕͋Δ
  19. ༨ஊ • Ψ΢εաఔͷ࿩͸ΧϧϚϯϑΟϧλͱࣅ ͍ͯΔ • ܚԠେֶͷΧϧϚϯϑΟϧλͷߨٛ4͕ ໘ന͔ͬͨ • ಉ࣌ʹ࢖͏ํ๏΋ఏএ͞Ε͍ͯΔ༷ࢠ5 (ະಡ)

    5 J. Ko and D. Fox: GP-BayesFilters: Bayesian filtering using Gaussian process prediction and observation models, Autonomous Robots, 27-1, 75/90 (2009) 4 ܚጯେֶߨٛ Ԡ༻֬཰࿦ ୈेࡾճɹϕΠζͷํ๏ ΧϧϚϯϑΟϧλ̍ https://www.youtube.com/watch?v=P85JCE3tZWY
  20. Ψ΢εաఔճؼͷҰൠԽ ಺༰ ߲໨ 1. ϩόετͳΨ΢εաఔճؼ Ψ΢εաఔͰίʔγʔ෼෍Λ༻͍Δ 2. Ψ΢εաఔࣝผϞσϧ Ψ΢εաఔΛ෼ྨ໰୊ʹద༻͢Δ 3.

    ϙΞιϯճؼϞσϧ Ψ΢εաఔΛΠϕϯτͷൃੜճ਺ͷ༧ଌ ʹద༻͢Δ ίϥϜ χϡʔϥϧωοτϫʔΫͱΨ΢ε աఔ χϡʔϥϧωοτϫʔΫ͸Ψ΢εաఔ
  21. ֓ཁ • ؍ଌϞσϧͱͯ͠Ψ΢ε෼෍Λ૝ఆ͍͕ͯͨ͠ɺੈͷதͦ͏Ͱ ͳ͍͜ͱ΋ଟ͍ (e.g. Ի੠΍୯ޠͷੜ੒֬཰) • Ψ΢εաఔʹ͓͚Δೖྗ ͔Β؍ଌ஋ ͕ੜ੒͞Ε

    Δ֬཰ ʹਖ਼ن෼෍Ҏ֎ͷ֬཰෼෍Λ༻͍Δ͜ͱ͸Մೳ • ͕ղੳతʹܭࢉͰ͖ͳ͍ͷͰɺMCMC ΍ม ෼ϕΠζͱ͍ͬͨۙࣅਪ࿦Ͱࣄޙ෼෍ΛٻΊΔ
  22. 1. ϩόετͳΨ΢εաఔճؼ • ੄ͷ޿͍෼෍Λ༻͍Δ͜ͱͰϩόετ ͳϞσϧ͕Ͱ͖Δ • Cauchy ෼෍ (t ෼෍)

    Λ༻͍Δ • ӈਤͰ͸֎Ε஋ʹϩόετͳϞσϧ͕ Ͱ͖͍ͯΔ • ࣄޙ෼෍͸ղੳతʹٻΊΒΕͳ͍ͷͰ MCMC ͳͲͰۙࣅతʹٻΊΔ
  23. 2. Ψ΢εաఔࣝผϞσϧ • ؍ଌ஋ ͕ 2 ஋ͷͱ͖ ͱ֬཰Λܭࢉ͍ͨ͠ • ͱͯ͠γάϞΠυؔ਺Λ༻͍Δ

    • ϓϩϏοτؔ਺ (ਖ਼ن෼෍ͷྦྷੵີ ౓ؔ਺) ΛΑۙ͘ࣅ͢Δ • ਪఆ΋ෳࡶͳͷͰ୯ʹ෼ྨΛߦ͍͍ͨ ৔߹ʹ͸ϝϦοτ͸ͳ͍ • ଞͷ֬཰աఔͱͷ૊Έ߹ΘͤΛߟ͑Δ ৔߹ʹ஌͓ͬͯ͘ͱྑ͍
  24. Ψ΢εաఔճؼͷҰൠԽ Recap ಺༰ ߲໨ 1. ϩόετͳΨ΢εաఔճؼ ίʔγʔ෼෍Λ༻͍Δͱ֎Ε஋ʹڧ͘ͳ Δ 2. Ψ΢εաఔࣝผϞσϧ

    ϩδεςΟοΫճؼΛΨ΢εաఔʹద༻ Ͱ͖Δ 3. ϙΞιϯճؼϞσϧ ϙΞιϯճؼΛΨ΢εաఔʹద༻Ͱ͖Δ χϡʔϥϧωοτϫʔΫͱΨ΢εաఔ χϡʔϥϧωοτϫʔΫ͸Ψ΢εաఔ