Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Probabilistic Robotics chap 1-5

Probabilistic Robotics chap 1-5

確率ロボティクスの有志による読み会資料。slideshareに上がっているものより新しく、誤字等修正されています。
https://speakerdeck.com/shiba24/probabilistic-robotics-chap-6-7

Shintaro Shiba

March 08, 2018
Tweet

More Decks by Shintaro Shiba

Other Decks in Technology

Transcript

  1. この本について ロボティクスの⼤家Sebastian Thrunによる鉄板の教科書(機械学習で⾔えば PRML、強化学習で⾔えばSutton、神経科学で⾔えばカンデル) • Amazon • 本家による補⾜スライド  ͸͡Ίʹ

    本スライドで引⽤している本書の図表は全て、著者が公開してい るhttp://probabilistic-robotics.informatik.uni-freiburg.de/fig.pdf からフリーダウンロードすることができます。
  2. ಡΈձεέδϡʔϧ ୈि d ষ ॹݴ Q ʢࣳʣ ୈि d ষ

    ࠶ؼతঢ়ଶਪఆ Q ʢࣳʣ ষ Ψ΢γΞϯϑΟϧλ Qʢࣳʣ ষ ϊϯύϥϝτϦοΫϑΟϧλ Qʢࣳʣ ষ ϩϘοτͷಈ࡞ Qʢࣳʣ ষ ϩϘοτͷ஌֮ Qʢࣳʣ ୈि d ষલ൒ ҠಈϩϘοτͷҐஔਪఆɿϚϧίϑҐஔਪఆͱΨ΢εදݱ෼෍ Q ୈि d ষޙ൒ ҠಈϩϘοτͷҐஔਪఆɿϚϧίϑҐஔਪఆͱΨ΢εදݱ෼෍ Qʢؙதʣ ୈि d ষ ҠಈϩϘοτͷҐஔਪఆɿ֨ࢠදݱͱϞϯςΧϧϩ๏ʹΑΔදݱ Q ʢࣳʣ ୈि d ষ ઎༗֨ࢠ஍ਤͷ࡞੒ Q ʢۙ౻ʣ ୈि d ষ ࢟੎ͱ஍ਤͷಉ࣌ਪఆ Q ʢڮຊʣ ୈि d ষલ൒ (SBQI4-".ΞϧΰϦζϜ Q ʢ౻Ԭʣ ୈि d ষޙ൒ (SBQI4-".ΞϧΰϦζϜ Q ʢࣳʣ ୈि d ষ Ϛϧίϑܾఆաఔ Q ʢۙ౻ʣ ୈि d ষ ෦෼؍ଌϚϧίϑܾఆաఔ Q ʢ౻Ԭʣ  このスライド
  3. ॹݴ ϩϘοτ؀ڥ͸ຊ࣭తʹ༧ଌෆՄೳ • ηϯαͷ༗ޮൣғ΍෼ղೳ͸෺ཧతݶք͕ࢧ഑ • Ϟʔλʹ͸༧ଌෆՄೳͳཁૉʢFYϊΠζɺফ໣ɺނোʣ • ιϑτ΢ΣΞதͰ࣮ੈքΛϞσϧԽͨ͠಺෦Ϟσϧ͸શͯۙࣅ͕൐͏ʢ࣮ߦՄೳͳܭࢉྔͷ੍ݶʣ ֬཰ϩϘςΟΫε͸ϩϘοτͷ஌֮ͱߦಈʹؔ͢Δෆ࣮֬͞ʹ஫໨͢Δ •

    ֬཰࿦ͷԋࢉΛ༻͍ͯෆ࣮֬͞Λཅʹදݱʢෆ࣮֬͞ͷͨΊɺඇθϩͷখ͞ͳ֬཰Λৗʹอ࣋ʣ • ࣗݾҐஔਪఆ ◦ ਤCͷ؍ଌޙʹEΛ؍ଌ͢Δͱɺ৴೦ʢ֬཰෼෍֬཰ີ౓ؔ਺ʣΛߋ৽ͯ͠ߴ͍֬৴ΛಘΔ • ߦಈܭըɾ੍ޚ ◦ ෆ࣮֬͞Λ༧ଌͯ͠ܦ࿏ઃܭͰ͖Δ ࣳ  υΞΛͭ؍ ଌͨ࣌͠఺ Ͱ͸Ͳͷυ Ξ͔ෆ໌ ͭ໨ͷυΞ Λ؍ଌ͢Δ ͱࣗ਎ͷҐ ஔΛ֬৴
  4. ॹݴ ଞͷ࿮૊Έͱͷൺֱ • ֬཰ϩϘςΟΫεͷಛ௃͸ɺϞσϧͱηϯασʔλͷγʔϜϨεͳ౷߹ • ηϯα΍Ϟσϧͷݶքʹରͯ͠ΑΓϩόετ • ܭࢉ͕ෳࡶʹͳΓɺۙࣅ͕ඞཁͳ৔߹΋͋Δ ຊͷߏ੒ •

    ୈҰ෦ ◦ dষ ਺ֶతجૅ ◦ dষ ϩϘοτͷ֬཰Ϟσϧ • ୈೋ෦ dষ ࣗݾҐஔਪఆ • ୈࡾ෦ dষ ஍ਤੜ੒ • ୈ࢛෦ dষ ܭըɾ੍ޚ লུ ࣳ 
  5. ࠶ؼతঢ়ଶਪఆ ֬཰ϩϘςΟΫεͷຊ࣭ɿηϯασʔλ͔Βͷঢ়ଶਪఆ ֬཰ͷجຊతͳ֓೦ʢΘ͔͍ͬͯΔਓ͸ྲྀͯ͠Α͍ʣ • ֬཰ม਺ɿηϯαܭଌ஋ɺ੍ޚɺϩϘοτͱ؀ڥͷঢ়ଶ౳͕ϞσϧԽ͞ΕΔ࣌ͷྔɻඇෛɻ཭ࢄత ֬཰ͷ࿨ɺ࿈ଓత֬཰ͷੵ෼஋͸ɻ֬཰ม਺9͕஋YΛͱΔ֬཰͸ɺp(X=x)ɻུه p(x) • ֬཰ີ౓ؔ਺ QSPCBCJMJUZEFOTJUZGVODUJPOT

    1%'T ɿ࿈ଓۭؒͰͷ֬཰ม਺ʹରͯ͠ఆٛͰ͖Δͱ ԾఆɻFYฏۉ µ ɺ෼ࢄ σ2 ͷҰ࣍ݩਖ਼ن෼෍ͷ1%'͸࣍ɻུه N(x; µ, σ2) • Y ͕ଟมྔϕΫτϧͷ৔߹ͷҰൠԽʢଟ࣍ݩਖ਼ن෼෍1%'ʣ͸ɺڞ෼ࢄߦྻ Є ͱసஔ 5Λ༻͍ͯɺ • ֬཰ม਺ 9͕஋Yɺ͔ͭ֬཰ม਺͕஋ZΛͱΔ֬཰Λ݁߹֬཰ɻ9ͱ:͕ಠཱͳΒɺp(x, y) = p(x)p(y) • ಠཱͰͳ͍৔߹ɺZΛຬͨ͢৚݅ԼͰͷYͷ৚݅෇͖֬཰͸ɺ ࣳ 
  6. ࠶ؼతঢ়ଶਪఆ • શ֬཰ͷఆཧ • ϕΠζଇ • ϕΠζଇͷਖ਼نԽɿ্هͷࣜͷ෼฼͸Yʹґଘ͠ͳ͍ͨΊɺ؆ུԽͷͨΊʹԼهͷΑ͏ʹॻ͘͜ͱ ΋͋Δɻ ࣳ 

    ௚ײతʹ͸ɿYͷ֬཰͸ɺ શͯͷZͷ֬཰ͱZͷԼͰͷ Yͷ৚݅෇͖֬཰ͷੵͷ࿨ ҙຯɿٯ֬཰Q ZcY ʢੜ੒ ϞσϧYͷ৔߹ʹσʔλZ͕ ಘΒΕΔ֬཰ʣΛ༻͍ͯη ϯασʔλZ͔ΒYΛਪଌ Q Y ͷ෼෍Λࣄલ֬཰෼෍ɺZΛσʔλɺQ YcZ ͷ෼෍Λ9্ͷࣄޙ֬཰෼෍ͱݺͿɻ
  7. ࠶ؼతঢ়ଶਪఆ • ৚݅෇͖ಠཱɿZ = z ͷ৚݅ʹ͓͍ͯɺ ͕࣍੒ཱ͢Δ͜ͱɻ • ͨͩ͠ɺ৚݅෇͖ಠཱͱಠཱ͸ඞཁ৚݅Ͱ΋े෼৚݅Ͱ΋ͳ͍ɻ •

    ظ଴஋ • ֬཰෼෍ͷΤϯτϩϐʔ ࣳ  ҙຯɿ[͕Θ͔͍ͬͯΔ࣌ʹɺ YͱZ͕ಠཱͰ͋Δ͜ͱ[͕ Θ͔͍ͬͯΔ࣌ʹɺZ͕Yʹ ͍ͭͯͷ৘ใΛԿ΋΋ͨΒ ͞ͳ͍͜ͱɻ • ظ଴஋ͷઢܗੑ • 9ͷڞ෼ࢄ ҙຯɿYͷ஋͕࣋ͭͱظ଴͞ΕΔ ৘ใྔɻϩϘοτ͕৘ใऩू͢ Δ࣌ɺಛఆͷߦಈͷ࣮ߦʹର͠ ͯϩϘοτ͕ड͚ΔͰ͋Ζ͏৘ ใྔΛදݱ ΋͘͠͸
  8. ࠶ؼతঢ়ଶਪఆ • ঢ়ଶ x ϩϘοτͱ؀ڥͷશͯͷہ໘ʢϩϘοτࣗ਎ʹؔ͢Δม਺΋ঢ়ଶʹؚ·ΕΔʣɻ ◦ ϩϘοτͷ࢟੎ɿάϩʔόϧʢσΧϧτʣ࠲ඪܥ࣍ݩɺ֯౓ํ޲ʢϩʔϧɺϐονɺϤʔ ֯ʣ࣍ݩ ◦ ΞΫνϡΤʔλͷίϯϑΟΪϡϨʔγϣϯʢӡಈֶతঢ়ଶʣɿΞʔϜͷ֯౓ͳͲ

    ◦ ϩϘοτͱؔઅͷ଎౓ʢྗֶతঢ়ଶʣɿͦΕͧΕม਺ͣͭ ◦ ؀ڥதͷ෺ମͷҐஔͱಛ௃ɿथ΍นͳͲɻओʹ੩తɻݫີʹϞσϧԽ͢Δͱലେʹ ◦ Ҡಈ෺ମͷҐஔ΍଎౓ɿͦΕͧΕʹରͯ͠ɺӡಈֶతɾྗֶతঢ়ଶ ◦ ͦͷଞɿηϯα͕յΕ͍ͯΔ͔Ͳ͏͔ɺి஑࢒ྔͳͲʜ ࣌ࠁUʹ͓͚Δঢ়ଶ YU ͕কདྷΛ༧ଌ͢ΔͨΊʹཧ࿦తʹ࠷ળͷ΋ͷͰ͋Δͱ͖ɺͦͷঢ়ଶ͸׬උͰ͋Δɻ ◦ ঢ়ଶͷਪҠ͕֬཰࿦తͳ΋ͷʢϚϧίϑ࿈࠯ʣͰ΋ɺঢ়ଶ YU Ҏ֎ʹ͸কདྷʹӨڹ͢Δม਺͸ Tͳ͍৔߹ʹ͸׬උͱݺͿɻ ◦ ݱ࣮໰୊Ͱ͸ɺ׬උঢ়ଶΛಛఆ͢Δ͜ͱ͸ෆՄೳɻ ঢ়ଶ͸࿈ଓͰ͋Γɺ࿈ଓతͳ࣌ؒͱڞʹมԽ͢Δ͕ɺຊॻͰ͸཭ࢄతͳ࣌ࠁ U  ͱͯ͠ѻ͏ɻ ࣳ 
  9. ࠶ؼతঢ়ଶਪఆ • ஌֮ʢηϯαܭଌʣ z ༷ʑͳηϯαͰ؀ڥΛ؍ଌ͢Δ͜ͱɻηϯαͷܭଌ஋͸࣌ؒత஗ΕΛ൐͏ɻ֤࣌ࠁͷ؀ڥʹؔ͢Δ ৘ใΛσʔλͱͯ͠ಘΔɻ࣌ࠁUͷܭଌσʔλΛ zt Ͱද͢ɻ࣌ࠁ t1 ͔Β

    t2 ·Ͱͷσʔλͷू߹͸ɺ • ߦಈʢ੍ޚಈ࡞ʣ u ϩϘοτͷಈ࡞ʹΑͬͯ؀ڥͷঢ়ଶΛมԽͤ͞ΔɻʮԿ΋ಈ͔͞ͳ͍ʯߦಈ΋੍ޚಈ࡞ͱͯ͠ѻ͏ɻ ࣌ࠁUʹ͓͚Δ੍ޚσʔλʢ࣌ؒ (t-1; t] Ͱͷঢ়ଶมԽʣ͸ ut ͱදɺ࣌ࠁ t1 ͔Β t2 ·Ͱͷू߹͸ɺ ࣳ 
  10. ࠶ؼతঢ়ଶਪఆ ֬཰తൃੜ๏ଇ ঢ়ଶ YU ͸ɺঢ়ଶ YU ͔Βܾఆ࿦తʹͰ͸ͳ͘ɺ֬཰తʹൃੜ͢Δɻঢ়ଶ Y͕׬උͳΒ͹͕࣍੒ཱ͢Δɻ ܭଌʹؔͯ͠΋ಉ༷ͳ͜ͱ͕੒ཱ͢Δɻ ࣳ

     ҙຯɿY͕׬උͳ৔߹ɺYU ʹ YU Λ༧ଌ͢ΔͨΊͷYͱ[ ͷաڈͷ৘ใ͸શؚͯ·Ε ͍ͯΔ৚݅෇͖ಠཱʹͳ ͍ͬͯΔͭલͷঢ়ଶͱݱ ࡏͷߦಈ͚ͩͰݱࡏͷঢ়ଶ ͕༧ଌͰ͖Δɻ ҙຯɿx ͕׬උͳ৔߹ɺ xt ͚͕ͩΘ͔Ε͹ʢͦΕҎલ ͷ஌ࣝͳ͠Ͱʣܭଌ஋ zt Λ ༧ଌͰ͖Δɻ ʢ஫ʣ࣌ࠁUͰɺߦಈ ˠܭଌͷॱͰߦ͏ͱ͢ Δ ಘΒΕͨ৚݅෇͖֬཰p(x’ |x, u)͸ঢ়ଶભҠ֬཰ɺp(z |x) ͸ܭଌ֬཰ ಉ͡ঢ়ଶɾߦಈ͔Βඞͣ࣍ͷಉ͡ঢ়ଶ΍ܭଌ͕ಘΒΕΔ༁Ͱ͸ͳ͍ʂ
  11. ࠶ؼతঢ়ଶਪఆ • ৴೦ʢঢ়ଶͷ஌ࣝɺ৘ใঢ়ଶʣ CFM ؀ڥͷঢ়ଶʹؔ͢ΔϩϘοτͷ಺෦஌ࣝͷ͜ͱʢ؀ڥͷ͋Γͷ··ͷঢ়ଶΛ௚઀஌Δ͜ͱ͸Ͱ͖ͳ͍ʣɻ ಘΒΕͨσʔλʢঢ়ଶʣYU Ͱ৚͚݅ͮΒΕͨࣄޙ֬཰෼෍ bel(xt ) Ͱද͞ΕΔɻ

    ܭଌ͢Δલͷࣄޙ৴೦ʢ༧ଌʣ͸࣍ͷΑ͏ʹද͢ɻ ࣳ  ҙຯɿ࣌ࠁUʹ͓͍ͯߦಈͱܭଌ Λ͓͜ͳͬͨ࣌ɺʮ͜ͷ͘Β͍ ͷ֬཰Ͱ؀ڥ͸ঢ়ଶYʹͳ͍ͬͯ Δ͸ͣͩʯͱ͍͏ࢥ͍ࠐΈ ҙຯɿ࣌ࠁUʹ͓͍ͯߦಈΛ͓͜ ͳͬͨ࣌ɺܭଌΛ͢Δલʹɺ ʮ͜ͷ͘Β͍ͷ֬཰Ͱ؀ڥ͸ঢ় ଶYʹͳ͍ͬͯΔ͸ͣͩʯͱ͍͏ ࢥ͍ࠐΈ
  12. ࠶ؼతঢ়ଶਪఆ ϕΠζϑΟϧλ ৴೦Λܭࢉ͢ΔͨΊͷΞϧΰϦζϜɻϚϧίϑੑΛԾఆ͢Δɻ • bel(x0 ) ͸ɺx0 ʹूதͯ͠ଞ͸֬཰θϩɺ΋͘͠͸x0 ͷఆٛҬશҬͷҰ༷෼෍ͰॳظԽ •

    ੵ෼ͱ৐ࢉ͕ݫີʹ࣮ߦͰ͖Δ͔ɺੵ෼͕༗ݶճͷ଍͠ࢉʹͳΔঢ়ଶۭؒͰ͔࣮͠૷Ͱ͖ͳ͍ ࣳ  YU ʹ͍ͭͯͷ༧ଌ͸ɺYU ʹର͢Δࣄલ ͷ৴೦ͱɺ੍ޚ VU ͕Ҿ͖ى͜͢ YU ͔ Β YU ΁ͷભҠ֬཰෼෍ͷੵͷɺશͯͷঢ় ଶۭؒ YU ʹؔ͢Δੵ෼஋ CFMʹ͍ͭͯͷܭଌߋ৽͸ɺ༧ଌͱܭଌ [U ͷੵΛɺηͰਖ਼نԽͨ͠΋ͷɻϕΠζ ͷఆཧͱ͍͍ͩͨಉ͡ܗʢ͋ͱͰಋग़ʣ ܁Γฦ͠ԋࢉ
  13. ࠶ؼతঢ়ଶਪఆ ϕΠζϑΟϧλͷྫ ϩϘοτ͕ΧϝϥͰυΞͷঢ়ଶΛਪఆ͍ͨ͠ɻ • ࣌ࠁ UͰɺϩϘοτ੍͕ޚಈ࡞Λ͠ͳ͔ͬͨ EP@OPUIJOH ͕ɺ։͍ͨυΞΛݕ஌ TFOTF@PQFO ɻυΞ͸։͍ͯΔͷ͔ɺ

    ด͍ͯ͡Δͷ͔ɺϩϘοτͷυΞʹ͍ͭͯͷ৴೦͸ʁ • ৴೦ʮดʯͱʮ։ʯͦΕͧΕΛܭࢉʢલεϥΠυΑΓʣ • ͦΕͧΕͷ৴೦ʹɺܭଌΛ൓ө ࣳ  ΑΓɺ ։͍͍ͯΔ৴೦ͷํ ͕େ͖͘ͳͬͨ
  14. ࠶ؼతঢ়ଶਪఆ ϕΠζϑΟϧλͷ਺ֶతಋग़ ʢ෮शʣϕΠζϑΟϧλͷΞϧΰϦζϜͷ֩ • ߦ໨ ࣳ  શ֬཰ͷఆཧ  ͜͜Ͱɺ

    xt ͸׬උͰ͋Δͱ͍͏ԾఆͷԼɺ͕࣍੒ཱɻ ঢ়ଶ xt-1 ͷલʹ ut ͕ൃੜ͢Δ͜ͱ͕ͳ͍ͷͰɺ p(xt-1 | z1:t-1 , u1:t ) தͷ ut ΛऔΓআ͍ͯ΋Α͘ɺ·ͱΊΔͱ
  15. ࠶ؼతঢ়ଶਪఆ ࣳ Ϛϧίϑੑ ݱࡏͷঢ়ଶ xt ͕ط஌ͳΒ͹ɺաڈ΍ະདྷͷσʔλ͕ಠཱ͍ͯ͠Δͱ͍͏৚݅Λຬͨ͢ͱ͖ɺϚϧίϑੑɺঢ় ଶͷ׬උੑͱݺͿɻ • Yʹؚ·Εͳ͍ɺ؀ڥதͰଞʹಈ͘΋ͷ •

    ֬཰ϞσϧQ͕ෆਖ਼֬ • ৴೦ͷۙࣅޡࠩ ౳͸ɺϚϧίϑੑʹ൓͢ΔɻϕΠζϑΟϧλΞϧΰϦζϜ͸ϚϧίϑੑͷഁΕʹରͯ͠ϩόετ͕ͩɺϞσ ϧԽ͞Ε͍ͯͳ͍ঢ়ଶม਺ͷӨڹ͕มྔޮՌΛ΋ͭʢฏۉ஋ͰϥϯμϜʹൃੜ͢ΔʣΑ͏ʹ͢Δํ͕ྑ͍ɻ දݱͱܭࢉ ৴೦Λݫີʹܭࢉ͢Δख๏͸͔ͳΓಛผͳ৔߹ͷΈଘࡏ͢ΔͨΊɺ௨ৗ͸ۙࣅ͢ΔɻۙࣅͰॏཁͳͷ͸ɺ • ܭࢉޮ཰ • ਖ਼֬͞ • ࣮૷ͷ؆୯͞ 
  16. Ψ΢γΞϯϑΟϧλ ࣳ • Ͳ͏΍ͬͯදݱ͢Δͷʁ Ψ΢ε෼෍ͳͷͰ݁ہɺฏۉ஋ͱ෼ࢄʢલεϥΠυͷµͱΣʣ͕Θ͔Ε͹ྑ͍ɻ̎௨Γͷදݱͷํ਑͕͋Γɺ ͜ΕΒ͸૒ରͰ͋Δɻʢಉ͜͡ͱΛ͍ͯ͠Δ͕ɺҰํͷܭࢉ͕೉͚͠Ε͹΋͏Ұํ͸؆୯ɺͱ͍͏ؔ܎ʣ  Ϟʔϝϯτʢඪ४ʣύϥϝʔλԽ ৴೦ͷ෼෍Λฏۉ஋ µ

    ͱڞ෼ࢄ Σ Ͱදݱ͢Δํ਑ʢϞʔϝϯτύϥϝʔλԽʣɻ ྫɿΧϧϚϯϑΟϧλ ,' ɺ֦ுΧϧϚϯϑΟϧλ &,' ɺΞϯηϯςουΧϧϚϯϑΟϧλ 6,'  ΧϊχΧϧʢਖ਼४ʣύϥϝʔλԽ ৴೦ͷ෼෍Λ৘ใߦྻͱ৘ใϕΫτϧͰදݱ͢Δํ਑ʢΧϊχΧϧύϥϝʔλԽʣɻ ྫɿ৘ใϑΟϧλ *' 
  17. Ψ΢γΞϯϑΟϧλ ࣳ ΧϧϚϯϑΟϧλɿ,'ʢࡉ͔͍਺ࣜ͸ඈ͹͠·͢ʣ ಛ௃ɿ • ࠷΋جૅతͳख๏ • ͦͷ··Ͱ͸࿈ଓۭؒͷΈɻ཭ࢄܥͷঢ়ଶۭؒʹ͸ద༻Ͱ͖ͳ͍ɻ • ࣄޙ৴೦͕Ψ΢ε෼෍ͱͳΔҎԼͷ̏ͭͷඞཁे෼৚݅Λຬͨ͢ͱ੒ཱɻʢͳ͔ͥ͸ޙड़ʣ

     ঢ়ଶભҠ֬཰͕ઢܗؔ਺Ͱ͋Δ͜ͱ  ܭଌ֬཰΋ઢܗͰɺࡶԻ͸Ψ΢ε෼෍ʹै͏͜ͱ  ॳظ৴೦͕ਖ਼ن෼෍Ͱ͋Δ͜ͱ  ͨ͠ߦಈʹରͯ͠ઢܗʹঢ়ଶ͕ มԽ͢Δ͜ͱɻΩπΠ৚݅ ܭଌ஋͕ঢ়ଶʹରͯ͠ઢܗʹม Խ͢Δ͜ͱɻΩπΠ৚݅
  18. Ψ΢γΞϯϑΟϧλ ࣳ ΧϧϚϯϑΟϧλɿ,'ʢࡉ͔͍਺ࣜ͸ඈ͹͠·͢ʣ ΞϧΰϦζϜʢϕΠζϑΟϧλ΋ࢀরʣɿ ܭࢉྔɿ • ߦ໨ͷٯߦྻܭࢉͰɺܭଌϕΫτϧ [ͷ࣍ݩΛ Lͱ͢Δͱɺ O(d2.4

    ) • ߦ໨ͷ৐ࢉͰɺঢ়ଶۭؒͷ࣍ݩΛ Oͱ͢Δͱɺ O(n2)  Жͱ ЄͰ৴೦Λදݱ ܭଌΛ৽ͨͳঢ়ଶਪఆʹͲͷఔ౓൓ө͞ ͤΔ͔ʢΧϧϚϯήΠϯʀࢀߟʣͷܭࢉ ༧ଌΛߋ৽ ࢧ഑తͳͷ͸͍͍ͩͨޙऀ ʢঢ়ଶۭؒͷ࣍ݩͷํ͕େ ͖͍͜ͱ͕ଟ͍ʣ
  19. Ψ΢γΞϯϑΟϧλ ࣳ ֦ுΧϧϚϯϑΟϧλɿ&,'ʢ਺ֶͷ࿩͸ຊॻʹͯʣ ࣮༻্ͷಛ௃ɿ • ࣮༻্ɺ࠷΋༻͍ΒΕ͍ͯΔ • ڧΈ͸ɺܭࢉޮ཰ͷΑ͞ɻ,'ͱಉ͡Ͱɺܭࢉྔ͸ O(k2.4 +

    n2 ) ʹै͏ʢL͸ܭଌɺO͸ঢ়ଶͷ࣍ݩʣɻ • ϩϘςΟΫεͷ໰୊ͷଟ͘Ͱ͸ɺঢ়ଶભҠͱܭଌ͸ඇઢܗ͕ͩɺ࣮ࡍ͸&,'͸ͦͦ͜͜ϩόετ ͞Βʹ֦ுɿෳ਺Ծઆʢ֦ுʣΧϧϚϯϑΟϧλ .)&,' • ෳ਺ͷҟͳΔԾઆΛ௥੻͍ͨ࣌͠͸ɺΨ΢ε෼෍Λࠞ߹͢Δ͜ͱͰදݱͰ͖Δɻ • ͍ΘΏΔσʔλ෼ੳͷจ຺Ͱͷࠞ߹Ϟσϧͱಉ͡ 
  20. Ψ΢γΞϯϑΟϧλ ࣳ ΞϯηϯςουΧϧϚϯϑΟϧλɿ6,'ʢ਺ֶͷ࿩͸ຊॻʹͯʣ ֓ཁɿ • &,'Ͱ͸ɺςΠϥʔల։Λ༻͍ͯඇઢܗؔ਺Λઢܗۙࣅͨ͠ • ଞͷۙࣅͷ࢓ํͱͯ͠ɺॏΈ෇͖ઢܗճؼϞσϧΛ࢖༻ͨ͠ํ๏ ಛ௃ɿ •

    ೋ࣍ͷςΠϥʔల։ఔ౓ͷਖ਼͕֬͋͞Δ • &,'ͱಉఔ౓ͷܭࢉྔ • ඇઢܗܥͰ͸ɺ6,'ͷํ͕ਪఆ݁Ռ͕ྑ͍͕ɺ࣮ࡍͷࠩ͸Θ͔ͣͳ͜ͱ΋ଟ͍ • 6,'͸ɺʢ&,'ͰඞཁͳʣϠίϏߦྻΛܭࢉ͠ͳͯ͘ྑ͍ • ޙड़ͷύʔςΟΫϧϑΟϧλͱͷҧ͍͸ɺαϯϓϦϯάͷγάϚ఺͕ܾఆ࿦తʹબ͹ΕΔ͜ͱɻύʔς ΟΫϧϑΟϧλ͸ϥϯμϜʹબ͹ΕΔ ॏΈ෇͖ઢܗճؼϞσϧͰۙࣅͬͯͲ͏΍Δͷʁ 
  21. Ψ΢γΞϯϑΟϧλ ࣳ ষ·ͱΊ • Ψ΢ε෼෍͸ϞʔϝϯτύϥϝʔλԽͱΧϊχΧϧύϥϝʔλԽͰදݱͰ͖Δɻલऀ͸෼෍Λฏۉͱڞ ෼ࢄͰɺޙऀ͸৘ใߦྻͱ৘ใϕΫτϧͰදݱ͢Δɻ • ϞʔϝϯτύϥϝʔλΛ༻͍ͯΨ΢ε෼෍Λදݱͨ͠ϕΠζϑΟϧλͷ࣮૷ํ๏ΛΧϧϚϯϑΟϧλͱ ݺͿɻ͜ͷԾఆʹΑͬͯܭࢉޮ཰্͕ঢ͢Δɻ •

    ΧϧϚϯϑΟϧλͷඞཁे෼৚݅͸ɺॳظ৴೦͕Ψ΢ε෼෍Ͱ͋Δ͜ͱɺঢ়ଶભҠ֬཰͕Ψ΢εࡶԻͷ ଍͞Εͨઢܗؔ਺͔ΒಘΒΕΔ͜ͱɺܭଌ֬཰΋Ψ΢εࡶԻ͕଍͞Εͨઢܗؔ਺͔ΒಘΒΕΔ͜ͱɻ • ઢܗੑͷ৚݅Λ؇࿨͠ɺඇઢܗؔ਺Ͱදݱ͠ɺςΠϥʔల։ͷҰ࣍ۙࣅΛ࠾༻͢Δํ๏Λ֦ுΧϧϚϯ ϑΟϧλʢ&,'ʣͱݺͿɻ • Ұ࣍ۙࣅͰͳ͘ɺ਺఺αϯϓϦϯά͢Δ͜ͱͰؔ਺ͷઢܗճؼΛߦͬͨ΋ͷ͸ΞϯηϯςουΧϧϚϯ ϑΟϧλͱݺ͹ΕΔɻ • ෳ਺ͷΨ΢ε෼෍ͷॏΈ෇͖ฏۉͰ৴೦Λදݱͨ͠΋ͷ͸ෳ਺ԾઆΧϧϚϯϑΟϧλͱݺ͹ΕΔɻ • ΧϊχΧϧύϥϝʔλΛ༻͍ͯΨ΢ε෼෍Λදݱ࣮ͨ͠૷͸৘ใϑΟϧλͱݺ͹ΕɺΧϧϚϯϑΟϧλ ʹൺ΂͋·Γ࢖ΘΕͳ͍͕ɺΞϧΰϦζϜతʹ͸૒ରͰར఺ͱܽ఺͸૬ิతͰ͋Δɻ 
  22. ϊϯύϥϝτϦοΫϑΟϧλ ࣳ ύʔςΟΫϧϑΟϧλɿΞϧΰϦζϜͷઆ໌ ࣄޙ֬཰෼෍ͷඪຊ͸ύʔςΟΫϧͱݺ͹ΕΔɻ ̍ͭͷύʔςΟΫϧ͸࣌ࠁUʹ͓͚Δਅͷঢ়ଶʹର͢Δ̍ͭͷԾઆɻύʔςΟΫϧͷू߹͕৴೦Λදݱ͠ɺ. ͕େ͖͘ͳΕ͹ͳΔ΄Ͳɺ෼෍ʹۙͮ͘ʢʿͰ઴ۙʣɻ࣮༻తʹ͸ .ఔ౓Ͱಉ͡ͱΈͳ͢ɻ  ύʔςΟΫϧͷू߹ χ

    Ͱ৴೦Λදݱ ̍ͭલͷ࣌ࠁͷύʔςΟΫϧͱ੍ޚV͔ΒԾઆΛߏங ֤ύʔςΟΫϧʹରͯ͠ॏཁ౓܎਺Λܭࢉɻʮࠓͷܭଌ[Λ͋ ·ΓಘΒΕͦ͏ʹͳ͍ύʔςΟΫϧΛܰ͘ݟੵ΋Γ͍ͨʯ ͜ΕΛ΍Βͳͯ͘΋ࣄޙ৴೦ͷۙࣅʹ͸ͳ͍ͬͯΔͷ͕ͩɺ ΋͏Ұ౓ॏཁ౓܎਺ʹ͕ͨͬͯ͠ɺϦαϯϓϦϯάͯ͠৴ ೦Λߋ৽ɻʢ࠷ॳͷύʔςΟΫϧ͸ܭଌʹΑΔॏཁ౓܎਺ ΛൣғͰ͖͍ͯͳ͔ͬͨͷͰʣ
  23. ϊϯύϥϝτϦοΫϑΟϧλ ࣳ ύʔςΟΫϧϑΟϧλɿॏΈ෇͖αϯϓϦϯάʢࢀߟʣ ந৅౓ΛߴΊͨઆ໌ɿ֬཰ີ౓ؔ਺ Gʢ໨ඪ෼෍ ʣʹؔ͢Δ೚ҙ ͷظ଴஋Λɺผͷ֬཰ີ౓ؔ਺ HʢఏҊ෼෍ʣ͔Βੜ੒͞Εͨඪ ຊͷΈ͕༩͑ΒΕͨঢ়گͰܭࢉ͢Δ໰୊ •

    ໨ඪ෼෍ G ͸ bel(xt ) • ఏҊ෼෍ H ͸  G͔ΒαϯϓϦϯά ͍͕ͨ͠ෆՄೳ H͔ΒαϯϓϦϯάͨ͠ύʔςΟΫ ϧ͕۠ؒ"ʹଘࡏ͢Δ֬཰͸ɺHͷ ੵ෼ʹऩଋʢH͸ີ౓ؔ਺ͷͨΊʣ GͱHͷҧ͍Λमਖ਼͢ΔͨΊɺXͰॏ Έ෇͚ͯ͠ Gʹऩଋͤ͞Δ ݫີͳ਺ֶతઆ໌͸ࢀর
  24. ϊϯύϥϝτϦοΫϑΟϧλ ࣳ ύʔςΟΫϧϑΟϧλͷ࣮༻্ͷੑ࣭ͱߟྀ͢΂͖఺ • ཭ࢄతͳू߹ͰͷۙࣅදݱͰ͸ͳ͘ɺ࿈ଓతͳਪఆʢঢ়ଶۭؒͷ೚ҙͷ఺Ͱີ౓ΛٻΊ͍ͨʣ࣌ʹ͸ɺ ີ౓ਪఆ͢Δɻ ◦ Ψ΢ε෼෍ͰۙࣅʢਤCʣ ◦ LNFBOTΫϥελϦϯά

    ◦ ώετάϥϜʢਤDʣ ◦ Χʔωϧີ౓ਪఆʢਤEʣ ▪ ͜ΕΒͷͲΕ͕͍͍͔͸໰୊ґଘɻ  • ϥϯμϜαϯϓϦϯάʹΑΓඪຊ͕ඞͣόϥͭ͘ ◦ ࠶ݱੑͷ໰୊͕͋Δɻ • ϦαϯϓϦϯάͰ͸αϯϓϦϯάͷ͹Β͖͕ͭ૿෯͞Εɺ݁Ռ ͱͯ͠ޡͬͨղΛ͑ͯ͠·͏͜ͱ͕͋Δ ◦ ಛʹঢ়ଶ͕มԽ͠ͳ͍ͱΘ͔͍ͬͯΔ৔߹ɺཧαϯϓϦϯ ά͸͓͜ͳΘΕΔ΂͖Ͱ͸ͳ͍ ◦ ϦαϯϓϦϯάස౓͸ɺߴ͗͢Δͱ෼෍͕ॖখ͗͢͠ɺ௿ ͗͢ΔͱύʔςΟΫϧ͕ແବʹ޿͕Δɻ ▪ ૚ผαϯϓϦϯά΍౳ִؒαϯϓϦϯάͳͲͰద੾ ʹؒҾ͘ɻ • ӡ͕ѱ͍ͱཚ਺ੜ੒ͰɺύʔςΟΫϧશͯબ୒͞Εͣʹ૕ࣦ͢ ΔɻϥϯμϜύʔςΟΫϧΛՃ͑ΔରॲͳͲʢষʹͯʣ
  25. ϊϯύϥϝτϦοΫϑΟϧλ ࣳ ষ·ͱΊ • ϊϯύϥϝτϦοΫϑΟϧλ͸ɺࣄޙ৴೦Λ༗ݶݸͷ਺஋Ͱۙࣅ͢Δ • ཭ࢄԽख๏͸ɺಈతͳ཭ࢄԽʢϩϘοτͷ৴೦ʹԠͯ͡཭ࢄԽʣͱ੩తͳ཭ࢄԽʢ৴೦ͷܗঢ়ͱؔ܎ͳ ͘཭ࢄԽʣ • ώετάϥϜϑΟϧλͰ͸ɺঢ়ଶۭؒΛ༗ݶݸͷCJOʹ཭ࢄԽ

    • ύʔςΟΫϧϑΟϧλͰ͸ɺࣄޙ৴೦͔ΒαϯϓϦϯά͞Εͨඪຊͷू߹Ͱදݱ͢Δɻ ◦ ࣮૷͕؆୯Ͱ͋Γɺ൚༻ੑ͕ߴ͍ ◦ ޡࠩΛ௿ݮ͢Δํ๏ͷݚڀ͸ଟ͘ɺύʔςΟΫϧͷ਺ͷௐ੔΍ɺϦαϯϓϦϯάͷճ਺ͷௐ੔ͳ Ͳ͕͋ΔɻষͰ΋ग़ͯ͘Δɻ 
  26. ϩϘοτͷಈ࡞ ࣳ ࣄલ४උ ࣍ݩฏ໘ͰϩϘοτͷ࢟੎͸࣍ͷ࣍ݩϕΫτϧʢYZҐஔɺํ޲ʣͰߏ੒͞ΕΔɻ࣍ݩͳΒ࣍ݩ %P' θ = 0.5π ͰZ࣠ํ޲ɺ൓࣌ܭճΓ͕ਖ਼ɻ ಈ࡞Ϟσϧͱ͸ɺঢ়ଶ

    xt-1 ʹ੍͓͍ͯޚʢಈ࡞ίϚϯυʣut ͕࣮ߦ͞Εͨ࣌ͷɺϩϘοτͷӡಈֶతঢ়ଶʹର ͢Δࣄޙ֬཰෼෍Λදݱ͢Δ֬཰ີ౓ؔ਺Ͱ͋Δɻ  ෳࡶͳಈ͖ C Λ͢Δͱ࢟੎ ʹؔ͢Δෆ֬ ͔͕͞େ͖͘ ͳΔʂ Ҏ߱Ͱ͸̎छྨͷϞσϧΛѻ͏ɻ • ଎౓Ϟσϧʢ੍ޚ͕଎౓มߋʣ • ΦυϝτϦϞσϧʢ੍ޚ͕Φυ ϝτϦ৘ใʣ
  27. ϩϘοτͷಈ࡞ ࣳ ΦυϝτϦಈ࡞Ϟσϧ • ΦυϝτϦಈ࡞Ϟσϧ͸ɺϩϘοτͷΦυϝτϦΛऔಘͰ͖Δ͜ͱΛԾఆ͢Δɻ ◦ ΦυϝτϦͱ͸ɺंྠͷճస਺ͳͲͷੵ෼৘ใʢͭ·ΓɺͲͷ͘Β͍ಈ͍͔ͨʁ৘ใʣ • ΦυϝτϦ͸େ఍଎౓ΑΓ΋ਖ਼͕֬ͩɺϩϘοτ͕Ҡಈͨ͠ޙ͔Β͔͠Θ͔Βͳ͍ɻ ◦

    ݫີʹݴ͑͹ηϯα৘ใ͕ͩɺ੍ޚ৴߸ͱΈͳ͢͜ͱ͕Ұൠతɻ • ΦυϝτϦ͔Βܭଌ͞Εͨ૬ରಈ࡞৘ใΛ༻͍Δɻ࣌ࠁ t-1 ͔Β t ·ͰͷؒͷΦυϝτϦΛऔಘ͠ɺޡ ࠩΛߟ্ྀͨ͠ͰɺࣗݾҐஔΛάϩʔόϧ࠲ඪܥͰਪఆ͢Δɻ੍ޚV͸࣍ͷΑ͏ʹදݱ͢Δɻ ͜͜ͰɺVΛճస δrot1 ɺฒਐ δtrans ɺճస δrot2 ʹ෼ׂ͢Δɻ͜ͷ෼ׂ͸े෼౷ܭྔͰ͋Δɻ  ฒਐ͸z׈Δzͷ ͰɺͦΕΛޡࠩ ʹೖΕ͍ͨ
  28. ϩϘοτͷಈ࡞ ࣳ ಈ࡞ͱ஍ਤ ࠓ·Ͱͷಈ࡞Ϟσϧ͸ɺਅۭதʢಈ࡞Λअຐ͢Δ΋ͷ͕Կ΋ͳ͍ʣ͕ʢ҉ʹʣԾఆ͞Ε͍ͯͨɻ࣮ࡍʹ͸ಈ ࡞ͷ߆ଋ৚݅ʢߦ͔Εͳ͍৔ॴ౳ʣͱͯ͠஍ਤ N ͕ඞཁʹͳΔɻ͜ͷΑ͏ͳߟ͑ํͰ͸ɺಈ࡞Ϟσϧʹ஍ਤ ͷߟྀ͕ඞཁʢϚοϓϕʔευಈ࡞ϞσϧʣʹͳΔɻҰൠʹɺ • ͜ͷܭࢉ͸ɺ஍ਤʹΑΔΑ͏ʹ΋ͳΔͨΊɺҰൠతͳٞ࿦͸Ͱ͖ͳ͍ɻ

    • ͨͩ͠ɺ YU ͱ YU ؒͷڑ཭͕े෼ʹখ͍࣌͞͸ʮϚοϓͷͳ͍ಈ࡞Ϟσϧͱ஍ਤͱ࢟੎ͷແໃ६ੑʯ ͰۙࣅՄೳɻ ྫ͑͹ɺߦ͔Εͳ͍৔ॴʢ઎༗͞Εͨ৔ॴʣͱҠಈՄೳͳ৔ॴΛ۠ผͨ͠஍ਤͰ͋Δ઎༗஍ਤͰ͸ɺ઎༗͞ Εͨ৔ॴͰͷ p(x |m ) = 0 ͱ͢Δɻ 
  29. ϩϘοτͷಈ࡞ ࣳ ষ·ͱΊ • ಈ࡞Ϟσϧͱ͸ɺp(xt |ut , xt-1 ) ͷϞσϧͰ͋Δɻ

    • ݫີͰͳͯ͘΋Α͍ͷͰɺݱ࣮ͷෆ͔֬͞Λ͏·͘৫ΓࠐΉΑ͏ʹࡶԻΛઃఆ͢Δɻ • ಈ࡞Ϟσϧͷ৔߹͸଎౓ͷมߋɺΦυϝτϦϞσϧͷ৔߹͸ΦυϝτϦ஋ͷऔಘΛ੍ޚίϚϯυͱΈͳ ͢ɻΦυϝτϦͷํ͕ߴਫ਼౓͕ͩɺߦಈͷޙ͔͠औಘͰ͖ͳ͍ͱ͍͏೉఺͕͋Δɻ • ಈ࡞Ϟσϧ͔Β QΛٻΊΔͷ͸ٯ໰୊ɺQ͔ΒαϯϓϦϯά͢Δͷ͸ॱ໰୊ͱͯ͠ղ͘ɻ • ஍ਤͷ৘ใΛೖΕͨϚοϓϕʔευಈ࡞Ϟσϧ͸ղੳతʹ͸ղ͚ͳ͍͕ɺۙࣅతʹղ͘৔߹ʹ͸ɺߋ৽ ͷස౓Λे෼ʹখ͘͢͞Δඞཁ͕͋Δɻ