fastTextでテキスト情報から レシピ分類器を作った話

第12回 Machine Learning 15minutes! 発表資料

Transcript

1. fastTextͰςΩετ৘ใ͔Β
 Ϩγϐ෼ྨثΛ࡞ͬͨ࿩ גࣜձࣾΧΧΫίϜ ߴ໦༐ี
2. ໨࣍ • ࣗݾ঺հ • എܠ • ख๏ • ݁Ռ • ߟ࡯ • ·ͱΊ 2
3. ࣗݾ঺հ • ໊લ • ߴ໦༐ี • ॴଐ • גࣜձࣾΧΧΫίϜ3೥໨ • ֶੜ࣌୅͸ژେͰ෼ࢠγϛϡϨʔγϣϯͷݚڀΛ͍ͯ͠·ͨ͠ • ࢓ࣄ಺༰ • ࣗવݴޠॲཧͳͲΛ࢖ͬͯࣾ಺ͷσʔλ͔ΒՁ஋Λݟग़͢͜ͱ • Ԡ༻੎ʢ≠Ψν੎ʣ 3
4. എܠɿϨγϐ෼ྨͷඞཁੑ • ΧΧΫίϜͰ΋ʮϨγΆΜʯͱ͍͏ϨγϐͷΞϓϦΛ΍͍ͬͯΔ • ֎෦ͷఏܞઌϨγϐαΠτ͔ΒσʔλΛूΊͯ࡞͍ͬͯΔ 4
5. എܠɿϨγϐ෼ྨͷඞཁੑ • ϨγΆΜͰ͸ݕࡧͷͨΊʹϨγϐʹΧςΰϦΛඥ෇͚͍ͯΔ • ैདྷͷΧςΰϦඥ෇͚ํ๏ • ৽͍͠Ϩγϐ͕͘Δͨͼʹ୲౰ऀ͕಺༰ΛΈͯ໨ݕͰҰͭͮͭ൑அ • ໰୊఺ • ఏܞϝσΟΞ͕૿Ճ͢ΔͱҰؾʹ৽نϨγϐ͕૿Ճͯͭ͠Β͍ 5 ݱࡏͷͻ΋෇͖σʔλΛڭࢣσʔλΛ͢Ε͹෼ྨث͕࡞Εͦ͏
6. ΍Γ͍ͨ͜ͱ • ϨγϐͷςΩετ৘ใΛ࢖ͬͯΧςΰϦΛਪఆ͠ɺ໨ݕͷαϙʔτπʔϧΛ࡞Δ 6
7. ΍Γ͍ͨ͜ͱ • ϨγϐͷςΩετ৘ใΛ࢖ͬͯΧςΰϦΛਪఆ͠ɺ໨ݕͷαϙʔτπʔϧΛ࡞Δ 7 ͓೑ͷ͓͔ͣ ՆʂΧϨʔͱΞϨϯδ͓͔ͣ
8. ख๏:Support Vector Machine(SVM) • ෼ྨͱ͍ͬͨΒ͜ΕΛ࢖͏ɺͱ͍͏͘Β͍༗໊ͳΞϧΰϦζϜɻ • ̎ͭͷΫϥε͕͋ͬͨͱ͖ɺͦΕΒͷΫϥεΛ΋ͬͱ΋ͦΕΒ͘͠ ෼ྨͰ͖ΔڥքઢΛҾ͘͜ͱͰ෼ྨ͢Δɻ 8 ͔͜͠͠ΕͰ͸͏·͍͔͘ͳ͔ͬͨ
9. ͳ͔ͥɿΧςΰϦ෼ྨͷํ๏ • ̎஋෼ྨ – ̍ͭͷσʔλʹରͯ͠ɺண໨͢ΔΧςΰϦʹଐ͢Δ͔Ͳ͏͔Λ෼ྨ͢Δ – ྫɿεύϜϝʔϧ෼ྨ • ϝʔϧA:εύϜɺϝʔϧB:εύϜɺϝʔϧC:εύϜͰ͸ͳ͍ɺɾɾɾ • ଟΫϥε෼ྨ – ̍ͭͷσʔλʹରͯ͠ɺͲͷΧςΰϦʹଐ͢Δ͔Λ෼ྨ͢Δ – ྫɿχϡʔεهࣄ෼ྨ • هࣄA:ܦࡁɺهࣄB:εϙʔπɺهࣄC:ܳೳɺɾɾɾ • Ϛϧνϥϕϧ෼ྨ – ̍ͭͷσʔλʹରͯ͠ɺͲͷΧςΰϦͨͪʹଐ͢Δ͔Ͳ͏͔Λ෼ྨ͢Δ – ྫɿϨγϐ෼ྨ • ϨγϐA:͓೑ͷ͓͔ͣ,໺ࡊͷ͓͔ͣɺϨγϐB:͓೑ͷ͓͔ͣ,͝൧΋ͷɺɾɾɾ 9 ͖͞΄ͲͷSVM͸جຊతʹ͸̎஋෼ྨΛ͢ΔͨΊͷΞϧΰϦζϜɻ One-Versus-RestͳͲͰଟΫϥε෼ྨ΁ͷ֦ு͸༰қ͕ͩɺ ࠓճͷΑ͏ͳϚϧνϥϕϧ෼ྨʹ͸ෆ޲͖ɻ
10. ख๏ɿfastText • Word2VecͱࣅͨɺχϡʔϥϧωοτϕʔεͷΞϧΰϦζϜ – ୯ޠΛϕΫτϧʹม׵͢Δ • Word2Vecͱ͸ҟͳΓɺจࣈͷྨࣅੑΛߟྀ͢Δ͜ͱ͕Ͱ͖Δ – ࠇމᑦͱനމᑦ͸ࣅ͍ͯΔ΋ͷͱͯ͠ѻ͏͜ͱ͕Ͱ͖Δ • ڭࢣ͋ΓֶशʹΑΓɺ෼ྨ໰୊Λղ͘͜ͱ͕Ͱ͖Δ – ֤୯ޠ͕ͲΕ͚ͩͦͷΧςΰϦ”Β͍͠”͔Λߟྀͯ͠ϕΫτϧʹม׵͢Δ – ෼ྨ࣌͸Ϩγϐதͷ୯ޠϕΫτϧΛ଍ͯ͠ɺͲͷΧςΰϦʹ͍͔ۙΛ൑ఆ – ̍ͭͷσʔλ͕ෳ਺ͷΧςΰϦʹඥ෇͍͍ͯͯ΋໰୊ͳ͘ಈ࡞ – ࠓճ͸3ͭ༧ଌͯ͠ɺ֬཰͕௿͍΋ͷ͸আ͘ 10
11. ݁Ռ • ̍ͭͷϨγϐʹ͸ෳ਺ͷΧςΰϦ͕ඥ෇͘͜ͱ͕͋ΔͷͰɺΧςΰ Ϧ͝ͱʹਖ਼ղͨ͠਺ΛΧ΢ϯτͨ͠ • ͜ΕΒΛूܭͯ͠ɺੑೳΛධՁ͢Δ 11
12. ݁Ռ • ̍ͭͷϨγϐʹ͸ෳ਺ͷΧςΰϦ͕ඥ෇͘͜ͱ͕͋ΔͷͰɺΧςΰ Ϧ͝ͱʹਖ਼ղͨ͠਺ΛΧ΢ϯτͨ͠ • ͜ΕΒΛूܭͯ͠ɺੑೳΛධՁ͢Δ 12 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 45991 ௕͍΋ͷνΩϯϋϯ όʔά ௕͍΋ ܲϛϯν ϕʔίϯ ന Ͷ͗ ͠ΐ͏͕ ύϯค Ԙ ίγ ϣ΢ ͝·༉ େ͓ࠜΖ͠ ϩΠ Ϡϧϙϯਣ ਣ ΈΓΜ ͠ΐ͏ ༉ ͓೑ͷ͓͔ͣ 35604 ߚനͳ·͢ ͍ͩ͜Μ ʹΜ͡Μ ਫ Ԙ ਣ Ԙ ࠭౶ ͓ͤͪɾ͓ਖ਼݄ྉཧ 23025 ͍ͪ͝ͷϩʔϧέʔ Ω εϙϯδ ͨ·͝ M ࠭౶ όχ ϥΦΠϧ Τοηϯε ബྗค ϕ ʔΩϯάύ΢μʔ όλʔ γϩ οϓ ࠭౶ ਫ ϒϥϯσʔ·ͨ ͸ϦΩϡʔϧ ϗΠοϓΫϦʔ Ϝ ੜΫϦʔϜ ࠭౶ ϒϥϯσ ʔ·ͨ͸ϦΩϡʔϧ ͍ͪ͝ ค ࠭౶ ΫοΩϯάγʔτ σβʔτɾεΠʔπ ϗϫΠτσʔϨγϐ ͓Ֆݟˍय़Ϩγϐ
13. ݁Ռ • ̍ͭͷϨγϐʹ͸ෳ਺ͷΧςΰϦ͕ඥ෇͘͜ͱ͕͋ΔͷͰɺΧςΰ Ϧ͝ͱʹਖ਼ղͨ͠਺ΛΧ΢ϯτͨ͠ • ͜ΕΒΛूܭͯ͠ɺੑೳΛධՁ͢Δ 13 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 45991 ௕͍΋ͷνΩϯϋϯ όʔά ௕͍΋ ܲϛϯν ϕʔίϯ ന Ͷ͗ ͠ΐ͏͕ ύϯค Ԙ ίγ ϣ΢ ͝·༉ େ͓ࠜΖ͠ ϩΠ Ϡϧϙϯਣ ਣ ΈΓΜ ͠ΐ͏ ༉ ͓೑ͷ͓͔ͣ ͓೑ͷ͓͔ͣ 35604 ߚനͳ·͢ ͍ͩ͜Μ ʹΜ͡Μ ਫ Ԙ ਣ Ԙ ࠭౶ ͓ͤͪɾ͓ਖ਼݄ྉཧ ͓ͤͪɾ͓ਖ਼݄ྉཧ 23025 ͍ͪ͝ͷϩʔϧέʔ Ω εϙϯδ ͨ·͝ M ࠭౶ όχ ϥΦΠϧ Τοηϯε ബྗค ϕ ʔΩϯάύ΢μʔ όλʔ γϩ οϓ ࠭౶ ਫ ϒϥϯσʔ·ͨ ͸ϦΩϡʔϧ ϗΠοϓΫϦʔ Ϝ ੜΫϦʔϜ ࠭౶ ϒϥϯσ ʔ·ͨ͸ϦΩϡʔϧ ͍ͪ͝ ค ࠭౶ ΫοΩϯάγʔτ σβʔτɾεΠʔπ ϗϫΠτσʔϨγϐ ͓Ֆݟˍय़Ϩγϐ σβʔτɾεΠʔπ ϗϫΠτσʔϨγϐ όϨϯλΠϯϨγϐ
14. ݁Ռ • ̍ͭͷϨγϐʹ͸ෳ਺ͷΧςΰϦ͕ඥ෇͘͜ͱ͕͋ΔͷͰɺΧςΰ Ϧ͝ͱʹਖ਼ղͨ͠਺ΛΧ΢ϯτͨ͠ • ͜ΕΒΛूܭͯ͠ɺੑೳΛධՁ͢Δ 14 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 45991 ௕͍΋ͷνΩϯϋϯ όʔά ௕͍΋ ܲϛϯν ϕʔίϯ ന Ͷ͗ ͠ΐ͏͕ ύϯค Ԙ ίγ ϣ΢ ͝·༉ େ͓ࠜΖ͠ ϩΠ Ϡϧϙϯਣ ਣ ΈΓΜ ͠ΐ͏ ༉ ͓೑ͷ͓͔ͣ ͓೑ͷ͓͔ͣ ਖ਼ղ: ͓೑ͷ͓͔ͣ 35604 ߚനͳ·͢ ͍ͩ͜Μ ʹΜ͡Μ ਫ Ԙ ਣ Ԙ ࠭౶ ͓ͤͪɾ͓ਖ਼݄ྉཧ ͓ͤͪɾ͓ਖ਼݄ྉཧ ਖ਼ղ: ͓ͤͪɾ͓ਖ਼݄ྉཧ 23025 ͍ͪ͝ͷϩʔϧέʔ Ω εϙϯδ ͨ·͝ M ࠭౶ όχ ϥΦΠϧ Τοηϯε ബྗค ϕ ʔΩϯάύ΢μʔ όλʔ γϩ οϓ ࠭౶ ਫ ϒϥϯσʔ·ͨ ͸ϦΩϡʔϧ ϗΠοϓΫϦʔ Ϝ ੜΫϦʔϜ ࠭౶ ϒϥϯσ ʔ·ͨ͸ϦΩϡʔϧ ͍ͪ͝ ค ࠭౶ ΫοΩϯάγʔτ σβʔτɾεΠʔπ ϗϫΠτσʔϨγϐ ͓Ֆݟˍय़Ϩγϐ σβʔτɾεΠʔπ ϗϫΠτσʔϨγϐ όϨϯλΠϯϨγϐ ਖ਼ղ: σβʔτɾεΠʔπ ϗϫΠτσʔϨγϐ ෆਖ਼ղ: ͓Ֆݟˍय़Ϩγϐ όϨϯλΠϯϨγϐ
15. 15 ݁ՌʢΧςΰϦશମʣ • σʔλ͕ଟ͍ͱਫ਼౓΋࠶ݱ཰΋ߴ͘ͳΔ – σʔλ͕1ສ݅ఔ౓͋Ε͹ͦΕͳΓͷੑೳ͕ग़ͦ͏ – ਫ਼౓ɿγεςϜ͕౴͑ͨ΋ͷ͕ਖ਼ղͰ͋Δׂ߹ʢਖ਼֬ੑΛද͢ʣ70%ఔ౓͕ݶք – ࠶ݱ཰ɿਖ਼ղͷ͏ͪγεςϜ͕౴͑ͨ΋ͷ͕͋Δׂ߹ʢ໢ཏੑΛද͢ʣ75%ఔ౓͕ݶք
16. ݁ՌʢΧςΰϦ͝ͱʣ 16 • ΧςΰϦʹΑͬͯ΋͹Β͖͕ͭ͋Δ 80%ϥΠϯ
17. ݁ՌʢΧςΰϦ͝ͱʣ 17 • ΧςΰϦʹΑͬͯ΋͹Β͖͕ͭ͋Δ 80%ϥΠϯ
18. ݁Ռͷൈਮʢ͏·͍ͬͨ͘ΧςΰϦʣ • ཭ೕ৯ΧςΰϦ • ՆʂΧϨʔͱΞϨϯδ͓͔ͣΧςΰϦ 18 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 29580 ౾෗ͷΓΜ͋͑͝཭ ೕ৯ ౾෗ ਓࢀ ΓΜ͝ ཭ೕ৯ ཭ೕ৯ ਖ਼ղ: ཭ೕ৯ 28182 ͔ͿͷͱΖͱΖࣽ཭ ೕ৯ 10ഒם ݜ͝͠౾෗ ࢈௚͔Ϳ ࢈௚τϚτ ཭ೕ৯ ཭ೕ৯ ਖ਼ղ: ཭ೕ৯ Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 49784 χϥͱϞϠγͷমͦ ͹ΧϨʔ෩ຯ த՚໙ ಲ͜·੾Ε೑ ʹΒ ΋΍͠ ཥۋهΦΠελʔιʔ ε S BεύΠειʔε΢ελ ʔ S BΧϨʔค αϥμ༉ ਫ ໙ྨ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ໙ྨ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ਖ਼ղ: ໙ྨ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ 48787 ϕʔίϯͱ τϚτ ͷϛϧΫΧϨʔ ϕʔίϯ τϚτ ۄͶ͗ ڇೕ αϥμ༉ ਫ S BͱΖ͚Δ ͓͍ ͠͞Ϊϡʔοͱͱ͚ࠐΉΧϨ ʔ ന൧ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ͝൧΋ͷ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ͝൧΋ͷ ਖ਼ղ: ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ͝൧΋ͷ
19. ݁Ռͷൈਮʢ͏·͍ͬͨ͘ΧςΰϦʣ • ཭ೕ৯ΧςΰϦ • ՆʂΧϨʔͱΞϨϯδ͓͔ͣΧςΰϦ 19 ಛ௃తͳΩʔϫʔυɺʮ཭ೕ৯ʯɺʮΧϨʔʯͳͲ͕͋Δ Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 29580 ౾෗ͷΓΜ͋͑͝཭ ೕ৯ ౾෗ ਓࢀ ΓΜ͝ ཭ೕ৯ ཭ೕ৯ ਖ਼ղ: ཭ೕ৯ 28182 ͔ͿͷͱΖͱΖࣽ཭ ೕ৯ 10ഒם ݜ͝͠౾෗ ࢈௚͔Ϳ ࢈௚τϚτ ཭ೕ৯ ཭ೕ৯ ਖ਼ղ: ཭ೕ৯ Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 49784 χϥͱϞϠγͷমͦ ͹ΧϨʔ෩ຯ த՚໙ ಲ͜·੾Ε೑ ʹΒ ΋΍͠ ཥۋهΦΠελʔιʔ ε S BεύΠειʔε΢ελ ʔ S BΧϨʔค αϥμ༉ ਫ ໙ྨ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ໙ྨ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ਖ਼ղ: ໙ྨ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ 48787 ϕʔίϯͱ τϚτ ͷϛϧΫΧϨʔ ϕʔίϯ τϚτ ۄͶ͗ ڇೕ αϥμ༉ ਫ S BͱΖ͚Δ ͓͍ ͠͞Ϊϡʔοͱͱ͚ࠐΉΧϨ ʔ ന൧ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ͝൧΋ͷ ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ͝൧΋ͷ ਖ਼ղ: ՆʂΧϨʔͱΞϨϯ δ͓͔ͣ ͝൧΋ͷ
20. ݁ՌʢΧςΰϦ͝ͱʣ 20 • ΧςΰϦʹΑͬͯ΋͹Β͖͕ͭ͋Δ 80%ϥΠϯ
21. ݁Ռͷൈਮʢ͏·͍͔͘ͳ͔ͬͨΧςΰϦʣ • ඒ༰ΧςΰϦ • અ໿ྉཧΧςΰϦ 21 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 23472 ಲ೑ͱΕΜ͜Μͷ͓ ͩΜ͝εʔϓ࢓ཱͯ ಲͻ͖೑ ΕΜ͜Μ ञ Ԙ ͜͠ ΐ͏ φπϝάύ΢μʔ ย܀ค υϥΠϙϧνʔχ ηϛυϥΠ τϚτ Ԙ ͜͠ΐ͏ ͠ΐ͏Ώ όδϧ ͩͪ͢ εʔϓɾो΋ͷ ඒ༰ ϔϧγʔ ͓೑ͷ͓͔ͣ εʔϓɾो΋ͷ ਖ਼ղ: εʔϓɾो෺ ෆਖ਼ղ: ඒ༰ ϔϧγʔ ͓೑ͷ͓͔ͣ 11554 ܀ೖΓ͓੺൧ ΋ͪถ খ౾ ܀ ؁࿐ࣽ খ౾ͷ ΏͰो ਫ Ԙ ञ ͝·Ԙ ͝൧΋ͷ ඒ༰ ळͷຯ֮Ϩγϐ ͝൧΋ͷ ਖ਼ղ: ͝൧΋ͷ ෆਖ਼ղ: ඒ༰ ळͷຯ֮Ϩγϐ
22. ݁Ռͷൈਮʢ͏·͍͔͘ͳ͔ͬͨΧςΰϦʣ • અ໿ྉཧΧςΰϦ 22 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 30046 ͠Β͖ͨೖΓϛχᰤ ࢠ ಲͻ͖೑ ໦໖౾෗ ͨ·Ͷ͗ A ͓Ζ͠ੜᇙ AԘ ͜͠ΐ͏ Aย ܀ค ͠Β͖ͨ γϡ΢ϚΠͷൽ ে༉ ͝·༉ ͓೑ͷ͓͔ͣ અ໿ྉཧ ϔϧγʔ ϔϧγʔ ͓೑ͷ͓͔ͣ ਖ਼ղ: ͓೑ͷ͓͔ͣ ϔϧγʔ ෆਖ਼ղ: અ໿ྉཧ 24056 ͖Ύ͏Γ͕ओ໾♪ Ն ͷྫྷ੡͓΋ͯͳ͠ύ ελ ύελ ͖Ύ͏Γ τϚτ ʹΜ ʹ͘ ੜϋϜ ΦϦʔϒΦΠϧ ਣ Ԙ ίγϣ΢ ͍͚ͨ͠ όλʔ ύελɾάϥλϯ અ໿ྉཧ ύʔςΟˍ͓΋ͯͳ ͠ ύελɾάϥλϯ ਖ਼ղ: ύελɾάϥλϯ ෆਖ਼ղ: અ໿ྉཧ ύʔςΟˍ͓΋ͯͳ ͠
23. ݁Ռͷൈਮʢ͏·͍͔͘ͳ͔ͬͨΧςΰϦʣ • અ໿ྉཧΧςΰϦ 23 Recipe ID ϨγϐλΠτϧ ࡐྉ ਖ਼ղΧςΰϦ ༧ଌΧςΰϦ ݁Ռ 30046 ͠Β͖ͨೖΓϛχᰤ ࢠ ಲͻ͖೑ ໦໖౾෗ ͨ·Ͷ͗ A ͓Ζ͠ੜᇙ AԘ ͜͠ΐ͏ Aย ܀ค ͠Β͖ͨ γϡ΢ϚΠͷൽ ে༉ ͝·༉ ͓೑ͷ͓͔ͣ અ໿ྉཧ ϔϧγʔ ϔϧγʔ ͓೑ͷ͓͔ͣ ਖ਼ղ: ͓೑ͷ͓͔ͣ ϔϧγʔ ෆਖ਼ղ: અ໿ྉཧ 24056 ͖Ύ͏Γ͕ओ໾♪ Ն ͷྫྷ੡͓΋ͯͳ͠ύ ελ ύελ ͖Ύ͏Γ τϚτ ʹΜ ʹ͘ ੜϋϜ ΦϦʔϒΦΠϧ ਣ Ԙ ίγϣ΢ ͍͚ͨ͠ όλʔ ύελɾάϥλϯ અ໿ྉཧ ύʔςΟˍ͓΋ͯͳ ͠ ύελɾάϥλϯ ਖ਼ղ: ύελɾάϥλϯ ෆਖ਼ղ: અ໿ྉཧ ύʔςΟˍ͓΋ͯͳ ͠ ಛ௃తͳΩʔϫʔυ͕ͳ͍
24. ߟ࡯ • ਖ਼͍͠σʔλ͕̍ສ݅ఔ౓͋Ε͹ɺͦΕΛ΋ͱʹະ஌ϨγϐͷΧςΰϦΛ70%ఔ౓౰ͯΔ͜ͱ ͕Ͱ͖Δɻ – ͜ͷ70%͸ਖ਼ղσʔλ͕͋Δ͔ΒܭࢉͰ͖ͨ΋ͷɻ – ਖ਼ղσʔλ͕ͳ͍৔߹ʹධՁ͍ͨ͠৔߹͸ؤுͬͯਖ਼ղΛ࡞Δ͔͠ͳ͍ɻ – ෼ྨੑೳ͸ܾͯͦ͜͠·Ͱߴ͘ͳ͍͕ɺࠓճ͸ਓ͕ΧςΰϦ෇༩͢Δࡍͷิॿπʔϧͱͯ͠࡞੒ͨ͠ ͷͰɺ͜ͷਫ਼౓Ͱ΋ͳ͍ΑΓ͸Α͍ͱͷ͜ͱͩͬͨɻ • ϨγϐͷλΠτϧɺ৯ࡐʹͦͷΧςΰϦ”Β͍͠”୯ޠؚ͕·Ε͍ͯΕ͹ɺߴਫ਼౓ʹΧςΰϦͷਪ ఆ͕Մೳɻ – ཭ೕ৯ɺՆʂΧϨʔͱΞϨϯδ͓͔ͣͳͲɻ – σʔλʹؚ·Ε͍ͯΕ͹ɺਓ͕ؒಛ௃ޠΛఆٛ͠ͳͯ͘΋Α͍ɻ – ࣗಈͰಛ௃ޠΛݟ͚ͭͯϧʔϧϕʔεͷγεςϜʹ૊ΈࠐΉํ๏΋͋Γ͑Δɻ • ٯʹɺϨγϐ৘ใʹͦͷΧςΰϦΒ͕͠͞े෼ʹؚ·Ε͍ͯͳ͍৔߹͸ΧςΰϦਪఆ͕ࠔ೉ɻ – ඒ༰ɺઅ໿ྉཧͳͲɻͦ΋ͦ΋σʔλΛਓ͕ؒݟͯ΋Α͘Θ͔Βͳ͍ɻ – ඒ༰ͳͲʹؔͯ͠͸ܝࡌݩ͕ඒ༰ΧςΰϦͱ͍ͯ͠Δ࣌ʹͪ͜ΒͰ΋෇༩͢ΔͷͰɺܝࡌݩ͕ҟͳΕ ͹Ұ؏ੑ͕ͳ͍৔߹΋͋Δʢڭࢣσʔλ͕ඞͣ͠΋ਖ਼͘͠ͳ͍ʣɻ – ͜ͷ৔߹͸ը૾΍ΧϩϦʔ৘ใͳͲผͷσʔλΛ࢖͏ͱਪఆͰ͖Δ͔΋͠Εͳ͍ɻ 24
25. ߟ࡯ • ਖ਼͍͠σʔλ͕̍ສ݅ఔ౓͋Ε͹ɺͦΕΛ΋ͱʹະ஌ϨγϐͷΧςΰϦΛ70%ఔ౓౰ͯΔ͜ͱ ͕Ͱ͖Δɻ – ͜ͷ70%͸ਖ਼ղσʔλ͕͋Δ͔ΒܭࢉͰ͖ͨ΋ͷɻ – ਖ਼ղσʔλ͕ͳ͍৔߹ʹධՁ͍ͨ͠৔߹͸ؤுͬͯਖ਼ղΛ࡞Δ͔͠ͳ͍ɻ – ෼ྨੑೳ͸ܾͯͦ͜͠·Ͱߴ͘ͳ͍͕ɺࠓճ͸ਓ͕ΧςΰϦ෇༩͢Δࡍͷิॿπʔϧͱͯ͠࡞੒ͨ͠ ͷͰɺ͜ͷਫ਼౓Ͱ΋ͳ͍ΑΓ͸Α͍ͱͷ͜ͱͩͬͨɻ • ϨγϐͷλΠτϧɺ৯ࡐʹͦͷΧςΰϦ”Β͍͠”୯ޠؚ͕·Ε͍ͯΕ͹ɺߴਫ਼౓ʹΧςΰϦͷਪ ఆ͕Մೳɻ – ཭ೕ৯ɺՆʂΧϨʔͱΞϨϯδ͓͔ͣͳͲɻ – σʔλʹؚ·Ε͍ͯΕ͹ɺਓ͕ؒಛ௃ޠΛఆٛ͠ͳͯ͘΋Α͍ɻ – ࣗಈͰಛ௃ޠΛݟ͚ͭͯϧʔϧϕʔεͷγεςϜʹ૊ΈࠐΉํ๏΋͋Γ͑Δɻ • ٯʹɺϨγϐ৘ใʹͦͷΧςΰϦΒ͕͠͞े෼ʹؚ·Ε͍ͯͳ͍৔߹͸ΧςΰϦਪఆ͕ࠔ೉ɻ – ඒ༰ɺઅ໿ྉཧͳͲɻͦ΋ͦ΋σʔλΛਓ͕ؒݟͯ΋Α͘Θ͔Βͳ͍ɻ – ඒ༰ͳͲʹؔͯ͠͸ܝࡌݩ͕ඒ༰ΧςΰϦͱ͍ͯ͠Δ࣌ʹͪ͜ΒͰ΋෇༩͢ΔͷͰɺܝࡌݩ͕ҟͳΕ ͹Ұ؏ੑ͕ͳ͍৔߹΋͋Δʢڭࢣσʔλ͕ඞͣ͠΋ਖ਼͘͠ͳ͍ʣɻ – ͜ͷ৔߹͸ը૾΍ΧϩϦʔ৘ใͳͲผͷσʔλΛ࢖͏ͱਪఆͰ͖Δ͔΋͠Εͳ͍ɻ 25 ػցֶशɺਓ޻஌ೳ͸ڧྗ͕ͩɺਖ਼ղͷσʔλ͕ᐆດͩͱᐆດͳ݁Ռ͔͠Ͱͳ͍ ·ͨ100%ͷਖ਼ղʹ͸ͳΒͳ͍ͷͰɺ݁Ռ͸Ұ୴ਓ͕֬ೝ͢Δඞཁ͕͋Δ
26. ·ͱΊ • طଘͷϨγϐ-ΧςΰϦ৘ใΛ΋ͱʹɺϨγϐʹΧςΰϦΛࣗಈͰඥ ෇͚ΔγεςϜΛ։ൃͨ͠ɻ • ඞཁͳσʔλ਺͸࠷௿1ສ݅ఔ౓ɻ • ΧςΰϦΒ͠͞ͷಛ௃ޠ͕Ϩγϐʹ͋Δ͔Ͳ͏͔Ͱɺ෼ྨੑೳ͸ม ΘΔɻ • ػցֶशɺਓ޻஌ೳ͸ڧྗ͕ͩɺਖ਼ղσʔλΛ࡞Δͱ͜Ζɺ݁ՌΛ ֬ೝ͢Δͱ͜Ζ͸·ͩਓ͕΍Βͳ͚Ε͹͍͚ͳ͍ɻ 26
27. Confidential ࢀߟ • fastText • https://github.com/facebookresearch/fastText 27