実データにふれる自然言語処理インターンシップ/internship2018

558ffd4e5cf6c95e60c91333677b93c4?s=47 j.harashima
August 30, 2018
8k

 実データにふれる自然言語処理インターンシップ/internship2018

558ffd4e5cf6c95e60c91333677b93c4?s=128

j.harashima

August 30, 2018
Tweet

Transcript

  1. 3.

    ೥݄ ೥݄ ژ౎େֶࠇڮɾՏݪݚڀࣨ഑ଐ ΫοΫύουೖࣾ ത࢜ʢ৘ใֶʣऔಘ ೥݄ ݪౡ७ ೥݄ 3%෦໳৽ઃˍҟಈ ೥݄

    ΫοΫύουΠϯλʔϯγοϓࢀՃ ֶ෦ˠम࢜ˠത࢜ ɾಉٛදݱͷ֫ಘʢ*+$/-1ʣ ɾݕࡧ݁Ռͷཁ໿ʢ/-1*9ʣ ɾݕࡧ݁ՌͷϦϥϯΩϯάʢ*+$/-1ʣ ɾ೔ຊޠจͷѹॖʢ$0-*/(ʣ ϦαʔνΤϯδχΞˠϚωʔδϟʔ ɾϨγϐίʔύεͷߏஙʢ-3&$ʣ ɾϨγϐͷ຋༁ʢ8"5ʣ ɾϨγϐը૾σʔληοτͷߏஙʢ4*(*3ʣ ɾࡐྉ໊ͷਖ਼نԽʢ$&"ʣ ιϑτ΢ΣΞΤϯδχΞ ɾ3VCZPO3BJMT
  2. 7.

         ׂ࣌ؒ  ϥϯν  ߨٛʢࣗવݴޠॲཧ֓࿦ɺΫοΫύουͱࣗવݴޠॲཧʣ

    ՝୊ʢϨγϐղੳɾϨγϐ෼ྨʣ ՝୊ʢΫΤϦΫϥελϦϯάɾϨγϐ຋༁ʣ ը૾෼ੳ ؼΓࢧ౓   ٳΈ࣌ؒ ࣗ༝࣌ؒ
  3. 11.
  4. 15.

    ܗଶૉղੳ ୯ޠͷ۠੾Γͱ඼ࢺɺݪܗΛࣝผ͢Δॲཧ ଠ࿠ ͸ ژ౎ ʹ ߦͬͨ ଠ࿠͸ژ౎ʹߦͬͨ ໊ࢺ ໊ࢺ

    ಈࢺ ॿࢺ ॿࢺ c c c c ߦ͘ ղੳ༻ͷࣙॻΛࢀরɺҰ൪໬΋Β͍͠ ʢίετͷ૯࿨͕௿͍ʣ୯ޠྻΛબ୒ ੜىίετͷ΄͔ʹ୯ޠؒͷ࿈઀ίε τ΋ߟྀ ଠ࿠ ໊ࢺ  ژ౎ ໊ࢺ  ژ ໊ࢺ  ౎ ໊ࢺ   ࣙॻ ੜىίετ
  5. 16.

    ݻ༗දݱೝࣝ จதͷݻ༗දݱʢFH ਓ໊ɺ஍໊ʣΛೝࣝ͢Δॲཧ ଠ࿠ ͸ ژ౎ ʹ ߦͬͨ ໊ࢺ ໊ࢺ

    ಈࢺ ॿࢺ ॿࢺ c c c c ߦ͘ ଠ࿠ ͸ ژ౎ ʹ ߦͬͨ ਓ໊ ஍໊ ܇࿅σʔλΛ༻ҙɺͲͷΑ͏ͳ୯ޠྻ͕ ͲͷΑ͏ͳݻ༗දݱʹͳΓ͏Δ͔Λֶश ࣍࿠͸ژ౎ʹߦͬͨɻ Ֆࢠ͸େࡕʹߦͬͨɻ  ֶशσʔλ ਓ໊ ਓ໊ ஍໊ ஍໊ ݻ༗දݱೝࣝث
  6. 18.

    ߏจղੳ จͷߏ଄ʢ೔ຊޠͰ͸จઅͷ۠੾Γͱ܎ΓઌʣΛ໌Β͔ʹ͢Δॲཧ ҎԼͷ৘ใ͔Βࣝผ ɾจઅ͸લ͔ΒޙΖʹ܎Δ ɾจઅ͸ͨͩҰͭͷจઅʹ܎Δ ɾ܎Γड͚͸ޓ͍ʹަࠩ͠ͳ͍ʢඇަࠩ৚݅ʣ ɾ࠷΋͍ۙจઅʹ܎Γ΍͍͢ ɾ ଠ࿠ ͸

    ژ౎ ʹ ߦͬͨ ໊ࢺ ໊ࢺ ಈࢺ ॿࢺ ॿࢺ c c c c ߦ͘ ଠ࿠͸ ژ౎ʹ ߦͬͨ c c จઅͷ۠੾ΓΛࣝผ ߦͬͨ ଠ࿠͸ ژ౎ʹ จઅͷ܎ΓઌΛࣝผ จઅʹݸҎ্ͷ಺༰ޠʢFH ໊ࢺʣʴ ɹɹɹݸҎ্ͷ෇ଐޠʢFH ॿࢺʣ
  7. 20.

    লུরԠղੳ রԠࢺ จষதͷಉҰදݱΛಉఆ͢Δॲཧ ઌߦࢺ রԠղੳ লུղੳʢθϩরԠղੳʣ ޲͔ͬͨ ൴͸ ਗ਼ਫࣉʹ ·ͣ

    ଠ࿠͸ ژ౎ʹ ߦͬͨ θϩ୅໊ࢺ ઌߦࢺ ޲͔ͬͨ ൴͸ ਗ਼ਫࣉʹ ·ͣ ଠ࿠͸ ژ౎ʹ ߦͬͨ θϩ୅໊ࢺʢলུ͞ΕͨরԠࢺʣʹؾ෇͘ͱ͜Ζ͔Β ελʔτ ҎԼͷ৘ใ͔Βಉఆ ɾরԠࢺͱઌߦࢺͷੑผ͸ಉ͡ ɾઌߦࢺ͸ʮ͸ʯΛ൐͍΍͍͢ ɾরԠࢺͱઌߦࢺ͸ͦΕ΄Ͳ཭Εͳ͍ ɾ
  8. 21.

    ஊ࿩ߏ଄ղੳ ஊ࿩ϚʔΧ จষͷߏ଄Λಉఆ͢Δॲཧ Ұ൪ ͳͥͳΒ ژ౎Ͱ ൴͸ मࣙߏ଄ཧ࿦ ɾஊ࿩ߏ଄ͷϞσϧͷҰͭ ɾஊ࿩୯Ґʢจ΍અʣͷؒʹʮഎܠʯ΍ʮࠜڌʯ౳ͷؔ܎Λߟ͑Δ

    ɾؔ܎ͷओͱͳΔଆΛ֩ɺैͱͳΔଆΛӴ੕ͱݺͿʢʮରൺʯ΍ʮྻڍʯͷ৔߹͸྆ํ͕֩ͱͳΔʣ ޲͔ͬͨ ਗ਼ਫࣉʹ ·ͣ ༗໊ͳ ؍ޫ஍͔ͩΒͩ ʢ֩ʣ ʢӴ੕ʣ ࠜڌ
  9. 27.

    ݕࡧΤϯδϯ ΫΤϦʹؔ࿈͢ΔϦιʔεʢFH จॻʣΛऔಘ͢Δॲཧ ΠϯσΩγϯάʢࡧҾ෇͚ʣ సஔΠϯσοΫε ΦϑϥΠϯ ΦϯϥΠϯ จॻʮଠ࿠͸ژ౎ʹߦͬͨʯ จॻʮ࣍࿠͸ژ౎ʹߦͬͨʯ ܗଶૉղੳ

    จॻଠ࿠c͸cژ౎cʹcߦͬͨ จॻ࣍࿠c͸cژ౎cʹcߦͬͨ ଠ࿠\^ ࣍࿠\^  ژ౎\ ^ ΫΤϦʮଠ࿠ʯ ݕࡧ݁Ռɿจॻ ΫΤϦʮژ౎ʯ ݕࡧ݁Ռɿจॻ จॻ సஔΠϯσοΫεΛࢀর సஔΠϯσοΫεΛࢀর
  10. 28.

    ίϯϐϡʔλʹΑΔผͷݴޠͷ౳Ձͳจষ΁ͷஔ׵ ೔ɿଠ࿠͸ژ౎ʹߦͬͨ ӳɿ5BSPXFOUUP,ZPUP ܗଶૉղੳɺߏจղੳɺ ݴޠ୯Ґ͝ͱʹ຋༁ ߦͬͨ ଠ࿠͸ ژ౎ʹ 5BSP UP,ZPUP

    XFOU MFBWF  ࣗવจΛੜ੒ ೖྗจΛԿΒ͔ͷݴޠ୯ҐʢFH ୯ޠɺ୯ޠ ྻʣͰදݱ ຋༁ީิΛ૊Έ߹Θͤͯෳ਺ͷจΛੜ੒ ͦͷத͔Β΋ͬͱ΋ࣗવͳ΋ͷΛग़ྗ ֤ݴޠ୯Ґʹ͍ͭͯର༁ࣙॻ͔Β຋༁ީิΛ
 બ୒ʢର༁ࣙॻ͸༧Ίߏங͓ͯ͘͠ʣ ຋༁Τϯδϯ
  11. 29.

    ίϯϐϡʔλʹΑΔผͷݴޠͷ౳Ձͳจষ΁ͷஔ׵ ೔ɿଠ࿠͸ژ౎ʹߦͬͨ ӳɿ5BSPXFOUUP,ZPUP τʔΫφΠζʢFH ܗଶૉղੳʣ ࣗવจΛੜ੒ ೖྗจΛԿΒ͔ͷݴޠ୯ҐʢFH จࣈྻɺ୯ ޠʣͰදݱ %FDPEFS͕΋ͬͱ΋Β͍͠ݴޠ୯ҐͷܥྻΛ

    ग़ྗ ຋༁Τϯδϯʢ/.5ʣ … … x T  … … … … x 0  x 1  h1 0  h1 1  … … … … … … … … y 0  h2 0  … … y 1  h2 1  … … y T’-1  h2 T’-1  … … y T’  h2 T’  … … … x T-1  h1 T-1  h1 T  &ODPEFS%FDPEFS &ODPEFS͕ೖྗͷ৘ใΛू໿ɾϕΫτϧԽ
  12. 36.

    ߏจղੳ ֨ղੳ লུরԠղੳ ಉٛදݱೝࣝ ʢಉٛྉཧ໊ɾ ৯ࡐ໊ೝࣝɺ ࡐྉ໊ਖ਼نԽʣ ޠٛᐆດੑղফ ஊ࿩ߏ଄ղੳ ୯ޠϨϕϧ

    ߏจϨϕϧ จ຺Ϩϕϧ ҙຯϨϕϧ ΞϓϦέʔγϣϯʢϨγϐݕࡧɺϨγϐ෼ྨɺϨγϐ຋༁ɺखॱ෼ྨɺ͝ҙݟ෼ྨʣ ΫοΫύουͱࣗવݴޠॲཧ ܗଶૉղੳʢϨγϐղੳʣ
  13. 40.

    ࡐྉ໊ਖ਼نԽ ϨγϐதͷදهΛΫοΫύου಺Ͱͷ୅දදهʹ ࣗಈͰਖ਼نԽ ˒ΈΓΜ ૈ൨͖ࠇމᑦ ΋΍͠ʢ͓޷ΈͰʣ ΈΓΜ ͋Βͼ͖ࠇ͜͠ΐ͏ ΋΍͠ ه߸ͷআڈ

    දه༳Εͷղফ ׅހදݱͷআڈ ͦͷଞɺิ଍৘ใͷআڈ΍ಉٛදݱͷೝࣝɺ௲Γؒҧ͍ͷमਖ਼ͳͲ
 ʢFH ͓޷ΈͰ㾐ന͝·ˠ͍Γ͝·ɺੜ͘ΓʔϜˠੜΫϦʔϜʣ
  14. 49.

         ׂ࣌ؒ  ϥϯν  ߨٛʢࣗવݴޠॲཧ֓࿦ɺΫοΫύουͱࣗવݴޠॲཧʣ

    ՝୊ʢϨγϐղੳɾϨγϐ෼ྨʣ ՝୊ʢΫΤϦΫϥελϦϯάɾϨγϐ຋༁ʣ ը૾෼ੳ ؼΓࢧ౓   ٳΈ࣌ؒ ࣗ༝࣌ؒ
  15. 54.

    ʲ՝୊ʳࡐྉΛ਺͑ͯΈ·͠ΐ͏ ॱҐ ୯ޠ ग़ݱස౓   ʁ   

    ʁ    ʁ    ʁ    ʁ    ສϨγϐͷதͰ΋ͬͱ΋ଟ͘ग़ݱ͢Δࡐྉ͸ʁ KRSlJOHSFEJFOUT<>OBNFzSFDJQF@KTPOc
  16. 63.

    ํ਑ʢҰྫʣ ֤ϨγϐͷςΩετʢFH λΠτϧʣΛܗଶૉղੳ ಺༰ޠʢFH ໊ࢺʣʹ*%Λ෇༩ ֤ϨγϐΛಛ௃ϕΫτϧͰදݱʢFH Ϩγϐ"<   

      >ʣ ಛ௃ϕΫτϧͱڭࢣσʔλΛ༩͑ͯɺϞσϧΛֶशɾධՁ ΋ͪΖΜଞͷํ๏Ͱ΋0,Ͱ͢ʂʢTDJLJUMFBSOͷ5pEG7FDUPSJ[FSͱ͔࢖͏ͱָ͔ͱʣ ˢ൪ͷ୯ޠ͕ճɺ൪ͷ୯ޠ͕ճɺ
  17. 64.

         ׂ࣌ؒ  ϥϯν  ߨٛʢࣗવݴޠॲཧ֓࿦ɺΫοΫύουͱࣗવݴޠॲཧʣ

    ՝୊ʢϨγϐղੳɾϨγϐ෼ྨʣ ՝୊ʢΫΤϦΫϥελϦϯάɾϨγϐ຋༁ʣ ը૾෼ੳ ؼΓࢧ౓   ٳΈ࣌ؒ ࣗ༝࣌ؒ
  18. 75.