Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Exploratory セミナー #56 機械学習モデル - 変数重要度の仕組みと解釈

Exploratory セミナー #56 機械学習モデル - 変数重要度の仕組みと解釈

Exploratoryでは、機械学習や統計のモデルを作ると「変数重要度」というタブがでてきますが、今回のセミナーではこの指標がどのように作られているのか、そしてその解釈の仕方の話します。

また、ランダムフォレストの場合には「ボルータ」という「変数重要度 + 仮説検定」の仕組みがありますが、そちらも紹介します。

Kan Nishida

May 27, 2021
Tweet

More Decks by Kan Nishida

Other Decks in Technology

Transcript

  1. 2 εϐʔΧʔ ੢ా צҰ࿠ CEO EXPLORATORY ུྺ 2016೥य़ɺσʔλαΠΤϯεͷຽओԽͷͨΊɺExploratory, Inc Λཱ

    ্ͪ͛Δɻ Exploratory, Inc.ͰCEOΛ຿ΊΔ͔ͨΘΒɺσʔλαΠΤϯεɾϒʔ τΩϟϯϓɾτϨʔχϯάͳͲΛ௨ͯ͠σʔλαΠΤϯεͷٕज़ͱख ๏ͷීٴͱڭҭʹऔΓ૊Ήɻ ถΦϥΫϧຊࣾͰɺ16೥ʹΘͨΓσʔλαΠΤϯεͷ։ൃνʔϜΛ཰ ͍ɺػցֶशɺϏοάɾσʔλɺϏδωεɾΠϯςϦδΣϯεɺσʔ λϕʔεʹؔ͢Δ਺ଟ͘ͷ੡඼ΛੈʹૹΓग़ͨ͠ɻ @KanAugust
  2. ΞδΣϯμ • ΞφϦςΟΫεͷจ๏ • ม਺ॏཁ౓ͷ࢓૊Έ • ౷ܭϞσϧ - ܎਺ͱม਺ॏཁ౓ͷҧ͍ •

    ౷ܭϞσϧ - ؔ܎ͷ༗ҙੑ • ϥϯμϜϑΥϨετͷม਺ॏཁ౓ͱϘϧʔλ 9
  3. ΞδΣϯμ • ΞφϦςΟΫεͷจ๏ • ม਺ॏཁ౓ͷ࢓૊Έ • ౷ܭϞσϧ - ܎਺ͱม਺ॏཁ౓ͷҧ͍ •

    ౷ܭϞσϧ - ؔ܎ͷ༗ҙੑ • ϥϯμϜϑΥϨετͷม਺ॏཁ౓ͱϘϧʔλ 10
  4. ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ

    ػցֶश ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश ౷ܭ ػցֶश ίοΫε ճؼ αόΠόϧ ϑΥϨετ 13 ճؼϞσϧ ೋ߲෼ྨϞσϧ ੜଘ෼ੳϞσϧ
  5. 14 ΞϧΰϦζϜ Ϟσϧ ༧ଌϞσϧΛ࡞Δ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE

    60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ
  6. 15 ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE 60 120 Japan

    ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ ΞϧΰϦζϜ Ϟσϧ ༧ଌ͢Δ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE 25 120 Japan ޿ࠂ FALSE 23 55 US ϝσΟΞ FALSE 40 150 US ޿ࠂ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք ? 25 120 Japan ޿ࠂ ? 23 55 US ϝσΟΞ ? 40 150 US ޿ࠂ
  7. 17 ΞϧΰϦζϜ Ϟσϧ Ϟσϧͱ͸ΞϧΰϦζϜ͕ݕग़ͨ͠σʔλͷ தʹ͋ΔύλʔϯΛఆٛͨ͠΋ͷͰ͋Δɻ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք

    TRUE 60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ
  8. 18 ΞϧΰϦζϜ Ϟσϧ Ϟσϧ͔Βɺσʔλͷதʹ͋Δύλʔϯʹؔͯ͠ ଟ͘ͷ͜ͱΛֶͿ͜ͱ͕Ͱ͖Δɻ ஌ࣝ σʔλ • ໨తม਺ͱؔ܎ͷڧ͍ม਺͸ͲΕ͔ɻ •

    ͦΕ͸Ͳ͏͍ͬͨؔ܎ͳͷ͔ɻ • ͦΕ͸༗ҙͳؔ܎ͳͷ͔ɻ • ͜ͷϞσϧͰ͸໨తม਺ͷಈ͖ͷͲΕ͘Β͍Λઆ໌Ͱ͖Δͷ͔ɻ
  9. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ίοΫε

    ճؼ αόΠόϧ ϑΥϨετ 19 ճؼϞσϧ ೋ߲෼ྨϞσϧ ੜଘ෼ੳϞσϧ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ
  10. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ίοΫε

    ճؼ αόΠόϧ ϑΥϨετ 20 ճؼϞσϧ ೋ߲෼ྨϞσϧ ੜଘ෼ੳϞσϧ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ ղऍ
  11. R2৐ RMSE σʔλͷฏۉ͔Βͷ͹Β͖ͭΛ Ϟσϧ͕આ໌Ͱ͖͍ͯΔׂ߹ɻ 0͔Β1ͷؒɻ 1ʹ͚ۙΕ͹͍ۙ΄ͲɺϞσϧ͕ σʔλͷ͹Β͖ͭΛΑ͘આ໌Ͱ ͖͍ͯΔ͜ͱΛࣔ͢ɻ ༧ଌ஋ͷฏۉతͳζϨɻ খ͚͞Ε͹খ͍͞΄ͲϞσϧ

    ͷ༧ଌͷੑೳ͕ྑ͍͜ͱΛࣔ ͢ɻ ༧ଌਫ਼౓ 31 P஋ શͯͷม਺ͷӨڹ౓͕0ͷ࣌ʹɺ ݱࡏى͖͍ͯΔҧ͍͕؍࡯͞ΕΔ ֬཰ɻ 0ʹ͚ۙΕ͹খ͍͞΄ͲɺϞσϧ ͷ༗ҙੑ্͕͕Δɻ ༗ҙੑ
  12. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश σʔλλΠϓ ϞσϧλΠϓ ΞϧΰϦζϜ ϞσϧධՁ

    ม਺ؒͷ ؔ܎ੑ R2৐ RMSE R2৐ RMSE P஋ ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश P஋ AUC F஋ AUC F஋ ϋβʔυൺ ౷ܭ ػցֶश P஋ ίοΫε ճؼ αόΠόϧ ϑΥϨετ R2৐ R2৐ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ੜଘۂઢ ੜଘۂઢ ܏͖ P஋ Φοζൺ P஋ P஋ 34 ܎਺ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ
  13. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश σʔλλΠϓ ϞσϧλΠϓ ΞϧΰϦζϜ ϞσϧධՁ

    ม਺ؒͷ ؔ܎ੑ R2৐ RMSE R2৐ RMSE P஋ ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश P஋ AUC F஋ AUC F஋ ϋβʔυൺ ౷ܭ ػցֶश P஋ ίοΫε ճؼ αόΠόϧ ϑΥϨετ R2৐ R2৐ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ੜଘۂઢ ੜଘۂઢ ܏͖ P஋ Φοζൺ P஋ P஋ 35 ܎਺ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ
  14. ΞδΣϯμ • ΞφϦςΟΫεͷจ๏ • ม਺ॏཁ౓ͷ࢓૊Έ • ౷ܭϞσϧ - ܎਺ͱม਺ॏཁ౓ͷҧ͍ •

    ౷ܭϞσϧ - ؔ܎ͷ༗ҙੑ • ϥϯμϜϑΥϨετͷม਺ॏཁ౓ͱϘϧʔλ 36
  15. 40 ΞϧΰϦζϜ Ϟσϧ ༧ଌϞσϧΛ࡞Δ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE

    60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ
  16. 41 ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE 60 120 Japan

    ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ ΞϧΰϦζϜ Ϟσϧ ݩͷσʔλΛ ࢖ͬͯ༧ଌ͢Δ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE 60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ
  17. 42 ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE 60 120 Japan

    ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք FALSE 60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ ݩͷσʔλͱಥ͖߹Θͤ ͯ༧ଌਫ਼౓ΛධՁ͢Δɻ ༧ଌਫ਼౓ɿ90
  18. 43 ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք TRUE 60 120 Japan

    ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք FALSE 60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ ༧ଌਫ਼౓ɿ90 ج४஋
  19. 45 ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120

    ޿ࠂ TRUE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ TRUE 35 30 ϝσΟΞ ༧ଌ͢Δ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ FALSE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ FALSE 35 30 ϝσΟΞ
  20. 46 ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120

    ޿ࠂ TRUE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ TRUE 35 30 ϝσΟΞ ༧ଌਫ਼౓ɿ80 ݩͷσʔλͱಥ͖߹Θͤ ͯ༧ଌਫ਼౓ΛධՁ͢Δɻ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ FALSE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ FALSE 35 30 ϝσΟΞ
  21. 48 ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120

    ޿ࠂ TRUE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ TRUE 35 30 ϝσΟΞ ༧ଌ͢Δ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ FALSE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ FALSE 35 30 ϝσΟΞ
  22. 49 ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120

    ޿ࠂ TRUE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ TRUE 35 30 ϝσΟΞ ݩͷσʔλͱಥ͖߹Θͤ ͯ༧ଌਫ਼౓ΛධՁ͢Δɻ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ FALSE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ FALSE 35 30 ϝσΟΞ ༧ଌਫ਼౓ɿ70
  23. 51 ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ FALSE

    45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ FALSE 35 30 ϝσΟΞ ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ TRUE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ TRUE 35 30 ϝσΟΞ ༧ଌ͢Δ
  24. 52 ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ FALSE

    45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ FALSE 35 30 ϝσΟΞ ΞϧΰϦζϜ Ϟσϧ ίϯόʔτ ೥ྸ ࣌ؒ ۀք TRUE 60 120 ޿ࠂ TRUE 45 55 ҩྍ FALSE 52 20 ϝσΟΞ TRUE 48 140 ޿ࠂ TRUE 53 80 ۜߦ TRUE 35 30 ϝσΟΞ ༧ଌਫ਼౓ɿ20 ݩͷσʔλͱಥ͖߹Θͤ ͯ༧ଌਫ਼౓ΛධՁ͢Δɻ
  25. ΞδΣϯμ • ΞφϦςΟΫεͷจ๏ • ม਺ॏཁ౓ͷ࢓૊Έ • ౷ܭϞσϧ - ܎਺ͱม਺ॏཁ౓ͷҧ͍ •

    ౷ܭϞσϧ - ؔ܎ͷ༗ҙੑ • ϥϯμϜϑΥϨετͷม਺ॏཁ౓ͱϘϧʔλ 63
  26. ΞδΣϯμ • ΞφϦςΟΫεͷจ๏ • ม਺ॏཁ౓ͷ࢓૊Έ • ౷ܭϞσϧ - ܎਺ͱม਺ॏཁ౓ͷҧ͍ •

    ౷ܭϞσϧ - ؔ܎ͷ༗ҙੑ • ϥϯμϜϑΥϨετͷม਺ॏཁ౓ͱϘϧʔλ 69
  27. 72 ΞΠ ε Ϋ Ϧ ʔ Ϝ ͷ ച ্

    α ϝ ͷ ऻ ܸ ݅ ਺ 5݄ 6݄ 7݄
  28. ΞδΣϯμ • ΞφϦςΟΫεͷจ๏ • ม਺ॏཁ౓ͷ࢓૊Έ • ౷ܭϞσϧ - ܎਺ͱม਺ॏཁ౓ͷҧ͍ •

    ౷ܭϞσϧ - ؔ܎ͷ༗ҙੑ • ϥϯμϜϑΥϨετͷม਺ॏཁ౓ͱϘϧʔλ 95
  29. 99 TRUE FALSE TRUE FALSE 100% 50% 0% څྉ >

    5500 ࢒ۀ࣌ؒ > 15 TRUEͷׂ߹ Ұ࿈ͷ࣭໰ͱɺͦͷ౴͑ʹΑ Δ෼ذͰ݁ՌΛ༧ଌ͢Δख ๏ɻ ܾఆ໦
  30. 100

  31. 105 ݩσʔλ ೥ྸ ۈଓ೥਺ څྉ ৬Ґ ৬छ ཭৬ 40 22

    10424 1 Ӧۀװ෦ TRUE 33 13 4726 2 ϥϘٕज़ऀ FALSE 32 12 6694 3 ϦαʔναΠΤϯςΟετ FALSE 28 8 8342 2 Ϛωʔδϟʔ TRUE 24 6 7123 3 Ӧۀװ෦ FALSE 28 10 8722 3 ϥϘٕज़ऀ FALSE 43 20 4233 2 ϦαʔναΠΤϯςΟετ FALSE 38 17 5512 2 Ϛωʔδϟʔ TRUE 34 14 2500 1 Ӧۀװ෦ FALSE 29 9 3394 2 ϦαʔναΠΤϯςΟετ TRUE
  32. 106 ༧ଌର৅ͷྻ: ཭৬͔ͨ͠Ͳ͏͔ ೥ྸ ۈଓ೥਺ څྉ ৬Ґ ৬छ ཭৬ 40

    22 10424 1 Ӧۀװ෦ TRUE 33 13 4726 2 ϥϘٕज़ऀ FALSE 32 12 6694 3 ϦαʔναΠΤϯςΟετ FALSE 28 8 8342 2 Ϛωʔδϟʔ TRUE 24 6 7123 3 Ӧۀװ෦ FALSE 28 10 8722 3 ϥϘٕज़ऀ FALSE 43 20 4233 2 ϦαʔναΠΤϯςΟετ FALSE 38 17 5512 2 Ϛωʔδϟʔ TRUE 34 14 2500 1 Ӧۀװ෦ FALSE 29 9 3394 2 ϦαʔναΠΤϯςΟετ TRUE
  33. 107 σʔλ ߦͱྻΛϥϯμϜʹαϯϓϧ͢Δɻ཭৬͔ͨ͠Ͳ͏͔ͷ ྻ͸༧ଌର৅ͳͷͰͲͷαϯϓϧʹ΋ඞͣೖΔɻ ೥ྸ څྉ ཭৬ 40 8157 TRUE

    33 4456 FALSE 32 3600 FALSE 28 2500 TRUE ੑผ ৬Ґ ۈଓ೥਺ ཭৬ 28 1 8 FALSE 43 3 22 FALSE 38 2 13 TRUE ೥ྸ ৬छ ཭৬ 33 Ӧۀװ෦ TRUE 32 Ϛωʔδϟʔ FALSE 33 Ӧۀװ෦ FALSE
  34. 108 σʔλ ͦΕͧΕͷϞσϧ͸ଟগҟͳΔɻ ೥ྸ څྉ ཭৬ 40 8157 TRUE 33

    4456 FALSE 32 3600 FALSE 28 2500 TRUE ੑผ ৬Ґ ۈଓ೥਺ ཭৬ 28 1 8 FALSE 43 3 22 FALSE 38 2 13 TRUE ೥ྸ ৬छ ཭৬ 33 Ӧۀװ෦ TRUE 32 Ϛωʔδϟʔ FALSE 33 Ӧۀװ෦ FALSE
  35. 109 σʔλ αϯϓϧ αϯϓϧ αϯϓϧ ݁Ռ ݁Ռ ݁Ռ ଟ਺ܾ …

    ࠷ऴతʹଟ਺ܾɺ΋͘͠͸ฏۉΛͱΔɻ
  36. 111 ܾఆ໦ σʔλ αϯϓϧ αϯϓϧ αϯϓϧ ౤ථ ౤ථ ౤ථ ݁࿦

    … ϥϯμϜαϯϓϧ ϥϯμϜαϯϓϧΛར༻͍ͯ͠ΔͷͰɺ݁ՌʹϥϯμϜੑ͕͋Δɻ
  37. 120 ৬Ґ ۈଓ೥਺ ೥ྸ 1 25 27 3 35 40

    2 40 41 1 22 22 1 33 35 ݩͷσʔλ
  38. 121 ৬Ґ ۈଓ೥਺ ೥ྸ 1 25 27 3 35 40

    2 40 41 1 22 22 1 33 35 Shadowม਺Λ࡞੒ ৬ҐͷShadow ۈଓ೥਺ͷShadow ೥ྸͷShadow 1 22 41 1 44 22 1 35 35 3 25 40 2 40 27 ֤ྻ಺ͷ஋ΛϥϯμϜʹฒͼସ͑ͯɺShadowม਺ྻΛ࡞੒ɻ Shadowม਺͸༧ଌʹͳʹ΋ߩݙ΋͠ͳ͍͸ͣɻ
  39. 132 10 5 20 15 0 Hitճ਺͕গͳ͍ଆͷP஋0.05ͷ ൣғɻ͜͜ʹೖΔม਺͸ɺ ༧ଌͷ໾ʹཱͨͳ͍ͱ൑அɻ Hitճ਺͕ଟ͍ଆͷP஋0.05ͷɹ

    ൣғɻ͜͜ʹೖΔม਺͸༧ଌͷ ໾ʹཱͭͱ൑அɻ ͜͜ʹೖΔม਺͸͜ͷܭࢉճ਺Ͱ͸݁࿦͸อཹ͞ΕΔɻ
  40. 137 ΞϧΰϦζϜ Ϟσϧ Ϟσϧͱ͸ΞϧΰϦζϜ͕ݕग़ͨ͠σʔλͷ தʹ͋ΔύλʔϯΛఆٛͨ͠΋ͷͰ͋Δɻ ίϯόʔτ ೥ྸ ࣌ؒ ࠃ ۀք

    TRUE 60 120 Japan ޿ࠂ FALSE 45 55 US ҩྍ FALSE 52 20 US ϝσΟΞ TRUE 48 140 Japan ޿ࠂ TRUE 53 80 UK ۜߦ FALSE 35 30 Japan ϝσΟΞ
  41. 138 ΞϧΰϦζϜ Ϟσϧ Ϟσϧ͔Βɺσʔλͷதʹ͋Δύλʔϯʹؔͯ͠ ଟ͘ͷ͜ͱΛֶͿ͜ͱ͕Ͱ͖Δɻ ஌ࣝ σʔλ • ໨తม਺ͱؔ܎ͷڧ͍ม਺͸ͲΕ͔ɻ •

    ͦΕ͸Ͳ͏͍ͬͨؔ܎ͳͷ͔ɻ • ͦΕ͸༗ҙͳؔ܎ͳͷ͔ɻ • ͜ͷϞσϧͰ͸໨తม਺ͷಈ͖ͷͲΕ͘Β͍Λઆ໌Ͱ͖Δͷ͔ɻ
  42. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ίοΫε

    ճؼ αόΠόϧ ϑΥϨετ 139 ճؼϞσϧ ೋ߲෼ྨϞσϧ ੜଘ෼ੳϞσϧ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ
  43. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ίοΫε

    ճؼ αόΠόϧ ϑΥϨετ 140 ճؼϞσϧ ೋ߲෼ྨϞσϧ ੜଘ෼ੳϞσϧ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ΠϯαΠτ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ ղऍ
  44. ઢܗճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश σʔλλΠϓ ϞσϧλΠϓ ΞϧΰϦζϜ ϞσϧධՁ

    ม਺ؒͷ ؔ܎ੑ R2৐ RMSE R2৐ RMSE P஋ ϩδεςΟοΫ ճؼ ϥϯμϜ ϑΥϨετ XGBoost ౷ܭ ػցֶश P஋ AUC F஋ AUC F஋ ϋβʔυൺ ౷ܭ ػցֶश P஋ ίοΫε ճؼ αόΠόϧ ϑΥϨετ R2৐ R2৐ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ม਺ॏཁ౓ ༧ଌӨڹ౓ ੜଘۂઢ ੜଘۂઢ ܏͖ P஋ Φοζൺ P஋ P஋ 141 ܎਺ ਺஋ TRUE/FALSE TRUE/FALSE + ࣌ؒ
  45. 146

  46. 149

  47. 150

  48. 154 ࣌ؒ λΠτϧ ൃදऀ 12:00 ΦʔϓχϯάɾExploratory v6.6ͷ͝঺հ Exploratory, inc ੢ా

    צҰ࿠ 12:25 σʔλϥϯάϦϯάΛޮ཰Խ͢ΔͨΊͷTips ώουϫʔΫε߹ಉձࣾ ࢛ํ ल࿨༷ 12:50 ٳܜ 13:00 αϚϦϏϡʔΛى఺ͱͨ͠σʔλ෼ੳϫʔΫϑϩʔ ϥΫεϧגࣜձࣾ ࠜདྷ ఩໵༷ 13:25 ExploratoryΛ࠶ݱੑߴ͘ӡ༻͢ΔͨΊͷ׆༻๏ גࣜձࣾϑΥʔόϧςϨίϜ ໼௨ ߁߂༷ 13:50 ࣭ٙԠ౴ ΞδΣϯμ