データ分析コンテストの
勝者解答から学ぶ

4742812a011db89b01a52af6722640b8?s=47 @smly
March 03, 2018
16k

 データ分析コンテストの
勝者解答から学ぶ

ステアラボ人工知能シンポジウム 2018 講演資料
https://stair.connpass.com/event/76647/

4742812a011db89b01a52af6722640b8?s=128

@smly

March 03, 2018
Tweet

Transcript

  1. σʔλ෼ੳίϯςετͷ
 উऀղ౴͔ΒֶͿ ,PIFJ0[BLJ !TNMZ  3FDSVJU5FDIOPMPHJFT "EWBODFE5FDIOPMPHZ-BC "5- εςΞϥϘਓ޻஌ೳγϯϙδ΢Ϝ!ઍ༿޻ۀେֶ

  2. ࣗݾ঺հ ϦΫϧʔτςΫϊϩδʔζ"5-ͷ4S4PGUXBSF&OHJOFFSͰ͢ɽ ˝,BHHMFΦϑΟεͰͷू߹ࣸਅ αϯϑϥϯγεί ɾ,BHHMFSྺ೥ (SBOENBTUFS )JHIFTUSBOLUI 
 ɾ,BHHMF 5PQpOJTIFTY

    1SJ[FY 
 ɾ5PQ$PEFS.BSBUIPO.BUDI 8*/4 
 ɾ"$.,%% ,%%$VQTUQSJ[FXJOOFS ˝ϦΫϧʔτςΫϊϩδʔζ"5- ޿ඌ ˞લճͷߨԋ͔Β̏ݸ૿͑·ͨ͠
  3. ࠓ೔ͷ࿩ w ͜͜਺೥ͷ,BHHMFͱσʔλ෼ੳίϯςετ   w ͲͷΑ͏ʹͯ͠σʔλ෼ੳίϯςετͰউ͔ͭ   w

    ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ  ࠓճ͸Ұൠ࿦ΑΓ΍΍֤࿦ʹ౿ΈࠐΜͩ࿩Λͯ͠Έ·͢ɻ ⼀一般 ⼀一般 応⽤用 ͕͜͜ຊ୊
  4. ࠓ೔ͷ࿩ w ͜͜਺೥ͷ,BHHMFͱσʔλ෼ੳίϯςετ   w ͲͷΑ͏ʹͯ͠σʔλ෼ੳίϯςετͰউ͔ͭ   w

    ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ  ࠓճ͸Ұൠ࿦ΑΓ΍΍֤࿦ʹ౿ΈࠐΜͩ࿩Λͯ͠Έ·͢ɻ
  5. ৼΓฦΓɿ//๖ժɾπʔϧ։ൃՃ೤  w ೥͝Ζ͸4UF⒎FO3FOEMFͷMJC'. 'BDUPSJ[BUJPO .BDIJOFT<> ΍3JF+PIOTPOͷ3(' 3FHVMBSJ[FE(SFFEZ 'PSFTU<> ͳͲɺΞϧΰϦζϜͷ৽ن։ൃʹΑͬͯଞͷࠩΛ͚ͭ

    ͯউར͢Δ৔໘͕Կ౓͔͋ͬͨɻ NN 萌芽・
 ツール開発過熱 2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017- w ػցֶश΍σʔλϚΠχϯάΛ׆༻͢Δਓ޻͕૿Ճɺ৽͍͠ಓ۩͕ ࣍ʑʹੜ·Εͨɻ-BTBHOF DYYOFU LFSBT 9(#PPTUͳͲɻ։ൃ ऀຊਓ͕ίϯςετΛ௨ͯ͡ιϑτ΢ΣΞͷϕϯνϚʔΫΛߦͬͨ Γએ఻͢ΔͳͲ͍ͯͨ͠ɻ
  6. ৼΓฦΓɿ//๖ժɾπʔϧ։ൃՃ೤  w ೥ͷ*NBHF/FU *-473$ ʹ͓͚ΔϒϨʔΫεϧʔ͸େ͖ͳি ܸͰ͸͕͋ͬͨɺ·ͩ(16Λѻ͏؀ڥΛ੔උͨ͠Γ$6%"Λ࢖ͬ ͨϓϩάϥϜΛ,BHHMFͰ࢖͏Ϣʔβʔ͸গ਺೿Ͱ͋ͬͨɻ w ೥ʹ͸+PC4BMBSZ1SFEJDUJPO$IBMMFOHFͰ)JOUPOͷݚڀࣨ

    ͷ0#͕εύʔεಛ௃ྔΛೖྗͱͨ͠.-1Λ࣮૷ͯ͠ଞΛѹ౗ɻ NN 萌芽・
 ツール開発過熱 2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017-
  7. ৼΓฦΓɿϑϥϯέϯγϡλΠϯ  w େྔʹϞσϧΛ࡞ΓελοΩϯά͢Δͱ͍͏ख๏͕ྲྀߦΔɻ༩͑Β ΕͨࢦඪͰগ͠Ͱ΋্ճ͍ͬͯΕ͹উར͢Δͱ͍͏ίϯςετͷ࢓ ૊Έ্ɺτοϓ૪͍͕ᷮࠩͰ͋Ε͹ϞσϧΛ૿΍͢͜ͱʹΠϯηϯ ςΟϒ͕ੜ·ΕΔɻ NN 萌芽・
 ツール開発過熱

    2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017- 出典:http://blog.kaggle.com/2016/04/08/homesite-quote-conversion-winners-write-up-1st-place-kazanova-faron-clobber/ w ϞσϧɺϞσϧͱΞϯα ϯϒϧʹ࢖͏Ϟσϧ਺ʹࡍݶ͕ͳ͘ ͳΓɺGSBOLFOTUFJOFOTFNCMFͳͲ ͱᎏ᎐͞ΕΔ͜ͱ΋ɻ
  8. ৼΓฦΓɿϑϥϯέϯγϡλΠϯ  ҰԠϑΥϩʔ͢Δͱɺ,BHHMF͸ίϯςετೖ৆ऀʹιϦϡʔγϣϯ ಺Ͱͷ஌ݟΛυΩϡϝϯτͱͯ͠༻ҙͤ͞ΔʢͲͷΑ͏ͳಛ௃ྔΛ࢖ ͍ɺؾ෇͖͕͔͋ͬͨͳͲʣɻ ΞϯαϯϒϧͰ͕ࠩͭ͘ίϯςετ͸ɺͦ΋ͦ΋λεΫઃܭ͕୯७͢ ͗Δͱ͔ɺ޻෉ͷ༨஍͕ͳ͍ͱ͔ɺଞͱࠩΛ͚ͭΔ͜ͱ͕೉͍͠ɻί ϯςετʹ޲͍͍ͯͳ͍͜ͱ͕ࠜຊతͳ໰୊Ͱ͋Δͱࢥ͏ɻ NN 萌芽・


    ツール開発過熱 2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017-
  9. ৼΓฦΓɿ//࣌୅ɾେن໛σʔλ  w (16͕ݚڀऀ΍։ൃऀͳͲʹ޿͘ීٴ͠ɺ%-ؔ࿈ͷݚڀ։ൃͱ ͦͷ੒Ռ෺ͷϦϦʔεαΠΫϧ͕ߴ଎ʹͳΓɺଟ͘ͷλεΫͰԠ༻ ՄೳͰ͋Δͱೝࣝ͞ΕΔΑ͏ʹͳΔɻڝٕऀͷղ๏΋όϦΤʔγϣ ϯ͕๛͔ʹͳͬͨɻ w σʔληοτ΋େن໛ͳϚϧςΟϝσΟΞσʔλʢ৴߸ɺԻ੠ɺը ૾ɺಈըʣ͕૿͑ɺ5#ͷίϯςετσʔλΛμ΢ϯϩʔυ͢Δ

    ৔໘΋Ͱ͖ͨɻ NN 萌芽・
 ツール開発過熱 2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017-
  10. ৼΓฦΓɿ,FSOFMɾڧԽֶशίϯϖ  w ܭࢉࢿݯͱਫ਼౓ͷτϨʔυΦϑ͕஫໨͞Ε͸͡ΊΔɻ5XP4JHNB  .FSDBSJͳͲͷܭࢉࢿݯ΍࣮ߦ؀ڥʹ੍໿ΛՃ͑ͨίϯςετ͕ొ ৔ɻ΄͔5PQ$PEFS։࠵΋4QBDF/FU$IBMMFOHF΋ܭࢉࢿݯͷ੍ ໿ΛՃ͍͑ͯΔ w ೥ʹ͸ڧԽֶशͳͲͷίϯςετ΋ϓϥϯʹ͋Δͱද໌͞Εɺ

    ϢχʔΫͳλεΫͷίϯςετ͕૿͍͑ͯ͘ ͱࢥΘΕΔɻ ग़యɿz3FWJFXJOHBOE1SFWJFXJOHCMPHLBHHMFDPNSFWJFXJOHBOEQSFWJFXJOH NN 萌芽・
 ツール開発過熱 2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017-
  11. ݴ͍͔ͨͬͨ͜ͱΛ੔ཧ͢Δͱ w Ξϯαϯϒϧͷڝ͍߹͍͸ෆໟ͕ͩɺ໰୊ઃఆʹ΋ݪҼ͕͋Δɻ w //ͷݚڀ։ൃ͕׆ൃʹͳ͓͔ͬͨ͛Ͱղ๏΋όϦΤʔγϣϯ͕๛ ෋ʹͳͬͨɻ w ܭࢉࢿݯͷ੍໿ΛೖΕͨΓɺڧԽֶशΛ୊ࡐʹ͢ΔͳͲมԽΛଓ͚ ͍ͯΔɻ NN

    萌芽・
 ツール開発過熱 2012-2014 フランケンシュタイン
 アンサンブル 2014-2016? NN 時代・
 ⼤大規模MMデータ 2016- Kernel コンペ・
 強化学習? 2017-
  12. ࠓ೔ͷ࿩ w ͜͜਺೥ͷ,BHHMFͱσʔλ෼ੳίϯςετ   w ͲͷΑ͏ʹͯ͠σʔλ෼ੳίϯςετͰউ͔ͭ   w

    ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ  ࠓճ͸Ұൠ࿦ΑΓ΍΍֤࿦ʹ౿ΈࠐΜͩ࿩Λͯ͠Έ·͢ɻ
  13. Ͳ͏΍ͬͨΒউͯΔͷ͔ େࡶ೺ʹߟ͑Δͱࠓ΋ੲ΋ඞཁͳ͜ͱ͸มΘΒͳ͍ɻ ɹ&%" ୳ࡧతσʔλ෼ੳ ɹ7BMJEBUJPO ద੾ͳϞσϧධՁ ɹ4VSWFSZ ݚڀ੒Ռ΍աڈղ౴͔ΒֶͿ

  14. ୳ࡧతσʔλ෼ੳ &%" ༷ʑͳ੾ΓޱͰσʔλΛݟͯɺՄࢹԽͯ͠ɺԾઆΛཱͯɺ໰୊ͷղ͖ํ Λߟ͑Δɻͱͯ΋ॏཁͳϑΣʔζɻ ظ଴͢Δ੒Ռɿ ɾυϝΠϯ஌ࣝ΍σʔλͷύλʔϯ͔ΒϞσϧɾղ๏Λઃܭ͢Δ ɾλεΫഎܠ͔ΒσʔλͷنଇੑΛਪଌͯ͠ಛ௃ྔΛ࡞ΔͳͲ 集計(集約)と可視化を道具として、アイディアを産む

  15. ूܭɾू໿ॲཧɺՄࢹԽʹΑΔσʔλཧղ w খن໛ͳߏ଄ԽσʔλͰ͋Ε͹&YDFMͷϐϘοτςʔϒϧ΋༗༻ w ը૾σʔλͰ͋Ε͹ύλʔϯ͝ͱʹάϧʔϓԽͯ͠ฒ΂ͨΓɺ
 ༧ଌϞσϧͷϩε͕େ͖͍ࣄྫɾখ͍͞ࣄྫΛ၆ᛌͯ͠ΈΔ w ඞཁʹԠͯ͡ՄࢹԽπʔϧΛࣗ࡞͢Δ ग़యɿIUUQTXXXLBHHMFDPNDUJUBOJDEJTDVTTJPO

  16. σʔλΛՄࢹԽ͢ΔɿԾઆݕূͱΞΠσΟΞ w ಓ۩ͱͯ͠ՄࢹԽΛ׆༻͢Δ w ՄࢹԽˠΞΠσΟΞʢ࣭໰ʹͭͳ͕ΔύλʔϯΛ୳͢ʣ w ΞΠσΟΞˠՄࢹԽʢԾઆݕূʣ ग़యɿIUUQTXXXDPVSTFSBPSHMFBSODPNQFUJUJWFEBUBTDJFODF

  17. σʔλΛՄࢹԽ͢ΔɿΤϥʔ෼ੳ Ӵ੕ը૾ͷTFNBOUJDTFHNFOUBUJPOͰ༧ଌϚεΫͷΤϯίʔσΟϯά ʹόά͕͋Δ͜ͱʹؾͮ͘͜ͱ͕ग़དྷͨέʔεɻ σʔλग़యɿ%TUM4BUFMMJUF*NBHFSZ'FBUVSF%FUFDUJPOzIUUQTXXXLBHHMFDPNDETUMTBUFMMJUFJNBHFSZGFBUVSFEFUFDUJPO #FGPSF "GUFS େ͖ͳ-PTTʹͳΔ

  18. ద੾ͳϞσϧධՁ 1VCMJD-#Λ࢖͏΂͖͔ w σʔληοτͷ෼ׂ͝ͱʹద੾ͳ7BMJEBUJPOηοτΛ༻ҙ͢Δ w 1VCMJD-#͸ςετࣄྫ͕গͳ͍ͱ͖͸ಛʹؾΛ͚ͭΔ ,BHHMFͷϑϨʔϜϫʔΫʹ͓͚ΔաֶशΛߟ͑Δͱɺཧ࿦తʹ͸ʮ෼ׂ ͷׂ߹ʯͰ͸ͳ͘ʮςετࣄྫ਺ʯʹӨڹ͞ΕΔ໰୊Ͱ͋Δ͸ͣ SFG<> ग़యl5JQTBOEUSJDLTUPXJOLBHHMFEBUBTDJFODFDPNQFUJUJPOT

    lIUUQTXXXTMJEFTIBSFOFU%BSJVT#BSVBVTLBTUJQTBOEUSJDLTUPXJOLBHHMFEBUBTDJFODFDPNQFUJUJPOT
  19. աֶशͷ௚ײతͳྫɿ#PPTUJOH"UUBDL ୯७Խͨ͠/ݸͷςετࣄྫͷೋ஋෼ྨ໰୊Λߟ͑Δɿ 正解 予測 1 予測 2 ࣍ϕΫτϧΛ౰ͯΔɽධՁࢦඪ͸Τϥʔ཰ͱ͢Δɽ y 2

    {0, 1}N sH(yi) yi 2 {0, 1}N ͋Δ༧ଌ ͷ1VCMJD-#είΞΛ ͱ͢Δɽ N 1 0 0 1 0 0 0 1 y = 1 1 1 0 0 1 1 1 y1 = 1 0 1 1 1 1 0 0 y2 = Public LB
 Score 1 Public LB
 Score 2 sH(y1) = 0.75 sH(y2) = 0.25 Public Private
  20. #PPTUJOH"UUBDL<#MVN)BSEU`> Algorithm (Boosting Attack): 正解 1 0 0 1 0

    0 0 1 y = 0 0 1 0 0 0 0 1 1 1 1 0 1 0 1 1 0 1 0 1 0 1 0 0 1 0 0 1 0 0 0 1 1 0 0 1 0 1 1 1 0 0 0 0 1 1 1 0 ランダムに予測のベクトルを作成する Public Private 1 0 1 1 1 1 0 0 1 0 0 1 0 1 1 1 0 0 0 1 0 1 1 0 0 0 1 1 0 0 1 1 0 0 1 0 0 0 1 1 1 1 0 1 0 0 0 0 ϥϯμϜͳ༧ଌ͔Β1VCMJD4DPSFͷྑ͍݁ՌΛબ୒͢Δ
  21. #PPTUJOH"UUBDL<#MVN)BSEU`> 正解 1 0 0 1 0 0 0 1

    y = 1 0 1 1 1 1 0 0 1 0 0 1 0 1 1 1 0 0 0 1 0 1 1 0 1 0 0 1 0 0 0 1 1 0 0 1 0 1 1 1 1 1 0 1 0 0 0 0 㱺 majority
 voting 1 0 0 1 0 1 1 1 Public LB
 Score sH(ˆ y) = 0.0 Algorithm (Boosting Attack): Public LB スコアの良いベクトル sH (yi) < 0.5 だけを選ぶ Public Private ϥϯμϜͳ༧ଌ͔Β1VCMJD4DPSFͷྑ͍݁ՌΛબ୒͢Δ
  22. #PPTUJOH"UUBDL<#MVN)BSEU`> 正解 1 0 0 1 0 0 0 1

    y = 1 0 1 1 1 1 0 0 1 0 0 1 0 1 1 1 0 0 0 1 0 1 1 0 1 0 0 1 0 0 0 1 1 0 0 1 0 1 1 1 1 1 0 1 0 0 0 0 㱺 majority
 voting 1 0 0 1 0 1 1 1 Public LB
 Score sH(ˆ y) = 0.0 Private LB Score が
 良くなる保証は
 何もない !! Algorithm (Boosting Attack): Public Private Public LB スコアの良いベクトル sH (yi) < 0.5 だけを選ぶ ϥϯμϜͳ༧ଌ͔Β1VCMJD4DPSFͷྑ͍݁ՌΛબ୒͢Δ
  23. #PPTUJOH"UUBDL<#MVN)BSEU`> ࠷ऴతͳॱҐΛܾఆ͢Δ1SJWBUF-#είΞ͸վળ͠ͳ͍ɻςετࣄྫ਺͕ଟ͚ Ε͹ɺ1VCMJDͷΤϥʔ཰ͷ෼ࢄ͸খ͘͞ͳΔͷͰဃ཭΋খ͘͞ͳΔɻ エラー率 (低いほど良い) 予測結果の提出回数 最終順位の評価対象であるPrivate LB は改善しない テスト事例例数が少ない


    場合は特に注意する
  24. αʔϕΠɿ෼໺ಠಛͷΞϓϩʔνΛֶͿ ˙੺֎෼ޫ๏ʹΑΔ౔৕ௐࠪͷ؍ଌσʔλʹର͢Δલॲཧྫ
 ʢ"GSJDB4PJM1SPQFSUZ1SFEJDUJPO$IBMMFOHFʣɿ  4BWJU[LZ(PMBZpMUFS  $POUJOVVN3FNPWBM  %JTDSFUFXBWFMFU USBOTGPSNT

     'JSTU%FSJWBUJWFT  6OTVQFSWJTFE'FBUVSF4FMFDUJPO  -PH USBOTGPSNʜ ˙೴࣓ਤه࿥ͷલॲཧɾಛ௃ྔநग़ %FD.FH$IBMMFOHF ɿ PSEFS#VUUFSXPSUICBOEQBTTpMUFS 4QBUJBM'JMUFSJOH 3JFNBOOJBO.FBO  5BOHFOU4QBDF.BQQJOHʜ IUUQTXXXLBHHMFDPNDBGTJTTPJMQSPQFSUJFTEJTDVTTJPO IUUQTHJUIVCDPNBMFYBOESFCBSBDIBOU%FD.FH
 IUUQTXFCBSDIJWFPSHXFCIUUQBMFYBOESFCBSBDIBOUPSHXQDPOUFOUVQMPBETEPDVNFOUBUJPOQEG
  25. αʔϕΠɿਂ૚ֶशͷ࣮ફతͳݚڀ੒Ռ ࢖͑ͦ͏ͳ΋ͷ͸νΣοΫ͢Δɻ̍͜͜ʙ̎೥ͷ੒Ռ͕࢖ΘΕΔ͜ͱ΋ ௝͘͠ͳ͍ɻຊεϥΠυͰ঺հ͢Δ্Ґղ๏͕ࢀߟʹͨ͠จݙͷྫɿ [Zhang+ ’17] "mixup: Beyond Empirical Risk Minimization",

    https:// arxiv.org/abs/1710.09412 [Miech+ '17] "Learnable pooling with Context Gating for video classification", https://arxiv.org/abs/1706.06905 [Tian+ '16] "Detecting Text in Natural Image with Connectionist Text Proposal Network”, In Proc. of ECCV ‘16 https://arxiv.org/abs/1609.03605 [Qi+ '17] "PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation”, In Proc. of the CVPR ‘17 https://arxiv.org/abs/1612.00593 [Ma+ '17] "Multi-View Deep Learning for Consistent Semantic Mapping with RGB-D Cameras”, In Proc. of the IROS ‘17 https://arxiv.org/abs/1703.08866
  26. ࠓ೔ͷ࿩ w ͜͜਺೥ͷ,BHHMFͱσʔλ෼ੳίϯςετ   w ͲͷΑ͏ʹͯ͠σʔλ෼ੳίϯςετͰউ͔ͭ   w

    ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ  ࠓճ͸Ұൠ࿦ΑΓ΍΍֤࿦ʹ౿ΈࠐΜͩ࿩Λͯ͠Έ·͢ɻ
  27. ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ ̎ͭͷίϯςετʹ͓͚Δղ๏Λ঺հ͢Δɻ ~ 2018/01/23 ~ 2017/12/14

  28. ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ ̎ͭͷίϯςετʹ͓͚Δղ๏Λ঺հ͢Δɻ ~ 2017/12/14

  29. γϣοϐϯάαΠτͷը૾͔ΒଟΫϥε෼ྨ λεΫɿෳ਺ͷը૾͕ఴ͑ΒΕͨ঎඼*%͝ͱʹଟΫϥε෼ྨ ධՁࢦඪɿ"DDVSBDZ ঎඼*%͝ͱʹ̍ʙ̐ຕͷෳ਺ը૾͕༩͑ΒΔɻ ͜ͷෳ਺ը૾͔ΒΫϥεʹ෼ྨ͢Δ ग़యɿIUUQTXXXDEJTDPVOUDPNFMFDUSPNFOBHFSQFUJUEFKFVOFSDBGFQIJMJQTTFOTFPPSJHJOBMIEBSHFOUGQIJIEIUNM

  30. σʔληοτͷجຊ৘ใΛ͓͑͞Δ Ϋϥε਺͸Ϋϥεʢ֊૚ͷΧςΰϦ͕ఆٛ͞Ε͍ͯΔʣ ɾඇৗʹTLFXͳΫϥε෼෍Ͱ͋Δ ɾԾઆɿ঎඼*%͸ར༻Ͱ͖ͳ͍͔ʁ ɾԾઆɿ܇࿅ࣄྫͱςετࣄྫͰಉ͡ը૾͕ଘࡏ͠ͳ͍͔ʁ جຊํ਑ͱͯ͠$//ϞσϧΛը૾୯ҐͰೖྗֶͯ͠श͠ɺ ঎඼͝ͱʹ݁ՌΛฏۉͰू໿ͯ͠༧ଌ͢Δɻ ܇࿅ࣄྫ (# 

     ঎඼  F  ςετࣄྫ (#   ঎඼  F 
  31. Ծઆɿ঎඼*%͸ར༻Ͱ͖ͳ͍͔ʁ ݁࿦ɿಛఆͷΫϥε͚ͩ঎඼*%ʹنଇੑ͕͋Δɻ ϥϕϧͷݱΕͳ͍঎඼*%஋ҬΛϒϥοΫϦετͱͯ͠ɺ
 ผͷϥϕϧΛ౴͑ΔώϡʔϦεςΟΫεΛ࢖͏ɻ ܇࿅ࣄྫશମͷ෼෍ සग़൪ͷΫϥεͷ෼෍ ঎඼*%ͷঢॱʢCJOOJOHQFSʣˠ සग़൪ͷΫϥεͷ෼෍ සग़൪ͷΫϥεͷ෼෍

  32. Ծઆɿ܇࿅ςετࣄྫͰಉ͡ը૾͕ଘࡏ .%Λ͢΂ͯͷը૾Ͱܭࢉͨ݁͠Ռɺ঎඼ʹରԠ͢Δ͢΂ͯͷը૾͕׬શʹҰ க͢Δ৔߹ͱɺҰ෦ͷը૾͚ͩ׬શʹҰக͢Δ৔߹͕͋Δɻ )BTIJOHʹΑΔྨࣅը૾΋ಉ༷ͷ݁Ռɻ 類類似画像 同⼀一画像

  33. $//Ϟσϧ  (16࢖༻཰Λҙࣝ͠ͳ͍ͱɺ͍ͭ·Ͱܦͬͯ΋܇࿅͕ऴΘΒͳ͍ɻ #40/ CJOBSZGPSNBU.POHP%# Ͱ֨ೲ͞Ε͍ͯΔσʔλΛޮ཰తʹ 73".ʹઈ͑ؒͳ͘సૹͯ͠$6%"ʹܭࢉ͚ͤͭͮ͞Δඞཁ͕͋Δɻ $16ϘτϧωοΫ(16ຕ਺Λ૿΍͢ͱҰ౓ʹॲཧͰ͖Δࣄ ྫ਺͕૿͑Δɻ͢Δͱࠓ౓͸%BUBBVHNFOUBUJPOͳͲͷը૾ ॲཧͷܭࢉίετ͕૿͑ΔɻϚϧνεϨουͰσʔλΛॲཧ͢

    ΔͳͲͷ޻෉͕ඞཁͱͳΔ *0ϘτϧωοΫେ༰ྔ44%Λߪೖ͢Δ͔ɺ3". UNQGT ʹ #40/ϑΝΠϧΛσϓϩΠ͢ΔͳͲͯ͠ղফ͢Δඞཁ͕͋Δ
  34. watch -n5 nvidia-smi͢ΔͳͲͯ͠໨ࢹͰ֬ೝɻ ܭଌ΍֬ೝΛ͠ͳ͍ͱɺͳ͔ͳ͔ؾ͕ͭ͘͜ͱ͕ग़དྷͳ͍ɻ ϓϩάϥϜͰ*0 $16 (16ͦΕͧΕʹ͔͔࣮ͭߦ࣌ؒΛܭଌ͢Δͱߋʹྑ͍ɻ

  35. $//Ϟσϧ  ֶशʹ͍ͭͯɻը૾ຕ਺͕ඇৗʹଟ͍ͷͰɺҰճͷࢼߦʹҰिؒ଴ͨ͞ΕΔ͜ ͱ΋͋Γɺඇৗʹ೉ّͨ͠ͱ͜Ζɻ ɾ܇࿅ࣄྫ͕*NBHF/FUΑΓଟ͍ͷͰɺQSFUSBJOFENPEFMͷֶशͨ͠ಛ௃ ϚοϓΛյͭ͢΋ΓͰେ͖ͳMFBSOJOHSBUFF͔Β4(%Ͱֶश ɾे෼ʹWBMJEBUJPOTFUͰͷMPHMPTT͕ανͬͨͱ൑அͰ͖Δ·ͰMFBSOJOH SBUFΛԼ͛ͳ͍ɻMFBSOJOHSBUFΛ͙͢ʹԼ͛Δͱޙ൒ͷվળ͕খ͍͞ ɾ࣮ݧ৚͕݅ಉ͡Ͱ͋Ε͹ɺ࣌ؒઅ໿ͷͨΊ FQPDIͰ࣮ݧΛଧͪ੾Δ

  36. $//Ϟσϧ  ˙νϟϯωϧ$// dຕͱը૾ͷຕ਺͕ݶΒΕ͍ͯͨͨΊɺDIBOOFMT ͷ DIBOOFMTΛೖྗͱ͢Δ$//ϞσϧΛ࡞੒ͨ͠ɻ ݁Ռ͸͋·Γྑ͘ͳ͔͕ͬͨɺΞϯαϯϒϧͰͷEJWFSTJUZΛ্͛ Δ͜ͱʹ͸੒ޭͯ͠είΞΛগ͚ͩ͠ԡ্͛ͨ͠ɻ ˙ઐ໳Ո$// Τϥʔ෼ੳͨ͠ͱ͜Ζɺ͍͔ͭ͘ͷେΧςΰϦͰਫ਼౓͕ѱ͍ͨΊɺ

    ͜ΕΒʹಛՁͨ͠Ϟσϧʢઐ໳ՈϞσϧʣΛ༻ҙɻҰ෦ͷ༧ଌ݁Ռ Λஔ͖׵͑ͨɻ
  37. 4JOHMFNPEFMT #FTUTJOHMFNPEFM͸1VCMJD-#ͰҐ νʔϜத ɻ 1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰

    1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰ ResNet101-12ch ResNet101 Inception V3 DPN-92 InceptionRes V2 Expert
  38. Ξϯαϯϒϧ ॏΈ෇͖ฏۉ ςετࣄྫ਺͕े෼ʹେ͖ͷͰɺ1VCMJD-#Λ֬ೝͭͭ͠ௐ੔ɻ      Ξϯαϯϒϧ1VCMJD-# Ґ૬౰

    1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰ 1VCMJD-# Ґ૬౰ ResNet101-12ch ResNet101 Inception V3 InceptionRes V2 DPN-92 Expert
  39. UIϞσϧͷΞϯαϯϒϧ Ћ ಉҰ.%ͷ܇࿅ࣄྫΛ࢖͍ɺ$//ϞσϧͷTPGUNBYΛิਖ਼͢Δɿ

  40. UIϞσϧͷΞϯαϯϒϧ Ћ (1) 訓練事例例の
 正例例の割合 (2) Softmax (1), (2) の重み付き平均とみなす

    ಉҰ.%ͷ܇࿅ࣄྫΛ࢖͍ɺ$//ϞσϧͷTPGUNBYΛิਖ਼͢Δɿ
  41. UIϞσϧͷΞϯαϯϒϧ Ћ  Ґ૬౰ ˠ Ґ૬౰ ʴΫϥε෼෍͔Βܭࢉͨ͠ϒϥοΫϦετͷώϡʔϦεςΟΫεΛద༻ (1) 訓練事例例の
 正例例の割合

    (2) Softmax (1), (2) の重み付き平均とみなす ಉҰ.%ͷ܇࿅ࣄྫΛ࢖͍ɺ$//ϞσϧͷTPGUNBYΛิਖ਼͢Δɿ
  42. UIಛ௃நग़ͯ͠ू໿ˍߋʹֶश ϕʔεϞσϧͷCPUUMFOFDLCMPDLͷग़ྗΛ࢖ͬͯ঎඼୯Ґʹू໿ˍֶ शɻ0$3 &"45<> $3//<> ͯ͠ςΩετ৘ใΛநग़ɻ ͜ΕΒΛೖྗͱͯ͠.-1 3// /FU7MBE<>ͳͲͷτοϓϨϕϧϞ σϧΛֶशɻ࠷ޙʹϕʔεϞσϧͱτοϓϨϕϧϞσϧͰΞϯαϯϒϧɻ

    w ϕʔεϞσϧ͸*ODFQUJPO3FTOFUW 3FTOFU 4&*ODFQUJPO7 9DFQUJPO w ̐ຕͷը૾Λೖྗͯ͠ಘͨ#PUUMFOFDLGFBUVSFTΛ঎඼͝ͱʹάϧʔϓͯ͠
 τοϓϨϕϧϞσϧͷೖྗͱ͢Δ w /FU7MBEͷ1PPMJOHֶशͱ(BUJOH͸ɺաڈίϯϖl:PVUVCF.,BHHMF -BSHF4DBMF7JEFPVOEFSTUBEJOHDIBMMFOHFzͷղ๏Ͱ΋࢖ΘΕɺ-061&ͱ͠ ͯπʔϧϘοΫε͕ެ։͞Ε͍ͯΔ ग़యɿIUUQTXXXLBHHMFDPNDDEJTDPVOUJNBHFDMBTTJpDBUJPODIBMMFOHFEJTDVTTJPO
  43. UIೋ஋෼ྨ໰୊ʹม׵ ͋Γ͑ͦ͏ͳ༧ଌΫϥεͷީิlQPTTJCMF@DMBTT@JEzͱ͍͏ಛ௃ྔΛ࡞Γɺ
 ଟΫϥε෼ྨ໰୊Λೋ஋෼ྨ໰୊ʹม׵ɻͦͯ͠9(#PPTUͳͲͰֶशɻ w.%ϨϕϧͰҰக͢Δը૾ͷ࠷සग़Ϋϥε*%Λ
 ΧςΰϦΧϧಛ௃ྔͱͨ͠ w.%ϨϕϧͰҰக͢Δը૾ͷॏෳ਺Λྔతಛ௃ྔͱͨ͠ ෳ਺ຕͷը૾Λ঎඼͝ͱʹ·ͱΊΔू໿ͷϋϯυϦϯάͱɺ .%ϨϕϧͷҰகͷ৘ใΛϞσϧʹ૊ΈࠐΜͰ͍Δɻ ग़యɿIUUQTXXXLBHHMFDPNDDEJTDPVOUJNBHFDMBTTJpDBUJPODIBMMFOHFEJTDVTTJPO

  44. OE.-1aXHBUFETDBMJOH w CPUUMFOFDLCMPDLͷDPOWYY͔Βը૾෼YΛநग़ w ֤TUSFBNT͔Βಛ௃ΛDPODBUͨ͠YΛೖྗͱͯ͠.-1Ͱֶश w .VMUJWJFXQPPMJOH<>ʹ͍͕ۙɺσʔλ͕େ͖͍ͷͰֶश͸TUBHFʹ෼ׂ qJQʹΑΔσʔλ֦ு͕͋ΔͷͰ
 4&3FT/F9U͸PVUQVUEJNY͕̎ͭͰYY ग़యIUUQTXXXLBHHMFDPNDDEJTDPVOUJNBHFDMBTTJpDBUJPODIBMMFOHFEJTDVTTJPO

  45. OE.-1aXHBUFETDBMJOH w தؒ੒Ռ෺ɿը૾ຕ਺Yಛ௃਺Yɻ͜ΕʹHBUFETDBMJOH .-1ద༻ w ը૾ʹ͖ͭͷEJN͔Β4&4DBMFNPEVMFͰը૾Λબ୒ͯ͠Ճࢉ͢Δ w ը૾ͷ͏ͪຕ͚͕ͩॏཁͱ͍͏ࣄྫ͕͋ΔͷͰ༗ޮͦ͏ SFG1PJOU/FU<> ग़యIUUQTXXXLBHHMFDPNDDEJTDPVOUJNBHFDMBTTJpDBUJPODIBMMFOHFEJTDVTTJPO

    EJN EJN EJN EJN EJN ঎඼ը૾ Y 4DBMJOH ը૾બ୒ "%% } + ◦ * * * * .-1΁GPSXBSE
  46. OE.-1aXHBUFETDBMJOH w தؒ੒Ռ෺ɿը૾ຕ਺Yಛ௃਺Yɻ͜ΕʹHBUFETDBMJOH .-1ద༻ w ը૾ʹ͖ͭͷEJN͔Β4&4DBMFNPEVMFͰը૾Λબ୒ͯ͠Ճࢉ͢Δ w ը૾ͷ͏ͪຕ͚͕ͩॏཁͱ͍͏ࣄྫ͕͋ΔͷͰ༗ޮͦ͏ SFG1PJOU/FU<> ग़యIUUQTXXXLBHHMFDPNDDEJTDPVOUJNBHFDMBTTJpDBUJPODIBMMFOHFEJTDVTTJPO

  47. OE.-1aXHBUFETDBMJOH w ΄͔ʹ΋ɺதؒ૚ͷDPODBU෦෼Ͱ.JYVQBVHNFOUBUJPO<>͢ΔϞσϧͳͲ w ͦΕͧΕඍົʹҟͳΔτοϓϨϕϧϞσϧܭ̐ݸΛΞϯαϯϒϧ ग़యIUUQTXXXLBHHMFDPNDDEJTDPVOUJNBHFDMBTTJpDBUJPODIBMMFOHFEJTDVTTJPO

  48. TUදݱྗΛ্͛ΔͨΊʹBSDIมߋ ࠷ॳ͸খ͞ͳ3FT/FUͰ࣮ݧΛ͘Γฦͯ͠Ϟσϧͷݕূɻ ଟ͘ͷ*NBHF/FUQSFUSBJOFE͸Ϋϥεͷઃܭ͚ͩͲࠓճ͸Ϋϥε਺͸ ΫϥεɻΞʔΩςΫνϟͷදݱྗʹݶք͕͋Γɺ͜ΕΛղফ͢ΔมߋΛ௥Ճɻ νϟϯωϧ਺Λ૿΍ͨ͢ΊʹYDPOWMBZFSΛ௥Ճͯ͠νϟϯωϧ਺Λ ͔Βʹ૿΍͢ɻ7((OFUʹश͍GDMBZFS΋௥Ճ͢Δɻ YDPOW  GD GD

    #FGPSF "GUFS ௥Ճ ௥Ճ มߋ
  49. TUෳ਺ը૾Λ࿈݁ͯ͠୯Ұը૾ʹ ෳ਺ը૾ͷऔΓѻ͍ɿ࿈݁ͯ͠Ұͭͷը૾ʹ͢Δ ঎඼ຕͷ෦෼ηοτ ঎඼ຕͷ෦෼ηοτ ঎඼ຕͷ෦෼ηοτ ঎඼͝ͱͷը૾ຕ਺ͰσʔληοτΛ෼ׂʢ̐௨Γʣɻը૾ຕ਺͝ͱͷ σʔληοτΛ࡞੒ͯ͠ɺ୯Ұը૾Ͱֶशͨ͠Ϟσϧ͔ΒpOFUVOJOH

  50. TU0$3ͯ͠NVMUJJOQVU$// $51/<>ͰςΩετྖҬͷநग़ɺ$3//<>ͰςΩετͷநग़Λߦ͏ɻ.VMUJ JOQVU$//Ͱ$3//GFBUVSFTͱ3FT/FUͷ'$GFBUVSFTΛ࿈݁͢Δɻ 
 தؒϑΝΠϧ͸VJOUʹྔࢠԽʢ ͯ͠DBTUʣͯ͠TQBSTFNBUSJYͱͯ͠
 อଘ͢Δɻ .#͕.#ҎԼʹͳΔɻ $51/ $3//

    ରԠ͢Δຕ਺ͷ
 ઐ༻3FT/FU .VMUJJOQVU $// ༧ଌ ೖྗը૾ <>%FUFDUJOH5FYUJO/BUVSBM*NBHFXJUI$POOFDUJPOJTU5FYU1SPQPTBM/FUXPSL
 <>"O&OEUP&OE5SBJOBCMF/FVSBM/FUXPSLGPS*NBHFCBTFE4FRVFODF3FDPHOJUJPOBOE*UT"QQMJDBUJPOUP4DFOF5FYU3FDPHOJUJPO
  51. ࠷ۙͷίϯςετʹ͓͚Δղ๏ͷղઆ ̎ͭͷίϯςετʹ͓͚Δղ๏Λ঺հ͢Δɻ ~ 2018/01/23

  52. 4UBUPJM$$03&*DFCFSH λεΫɿ߹੒։ޱϨʔμʔ 4"3 ͷ؍ଌσʔλ͔Βණࢁ͔ધഫ͔ೋ஋෼ྨ͢Δ ධՁࢦඪɿ-PHMPTT ภ޲೾ͷೖࣹ֯౓ʢྔతม਺ʣ ภ޲೾ͷ؍ଌ஋ ภ޲೾ͷ؍ଌ஋ ණࢁ͔ધ͔ʢ໨ඪม਺ʣ

  53. 氷⼭山 船舶

  54. ͲͪΒ͕ྲྀණʁ

  55. 氷⼭山 氷⼭山 船舶 ࠔ೉ͳࣄྫ͕͋Δɻ աֶशʹ஫ҙ͕ඞཁɻ

  56. σʔλʹର͢ΔཧղΛਂΊΔ ߹੒։ޱϨʔμʔ͸ೖࣹ֯ʢ*ODJEFODFBOHMFʣΛௐ੔ͯ͠؍ଌ͢ΔͷͰɺ
 ΄΅ಉ஋ͷάϧʔϓ͕Ͱ͖Δͱߟ͑Δ͜ͱ͕ग़དྷΔɻ 1 2 3 4 5 6 ic=44.1923

    ic=44.1925 ic=44.1919 ic=41.4321 ic=41.4315 ic=41.4317 ग़యʢࠨʣɿIUUQXXXBTDDTBHDDBFOHTBUFMMJUFTSBEBSTBUDPNQPOFOUTBTQ
 ʢӈʣ*NBHFSZ˜*#$"0 -BOETBU$PQFSOJDVT .BQEBUB˜(PPHMF ʢ˞ૉਓʹΑΔߟ࡯ͳͷͰɺؒҧ͍͕͋Δ͔΋͠Ε·ͤΜʣ
  57. σʔληοτը૾͸͋Β͔͡ΊDSPQͨ͠΋ͷ $SPQલͷΠϝʔδਤ ༩͑ΒΕͨը૾ ic=44.1923 ic=44.1925 ic=44.1919 ic=41.4321 ic=41.4315 ic=41.4317 ߹੒։ޱϨʔμʔͷ؍ଌྖҬͷΠϝʔδਤ

    ೖࣹ֯ ͜ͷྖҬ͸͢΂ͯ ೖࣹ֯ Ծઆɿೖࣹ֯ͷগ਺දܻࣔ͢΂͕ͯ׬શҰக͢Δ৔߹ɺ ݩʑ͕ಉ͡؍ଌྖҬ˙͔Β੾ΓऔͬͨDSPQ͞Εͨը૾˙Ͱ༩͑ΒΕΔ ༩͑ΒΕͨ؍ଌσʔλ͸ɺધഫ͋Δ͍͸ණࢁ͕த৺Β͖͠΋ͷ͕ ͍ࣸͬͯΔɻ͋Β͔͡ΊDSPQ͞Εͨը૾ɻ
  58. Ծઆೖࣹ͕֯Ұக͢Δάϧʔϓ͸ಉ͡ϥϕϧ ೖࣹ͕֯׬શҰக͢Δࣄྫάϧʔϓ͸ɺ΄΅͓ͳ͡ϥϕϧʹͳΔɻ എܠΛߟ͑Δͱଥ౰ͳ݁Ռɻ ԫ৭ʹ͢΂ͯණࢁ ΦϨϯδʹ͢΂ͯધഫ ੺ʹණࢁͱધഫ͕͍ࠞͬͯ͟Δ

  59. ώϡʔϦεςΟΫεͰ܇࿅ࣄྫΛ௥Ճ ʮֶशͨ͠$//Ϟσϧʯͷ"DDVSBDZΑΓ΋
 ʮ܇࿅ࣄྫʹ͋Δɺ׬શʹಉҰͷೖࣹ֯ͷ؍ଌࣄྫʯ
 Λ୳ͯ͠࠷සग़ϥϕϧΛ౴͑ͨ΄͏͕"DDVSBDZྑ͍  ɻ ܇࿅ࣄྫ਺ɿˠ ςετࣄྫ਺ɿˠ ࣮ࡍʹ͸μϛʔը૾Ͱਫ૿͠͞Ε͍ͯΔͷͰධՁͷର৅ͱͳΔςετࣄྫ͸ ͱͯ΋গͳ͍ɻςετࣄྫ΋গͳ͍ͷͰɺ1VCMJD-#Λࢀߟʹ͢Δͷ͸ةݥ

    ܇࿅ࣄྫ͕গͳ͍ͷͰɺ্ͷ࠷සग़ϥϕϧΛ͢΂ͯ܇࿅ࣄྫʹ௥Ճͨ͠ɻ
  60. $//Ϟσϧͷ࡞੒ w ը૾͚ͩΛ࢖ͬͨϞσϧΛ༻ҙ͢Δʢྔతม਺Λಉ࣌ʹֶश͠ͳ͍ʣ w ܇࿅ࣄྫ਺͕গͳ͍ͷͰGPME$7ͰϞσϧΛධՁˍνϡʔχϯά w Ϟσϧ͸૚$POWPMVUJPO-BZFS͚ͩͰे෼ͦ͏
 ʢม͑ͯ΋େࠩͳ͍ʣ w QSFUSBJOFENPEFMΛ࢖͏ͱٯʹѱ͘ͳΔ

    前処理理 CV Public LB 4L CNN Scaling 0.2212 4L CNN Raw 0.2191 ResNet50 Scaling 0.2206 VGG16 Scaling 0.2107 1VCMJD-#͸֬ೝ͍ͯ͠ͳ͍
  61. ೖࣹ֯͝ͱʹਖ਼نԽ ೖࣹ֯͝ͱʹ܏޲͕ผΕ͍ͯΔɻ άϧʔϓԽͯ͠౷ܭྔΛܭࢉͯ͠ɺ
 άϧʔϓ͝ͱʹਖ਼نԽ͢Δɻ ੜσʔλ աڈίϯϖͷ༏উऀ͕ໄͷ͋Δը૾Λ ໄআڈ<>ʹΑΓਖ਼نԽͨ͠ղ๏͔Β
 ண૝Λಘͨɻਖ਼نԽ͸ॏཁɻ ग़యɿIUUQCMPHLBHHMFDPNQMBOFUVOEFSTUBOEJOHUIFBNB[POGSPNTQBDFTUQMBDFXJOOFSTJOUFSWJFX

  62. ੜσʔλ ਖ਼نԽޙ

  63. ೖࣹ֯͝ͱͷσʔλਖ਼نԽͰվળ ೖࣹ֯Λ࢖ͬͨσʔλਖ਼نԽΛߦͱ$7վળ %BUB"VHNFOUBUJPO SPU qJQ [PPN ΋վળʹ༗ޮͰ͋ͬͨ 前処理理 CV Public

    LB 4L CNN Scaling 0.2212 4L CNN Norm+ Scaling 0.1824 4L CNN +DA Norm + Scaling 0.1615 1VCMJD-#͸֬ೝ͍ͯ͠ͳ͍
  64. UIೖࣹ֯ͷ৘ใΛϞσϧʹ૊ΈࠐΉ ྔతม਺ ೖࣹ֯ ͷ৘ใΛϞσϧʹ૊ΈࠐΉͨΊʹɺ$//Ϟσ ϧͷ༧ଌ݁Ռͱྔతม਺ΛTUBDLJOHͨ͠ɻ ݸͷ$//Ϟσϧ ྔతม਺YͰ-JHIU(#.ͱEFFQCJU (#%5 Ͱֶशɻ࠷ޙʹॏΈ෇͖ฏۉɻ 前処理理

    CV Public LB 4L CNN Scaling 0.2212 4L CNN Norm+Scaling 0.1824 4L CNN +DA Norm+Scaling 0.1615 stage2 (LGBM) NA 0.0895 0.0873 stage3 (Average) NA 0.0852 1VCMJD-#OE1SJWBUF-#UI
  65.  ݸͷ//ϞσϧΛ࡞੒ɻGPME$7Ͱνϡʔχϯάɻ  $7Ͱֶशͨ͠ϞσϧͷNFBOQSFEJDUJPOΛಛ௃ྔͱ͢Δ ྔతม਺   ೖࣹ֯ͰάϧʔϓԽͯ͠ूܭ NFBO NFEJBO

    DPVOU ͯ͠ಛ௃ྔ࡞੒  ೖࣹ֯ͱ  ͷNFBOQSFEJDUJPOͰ,//SFHSFTTPSʢྔతม਺ʣ  -(#.Λ    ͷಛ௃ྔͰֶशɻ߹ܭͰͭͷಛ௃ྔɻ 4. KNNreg 5. LGBM 1. CNNs 2. Mean prediction 3. Agg.
 features ೖࣹ֯ ೖྗը૾  UIΑΓগͳ͍Ϟσϧ਺ ೖࣹ֯Lۙ๣ ग़యɿIUUQTXXXLBHHMFDPNDTUBUPJMJDFCFSHDMBTTJpFSDIBMMFOHFEJTDVTTJPOɻগ͠؆ུԽͯ͠঺հ
  66.  ݸͷ//ϞσϧΛ࡞੒ɻGPME$7Ͱνϡʔχϯάɻ  $7Ͱֶशͨ͠ϞσϧͷNFBOQSFEJDUJPOΛಛ௃ྔͱ͢Δ ྔతม਺   ೖࣹ֯ͰάϧʔϓԽͯ͠ूܭ NFBO NFEJBO

    DPVOU ͯ͠ಛ௃ྔ࡞੒  ೖࣹ֯ͱ  ͷNFBOQSFEJDUJPOͰ,//SFHSFTTPSʢྔతม਺ʣ  -(#.Λ    ͷಛ௃ྔͰֶशɻ߹ܭͰͭͷಛ௃ྔɻ 4. KNNreg 5. LGBM 1. CNNs 2. Mean prediction 3. Agg.
 features ೖࣹ֯ ೖྗը૾  UIΑΓগͳ͍Ϟσϧ਺ ೖࣹ֯Lۙ๣ ग़యɿIUUQTXXXLBHHMFDPNDTUBUPJMJDFCFSHDMBTTJpFSDIBMMFOHFEJTDVTTJPOɻগ͠؆ུԽͯ͠঺հ ˞֤ϝλಛ௃ྔ͸
 $7Ͱ෼ׂͯ͠ܭࢉ
  67. TUೖࣹ֯ͷద੾ͳϞσϦϯά ೖࣹ֯ͷՄࢹԽ͕伴ɻl7JTVBMJ[JOHJOD@BOHMFXBTUIFLFZpOEJOHUIBU MFEVTEPXOPVSTPMVUJPOQBUIz ˠೖࣹ֯ʹΑͬͯ6OTVQFSWJTFEʹάϧʔϓԽͯ͠ϞσϧΛ࡞Δ ग़యɿIUUQTXXXLBHHMFDPNDTUBUPJMJDFCFSHDMBTTJpFSDIBMMFOHFEJTDVTTJPO άϧʔϓ̍ άϧʔϓ̎

  68. ࠶ܝɿͲ͏΍ͬͨΒউͯΔͷ͔ େࡶ೺ʹߟ͑Δͱࠓ΋ੲ΋ඞཁͳ͜ͱ͸มΘΒͳ͍ɻ ɹ&%" ୳ࡧతσʔλ෼ੳ ɹ7BMJEBUJPO ద੾ͳϞσϧධՁ ɹ4VSWFSZ ݚڀ੒Ռ΍աڈղ౴͔ΒֶͿ

  69. ͍͞͝ʹ w ,BHHMFͰ͸ΞϯαϯϒϧҎ֎͕伴ͱͳΔ͜ͱ͕͋Δɻσʔλ͔Βͷ ؾ෇͖ɾ//ͷσβΠϯͳͲɻ//ͷൃల΍ଟ༷ͳσʔλͷ͓͔͛ɻ w ֶशɾٞ࿦ɾήʔϜͱͯ͠ͳͲ༷ʑͳ໨తҙࣝͷࢀՃऀ͕ڞଘ͍ͯ͠ ΔɻڵຯΛ͍͚࣋ͬͯͨͩΔͱ,BHHMFѪ޷ऀͱͯ͠خ͍͠ɻ

  70. ෇࿥ɿࢀߟจݙ  1. [Blum & Hardt '15] "The Ladder: A

    Reliable Leaderboard for Machine Learning Competitions", In Proc. of the ICML '15. https://arxiv.org/abs/ 1502.04585 2. [Hardt '17] "Climbing a shaky ladder: Better adaptive risk estimation", https://arxiv.org/abs/1706.02733 3. [Rendle '10] "Factorization machines", In Proc. of the ICDM ’10. 4. [Johnson & Zhang '11] "Learning Nonlinear Functions Using Regularized Greedy Forest", https://arxiv.org/abs/1109.0887 5. [Hu+ ’17] “Squeeze-and-Excitation Networks”, In Proc. of the CVPR ’17. https://arxiv.org/abs/1709.01507 6. [He+ ’09] “Single Image Haze Removal”, In Proc. of the CVPR ’09. http://kaiminghe.com/cvpr09/
  71. ෇࿥ɿࢀߟจݙ  7. [Zhang+ ’17] "mixup: Beyond Empirical Risk Minimization",

    https:// arxiv.org/abs/1710.09412 8. [Miech+ '17] "Learnable pooling with Context Gating for video classification", https://arxiv.org/abs/1706.06905 9. [Tian+ '16] "Detecting Text in Natural Image with Connectionist Text Proposal Network”, In Proc. of ECCV ‘16 https://arxiv.org/abs/1609.03605 10. [Qi+ '17] "PointNet: Deep Learning on Point Sets for 3D Classification and Segmentation”, In Proc. of the CVPR ‘17 https://arxiv.org/abs/ 1612.00593 11. [Ma+ '17] "Multi-View Deep Learning for Consistent Semantic Mapping with RGB-D Cameras”, In Proc. of the IROS ‘17 https://arxiv.org/abs/ 1703.08866 12. [Shi+ '15] "An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition”, https://arxiv.org/abs/1507.05717
  72. ෇࿥ɿࢀߟจݙ  13. [Arandjelović+ ’16] "NetVLAD: CNN architecture for weakly

    supervised place recognition”, In Proc. of the CVPR ’16 https://arxiv.org/abs/ 1511.07247 14. [Zhou+ '17] "EAST: An Efficient and Accurate Scene Text Detector", In Proc. of the CVPR’17 https://arxiv.org/abs/1704.03155v2