機械学習におけるデータの再現性について / Machine Learning and Data Reproducibility

by Yuichiro Someya

Slide 1

Slide 1 text

ػցֶशʹ͓͚Δ σʔλͷ࠶ݱੑʹ͍ͭͯ ΫοΫύουגࣜձࣾછ୩༔Ұ࿠

Slide 2

Slide 2 text

ࣗݾ঺հ ‣ છ୩༔Ұ࿠<:VJDIJSP4PNFZB> ‣ ౦޻େܭࢉ޻ֶम࢜ ܗࣜख๏ɺΞΫλʔϞσϧɺ౳ ‣ ΫοΫύουגࣜձࣾ ೥৽ଔೖࣾݚڀ։ൃ෦ΤϯδχΞ ‣ UXJUUFSDPNBZFNPT@Z ‣ HJUIVCDPNBZFNPT ‣ XXXBZFNPTNF

Slide 3

Slide 3 text

No content

Slide 4

Slide 4 text

Ϩγϐ਺ ສ඼Ҏ্ ݄࣍ར༻ऀ਺ ໿ ສਓ ೥݄຤࣌఺

Slide 5

Slide 5 text

Χࠃʹల։ ݴޠʹରԠ ೥݄຤࣌఺

Slide 6

Slide 6 text

‣ ೥݄ઃཱ ‣ ਖ਼ࣾһ໊Πϯλʔϯ໊ ‣ ػցֶश͕த৺ ‣ 1ZUIPO ݚڀ։ൃ෦

Slide 7

Slide 7 text

ྉཧ͖Ζ͘ ৞ΈࠐΈχϡʔϥϧωοτϫʔΫ ʹΑΔྉཧը૾ͷࣗಈೝࣝ εϚʔτϑΥϯͷࣸਅͷ಺ɺ ྉཧࣸਅΛࣗಈతʹऩूه࿥

Slide 8

Slide 8 text

‣ ೥݄ઃཱ ‣ ਖ਼ࣾһ໊Πϯλʔϯ໊ ‣ ػցֶश͕த৺ ݚڀ։ൃ෦

Slide 9

Slide 9 text

Slide 10

Slide 10 text

λεΫ λεΫ

Slide 11

Slide 11 text

λεΫ λεΫ

Slide 12

Slide 12 text

λεΫ λεΫ /FX

Slide 13

Slide 13 text

‣ DMPOFͯ͠ɺखݩͰUFTUTTQFDTΛ૸ΒͤΔ ‣ JTTVFͰ࿩͢ ‣ GPSLͯ͠1VMM3FRVFTU ‣ FUD ෳ਺ਓͰͷιϑτ΢ΣΞ։ൃʁ

Slide 14

Slide 14 text

‣ ࣮ݧ΍ϞσϧΛ࠶ݱ͢Δʁ ‣ ԾઆΛཱͯͯ৽ͨͳ࣮ݧΛ͢Δʁ ‣ ·ͱΊΔʁ ‣ ෳ਺ਓͰฒྻʹʁ ෳ਺ਓͰͷػցֶशʁ

Slide 15

Slide 15 text

‣ ػցֶशΛར༻ͯ͠ܧଓతʹ੒ՌΛग़͢ඞཁ͕͋Δ ‣ νʔϜͰྑ͍ײ͡ʹ΍Γ͍ͨ ιϑτ΢ΣΞ։ൃͷϊ΢ϋ΢ͳͲΛࢀߟʹ ‣ σʔλͷ࠶ݱੑ ػցֶशΤϯδχΞϦϯά

Slide 16

Slide 16 text

σʔλͷ࠶ݱੑʹ͍ͭͯͷߟ࡯ ໰୊ఏى ࠶ݱੑΛߴΊΔͨΊͷऔΓ૊Έͷ঺հ BLBHJͷ঺հ ར༻ྫͱ࣮੷ ຊ೔ͷτϐοΫ QZDPOKQ@ IUUQHJUIVCDPNBZFNPTBLBHJ pip install akagi

Slide 17

Slide 17 text

σʔλͷ࠶ݱੑʹ͍ͭͯͷߟ࡯ ໰୊ఏى ࠶ݱੑΛߴΊΔͨΊͷऔΓ૊Έͷ঺հ BLBHJͷ঺հ ར༻ྫͱ࣮੷ ຊ೔ͷτϐοΫ QZDPOKQ@ IUUQHJUIVCDPNBZFNPTBLBHJ pip install akagi

Slide 18

Slide 18 text

σʔλ ܇࿅σʔλ ςετσʔλ

Slide 19

Slide 19 text

σʔλ ܇࿅σʔλ ςετσʔλ ෼ੳ

Slide 20

Slide 20 text

1ZUIPO σʔλ ܇࿅σʔλ ςετσʔλ ෼ੳ ࣮૷

Slide 21

Slide 21 text

1ZUIPO σʔλ ܇࿅σʔλ ςετσʔλ Ϟσϧ ෼ੳ ࣮૷ ֶश

Slide 22

Slide 22 text

1ZUIPO σʔλ ܇࿅σʔλ ςετσʔλ Ϟσϧ ෼ੳ ࣮૷ ֶश ධՁ

Slide 23

Slide 23 text

1ZUIPO σʔλ ܇࿅σʔλ ςετσʔλ Ϟσϧ ෼ੳ ࣮૷ ֶश ධՁ Ϟσϧ` ൺֱ

Slide 24

Slide 24 text

1ZUIPO σʔλ ܇࿅σʔλ ςετσʔλ Ϟσϧ ෼ੳ ࣮૷ ֶश ධՁ Ϟσϧ` ൺֱ ࣮ݧͷ࠶ݱੑʽσʔλͷ࠶ݱੑ

Slide 25

Slide 25 text

Ϟσϧʗ࣮ݧ σʔλ 1ZUIPOεΫϦϓτ  +VQZUFS/PUFCPPL

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Slide 31

Slide 31 text

ώϡʔϚϯΤϥʔʹऑ͍

Slide 32

Slide 32 text

ώϡʔϚϯΤϥʔʹऑ͍ ࡞ۀ͕௕͘ͳΔͱ໘౗ɹɹɹɹ

Slide 33

Slide 33 text

‣ σʔλ͕खݩʹ͋Δ ‣ σʔλ͕4QSFBETIFFUʹ͋Δ ‣ σʔλ͕ʜ ͳͥ͜͏ͳͬͯ͠·͏ͷ͔ 1ZUIPOεΫϦϓτ͔Β཭Ε͍ͯΔ ^ ֶशɺςετ

Slide 34

Slide 34 text

find . -type file -size +100M

Slide 35

Slide 35 text

Ͳ͏ͳΓ͍͔ͨ

Slide 36

Slide 36 text

Ͳ͏ͳΓ͍͔ͨ

Slide 37

Slide 37 text

Ͳ͏ͳΓ͍͔ͨ σʔλ͕1ZUIPOͰॻ͔Ε͍ͯΔʂ

Slide 38

Slide 38 text

Ͳ͏ͳΓ͍͔ͨ ͜͏ͳΓ͍ͨ

Slide 39

Slide 39 text

‣ σʔλιʔε͕ҟͳΔ৔ॴ͔ΒΞΫηεͰ͖Δ ·͋େ֓ͦ͏ ‣ σʔλιʔε΁ͷΞΫηε͕࣮ߦՄೳͳ1ZUIPOίʔυʹͳ͍ͬͯΔ ͜Ε͕ग़དྷͯͳ͍ ͜͏ͳΔ৚݅

Slide 40

Slide 40 text

‣ σʔλιʔεຖʹ݁ߏ৭ʑॻ͘ .Z42-NZTRMDMJFOU 3FETIJGU 1( QTZDPQH 4CPUP -PDBMPT PTQBUI ͳͥͳͷ͔

Slide 41

Slide 41 text

‣ σʔλιʔεຖʹ݁ߏ৭ʑॻ͘ ‣ ΍͸ΓखݩʹDTWͰ͋ͬͨ΄͏ָ͕ DTWʹॻ͖ग़ͯ͠࢖ͬͨΓ͢Δ ͳͥͳͷ͔

Slide 42

Slide 42 text

‣ Ϟσϧ΍࣮ݧͷ࠶ݱͷͨΊ͸σʔλͷ࠶ݱ͕ඞཁ σʔλͷ࠶ݱ͕༰қʹՄೳͰ͋Δ͜ͱ͕ॏཁ ‣ σʔλͷ࠶ݱੑ͸௿͘ͳΓ͕ͪ σʔλऔಘॲཧ͕1ZUIPOεΫϦϓτͰॻ͔Ε͍ͯͳ͍͔Βʁ Θ͔ͬͨ͜ͱ

Slide 43

Slide 43 text

σʔλͷ࠶ݱੑʹ͍ͭͯͷߟ࡯ ໰୊ఏى ࠶ݱੑΛߴΊΔͨΊͷऔΓ૊Έͷ঺հ BLBHJͷ঺հ ར༻ྫͱ࣮੷ ‣ Ϟσϧ΍࣮ݧͷ࠶ݱͷͨΊ͸σʔλͷ࠶ݱ͕ඞཁ σʔλͷ࠶ݱ͕༰қʹՄೳͰ͋Δ͜ͱ͕ॏཁ ‣ σʔλͷ࠶ݱੑ͸௿͘ͳΓ͕ͪ σʔλऔಘॲཧ͕1ZUIPOεΫϦϓτͰॻ͔Ε͍ͯͳ͍͔Βʁ

Slide 44

Slide 44 text

Slide 45

Slide 45 text

σʔλΛऔಘͯ͠Ωϟογϡ͢Δॲཧ͕  1ZUIPOεΫϦϓτͰָʹॻ͚Ε͹  ࣮ݧશମͷ࠶ݱੑ͕޲্͢Δ ͔΋͠Εͳ͍ Ծઆ

Slide 46

Slide 46 text

σʔλΛऔಘͯ͠Ωϟογϡ͢Δॲཧ͕  1ZUIPOεΫϦϓτͰָʹॻ͚Ε͹  ࣮ݧશମͷ࠶ݱੑ͕޲্͢Δ ͔΋͠Εͳ͍ Ծઆ

Slide 47

Slide 47 text

1SPDFTT 'FUDI -PBE ‣ ϦϞʔτͳσʔλιʔε͔ΒඞཁͳσʔλΛμ΢ϯϩʔυ͢Δ ‣ σʔλΛϝϞϦʹϩʔυ͢Δ ‣ σʔλΛλεΫ΍Ϟσϧʹ߹ΘͤͯՃ޻͢Δ

Slide 48

Slide 48 text

1SPDFTT 'FUDI -PBE

Slide 49

Slide 49 text

͜͜͸·͋·͋ڞ௨ 1SPDFTT 'FUDI -PBE ͜͜͸λεΫʹΑ༷ͬͯʑ

Slide 50

Slide 50 text

1SPDFTT 'FUDI -PBE BLBHJ

Slide 51

Slide 51 text

‣ ༷ʑͳ ϦϞʔτ σʔλιʔε͔ΒσʔλΛμ΢ϯϩʔυ σʔλͷΩϟογϡΛ࡞੒ʗ؅ཧ ‣ औಘͨ͠σʔλʹରͯ͠ΠςϨʔτ͢Δ ‣ ͜ΕΒ࣮ߦՄೳͳ1ZUIPOίʔυͰදݱ BLBHJͷ΍Δ͜ͱ

Slide 52

Slide 52 text

No content

Slide 53

Slide 53 text

উͬͨ

Slide 54

Slide 54 text

‣ σʔλͷऔಘ෦෼Λ࣮ߦՄೳͳ1ZUIPOεΫϦϓτͰهड़Մೳ σʔλιʔεຖͷ࣮૷Λ͢ΔΑΓָʹ ‣ σʔλͷ࣮ମ͸όʔδϣϯ؅ཧ͠ͳͯ͘ྑ͍ ผͷϗετͰHJUDMPOF࣮ߦ͢Ε͹࠶ݱग़དྷΔ ‣ ҟͳΔ࣌ࠁɺҟͳΔ؀ڥͰσʔλΛ࠶ݱ͢Δࣄ͕ग़དྷΔ ෳ਺ͷϗετͰύϥϝʔλΛม͑ͯಉ࣌ʹֶशɺͳͲ͕΍Γ΍͘͢ ظ଴Ͱ͖Δ͜ͱ

Slide 55

Slide 55 text

┌──────────┐ │DataSource│◀─────────┬─────────────────────┬────────────────┐ └──────────┘ │ │ │ 1│ │ │ │ │ │ │ │ │ ┌─────────────────────┐┌──────────────────┐┌────────────┐ │ │SpreadsheetDataSource││RedshiftDataSource││S3DataSource│ *│ └─────────────────────┘└──────────────────┘└────────────┘ ┌──────────┐ │ DataFile │ └──────────┘ 1│ │ │ 1│ ┌──────────┐ │ Content │◀────────┬────────────────┬───────────┐ └──────────┘ │ │ │ ┌──────────────────┐┌────────────┐┌─────────┐ │SpreadsheetContent││LocalContent││S3Content│ └──────────────────┘└────────────┘└─────────┘

Slide 56

Slide 56 text

‣ (JU-'4 ಋೖ͸ख͔ܰ΋ σʔλͷ࣮ମΛڞ༗͍ͯ͠ΔͷͰҙຯతͳૢ࡞͕ग़དྷͳ͍ ྫΫΤϦͷॻ͖׵͑ ઌߦख๏

Slide 57

Slide 57 text

‣ %BUB7FSTJPO$POUSPM σʔλͷόʔδϣϯ؅ཧ ͜Ε͸ͪΐͬͱ໘നͦ͏ ઌߦख๏ IUUQTEBUBWFSTJPODPOUSPMDPN

Slide 58

Slide 58 text

࣮੷

Slide 59

Slide 59 text

σʔλͷ࠶ݱੑʹ͍ͭͯͷߟ࡯ ໰୊ఏى ࠶ݱੑΛߴΊΔͨΊͷऔΓ૊Έͷ঺հ BLBHJͷ঺հ ར༻ྫͱ࣮੷ ‣ Ϟσϧ΍࣮ݧͷ࠶ݱͷͨΊ͸σʔλͷ࠶ݱ͕ඞཁ σʔλͷ࠶ݱ͕༰қʹՄೳͰ͋Δ͜ͱ͕ॏཁ ‣ σʔλͷ࠶ݱੑ͸௿͘ͳΓ͕ͪ σʔλऔಘॲཧ͕1ZUIPOεΫϦϓτͰॻ͔Ε͍ͯͳ͍͔Βʁ ‣ BLBHJ͕σʔλͷμ΢ϯϩʔυΛαϙʔτ͢Δ ༷ʑͳσʔλιʔε͔Β ‣ σʔλͷ࠶ݱੑ˺࣮ݧͷ࠶ݱੑΛ޲্

Slide 60

Slide 60 text

‣ ґવख͕ؒศར͞Λ্ճΔ৔߹͕গͳ͘ͳ͍ ը૾ηοτͳͲɺϩʔΧϧʹམͱ͔ͯ͠Βૢ࡞͍ͨ͠ ‣ ࣮ݧͦͷ΋ͷ σʔλऔಘޙ ΋΍͸Γ࠶ݱੑΛࣦ͍ͭͭ͋Δ ࣮ݧʹͲͷΑ͏ͳҙਤ͕͋ͬͯɺͲͷΑ͏ͳ݁Ռ͕ಘΒΕͨͷ͔ ՝୊

Slide 61

Slide 61 text

‣ σʔλͷόʔδϣϯΛݻఆ͍ͨ͠ ࠷৽ͷσʔλ͕ཉ͍͠ ͋ͷਓͱಉ͡σʔλ͕ཉ͍͠ ‣ αϙʔτग़དྷΔσʔλιʔεΛ૿΍͢ ‣ ݱঢ়"NB[PO3FETIJGU "NB[PO4 (PPHMF4QSFBETIFFUͷΈ .Z42- IUUQGUQ )5.-UBCMF ࠓޙͷల๬