PHPでニューラルネットを作った話

PHPカンファレンス2017 発表資料

Transcript

1. 1)1Ͱཧղ͢Δχϡʔϥϧ
   ωοτϫʔΫΛ࢖ͬͨ
   ػցֶश
   !OJJTBOUPLZP ৽૔ྋଠ
   
   

   View Slide

2. OJJTBOUPLZP
   w ΤϯδχΞྺ೥͘Β͍
   w ݩಓ࿏޻ࣄ԰ Χολʔ޻
   
   w 1)1FSྺΤϯδχΞྺ
   w ͨ·ʹ2JJUBʹهࣄΛ্͛ͨΓ͍ͯ͠Δ
   w Α͘ίϯςφͷ࿩Λ͢Δਓ
   

   View Slide

3. ࠓճͷςʔϚ͸ɺχϡʔ
   ϥϧωοτϫʔΫΛ࢖ͬ
   ͨػցֶशΛɺ1)1Ͱ࣮
   ૷ͪ͠ΌͬͨΈ͍ͨͳ࿩
   

   View Slide

4. ͓඼ॻ͖
   w ߨԋͷ໨త
   w ਓ޻஌ೳͱػցֶश
   w 1)1ͰػցֶशܥΛ࡞Δ
   w ࡞ֶͬͨशܥΛಈ͔ͯ͠ΈΔ
   w ·ͱΊ
   

   View Slide

5. ͓඼ॻ͖
   w ߨԋͷ໨త
   w ਓ޻஌ೳͱػցֶश
   w 1)1ͰػցֶशܥΛ࡞Δ
   w ࡞ֶͬͨशܥΛಈ͔ͯ͠ΈΔ
   w ·ͱΊ
   

   View Slide

6. 1)1
   w શੈքͷύϒϦοΫͳ8FCαΠτͷҎ্͕1)1
   Ͱॻ͔Ε͍ͯΔ

   ͑ʁXPSEQSFTT ૉ੖Β͍͠1)1ΞϓϦͰ͢ΑͶ
   
   
   w ͭ·ΓɺੈքதͰ΍ΓऔΓ͞Ε͍ͯΔσʔλͷଟ͘
   ͕ɺ1)1Λհ͍ͯ͠Δ
   w 1)1ΤϯδχΞͷਓޱ͸ͱͯ΋ଟ͍ (PPHMFઌੜ
   Ͱݕࡧ͢Δͱɺ೔ຊ͚ͩͰສਓΛ௒͑ΔΒ͍͠
   
   

   View Slide

7. 1)1ք۾͸େྔͷσʔλͱͦΕΛѻ͏େྔͷ
   ΤϯδχΞΛ಺แ͍ͯ͠Δ
   1)1͸ɺେྔͷσʔλͱਓһΛඞཁͱ͢Δ
   ػցֶशͱ਌࿨ੑͷߴ͍ྖҬͰ͋Δ
   

   View Slide

8. ࣮৘
   ࠓճͷΧϯϑΝϨϯεͰͷػցֶशωλͷൃද
   ͸Θ͔ͣ̍݅ ͭ·Γίί
   
   

   View Slide

9. ࣮৘
   ༗໊ॴͷϑϨʔϜϫʔΫ͕1ZUIPO੡
   ҰԠɺ5FOTPS'MPXΛ1)1Ͱಈ͔ͦ͏Έ͍ͨͳ΋ͷ͕͋
   Δ͚Ͳɺ׬੒͍ͯ͠ͳ͍
   

   View Slide

10. ػցֶशͷࢀೖোน
    w 1ZUIPOΘ͔ΒΜ
    w ਺ֶΘ͔ΒΜ
    w ࣮૷΋Θ͔ΒΜ
    w Θ͔Βͳ͍΋ͷ৮Δͷ͕ා͍ͷͰɺ΍Ζ͏ͱࢥ͑ͳ
    ͍
    

    View Slide

11. ߨԋͷ໨త
    w ਓ޻஌ೳ΍ػցֶश͕Կͳͷ͔ΛՄೳͳݶΓΘ͔Γ
    ΍͘͢ฏқͳݴ༿Ͱઆ໌Ͱ͖ΔΑ͏ʹ͍ͨ͠
    w 1)1ͰχϡʔϥϧωοτϫʔΫΛ࢖ͬͨػցֶशΛ
    Πν͔Β࣮૷͠ɺͦͷߟ͑ํͱڍಈΛཧղ͢Δ
    w ػցֶशͰԿ͕Ͱ͖Δ͔͕Θ͔ͬͨ ͱࢥ͏
    ͷͰɺ
    ػցֶशք۾ʹେྔͷ1)1FS͕ྲྀೖ͢Δ
    w ػցֶशք۾ʹܹ਒Λى͜͢
    

    View Slide

12. ͓඼ॻ͖
    w ߨԋͷ໨త
    w ਓ޻஌ೳͱػցֶश
    w 1)1ͰػցֶशܥΛ࡞Δ
    w ࡞ֶͬͨशܥΛಈ͔ͯ͠ΈΔ
    w ·ͱΊ
    

    View Slide

13. ਓ޻஌ೳ
    w ਓؒͷ΍Δ͜ͱΛػցʹಉ͡Α͏ʹ΍ΒͤΑ͏ͱ͍
    ͏ࢼΈ
    w ඬ͏ສೳײͱະདྷײ
    w ݱ࣮ʹ࡞ΒΕ͍ͯΔͷ͸ԿΒ͔ͷೖྗ৘ใΛݩʹ༧
    ଌ͢ΔͳΓ෼ྨ͢ΔͳΓ͢Δ૷ஔ
    w ͭ·Γؔ਺
    

    View Slide

14. Կॲ͔ͰݟͨΑ͏ͳήʔϜͷʮ"*ʯ
    ࣗ෼ͷମྗ
    ஥ؒͷମྗ
    ఢͷঢ়ଶ
    ࡞ઓɿ໋Λ
    େࣄʹ
    ߈ܸ͢Δ
    ͜͜Λܾఆ͢ΔΞϧΰϦζϜ͕
    "*ͷ֩ʹͳ͍ͬͯΔ
    

    View Slide

15. ػցֶश
    w ػց͕ਓؒͷΑ͏ʹ෺ࣄΛֶΜͰ͍͖ਓ޻஌ೳ͕੒
    ௕͢Δ͜ͱ
    w ඬ͏ສೳײͱະདྷײ
    w ͔͠͠ɺਓ޻஌ೳ͸ؔ਺ͩͬͨ
    w ͭ·Γɺؔ਺ͷࣗಈௐઅ
    

    View Slide

16. ػցֶशͷํ๏ͱ໨త
    ೖྗ ग़ྗ
    ೖྗ ग़ྗ
    ೖྗ ग़ྗ
    ط஌ͷσʔλ܈
    
    ؔ਺
    ๏ଇ
    
    ೖྗ
    ग़ྗ
    ༧ଌ
    
    ๏ଇΛൃݟ͢Δ͜ͱʂ
    

    View Slide

17. ཧՊͷ࣮ݧͱਓ޻஌ೳ
    ྫ͑͹ɺ͜Μͳײ͡ͷ࣮ݧσʔλ͕༗ͬͨͱ͢Δ
    

    View Slide

18. ཧՊͷ࣮ݧͱਓ޻஌ೳ
    ཧՊͷ࣮ݧͩͱखͰ͍͍ײ͡ͷ௚ઢΛҾ͘
    

    View Slide

19. ཧՊͷ࣮ݧͱਓ޻஌ೳ
    ਓ޻஌ೳతͳΞϓϩʔνͩͱɺ·ͣɺద౰ͳؔ਺Λ࡞Δ
    

    View Slide

20. ཧՊͷ࣮ݧͱਓ޻஌ೳ
    ಘΒΕ͍ͯΔσʔλΛ΋ͱʹؔ਺Λௐઅ͢Δ
    

    View Slide

21. ػցֶशͷඞཁੑ
    ʁ
    ʁ
    Θ͔Δ͔΋
    Θ͔Δؾ͕͠ͳ͍
    
    w ೖྗύϥϝʔλٴͼग़ྗύϥϝʔ
    λͷ਺͕গͳ͚Ε͹ɺ๏ଇͷ
    ൃݟ͸ͦΜͳʹ೉͘͠͸ͳ͞
    ͦ͏
    w ύϥϝʔλ਺͕ଟ͘ͳΔͱɺ
    ๏ଇΛදؔ͢਺͕ෳࡶԽ͠ɺ
    ༧ଌ͸ࠔ೉ʹͳΔ
    w ػցʹࣗಈతʹؔ਺ܗΛ࡞ͬ
    ͯ΋Βͬͨ΄͏ָ͕ʹͳΔ
    

    View Slide

22. χϡʔϥϧωοτ
    w ਓؒͷ೴ͷಈ͖Λ໛฿͠
    ͯ࡞ΒΕͨʮදݱྗͷߴ
    ͍ʯؔ਺
    w ӈਤͷΑ͏ʹز͔ͭͷϢ
    χοτΛ಺ଂͨ͠ز͔ͭ
    ͷ૚ʹΑͬͯ੒Γཱͭ
    w ͱΓ͋͑ͣɺௐઅ͕͖͖΍
    ͍͢ਓ޻஌ೳ޲͚ͷؔ਺
    ͩͱࢥ͑͹͍͍
    JOQVU
    PVUQVU
    ૚
    ૚
    O૚
    χϡʔϥϧωοτ
    
    

    View Slide

23. ͜͜·Ͱ·ͱΊ
    w ਓ޻஌ೳؔ਺
    w ػցֶशؔ਺ΛࣗಈͰௐઅ͢Δػೳ
    w χϡʔϥϧωοτࣗಈௐઅ͠΍͍ؔ͢਺
    w ػցֶशͷ໨తσʔλΛ΋ͱʹʮ๏ଇʯΛൃݟ
    ͢Δ͜ͱ
    

    View Slide

24. ͓඼ॻ͖
    w ߨԋͷ໨త
    w ਓ޻஌ೳͱػցֶश
    w 1)1ͰػցֶशܥΛ࡞Δ
    w ࡞ֶͬͨशܥΛಈ͔ͯ͠ΈΔ
    w ·ͱΊ
    

    View Slide

25. ࣮૷ํ਑
    w 1)1Ͱॻ͘
    w ֎෦ϥΠϒϥϦ͸ۃྗ࢖Θͳ͍

    1)1.-஌ΒΜ͔ͬͨ͠ɻɻɻ
    
    
    w σʔλΛ΋ͱʹௐઅՄೳͳ ֶशͰ͖Δ
    ؔ਺
    ਓ޻஌ೳ
    Λ࡞Δ
    w χϡʔϥϧωοτϞσϧΛ࢖͏
    

    View Slide

26. ࣮ࡍʹ࡞ͬͨ΍ͭ
    IUUQTHJUIVCDPNOJJTBOUPLZPQIQOO
    ґଘੑ͸ϓϩάϨεόʔΛ
    ग़͢ϥΠϒϥϦ͚ͩʂ
    

    View Slide

27. QIQOOͷ࢖༻ํ๏
    ˑͱΓ͋͑ͣʮؔ਺ʯͱͯ͠࢖ͬͯΈΔ
    χϡʔϥϧωοτϫʔΫͷ֎
    ࿮Λ࡞Δ
    ωοτϫʔΫΛߏ੒͢Δ૚Λ
    ௥Ճ͍ͯ͘͠
    ඪ४ೖྗ͔ΒಘΒΕͨύϥϝʔ
    λΛݩʹɺ೚ҙ૚ͷग़ྗΛฦ͢
    

    View Slide

28. ˞͜ͷؔ਺͸ͳΜͷ
    ௐ੔΋ೖΕ͍ͯͳ͍
    ͷͰɺग़ྗʹԿ͔ҙ
    ຯ͕͋ΔΘ͚Ͱ͸ͳ
    ͍

    ˞औΓग़͍ͨ͠૚ʹ
    Λࢦఆ͢Δͱɺؔ
    ਺ͷ݁Ռ͕औಘͰ͖
    Δ
    

    View Slide

29. QIQOOͷ࢖༻ํ๏
    ˑط஌ͷσʔληοτΛ࢖ֶͬͯशͯ͠ΈΔ
    σʔληοτͷऔಘ
    ൓෮ճ਺
    ֶश࣌ͷύϥϝʔλͷมಈ෯
    ͔ͳΓॏཁ
    
    σʔληοτΛ࢖ͬͯɺ
    ωοτϫʔΫΛमਖ਼
    ֶशͨ͠ঢ়ଶΛϑΝΠ
    ϧʹอଘ͢Δ
    

    View Slide

30. View Slide

31. ग़ྗ͞ΕͨϑΝΠϧ
    γϦΞϥΠζԽͨ͠
    ΦϒδΣΫτͷմ
    ϑΝΠϧͷେ෦෼͸ɺ̎࣍ݩ഑ྻͷ਺஋Λද͍ͯ͠Δ
    ػցֶशʹ͓͍ͯ͸ɺ͜ͷ਺஋͕ௐઅ͞ΕΔ
    

    View Slide

32. QIQOOͷ࢖༻๏
    ˑֶशޙͷؔ਺Λ࢖ͬͯΈΔ
    

    View Slide

33. ͓඼ॻ͖
    w ߨԋͷ໨త
    w ਓ޻஌ೳͱػցֶश
    w 1)1ͰػցֶशܥΛ࡞Δ
    w ࡞ֶͬͨशܥΛಈ͔ͯ͠ΈΔ
    w ·ͱΊ
    

    View Slide

34. ໌֬ͳ໨త͕ඞཁ
    w ػցֶशͷ໨త͸ɺͭ·Δͱ͜Ζ๏ଇͷൃݟͰ͋Δ
    w ԿΛೖྗʹͯ͠ԿΛग़ྗʹ͢Δͷ͔ɺͱ͍͏໰୊ઃ
    ఆ͕ඞཁʹͳΔ
    w ๏ଇΛൃݟ͢ΔͨΊͷσʔλ ೖྗͱग़ྗͷηο
    τ
    ͕͋Δఔ౓ͷݸ਺ඞཁ
    

    View Slide

35. ྖҬ൑ఆ໰୊
    ࠲ඪΛࢦఆͨ͠ͱ͖ɺͦͷ࠲ඪ͕͋ΔྖҬʹ͋Δ͔ͳ
    ͍͔Λ൑ఆ͢Δ໰୊
    ࠓճ͸υʔφπܕͷྖҬΛର৅ʹͯ͠ΈΔ
    w ೖྗ

    ࠨਤͷ Y Z
    ࠲ඪͷ஋
    w ग़ྗ

    ྖҬ಺ʹೖ͍ͬͯΕ͹ ͦ
    ͏Ͱͳ͚Ε͹
    
    

    View Slide

36. ྖҬ൑ఆ໰୊
    ૣ଎ؔ਺Λ૊ΜͰΈΔ
    

    View Slide

37. ྖҬ൑ఆ໰୊
    σʔλΛ༻ҙ͢Δ
    ˞զʑ͸ਖ਼ղͷܗΛ஌͍ͬͯΔ͕ɺઌఔ૊Μͩωοτϫʔ
    Ϋʹ͸ͦͷܗΛʮ஌Βͳ͍ʯ
    

    View Slide

38. ྖҬ൑ఆ໰୊
    ಘΒΕͨσʔληοτΛݩʹɺؔ਺Λௐઅ͢Δ
    ͜͜Ͱɺύϥϝʔλ͸Ҏ
    ԼͷҙຯΛ࣋ͭ
    UFTU͏·͘ௐઅ͕ਐΜͰ͍Δ
    ͔Λ൑ผ͢ΔͨΊͷςετσʔ
    λ
    CBUDI@TJ[F͍ͭ͘σʔλΛൺ
    ֱͨ͠Βɺ࣮ࡍʹௐઅΛ࣮ࢪ͢
    Δ͔
    

    View Slide

39. ྖҬ൑ఆ໰୊
    ؔ਺͔Βͷग़ྗʹ͍ͭͯ͸ɺେࡶ೺ʹɺग़ྗ͕ͷ஋Ͱ͋ͬ
    ͨΒྖҬ಺ɺͷ஋Ͱ͋ͬͨΒྖҬ֎Ͱ͋Δͱ͢Δ
    

    View Slide

40. ྖҬ൑ఆ໰୊
    ࣮ߦͯ͠ΈΔ
    
    తத཰͸ྑ͞
    ͛ͳײ͕͢͡
    Δ
    ޡࠩ΋গͳ͘
    ͳ͍ͬͯΔ
    

    View Slide

41. ྖҬ൑ఆ໰୊
    ྖҬ಺ͱ൑ఆ͍ͯ͠Δ
    ෦෼Λਤࣔͤͯ͞Έͨɻ
    ֎प͕ͪΐͬͱ͸Έग़
    ͍ͯ͠Δ͔΋
    

    View Slide

42. ࣌ܥྻσʔλͷ༧ଌ
    w ࣌ܥྻͰมԽ͢Δ஋
    ͷ༧ଌ໰୊Λػցֶ
    शͰղ͍ͯΈΔ
    w גՁͱ͔'9ͷ
    νϟʔτ༧ଌͱ͔ʹ
    Ԡ༻Ͱ͖Δ͔΋͠Ε
    ͳ͍
    

    View Slide

43. ࣌ܥྻσʔλͷ༧ଌ
    άϥϑͷ࣌ܥྻσʔλ͔Β఺औΓग़͠ɺͦ
    ͷσʔλΛ΋ͱʹɺ࣍ͷ఺Λ༧ଌͯ͠ΈΔ
    ͜ͷσʔλΛ΋ͱʹ
    ͜ͷ෦෼Λ༧ଌ
    

    View Slide

44. ࣌ܥྻσʔλͷ༧ଌ
    ݸͷ
    ࿈ଓͨ͠
    ܥྻσʔλ
    ؔ਺
    ࣍ͷݸͷܥྻσʔλ
    

    View Slide

45. ࣌ܥྻσʔλͷ༧ଌ
    ֶशܥͷੜ੒

    IUUQTHJTUHJUIVCDPNOJJTBOUPLZP
    DCGBDCEFCG
    

    View Slide

46. ࣌ܥྻσʔλͷ༧ଌ
    ੨ɿ࣮ଌ஋
    ੺ɿ༧ଌ஋
    

    View Slide

47. ͓඼ॻ͖
    w ߨԋͷ໨త
    w ਓ޻஌ೳͱػցֶश
    w 1)1ͰػցֶशܥΛ࡞Δ
    w ࡞ֶͬͨशܥΛಈ͔ͯ͠ΈΔ
    w ·ͱΊ
    

    View Slide

48. σʔλઃܭͷॏཁੑ
    ઌͷ࣌ܥྻσʔλ͕ɺגՁͷνϟʔτͩͬͨͱ͢Δͱ
    

    View Slide

49. ֶश಺༰ͷ̎ͭͷΞϓϩʔν
    ݱࡏʹࢸΔ·ͰͷਪҠΛݩ
    ʹɺ࣍ͷঢ়ଶΛ༧ଌ͢Δ
    ۀ੷
    ैۀһ਺
    ൃߦגࣜ਺
    ܠؾ
    ֎෦ͷύϥϝʔ
    λʹΑΓɺ͜ͷ
    νϟʔτ͕ߏங
    ͞ΕΔ
    

    View Slide

50. ೖྗ ग़ྗ
    ೖྗ ग़ྗ
    ೖྗ ग़ྗ
    ط஌ͷσʔλ܈
    
    ؔ਺
    ๏ଇ
    
    ೖྗ
    ग़ྗ
    ༧ଌ
    
    w ػցֶशͷ΍Γํࣗମ͸ɺΞ
    ϓϩʔνʹ͔͔ΘΒͣಉ͡
    w ط஌ͷσʔλ܈͔Β๏ଇΛಋ
    ͖ग़͢ͷΈ
    w ؔ਺෦෼͸ɺೖྗ΍BEE͞Ε
    Δ૚ɺग़ྗ͕ҧ͏͕ɺ֎ܗ͸
    มΘΒͳ͍
    

    View Slide

51. σʔλઃܭͷॏཁੑ
    w ػցֶशͷํ๏͸ɺͲͷΑ͏ͳೖྗɺͲͷΑ͏ͳग़
    ྗͰ͋ͬͯ΋ɺ΄ͱΜͲมΘΒͳ͍
    w Ұํɺσʔλͷઃܭ࣍ୈͰֶश಺༰ͷ΋ͭҙຯ͕େ
    ͖͘ҟΔ
    w ٻΊ͍ͯΔग़ྗ͕ͲͷΑ͏ͳҙຯΛ͔࣋ͭʹ͋Θͤ
    ͯɺσʔλઃܭΛ͢Δ΂͖ 1)1FS͕উෛͰ͖ͦ
    ͏ͳྖҬ
    
    

    View Slide

52. ػցֶशͷෆࢥٞ
    ಥવֶश͕͏·͍͖࢝͘ΊΔ͜ͱ͕͋Δ
    ޡ͕ࠩ͘Β͍͠
    ͔վળ͞Εͯͳ͍
    ޡ͕ࠩΨϯΨϯվળ
    ͞Ε࢝ΊΔ
    

    View Slide

53. ػցֶशͷෆࢥٞ
    ؒҧ͍Λ͍ٙͨ͘ͳΔϨϕϧ
    ͔͠͠ɺ໰୊ͳ͔ͬͨɻɻɻ
    

    View Slide

54. ػցֶशͷෆࢥٞ
    ͏·͍͔͘ͳ͍͜ͱ΋͋Δ
    ճϧʔϓճͯ͠΋ɺతத཰ࢭ·Γʂʂ
    ͳΜͯͬͨ͜ɻɻɻ
    

    View Slide

55. ػցֶशͷෆࢥٞ
    Լख͢ΔͱϝνϟΫνϟͳ͜ͱʹͳΔ
    ༷ࢠ͕͓͔͍͠ɻɻɻ
    

    View Slide

56. ʊਓਓਓਓਓਓʊ
    ʼɹಥવͷࢮɹʻ
    ʉ:?:?:?:?:ʉ
    ̍૚໨ ૚໨ ૚໨
    ग़ྗ͕શ෦ʹͳͬͯΔ
    

    View Slide

57. ·ͱΊ
    w ػցֶश͸σʔλ͔ΒԿΒ͔ͷ๏ଇΛಋ͖ग़͢ख๏
    Ͱ͋Δ
    w χϡʔϥϧωοτϫʔΫΛ࢖ͬͨػցֶशػߏΛ
    1)1Ͱ࣮૷ͨ͠
    w ػցֶशʹ͸ݩʹͳΔσʔλͷઃܭ͕େ੾Ͱ͋Δ
    w ͏·͍͔͘ͳͯ͘΋୰͔ͳ͍
    

    View Slide

58. ͝ਗ਼ௌ͋Γ͕ͱ͏͟͝
    ͍·͢ʂ
    

    View Slide