NNにふれてみて

開発合宿＠鎌倉で発表した際に使用した資料です

Transcript

1. NNʹ;ΕͯΈͯ 2017/02/12 @ ݹయ෦߹॓
 Izuta Hiroyuki
2. ΍Γ͔ͨͬͨ͜ͱ • Ξχϝը૾෼ྨث
 • Deep LearningͰϥϒϥΠϒʂΩϟϥΛࣝผ͢Δ
 - http://christina.hatenablog.com/entry/2015/01/23/212541 • TensorFlowͰΞχϝΏΔΏΓͷ੍࡞ձࣾΛࣝผ͢Δ
 - http://kivantium.hateblo.jp/entry/2015/11/18/233834
3. ΍ͬͨ͜ͱ • DeepLearningຊͷ3~4ষ • χϡʔϥϧωοτϫʔΫͰ࿈ཱํఔࣜΛղ͘ • TensorFlowΛͪΐͬͱ৮ͬͯΈΔ • CIFAR-10ͷը૾෼ྨ
4. 1࣍ؔ਺ y = 0.3x + 0.1 ॳظ஋:
 W(eight) = -1 ~ 1ͷϥϯμϜͳ஋ b(ias) = 1 
 ଛࣦؔ਺: ̎৐࿨ޡࠩ
 ޯ഑߱Լ๏
5. 1࣍ؔ਺ y = 0.3x + 0.1 ʹۙͮ͘ ʹۙͮ͘
6. ࿈ཱํఔࣜ • ͔ͨ͠܅͸1౓΋݁ࠗࣜʹग़੮ͨ͜͠ͱ͕ແ͘ɺ͝ॕّͷ ૬৔͕Θ͔Βͳ͍ • طࠗͷ༑ਓ3ਓʹฉ͍ͯɺͦΕͧΕ͝ॕّͷ߹ܭ͕͍͘Β ͔֬ೝͨ͠ • ͝ॕّͷύλʔϯ͸਌ྨɾ༑ਓɾ஌ਓͷ3ύλʔϯ
 ͰɺͦΕͧΕ͍͘Βʁ

7. ͝ॕّ໰୊ ਌ྨ ਓ ༑ਓ ਓ ஌ਓ ਓ ߹ܭ ສԁ            
8. ͝ॕّ໰୊
9. CIFAR-10Ͱը૾෼ྨ
10. CIFAR-10 • 10छྨͷը૾෼ྨʹ࢖ΘΕΔσʔληοτ
11. ਪ࿦Ϟσϧ: ଟ૚ͷCNN • CNNʢConvolutional Neural Networkʣ
 ৞ΈࠐΈχϡʔϥϧωοτϫʔΫ • ৞ΈࠐΈ૚ɾϓʔϦϯά૚ɾશ݁߹૚͔ΒͳΔ • ৞ΈࠐΈ૚: ಛඍྔͷநग़ • ϓʔϦϯά૚: Ԡ౴ෆมੑͷ֫ಘ
12. TensorBoard • TensorFlow ඪ४ఴ෇ͷՄࢹԽπʔϧ • tensorboard --logdir={logσΟϨΫτϦ}
13. Demo
14. CNNͷ్த Accurancy: 0.2 -> 0.5 ͘Β͍·Ͱ্ঢ͢Δͷݟͯதஅ
15. ϋϚͬͨͱ͜Ζ
16. TensorFlowͰHello, World • ͍͖ͳΓίέΔɾɾɾ • AttributeError: module 'tensorflow' has no attribute ‘constant' • import tensorflow as tf • ϑΝΠϧ໊Λ tensorflow.py ʹͯͨ͠ͷ͕ݪҼ • tfͰͳ͘Pythonͷ࿩ • http://stackoverflow.com/questions/37383812/tensorflow- module-object-has-no-attribute-placeholder
17. Depreciated Methods • ม਺ͷॳظԽ
 (چ) tf.initialize_all_variables()
 (৽) tf.global_variables_initializer() • TensorBoard΁ͷೖྗ
 (چ) tf.train.SummaryWriter()
 (৽) tf.summary.FileWriter() • άϥϑఆٛ
 (چ) sess.graph_def
 (৽) sess.graph
18. (༨ஊ) DocumentʹDepreciated͕͋ͬͨͷͰ
 PRૹΖ͏ͱͨ͠Βɾɾɾ
19. (༨ஊ) DocumentʹDepreciated͕͋ͬͨͷͰ
 PRૹΖ͏ͱͨ͠Βɾɾɾ
20. (༨ஊ) DocumentʹDepreciated͕͋ͬͨͷͰ
 PRૹΖ͏ͱͨ͠Βɾɾɾ
21. ײ૝ • ΍Γ͔ͨͬͨ͜ͱ·ͰḷΓண͚ͳ͔ͬͨ • Python΋TensorFlow΋ෆ׳Εײ • ଟ࣍ݩ഑ྻɺreshapeͱ͔Ͱਖ਼֬ʹ೴಺Πϝʔδ ม׵͍ͨ͠
 

22. ࠓޙ • ·ͣ͸ຊΛ࠷ޙ·ͰಡΉ • ྲྀΕ͕ΠϝʔδͰ͖ͯ͘Δͱָ͍͠ • ը૾෼ྨ΍Γ͍ͨɺ͚Ͳը૾ͷऩूͱϥϕϦ ϯά͕໘౗ͦ͏
23. ͓ΘΓ