Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Neural Network Consoleについて
Search
Atsushi Nakatsugawa
PRO
September 25, 2018
Technology
0
71
Neural Network Consoleについて
Sony社の提供するNeural Network Consoleについて
https://dl.sony.com
Atsushi Nakatsugawa
PRO
September 25, 2018
Tweet
Share
More Decks by Atsushi Nakatsugawa
See All by Atsushi Nakatsugawa
DevRelのフォーカス領域の変化とコンテンツのあり方
moongift
PRO
0
44
SendGrid + Googleスプレッドシートによる簡単Webサイト構築
moongift
PRO
0
330
コストを下げた動画作成テクニックの紹介
moongift
PRO
0
160
テックブログを分析して分かった始めるコツ・続けるコツ
moongift
PRO
8
3.6k
DevRelが失敗する企業の特徴とその対策
moongift
PRO
2
410
DevRel Regional Characteristics
moongift
PRO
0
9
月100本以上ブログ記事を書いて通して学んだ記事のアイディアの出し方
moongift
PRO
0
410
Google I/O 2021 Recap
moongift
PRO
1
58
Relationship in DevRel and Branding
moongift
PRO
0
180
Other Decks in Technology
See All in Technology
LLM + RAG を使った SORACOM Support Bot の裏側の歴史
soracom
PRO
1
640
AWS アーキテクチャクイズ
yuu26
2
700
HoneycombとOpenTelemetryでオブザーバビリティに入門してみる
sumiren
2
150
オブジェクト指向CSSが叶えたかったことと、CSSのいま / The aims of Object-oriented CSS and the current state of CSS usage
shinkufencer
11
3.6k
Cloud Friendly(?) Jenkins. How we failed to make Jenkins cloud native and what we learned?
onenashev
PRO
0
110
Kubeflow Pipelines v2 で変わる機械学習パイプライン開発
asei
4
340
業務で使えるかもしれない…!?GitHub Actions の Tips 集 / CI/CD Test Night #7
ponkio_o
PRO
24
6.9k
Oracle Database で機械学習を始めよう! Oracle Machine Learning
oracle4engineer
PRO
1
140
依存ライブラリはどこに?
takesection
0
110
Azureコストは水道代/The_47th_Tokyo_Jazug
aeonpeople
3
360
社内共通ルールを値オブジェクトにして社内ライブラリとして運用してみた話
leveragestech
2
1.1k
継続的テストモデルを実現するためにスリーアミーゴスを用いた10Xでのシフトレフトの事例
nihonbuson
3
160
Featured
See All Featured
Designing the Hi-DPI Web
ddemaree
275
33k
The Cult of Friendly URLs
andyhume
73
5.6k
Automating Front-end Workflow
addyosmani
1353
200k
Adopting Sorbet at Scale
ufuk
66
8.5k
Visualization
eitanlees
135
14k
Rails Girls Zürich Keynote
gr2m
91
13k
The Cost Of JavaScript in 2023
addyosmani
13
3.7k
Art, The Web, and Tiny UX
lynnandtonic
288
19k
The Invisible Customer
myddelton
114
12k
We Have a Design System, Now What?
morganepeng
42
6.7k
Building Flexible Design Systems
yeseniaperezcruz
317
37k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
113
18k
Transcript
Neural Network Console ϋϯζΦϯ 2018.09.19
NNCͱʁ جૅࣝ
ιχʔͷఏڙ͢ΔσΟʔϓϥʔχϯά։ൃڥ ▸ Windows ൛ & Ϋϥυ൛ ▸ ίʔσΟϯάϨε / ίϯϙʔωϯτͷυϥοά&υϩοϓ
▸ ੜͨ͠ϞσϧϥΠϒϥϦʢOSSʣΛ༻͍ͯϓϩάϥϜ͔ Βར༻Մೳ https://dl.sony.com Neural Network Consoleͱʁ
Neural Network Consoleͱʁ Neural Network LibrariesͷωοτϫʔΫΛGUIͰߏஙɺ࣮ߦͰ͖Δڥ ▸ ΫϥυWindowsΞϓϦͰGUIΛͬͯσΟʔϓϥʔχϯάΛߏங ▸ τϨʔχϯάσʔλɺςετσʔλΛ࣮ͬͯࡍʹ࣮ߦɺධՁ
▸ Ϟσϧ + PythonʹΑΔωοτϫʔΫΛهड़ͨ͠ίʔυΛμϯϩʔυʢWindowsʣ ▸ ϞσϧͱωοτϫʔΫΛҰͭʹͨ͠ϑΝΠϧΛμϯϩʔυʢΫϥυʣ ▸ ͲͪΒPython/C++/C͔Βར༻Մೳ
Neural Network Librariesͱʁ ιχʔͷ։ൃͨ͠σΟʔϓϥʔχϯάιϑτΣΞ ▸ Φʔϓϯιʔεͱͯ͠ެ։ʢGitHubʣ https://github.com/sony/nnabla ▸ ϥΠηϯεApache 2.0
License ▸ Python/C++/CͰσΟʔϓϥʔχϯάΛهड़Մೳ ▸ ONNXͷग़ྗʹରԠ
ྉۚମܥ WINDOWS / Ϋϥυ൛ͰҟͳΓ·͢ ▸ Windows ൛ແྉ ࡞ͨ͠Ϟσϧͷ༻ར༻Մ ▸ Ϋϥυ൛ैྔ՝ۚ
CPU : 85ԁ/࣌ؒ ɹGPU : 210ԁ/࣌ؒʙ ετϨʔδ : 200ԁ/10GBʙ
ར༻Ͱ͖Δٕज़ ը૾͚ͩͰͳ͘ɺςΩετʹ ▸ ͋Β͔͡ΊςΩετͷ୯ޠΛΠϯσοΫεԽʢ·ͨϕΫτϧ ܥྻʣʹมͯ͠ར༻ ▸ ෳཁૉͷೖྗΛֶश͠ɺΧςΰϦ͚ʢྫɿ͋Ίͷڭࢣ͋ ΓσΟʔϓϥʔχϯάʣ ▸ Ԡ༻࣍ୈͰखॻ͖ೝࣝɺମೝࣝɺϔουδΣενϟʔͳͲ
σΟʔϓϥʔχϯά։ൃͷਏ͍ͱ͜Ζ PythonʹΑΔίʔσΟϯάඞਢ ▸ σΟʔϓϥʔχϯά։ൃͱϓϩάϥϚʔҟͳΔεΩϧ͕ඞཁ ▸ σΟʔϓϥʔχϯάʹਖ਼ղͳ͘ɺ݅Λม͑ͯࢼ͢΄͔ͳ͍ ▸ ࢼ͍ͯ͘͠தͰɺਫ਼Λൺֱͨ͠ΓɺաڈͷωοτϫʔΫΛฤू͍ͨ͠ ▸ Ͱ͖͕͋ͬͨϞσϧɺωοτϫʔΫΛͳΔ͘ίʔσΟϯάϨεʹΈࠐΈ͍ͨ
χϡʔϥϧωοτϫʔΫͱʁ جૅࣝ
ͷΈΛίϯϐϡʔλ্Ͱ࠶ݱ ਓؒͷΑ͏ʹࢥߟ͢Δػցֶश ▸ ͷਆܦճ࿏ʢχϡʔϥϧωοτϫʔΫʣΛݩʹઃܭ ▸ େྔͷσʔλΛύλʔϯͱֶͯ͠शͤ͞ɺͦΕҎ֎ͷ݅ʹ͓͍ͯߴਫ਼ʹ ผ͢Δ ▸ ڭࢣ͋Γσʔλͱڭࢣͳ͠σʔλ
χϡʔϥϧωοτϫʔΫͷ֓ཁ ೖྗɺதؒʢӅΕʣɺग़ྗ ϊʔυ
χϡʔϥϧωοτϫʔΫͷ֓ཁ ೖྗɺதؒʢӅΕʣɺग़ྗ ೖྗ தؒ ग़ྗ
χϡʔϥϧωοτϫʔΫͷ֓ཁ ೖྗɺதؒʢӅΕʣɺग़ྗ ೖྗ தؒ ग़ྗ Τοδ ॏΈ
χϡʔϥϧωοτϫʔΫͷ֓ཁ ೖྗɺதؒʢӅΕʣɺग़ྗ ೖྗ தؒ ग़ྗ Τοδ ॏΈ N1 × ॏΈ1
+ N2 × ॏΈ2 + … → ׆ੑԽؔͰม
׆ੑԽؔ γάϞΠυؔɺۂઢؔɺRELUؔͳͲ ը૾Ҿ༻ɿʲReLU, PReLU, γάϞΠυ etc...ʳχϡʔϥϧωοτͰΑ͘͏׆ੑԽؔͷޮՌΛKerasͰௐͯΈͨ - ϓϩΫϥγετ
ॱ → ٯ ޡࠩؔʢަࠩΤϯτϦϐʔೋޡࠩʣͰޡࠩΛٻΊΔ ೖྗ தؒ ग़ྗ ॏΈΛߋ৽
ޯ߱Լ๏ ॏΈ ޡࠩ
ہॴ࠷దʹؕΔ߹ ॏΈ ޡࠩ ϛχόονʢֶशσʔλΛׂʣͰ͛Δ
σΟʔϓϥʔχϯά ଟ͘ͷதؒΛ࣋ͭ͜ͱͰɺΑΓෳࡶͳʹରԠ ೖྗ தؒ ग़ྗ
ΈࠐΈχϡʔϥϧωοτϫʔΫ ը૾ೝࣝͰΑ͘ΘΕΔख๏ 28x28 px άϨʔεέʔϧ ΈࠐΈ ϓʔϦϯά ΈࠐΈ ϓʔϦϯά શ݁߹
׆ੑԽؔ ग़ྗ
ΈࠐΈχϡʔϥϧωοτϫʔΫ ը૾ೝࣝͰΑ͘ΘΕΔख๏ 28x28 px άϨʔεέʔϧ ΈࠐΈ ϓʔϦϯά ΈࠐΈ ϓʔϦϯά શ݁߹
׆ੑԽؔ ग़ྗ ը૾ʹϑΟϧλΛ͔͚ͯ ಛΛநग़
ΈࠐΈχϡʔϥϧωοτϫʔΫ ը૾ೝࣝͰΑ͘ΘΕΔख๏ 28x28 px άϨʔεέʔϧ ΈࠐΈ ϓʔϦϯά ΈࠐΈ ϓʔϦϯά શ݁߹
׆ੑԽؔ ग़ྗ ൣғͷ࠷େฏۉ Λऔͬͯѹॖ
ΈࠐΈχϡʔϥϧωοτϫʔΫ ը૾ೝࣝͰΑ͘ΘΕΔख๏ 28x28 px άϨʔεέʔϧ ΈࠐΈ ϓʔϦϯά ΈࠐΈ ϓʔϦϯά શ݁߹
׆ੑԽؔ ग़ྗ
ΈࠐΈχϡʔϥϧωοτϫʔΫ ը૾ೝࣝͰΑ͘ΘΕΔख๏ 28x28 px άϨʔεέʔϧ ΈࠐΈ ϓʔϦϯά ΈࠐΈ ϓʔϦϯά શ݁߹
׆ੑԽؔ ग़ྗ
ΈࠐΈχϡʔϥϧωοτϫʔΫ ը૾ೝࣝͰΑ͘ΘΕΔख๏ 28x28 px άϨʔεέʔϧ ΈࠐΈ ϓʔϦϯά ΈࠐΈ ϓʔϦϯά શ݁߹
׆ੑԽؔ ग़ྗ y:9 → 0 y:9 → 1 0.000197 0.999722
NNC͓קΊϙΠϯτ × 3 ϙΠϯτ
NNCͷศརͳͱ͜Ζ1 ίʔσΟϯάϨεʂ ▸ ϓϩάϥϚͰ͋ͬͯϓϩάϥϛϯάͤͣʹࢼͤΔͷັྗʂ ▸ Ϋϥυ൛ͳΒΠϯετʔϧ͢Δඞཁͳ͠ ▸ ϊʔυΛD&D͍͚ͯͩ͘͠ͷ؆୯ૢ࡞ ▸ Ͱֶ͖͕͋ͬͨश݁ՌPython/C++/C͔Βར༻Մ
NNCͷศརͳͱ͜Ζ2 ֶश݁Ռͷཤྺཧ ▸ ػցֶशʹਖ਼ղͳ͍ ▸ ࢼߦࡨޡͯ͠࠷ྑͷ݁ՌΛੜΈग़͢ ▸ ࢼߦࡨޡͷ݁ՌΛهɺޙ͔Βݺͼग़ͤΔ ▸ ෳͷ݁ՌΛάϥϑͰൺֱͰ͖Δ
NNCͷศརͳͱ͜Ζ3 ࣗಈ୳ࡧ࣮ߦ ▸ ωοτϫʔΫߏΛม͑ΔͱࣗಈͰධՁΛ։࢝ͯ͘͠ΕΔ ▸ ਫ਼ͱҰॹʹϦιʔεফඅʢϑοτϓϦϯτʣ࠷దԽ ▸ ϑοτϓϦϯτ࠷దԽΈࠐΈ༻్ʹ͓͍ͯॏཁ
ϋϯζΦϯʹ͍ͭͯ ຊ
શൠ ࢿྉΛݟͳ͕Βɺ͋ͳͨͷϖʔεͰߦͬͯԼ͍͞ ▸ ࣭ෆ໌͕͋Εɺ͙͢ʹखΛڍ͍͛ͯͩ͘͞ ࣌ؒΛϜμʹͤͣɺ࣭͍ͯͩ͘͠͞ʂ ▸ શ෦ऴΘΒͳͯ͘ߏ͍·ͤΜ Ή͠Ζগ͠ଟΊʹͯ͋͠Γ·͢ ▸ ࢿྉ࣋ͪؼΕ·͢
ࣗΦϑΟεͰଓ͖Λߦ͍ͬͯͩ͘͞ʂࢿྉΦϯϥΠϯʹ͋Γ·͢ ▸ ࣭GoogleάϧʔϓͰͥͻʂ
ϋϯζΦϯ1 4ͱ9Λผ͢Δ ▸ खॻ͖Ͱॻ͔Εͨ4͔9ͷը૾Λఆ͠·͢ ▸ 28x28pxɺάϨʔεέʔϧͷը૾Λར༻͠·͢
ϋϯζΦϯ2 ͢ΈΕͷछྨΛผ͠·͢ ▸ 3छྨ͋Δ͢ΈΕΛɺՖͼΒͱΨΫͷ͞ɺ෯ʹԠͯ͡ྨ͚͠·͢ ▸ ೖྗσʔλ4छྨɺ݁Ռ3ͭͷྨʹͳΓ·͢
ϋϯζΦϯ3 ίϯιʔϧ/ίϚϯυϓϩϯϓτͰNNCΛ࣮ߦ͠·͢ ▸ ࡞ͨ͠ϞσϧɺωοτϫʔΫΛμϯϩʔυ͠·͢ ▸ ςετ༻ͷCSVσʔλɺը૾Λ༻͍ͯϩʔΧϧͰίϚϯυΛ࣮ߦ͠·͢ ▸ PythonͱNeural Network LibrariesΛ͍·͢
ϋϯζΦϯ4 WEBΞϓϦέʔγϣϯʹNNCͷϞσϧ/ωοτϫʔΫΛΈࠐΈ·͢ ▸ खॻ͖ೝࣝΞϓϦέʔγϣϯΛ࡞͠·͢ ▸ PythonΛ༻͍·͢ʢίʔσΟϯάຆͲߦ͍·ͤΜʣ ▸ Neural Network LibrariesΛ͍·͢
ϋϯζΦϯ5 0ʙ9ͷը૾Λผ͠·͢ ▸ ReLUMaxPoolingͳͲΛ༻͍ͯɺΑΓෳࡶͳωοτϫʔΫΛߏங͠·͢ ▸ Ϟσϧ͕͏·͘Ͱ͖ͨΒɺϋϯζΦϯ4ͷϞσϧͱೖΕସ࣮͑ͯߦͯ͠Έ·͠ΐ͏ ▸ ίʔυม͑ͣʹϞσϧ͚ͩΛࠩ͠ସ͑ͯ4/9͚ͩͰͳ͘ɺ0ʙ9ͷೝ͕ࣝՄೳʹ ͳΓ·͢