「AI&機械学習しよう！実践編ソース解析について」

Transcript

1. AI&機械学習しよう！実践編ソース解析 株式会社　数理先端技術研究所 2017/10/21 生島高裕 1
2. 今後の方向性　アンケート結果 【質問1】 この勉強会では、より実践よりのテーマを考えたいと思っております。どのような勉強会 が希望かお教えください。 •回答 リコメンデーションとDeep Learningの応用例 理論モデルの解説や、実装コードのサンプルなどが主体であることが望ましい GANの実装方法 DLの最新動向やDLのプロダクトのための開発プロセスなど 強化学習の企業での活用事例 計算論的神経科学など、脳の具体的な話 フレームワークのソースコード、GPU実装を考慮した最新論文実装 2
3. 今後の方向性　アンケート結果 【質問2】 この勉強会では講師の方も募集しております。講演したいテーマがればお教えください。 またより企業サイドの取り組みも紹介しようと思っております。希望があればお教えくだ さい。 •回答 ・Jonnie (HirokiYonetani) 最新のリコメンデーションのアルゴリズムの事情について ・tamaki (TamakiOkui) 気象データ解析 3
4. 今後の方向性　アンケート踏まえて 【テーマ】 • 理論モデル、開発プロセスの解説 • フレームワーク、論文実装、GPU実装テクニックなどのソースコードの解説 　　　TensorFlow、GAN、DLプロダクト、、サンプルが欲しい • DLなどAIの最新動向 • 脳科学、計算論的神経科学、脳の具体的な話 • 企業での活用事例 　　　強化学習、レコメンデーションなど 4
5. 今後の方向性　アンケート踏まえて 【テーマ例】 • DNC“Hybrid computing using a neural network with dynamic external memory" 　　　SourceCode A TensorFlow implementation of the Differentiable Neural Computer. • Edward 　　　深層学習と確率プログラミングを融合したEdwardについて などを検討します。 5
6. 勉強会報告 • 「Neural Networkを使ったSLAMの動向を追う」 　　　芦原さんの話は単眼だけでどこまでCNNで、自己位置推定と環境地図作成にとも　　　　 なう物体認識ができるかという話でした。 ある意味、一つのセンサーだけでここまでできるようになることはCNNのすばらしさ だと思います。 暗い場合は認識率落ちる話など人間と似ていて非常に面白かったです。 今後どんどんDLなどが発展すると、人間と比べて評価する機会が多くなる気がしま す。 6
7. 勉強会報告 • 「Kaggleの紹介」 これはクラウドソーシングのコンペ形式の話でした。 その中でも有名なKaggleの実情についての解説です。 賞金額が大きいところが特徴で、賞金を出す企業サイドのスタンスが見れて面白 かったです。知名度を上げたい、優秀な技術者を見つけたいと思う企業はそこそこ の賞金額です。 外注せずにクラウドソーシングで安上がりを狙う企業は賞金が高めです。 企業側の戦略が見えます。また技術者側も競争原理が働き上位入選してキャリア アップを図りたい人が参加してと思います。 最も、コンピュータパワーが必要なところもあります。 そういった問題はブロックチェーンのマイニングに似ていると思います。 7
8. 勉強会報告　今後について qiita、githubでのオープンソースの方向性 芦原氏の指摘、qiitaのソースはまだ十分コンポーネント化されていないので再利用しにくい、githubは 世界的に展開されているのでコンポーネント化されて再利用されやすいソースは人気が高い。 個人的には、オープンドキュメント、オープンソース化の流れによって、全体としての生産性の向上、 個人のキャリアアップの手段化の現状が認識できました。 今後どういった技術者を増やすかについての議論になりました。 そのとき技術者のレベルを４段階に分けてみました。 レベル１ 理論を作るサイドで、理論を作った後、直ぐ実装しテストができる人 （DeepMindレベル） 8
9. 勉強会報告　今後について レベル２ 論文を読み、すなわち理論を理解し、それに基づく実装が行える人 （研究者、技術者で理論と実装に興味を持ちレベル１を目指す人） レベル３ 理論の概要が解り、そのライブラリを使用する立場の人 （主に利用側の研究者とか技術者） レベル４ サービスとして行われているものを使う立場の人 （ワトソンなど使ってサービスを考える人） ここで我々はまずレベル２を目指すことを考えました。 段階的にはレベル３から進むことを考えます。 9
10. 勉強会報告　今後について その為には、論文とソースを対応付けて勉強することが必要です。 とは言ってもソースについて解説しだすと詳細すぎて時間がかかります。 2つの方向性が提案されました。 １つは「もくもく会」などでみんな勝手に勉強しながら疑問があったら相談できる環境をつくることで す。 これについては場所の問題があるので、いろいろ探してみようということになりました。 もうひとつは、ソース輪読合宿説です。 例えば、テーマを1つ決めて、ある程度の役割分担の後、解説、質疑、討論する勉強会です。 一泊二日で何らかのテーマが理解出来たら達成感は出てくると思います。 もちろん宴会、歓談タイムなどを入れ楽しみながら勉強出来るものにしたいです。 今後の勉強会、またFBサイトで議論できればと思います。 10