How should engineers survive during AI era

Deck of Developer Summit 2017
http://event.shoeisha.jp/devsumi/20170216

1. AI礼賛時代に エンジニアはいかにして サバイブすべきか by  Norhiro Shimoda 1 ハッシュタグ：#devsumiB セッションID：【16-‐‑‒B-‐‑‒5】
2. ⾃自⼰己紹介 • 下⽥田倫倫⼤大(@rindai87) • データ分析専業企業の⾼高性能雑⽤用係（⾃自称） • 気持ちは⽣生涯エンジニア • TensorFlow User  Group(TFUG)主催者 2
3. 最近、機械学習とか ⼈人⼯工知能が ものすごいブームですね 出典：https://www.coursera.org/learn/machine-‐‑‒learning 3
4. ⼈人⼯工知能すごい！というイメージ 出典：https://www.google.com/selfdrivingcar/where/ 出典： https://gogameguru.com/i/2016/03/AlphaGo-‐‑‒ Lee-‐‑‒Sedol-‐‑‒game-‐‑‒3-‐‑‒game-‐‑‒over.jpg ⾃自動運転 AlphaGO ⼈人が運転するより事故率率率が低いらしい 囲碁のプロ棋⼠士に勝利利した 4
5. ⼈人⼯工知能使えそう！というイメージ 出典：https://cloud.google.com/products/ 超すごい⼈人⼯工知能の要素技術 をクラウドで簡単に使えそう な雰囲気！！！ 5
6. もちろんGoogleだけじゃない チャットボットを⼀一躍有名にした AI⼥女女⼦子⾼高⽣生「りんな」 出典：https://twitter.com/ms_̲rinna 最近のAIブームの先駆けと⾔言える IBM  Watson 出典：https://github.com/IBM-‐‑‒Watson もはやレア感がなくなるくらい浸透した Pepper 出典：http://www.softbank.jp/robot/consumer/products/
7. ＿⼈人⼈人⼈人⼈人⼈人⼈人⼈人⼈人⼈人⼈人⼈人⼈人＿ ＞ 突然の⼈人⼯工知能ブーム ＜ ￣Y^Y^Y^Y^Y^Y^Y^Y^Y^Y^Y￣
8. 結果、こういう流流れが できつつあります 8
9. ⼈人⼯工知能をやりたまえ ⼈人⼯工知能的な要素は是⾮非 提案に含めてください ⼈人⼯工知能は重要 そうだよね ⼈人⼯工知能かっこいいっす やりたいっす ワタシ 同僚僚 上司 お客さん 後輩/部下
10. クラウドで ⼈人⼯工知能関連のAPI あるじゃない ↓ APIを使ってみる ↓ ビジネスニーズに 微妙にフィットしない ↓ スクラッチでやるしか ↓ 機械学習むずい ＼(^o^)／ 10
11. エンジニアを取り巻く環境 機械学習が使え そうな案件 ⼈人⼯工知能がキー ワードになってい る新規案件 ⼈人⼯工知能やりた まえという謎の プレッシャー ⼈人⼯工知能や機械 学習への興味 数年年前まではなかった機械学習や⼈人⼯工知能 というキーワードが⾒見見え隠れする今⽇日このごろ 11
12. エンジニアも ⼈人⼯工知能とか機械学習 っぽい話が分かった⽅方が 良良さそう？？ 12
13. 本⽇日お話すること ⼈人⼯工知能とか機械学習とか 押さえておかないと！！ という焦燥感との向き合い⽅方 13
14. 注意 コードも出てきませんし これだ！って結論論もないです ふんわりした全体感の話です 14
15. ⼈人⼯工知能と呼ばれるもの 機械学習によって実現さ れている⼈人⼯工知能 深層学習 ルールベース etc.. 定義はいろいろですが、機械学習やルールベースなどを 駆使して、⼈人間っぽい振る舞いをする何か、とします 本資料料での⽤用語の関係
16. 弊社でもよくある話 機械学習とか分析を勉強したいんですよね 社内にいるデータサイエンティストに聞 いたり⾃自分で勉強すればいいんじゃない ですか？ それがどうしたら良良いかよくわからないん ですよー エンジニア 私 16
17. ⼈人⼯工知能や機械学習について知りたい 17 エンジニア ⼈人⼯工知能や機械学習の⼿手法 について知りたい ⼈人⼯工知能や機械学習の領領域に おけるキャリアや活躍の仕⽅方 を知りたい
18. ⼈人⼯工知能や機械学習について知りたい 18 エンジニア ⼈人⼯工知能や機械学習の⼿手法 について知りたい ⼈人⼯工知能や機械学習の領領域に おけるキャリアや活躍の仕⽅方 を知りたい
19. 世の中に良良質なリソースがたくさんあるので、 細かい話はググるなりしてください よくエンジニアの⼈人と話すことと そのリアクションでサクサクお届けします 19
20. ブラックボックスとしての機械学習 アルゴリズムが取り扱えるデータフォーマット 機械学習のアルゴリズム 何らかの結果 ⼊入⼒力力 ⼊入出⼒力力の変換だけして ライブラリ呼び出し 20
21. ⾔言ってることはわかるけど⾯面⽩白くない 著作者：dice-‐‑‒kt 出典：http://free-‐‑‒photos.gatag.net/2014/05/15/180000.html 21
22. ⽤用途別のアルゴリズムの選択 出典：http://scikit-‐‑‒learn.org/stable/tutorial/machine_̲learning_̲map/ 22
23. やっぱり⾔言ってることは わかるけどやりたかった 機械学習ではない 著作者：Gwen241   出典：http://free-‐‑‒photos.gatag.net/2014/07/20/060000.html 23
24. 結果理理解とチューニング アルゴリズムが取り扱える データフォーマットへの変換 機械学習の アルゴリズム 何らかの結果 ⼊入⼒力力 結果の解釈 パラメータ チューニング アルゴリズムの 再選択 24
25. 出典：http://playground.tensorflow.org/ 25
26. 結果理理解とチューニング アルゴリズムが取り扱える データフォーマットへの変換 機械学習の アルゴリズム 何らかの結果 ⼊入⼒力力 結果の解釈 パラメータ チューニング アルゴリズムの 再選択 26
27. 出典：http://playground.tensorflow.org/ アルゴリズムや使っているツー ルに合わせ、いい感じの結果が 出るように⼊入⼒力力を加⼯工する 27
28. 結果理理解とチューニング アルゴリズムが取り扱える データフォーマットへの変換 機械学習の アルゴリズム 何らかの結果 ⼊入⼒力力 結果の解釈 パラメータ チューニング アルゴリズムの 再選択 28
29. 出典：http://playground.tensorflow.org/ 結果を⾒見見て今のパラメータ で良良いかかどうかを判断 29
30. 結果理理解とチューニング アルゴリズムが取り扱える データフォーマットへの変換 機械学習の アルゴリズム 何らかの結果 ⼊入⼒力力 結果の解釈 パラメータ チューニング アルゴリズムの 再選択 30
31. 出典：http://playground.tensorflow.org/ ⾚赤いところを問題に合わせて いい感じに調整する 31
32. 結果理理解とチューニング アルゴリズムが取り扱える データフォーマットへの変換 機械学習の アルゴリズム 何らかの結果 ⼊入⼒力力 結果の解釈 パラメータ チューニング アルゴリズムの 再選択 32
33. 出典：http://playground.tensorflow.org/ あー、これじゃだめだ、 とそもそも違うアルゴリズムを 選ぶこともある 33
34. 機械学習っぽいけど 急に難易易度度が上がりすぎじゃね？ 出典：http://labaq.com/archives/51849423.html 34
35. ⼿手法について知りたい系の結論論 • ある程度度ちゃんとやりたいなら、やっぱり数学を理理解した上で機 械学習に取り組むことが重要 – こればっかりはプロトコルみたいなものなので、最低限理理解しましょう、 みたいな感じ • こつこつやるしかない！ • オープンソースで⾊色々公開されているので、エンジニアな皆さん は、動かして/背景の理理論論を知って、みたいな感じで進むといい と思います 35
36. おすすめの書籍など 36 etc… 馴染みのない⼈人たちにとっては、それなりに硬派な書籍達です。 こつこつと何回も読むのが良良いかもしれません。
37. 深層学習ならこれがすごい良良い！ 37 この本話題になっていますが、ほんとにすごく良良いです！
38. ⼈人⼯工知能や機械学習について知りたい 38 エンジニア ⼈人⼯工知能や機械学習の⼿手法 について知りたい ⼈人⼯工知能や機械学習の領領域に おけるキャリアや活躍の仕⽅方 を知りたい
39. 39 まずは業務での関わり⽅方を整理理しましょう
40. ここからの話の前提 • ⼈人⼯工知能的なものをプロジェクトとして考えることを想定 – 研究開発的な取り組みの延⻑⾧長ではなくプロジェクトを想定 • いわゆる何でもできるスーパーマンがいない状態を想定 – スーパーマンがいると知らない間にいい感じにプロジェクトが終わって 再現性がない • 事業会社の中で完結していないようなケースを想定 – 世の中に出てきている事例例の多くは事業会社が⾃自社データx⾃自社エンジニ アx⾃自社データサインティストな掛け合わせで実現 40
41. ⼈人⼯工知能に取り組む⽬目的 • コスト削減 – ⼈人の作業のリプレース • 品質の均⼀一化 – AIは疲れないしコピー可能 • 既存サービスの強化 – ⼈人⼯工知能の⼒力力を借りてサービスを強化 • 新規事業機会の創出 – クリエイティブな何か この4つが必ずしも全てで はないが、だいたいこんな 感じで考えるはず
42. ⼈人⼯工知能的なものの実現⽅方法 出典：https://twitter.com/tikal/status/787902585294327809 実現できればなんでもよい
43. プロジェクトの各種フェーズ • プロジェクトの企画/⽴立立ち上げ • プロジェクト推進チーム • プロジェクトの進⾏行行 • プロジェクトの後 こうやって⾒見見るといわゆる 開発プロジェクトと似てい るように⾒見見えますが。。。
44. 44 • プロジェクトの企画/⽴立立ち上げ • プロジェクト推進チーム • プロジェクトの進⾏行行 • プロジェクトの後
45. プロジェクトの企画/⽴立立ち上げ • ⼊入り⼝口（どんなデータを使うか）と出⼝口（分析結果をどう使う か）というビジネス上の設計が重要 – ビジネスオペレーション(に|を)寄せる？ • ⼈人⼯工知能には過度度な期待が寄せられがち – 経験がない場合は⼩小さく計画を⽴立立てる – 魔法の箱ではないのですが…
46. 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ
47. ⼊入⼝口 （データ） 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ 既存のビジネスで得られて いるデータを⼊入⼝口とする
48. ⼊入⼝口 （データ） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ 機械学習、ルールベース、etc…
49. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ ビジネスフローにつながる 形のアプリケーション Webサービスだと⽐比較的簡単だが、 それ以外だと結構⼤大変なイメージ
50. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの ⼊入⼝口/出⼝口のイメージ 新規のビジネスフロー 既存のビジネスにこだわる必要はなく、 全く新しい⼊入⼝口/出⼝口を考えても良良い 既存のビジネスにこだわる必要はなく、 全く新しい⼊入⼝口/出⼝口を考えても良良い
51. ⼈人⼯工知能的なアプローチは、やってみ なければ成果が出せそうかどうか分か らない、という側⾯面があります。 そのため実証実験から 始めることが多いです。
52. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲） ここにフォーカスを当てます ⼈人⼯工知能的なもので何ができますっけ？という確認 （PoCと⾔言ったりもしますね）
53. プロジェクト企画/⽴立立ち上げのまとめ • そもそも⼿手持ちのデータややりたいことから⼈人⼯工知能的なことと して何ができるかの実証実験から始めることが多い • このフェーズではコンサル＋データサイエンティストが活躍する – のだけど、ここの話がいずれエンジニアにブーメランで来るので知って おく必要はある – それは実験的にはできるけど、、、みたいな 53
54. 54 • プロジェクトの企画/⽴立立ち上げ • プロジェクト推進チーム • プロジェクトの進⾏行行 • プロジェクトの後
55. プロジェクト推進チーム 1. ビジネスを考える⼈人 – 経営企画など 2. AIとビジネスを繋ぐ⼈人 – いわゆるディレクターとかプロデューサー 3. AIそのものを扱う⼈人 – データサイエンティストとか⾔言われる⼈人 4. AIを使った仕組み化する⼈人 – The  エンジニア！ 最低限こんな感じのはず
56. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲）
57. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー プロジェクト推進チーム ビジネス考える⼈人 ⼈人⼯工知能とビジネスを繋ぐ⼈人 AIそのものを 扱う⼈人 仕組み化を 実現する⼈人
58. 58 • プロジェクトの企画/⽴立立ち上げ • プロジェクト推進チーム • プロジェクトの進⾏行行 • プロジェクトの後
59. プロジェクトの進⾏行行 • 機能要件、⾮非機能要件が決めにくく、プロジェクト全体のゴール が曖昧になりがち – 期待値の調整が超重要 • プロジェクト進⾏行行に関しての明確な⽅方法論論が世の中に存在してい ない – 世の中にあるプロジェクトマネジメントや開発⼿手法は転⽤用できるんで すっけ…？ • もちろん部分的にはYes
60. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲） ビジネス考える⼈人 ⼈人⼯工知能とビジネスを繋ぐ⼈人 AIそのものを 扱う⼈人 仕組み化を 実現する⼈人 この⼈人が超⼤大事 ここの連携 も超⼤大事
61. プロジェクト進⾏行行あるある その1 61 エンジニアともデータサイエ ンティストとお話ができる データサイエンティスト エンジニア 取りまとめ役 エンジニアともデータサイエンティストとも話がで きてプロジェクトを推進できる⼈人はなかなかいない 取りまとめ役不不在
63. プロジェクト進⾏行行あるある その２ 63 データサイエンティスト エンジニア エンジニアともデータサイエンティストがうまく協 働されず、作るものがブレまくる システム⽬目線で のみ考えている アルゴリズム⽬目線 でのみ考えている エンジニアとデータサインティストで作るものがブレる
65. プロジェクト進⾏行行あるある その３ 65 データサイエンティスト エンジニア 取りまとめ役 お客様から⾒見見て今の状況を適切切に判断できない チームとしてもコミュニケーションしにくい 今何が出来てて、どのタ イミングで何をすれば良良 いの・・・ 超いい感じの分析モデル できてます！順調です！ お客様に何を報告 しよう・・・ 分析モデルは⽬目に⾒見見えない
67. 67 • プロジェクトの企画/⽴立立ち上げ • プロジェクト推進チーム • プロジェクトの進⾏行行 • プロジェクトの後
68. プロジェクトの後 • ⼈人⼯工知能的なもの、のメンテナンスが定期的に必要だと考えた⽅方 が良良いです – 世の中は変化するはずなので、データの質が変わる可能性があります – データの質が変わるとモデルが当初のような精度度がでなくなることも… • 逆に⾔言うと、今の⼈人⼯工知能は最初の設計を逸脱したものに追随で きるほど汎⽤用的なものではない、というのが真実 – 保守でもお⾦金金を取るチャンスがありそうですね^^
69. プロジェクト全体についてのまとめ • 全体的には開発プロジェクトに似ている – と思ったら案外そうじゃない • 分析モデルは⽬目に⾒見見えない上、お客様に状況を適切切に理理解/判断 いただくことはなかなか難しい – 信頼関係超重要 • 世の中に⽅方法論論も経験のある⼈人材も少ないため、⽕火種がそこら中 にある – 期待値調整超重要 69
70. ここまでで 業務でAIと関わるイメージが 少しはつけられたでしょうか？ もう少しエンジニア視点で Deep  Diveしてみましょう 70
71. 71 エンジニアはどう活躍するのか？
72. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲） ビジネス考える⼈人 ⼈人⼯工知能とビジネスを繋ぐ⼈人 AIそのものを 扱う⼈人 仕組み化を 実現する⼈人 全てエンジニアのキャリアとして有りえますし、エ ンジニアのバックグラウンドがある⼈人がなるべき 全てエンジニアのキャリアとして有りえますし、エ ンジニアのバックグラウンドがある⼈人がなるべき 全てエンジニアのキャリアとして有りえますし、エ ンジニアのバックグラウンドがある⼈人がなるべき 全てエンジニアのキャリアとして有りえますし、エ ンジニアのバックグラウンドがある⼈人がなるべき
73. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲） ビジネス考える⼈人 ⼈人⼯工知能とビジネスを繋ぐ⼈人 AIそのものを 扱う⼈人 仕組み化を 実現する⼈人
74. AIを仕組み化する⼈人 74 アルゴリズム データの パイプライン 可⽤用性 パフォーマンス テスト etc… ジョブスケ ジューリング アルゴリズムはある、それをどう仕組み化するか ⼀一番⾃自然にポジションを築きやすいはず
75. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲） ビジネス考える⼈人 ⼈人⼯工知能とビジネスを繋ぐ⼈人 AIそのものを 扱う⼈人 仕組み化を 実現する⼈人
76. AIそのものを扱う⼈人 最近機械学習エンジニアとか⾔言われ始めている 76 技術全般にある程度度明るい ライブラリのインストールや環境構築も⾃自分でバシバ シできる もちろん、機械学習のアルゴリズムに詳しい どちらかというと ・理理論論に精通しているのでモデルを考えるのは得意 ・コンサルっぽくクライアントワークが得意 ツールを駆使して仕事をしているイメージ （⽇日本で数が多い） データサイエンティスト 機械学習エンジニア
77. ツール使いじゃだめな理理由 • 新しい論論⽂文や理理論論がバシバシ出てきているので、ツールやライブ ラリで提供されるまで試せない、ではスピード感が合わないL • GPUやクラスタなども利利⽤用する必要があったりするため、環境の 構築からできないとスピード感が合わないL • けっこう低レイヤーのエンジニアリングの⼒力力が必要な印象 77 とはいえ、ここを狙うのはけっこう⼤大変かも。。。
78. ⼊入⼝口 （データ） 出⼝口 （アプリケー ション） ⼈人⼯工知能的 なもの 既存のビジネスフロー ⼊入⼝口/出⼝口のイメージ（再掲） ビジネス考える⼈人 ⼈人⼯工知能とビジネスを繋ぐ⼈人 AIそのものを 扱う⼈人 仕組み化を 実現する⼈人
79. ⼈人⼯工知能とビジネスを繋ぐ⼈人 79 ビジネスとし てやりたい事 AIにできる事 ビジネス x  機械学習 x  エンジニアリング 仕組み（サービス/ プロダクト）とし ての提供 個⼈人的にはここがもっと増えて来ても良良いと思っています 既存のPM以上に技術のバックグラウンドが必要なはず 新しいPMの形があると思っています
80. キャリアについて知りたい系の結論論 • エンジニアはきっとチャンスが多い時代に⼊入ってきている – 技術なしには話にならない時代への突⼊入（このあと更更に詳しく話ます） – ただし、数学っぽい話（主に線形代数と微積）から逃げるのは厳しそう – ⼤大丈夫、僕らにはnumpyがある！コードで学ぼう！ • これから狙うなら以下が狙い⽬目かも？？ – 機械学習エンジニアやデータサイエンティストと協働できるエンジニア – 機械学習の要素が含まれるプロジェクトを取りまとめるリーダー/マネー ジャー 80
81. 81 おまけ：技術的なトレンドの⼩小話
82. 機械学習のトレンド • R使ってコツコツ • ⼤大きなデータだとRは⾟辛いなぁ • Pythonがあるぞ • Scikit-‐‑‒learnがデファクトっぽくなる • 機械学習ではPythonがよく選ばれる ⼤大規模データ分析のトレンド • RとかPythonで⼀一台のマシンだと ⾟辛い。⾼高価なDWHとかに投資する のも限界 • Hadoop登場！ • Hadoop上でそのまま機械学習した い要望にMahout • Hadoopだとデータ分析のタスクは ⾟辛いのでSpark登場 • SparkはMLlibもあって、⼤大規模な 機械学習の決定打はこれだ 82 機械学習 x  ⼤大規模データ分析の これまでのトレンド
83. 83 GPU
84. GPUの重要性 • CPUベースの分散処理理の決定打としてSparkの存在があった • が、特に深層学習の場合、GPUでドーンと処理理すれば圧倒的に早い – 体験しないと分からないGPUのありがたみ – ほんとにすごい差ですよ、マジで • 複数GPUでの分散処理理がトレンドに – SparkももちろんGPU対応を進めている 84
85. ハードウェアと機械学習 • 「GPU！以上！」ではなくてFPGAなどもけっこう盛り上がって きはじめている • Mobile  APP含め、組み込み系で推論論を⾏行行うことは必須 – 実世界で使われるには組み込みとの関わりも必須 – 学習はもちろん厳しいので、別の場所で実⾏行行する前提 – モデルの軽量量化なども必要 85
86. TFUG  ハード部 86
87. クラウドと機械学習 • GPUインスタンスの重要性の増加 – 各クラウドベンダーが対応してきている – AWS/Azure/GCPではGPUが使えて、有名所のライブラリ/フレームワー クも動く • マネージドなMLサービスもガンガン出てきている – GCPのCloudMLとか、AzureのAzureMLとか – 分散機械学習にニーズが出てくればきっとすごく流流⾏行行ると思っている （今はまだ少し早いかも） 87
88. AIは総⼒力力戦の様相を呈している 88 AI （深層学習） ハード/ 組み込み クラウド ソフトウェア 開発 データ分析
89. 本⽇日の話のまとめ • AIと向き合うために数学から⽬目は離離せません – ⽬目を話したら⾯面⽩白い仕事ができません • AIブームのおかげでより技術的なバックグラウンドが重要になっ てきました – ノリでふわふわしたお話が望まれないフェーズに • AI（正確には深層学習）周辺には技術的な課題がたくさん – クラウドからハードウェアまで 89
90. Thank  You  !? 90
91. Thank  You  ! 91
92. What  is  TFUG  ? • 分散機械学習フレームワークであるTensorFlowのコミュニティです • 2016年年10⽉月に⽴立立ち上がりました
93. Meetup • ⽉月に⼀一度度程度度のペースでミートアップイベントを開催しています 第1回⽬目のミート アップの様⼦子です。 NHKの取材が⼊入り ました。
94. 全国展開も始まっています • 昨年年末にTFUG  AIZUが⽴立立ち上がりました • ⼤大阪、京都、名古屋、福岡などの主要な都市で⽴立立ち上がらないか なぁと妄想しています
95. How  to  join us? イベント情報を管理理しています https://tfug-‐‑‒tokyo.connpass.com/ 各種情報交換の場として利利⽤用されています https://www.facebook.com/groups/178559235921208/
97. TensorFlow dev summit  recap • TFUG関係者が参加しているのでrecapやります • 3⽉月中旬で検討中 • 続報は少々お待ちを！ 97
98. 98 Thank  You again!