AI×IoT×ビックデータ時代におけるリファレンスアーキテクチャへの挑戦

SIX 2019 dev-c-2
Yuta Nakagawa @ABEJA, Inc.

「AI×IoT×ビックデータ時代におけるリファレンスアーキテクチャへの挑戦」

ABEJA Insight for Retailは2015年のサービスリリース以降、モノリシックなサービスからマイクロサービスへと様々な変遷を経て、そのサービスを成長させてきました。
この4年間で培われてきたシステムアーキテクチャとその監視系、さらにそれらを支える店舗施工などフィジカルな環境の設計構築、真値チェックなどの、サービスの成長には欠かせない人間系。
本セッションでは、ABEJA Insight for Retailを通して学んだ AI×IoT×ビックデータ時代における実装と運用のリファレンスアーキテクチャ、そしてそこへ至る挑戦をお伝えいたします。

Transcript

1. DAY 1 “技” Developer Day A Challenge to Reference Architecture in Next Generation Yuta Nakagawa ABEJA, Inc. Lead Research Engineer
3. Agenda リファレンス アーキテクチャ ポイント解説 次なる挑戦
4. 中川 裕太 Insight for Retail Lead Research Engineer @ ABEJA
9. リファレンス アーキテクチャ ポイント解説 次なる挑戦
10. Insight for Retail
13. 導入企業 （一部） 120社700店舗以上への導入実績(2019年3月時点) 29% 21% 14% 10% 6% 5% 3% 3% 10% 雑貨 アパレル 商業施設 ドラッグストア 車・バイク 観光 コンビニ 食品 その他
14. GO Day2 !! Tomorrow will be announced in many sessions how the technology introduced today is actually used by clients. Please come tomorrow by all means
15. AI × IoT × Big Data 時代におけるリファレンスアーキテクチャ Maintenance Monitoring Device Data Analysis Dashboard
16. リファレンスアーキテクチャのポイント 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
17. リファレンス アーキテクチャ ポイント解説 次なる挑戦
18. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
19. Deep Learning の研究速度はえげつなく早い Cf. Labeled Faces in the Wild Results (http://vis-www.cs.umass.edu/lfw/results.html)
20. 多くのモデルはすでに公開されている
21. ただし、実装フレームワークはさまざま
22. しかも、フレームワークが競合することも 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(+0x2236c0) [0x7f24df4dc6c0] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(_PyFunction_FastCallDict+0x2b7) [0x7f24df4de7c7] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(_PyObject_FastCallDict+0x18e) [0x7f24df4ad10e] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(_PyObject_CallMethodIdObjArgs+0xea) [0x7f24df4ec5ca] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(PyImport_ImportModuleLevelObject+0x27c) [0x7f24df41ec4c] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(_PyEval_EvalFrameDefault+0x703e) [0x7f24df4a164e] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(+0x22543c) [0x7f24df4de43c] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(PyEval_EvalCodeEx+0x3e) [0x7f24df4deebe] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(PyEval_EvalCode+0x1b) [0x7f24df49a36b] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(+0x1ecb3d) [0x7f24df4a5b3d] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(PyCFunction_Call+0xc9) [0x7f24df348eb9] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(_PyEval_EvalFrameDefault+0x6a51) [0x7f24df4a1061] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(+0x22543c) [0x7f24df4de43c] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(+0x2259c7) [0x7f24df4de9c7] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(_PyEval_EvalFrameDefault+0x469f) [0x7f24df49ecaf] 2018-10-02T15:20:52+09:00: /usr/lib/x86_64-linux-gnu/libpython3.6m.so.1.0(+0x2236c0) [0x7f24df4dc6c0]
23. マイクロサービスで最新の技術を 素早く安全に取り込む 24
24. 機械学習のモデルは金食い虫
25. データの量と特性によって原価が変動する
26. データの量と特性に合わせて リソースをオートスケールさせる 27
27. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 マイクロサービスで最新の技術を素早く安全に取り込む データの量と特性に合わせてリソースをオートスケールさせる
28. システムアーキテクチャ camera camera queue model A model B model C model D aggregator dashboard analysis DAG
29. 今日、話す部分 camera camera queue model A model B model C model D aggregator dashboard analysis DAG
30. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 マイクロサービスで最新の技術を素早く安全に取り込む データの量と特性に合わせてリソースをオートスケールさせる
31. 最新の技術の取り込み queue model A model B model C model D
32. model B と同じ機能を持った model B+ が開発される model B model B+
33. model B を取り換える queue model A model B+ model C model D
34. model Cよりもmodel E と Fを組み合わせた方がよいと知る model C model E model F
35. DAG を組み替える queue model A model B model D model E model F
36. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 マイクロサービスで最新の技術を素早く安全に取り込む データの量と特性に合わせてリソースをオートスケールさせる
37. リソースのオートスケール queue model A model B model C model D
38. 動画が queue に溜まり始める queue model A model B model C model D
39. model A をオートスケールさせる model A model B model C model D model A queue
40. model の負荷に合わせてオートスケールを伝播させる queue model A model B model C model D model A model B model D model D
41. リファレンスアーキテクチャの効果 精度の高い最新のモデルを組み合わせられるように 大幅に原価削減し8万円/月で提供可能に
42. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
43. E2Eから始めて、CPU・メモリ・DB負荷などでしょうか
44. 物理世界でも障害は発生する
45. 気付きにくい障害もちらほら
46. 実は電源がしっかり刺さっていませんでした
47. 解析遅延によりデータが取得できないことも
48. データフローに着目し デリバリーを可視化・監視する
49. モデルは環境によって精度が異なる
50. 1日のうちで物理環境は変化する
51. 数か月単位で物理環境が一気に変わることもある
52. 結果として、精度傾向が変わることもしばしば
53. 精度に関するメトリクスを可視化し データ自体を監視する
54. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 データフローに着目しデリバリーを可視化・監視する 精度に関するメトリクスを可視化しデータ自体を監視する
55. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 データフローに着目しデリバリーを可視化・監視する 精度に関するメトリクスを可視化しデータ自体を監視する
56. 監視アーキテクチャ queue analysis DAG aggregator dashboard camera monitoring
57. 各サービスがリソース状況を送る queue analysis DAG aggregator dashboard camera monitoring
58. データフローに合わせてタイムスタンプを送る queue analysis DAG aggregator dashboard camera monitoring
59. データフローに合わせてタイムスタンプを送る queue analysis DAG aggregator dashboard camera monitoring 2019/3/4 14:40:00
60. データフローに合わせてタイムスタンプを送る queue analysis DAG aggregator dashboard camera monitoring 2019/3/4 14:40:30
61. データフローに合わせてタイムスタンプを送る queue analysis DAG aggregator dashboard camera monitoring 2019/3/4 14:41:30
62. データフローに合わせてタイムスタンプを送る queue analysis DAG aggregator dashboard camera monitoring 2019/3/4 15:00:00
63. データフローに合わせてタイムスタンプを送る queue analysis DAG aggregator dashboard camera monitoring 2019/3/4 15:00:30
64. データデリバリー状況を一覧で表示
65. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 データフローに着目しデリバリーを可視化・監視する 精度に関するメトリクスを可視化しデータ自体を監視する
66. 正面顔率の可視化
67. 精度メトリクスを可視化しているから気付けること
68. 実世界のPDCAをまわすきっかけを得る
69. リファレンスアーキテクチャの効果 プロアクティブな対応が可能となり問合せ件数40%減 運用PDCAをまわし200%以上の成長にも対応可能に
70. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
71. 機械にはできない仕事が多くある
72. 人間がスケールのボトルネックになることも
73. 機械にできない仕事は ヒューマンリソースを効率的に利用する
74. 機械は完璧ではない Szegedy et al. (2013)
75. 人間も完璧じゃない
76. 人間を自然な形で「パーツ」として組み込む Cf. http://www.captcha.net/
77. 機械と人間の特性を加味して 全体フローを設計する
78. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 機械にできない仕事はヒューマンリソースを効率的に利用する 機械と人間の特性を加味して全体フローを設計する
79. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 機械にできない仕事はヒューマンリソースを効率的に利用する 機械と人間の特性を加味して全体フローを設計する
80. プロダクトを中心にサポートと開発が連携できる組織つくり マーケター インサイド セールス セールス サポート サクセス リサーチャー デベロッパー
81. マニュアル化と継続的な改善
82. サポートツールの開発
83. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創 機械にできない仕事はヒューマンリソースを効率的に利用する 機械と人間の特性を加味して全体フローを設計する
84. データ提供までの流れ 施工 デプロイ 真値チェック データ提供 契約
85. 真値チェックが不合格だったらデプロイに戻る 施工 デプロイ 真値チェック データ提供 契約
86. 再度、人の目で精度を確認しデータ提供する 施工 デプロイ 真値チェック データ提供 契約
87. コアで調整できない場合は施工まで戻る 施工 デプロイ 真値チェック データ提供 契約
88. 再度、人の目で精度を確認しデータ提供する 施工 デプロイ 真値チェック データ提供 契約
89. データに異常な傾向が見られた時も真値チェックを実施 施工 デプロイ 真値チェック データ提供 契約
90. 真値チェックを軸にデータ自体の信頼性を担保する 施工 デプロイ 真値チェック データ提供 契約
91. 真値チェックでは解析結果に対して をつける
92. 人間がチェックしやすいように正面顔を対象にする
93. 人間に合わせて明るさも調整する
94. リファレンスアーキテクチャの効果 約100カメラの大型導入にも耐えうる運用体制を構築 信頼性向上により、お客様の売上約150%成長の原動力に
95. リファレンス アーキテクチャ ポイント解説 次なる挑戦
96. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
97. 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
98. リファレンスアーキテクチャは 進化し続けるもの
99. Monitoring is for asking questions. -Dave Josephsen
100. デリバリーに問題があればアーキテクチャを改善すればよい camera camera queue model A model B model C model D aggregator dashboard analysis DAG
101. ハードウェアの知識が必要
102. 信頼性に懸念があれば人間の力を信じて頼ればよい
103. 経済学・心理学の知識も必要
104. さまざまな智を集約し 泥臭くやり切ることが真髄
105. After the lecture is over, we are waiting at the Ask the Speaker section of the exhibition area. If you have any questions, please come to this corner after the session ends. See you Ask the Speaker !!
106. Please give us feedback on this session if you like ID of this session dev-c-2 AI× IoT× ビックデータ時代 におけるリファレンス アーキテクチャへの挑戦 Feedback will be used to develop products and deliver more information https://goo.gl/forms/erEBAsrQK4XKEv352
107. The contents introduced today and the products and services that support the backside of these, We have prepared a booth at the 3F exhibition hall and tell it. Please drop by during the session. GO EXPO Here
108. まとめ
109. AI × IoT × Big Data 時代におけるリファレンスアーキテクチャ Maintenance Monitoring Device Data Analysis Dashboard
110. リファレンスアーキテクチャのポイント 最新の技術を取り込むシステムアーキテクチャ 実世界から学ぶ監視 機械と人間による価値共創
111. ワクワクする未来を 一緒に作っていきましょう！
112. Thank you.