Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
急成長スタートアップのシステムの裏側 / ABEJA Innovation Meetup
Search
toshitanian
January 27, 2017
Technology
0
1.2k
急成長スタートアップのシステムの裏側 / ABEJA Innovation Meetup
toshitanian
January 27, 2017
Tweet
Share
More Decks by toshitanian
See All by toshitanian
エッジデバイスでディープラーニング! AWSを活用したエッジデバイスマネジメントの紹介/ aws-edge-device-deeplearning
toshitanian
1
2k
機械学習プラットフォーム でのDocker利用事例 / DevSumiAbeja
toshitanian
1
500
nvidia-jetson-x-deep-learning
toshitanian
0
1.4k
Amazon Kinesis Video Streams × Deep Learning
toshitanian
1
6.6k
Docker入門 - Ruby on RailsアプリケーションをDockerで動かしてみる - / Introduction to Docker
toshitanian
7
2.8k
Other Decks in Technology
See All in Technology
ゆめみのアクセシビリティの現在地と今後
ryokatsuse
3
290
Azure OpenAI Service Dev Day / LLMでできる!使える!生成AIエージェント
masahiro_nishimi
3
740
20240724_cm_odyssey_hibiyatech
hiashisan
0
110
開発生産性をむしろ向上させる セキュリティパートナーの作り方 / Dev Productivity Con 2024
flatt_security
0
360
サービス開発を前に進めるために 新米リードエンジニアが 取り組んだこと / Steps Taken by a Novice Lead Engineer to Advance Service Development
nologyance
0
180
コミュニティサービスに「あなたへ」フィードを リリースするまでの試行錯誤
takapy
1
140
AWSで”最小権限の原則”を実現するための考え方 /20240722-ssmjp-aws-least-privilege
opelab
10
4.3k
CTOから見た事業開発とプロダクト開発 / My Perspective on Business and Product Development as CTO
keisuke69
4
960
ACRiルーム最新情報とAMD GPUサーバーのご紹介
anjn
0
150
ここがすごいよ! AWS Systems Manager!
saichan11
0
1.8k
Scaling Technical Excellence at 104: Evolution in AWS and Developer Empowerment
scotthsieh825
1
150
初中級者用如何使用backlog -VALE TUDOEDITION-
in0u
0
140
Featured
See All Featured
Building a Scalable Design System with Sketch
lauravandoore
458
32k
Docker and Python
trallard
37
2.9k
Happy Clients
brianwarren
94
6.5k
Intergalactic Javascript Robots from Outer Space
tanoku
266
26k
What’s in a name? Adding method to the madness
productmarketing
PRO
21
2.9k
Being A Developer After 40
akosma
72
580k
No one is an island. Learnings from fostering a developers community.
thoeni
17
2.8k
The Straight Up "How To Draw Better" Workshop
denniskardys
229
130k
Building Flexible Design Systems
yeseniaperezcruz
323
37k
GraphQLの誤解/rethinking-graphql
sonatard
59
9.6k
Automating Front-end Workflow
addyosmani
1362
200k
Git: the NoSQL Database
bkeepers
PRO
423
64k
Transcript
ABEJA Innovation Meetup #ABEJAmeetup 2017/01/26 ABEJA, Inc. 河崎 敏弥
• MachineLearning/DeepLearningを使った動画解析エンジン • 実行する上で課題になる事 • ABEJAでのアプローチ 今日話す事 2
自己紹介
河崎 敏弥 @toshitanian ABEJA, Inc. IoT Analytics Division Product Owner
• 創業1年の時にABEJAに参画 • バックエンドエンジニア • クラウド上でシステム構築 • IoTデバイスとのシステム連携 • ここ2年はコンテナ推し
社名# 株式会社ABEJA# 設立# 2012年9月10日# 住所# 東京都港区虎ノ門4-1-20田中山ビル10F# 事業内容# ディープラーニングを活用した# 産業構造変革のサポート#
ABEJA Platform Ecosystem "
Unstructured Data Structured Data Analytics Engine Distributed Deep Learning Unstructured
Data ↓ Structured Data API ABEJA Platform
Video Analytics with Deep Learning
Video Analytics with Deeplearning 9 動画 解析結果
10 動画 解析結果
11
12 ? ? ? ? ? ? ? ? ?
? ? ?
困った… 13
• 大量の計算リソースの管理 • 大量のデータを処理 • スケール可能な解析インフラ • 効率の良い解析タスクの分散方法 • 利用リソースはアプリケーション依存.
CPU?GPU?占有コア数・メモリ量 • アプリケーション管理 • 解析アプリに必要な要件は? • 管理する解析アプリは増加の一途(研究開発によってできる事は増える) ML/DLの実行プラットフォームが考慮すべき事 14
ABEJAでのアプローチ
コンテナ
• Elasticな実行インフラ • 計算リソースが足りなければ勝手に増える • 解析タスクの分散はコンテナのスケジューラにお任せ • クラスタのどこかでコンテナが動いて解析が走っている状態 • CPUとかGPUとか毎の要件毎にリソースプールを作ってる
コンテナ - 実行インフラのスケーリング - 17 計算処理が増えても安心!
• 解析エンジンはDocker Imageとしてパッケージ化 • コンテナ内部の構成を定義 • コンテナへのファイル入力方法と、結果の出力方法を仕様として定義 • 仕様に合っている限りは基盤上で動く •
Docker registoryベースのアプリケーション管理 • アプリ毎のバージョン管理 • アプリ毎のリソース要件を付加 コンテナ - アプリケーション管理 - 18 アプリが増えても安心!
19 イケてるしヤバいエンジニア募集中 ABEJA Wantedly