Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
データ集計結果を提供するAPIとServerlessでの失敗談
Search
dasoran
January 18, 2019
Technology
0
550
データ集計結果を提供するAPIとServerlessでの失敗談
dasoran
January 18, 2019
Tweet
Share
More Decks by dasoran
See All by dasoran
llama.cppのバックエンドggmlを読もう
dasoran
0
44
Rift Sで沢山苦労した話といくつかの処方箋
dasoran
0
340
機械学習を支えるx86-64の拡張命令セットを読む会
dasoran
0
54
Other Decks in Technology
See All in Technology
敢えて生成AIを使わないマネジメント業務
kzkmaeda
2
470
How Do I Contact HP Printer Support? [Full 2025 Guide for U.S. Businesses]
harrry1211
0
130
Sansanのデータプロダクトマネジメントのアプローチ
sansantech
PRO
0
200
LLM時代の検索
shibuiwilliam
2
430
Glacierだからってコストあきらめてない? / JAWS Meet Glacier Cost
taishin
1
170
タイミーのデータモデリング事例と今後のチャレンジ
ttccddtoki
6
2.5k
第4回Snowflake 金融ユーザー会 Snowflake summit recap
tamaoki
1
300
What’s new in Android development tools
yanzm
0
460
クラウド開発の舞台裏とSRE文化の醸成 / SRE NEXT 2025 Lunch Session
kazeburo
1
290
[ JAWS-UG千葉支部 x 彩の国埼玉支部 ]ムダ遣い卒業!FinOpsで始めるAWSコスト最適化の第一歩
sh_fk2
2
130
Delta airlines®️ USA Contact Numbers: Complete 2025 Support Guide
airtravelguide
0
340
開発生産性を組織全体の「生産性」へ! 部門間連携の壁を越える実践的ステップ
sudo5in5k
3
7.5k
Featured
See All Featured
Java REST API Framework Comparison - PWX 2021
mraible
31
8.7k
Embracing the Ebb and Flow
colly
86
4.7k
Navigating Team Friction
lara
187
15k
Site-Speed That Sticks
csswizardry
10
690
GraphQLの誤解/rethinking-graphql
sonatard
71
11k
Bootstrapping a Software Product
garrettdimon
PRO
307
110k
Building a Modern Day E-commerce SEO Strategy
aleyda
42
7.4k
A Tale of Four Properties
chriscoyier
160
23k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
229
22k
The Power of CSS Pseudo Elements
geoffreycrofte
77
5.9k
Visualization
eitanlees
146
16k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
44
2.4k
Transcript
データ集計結果を提供するAPIと Serverlessでの失敗談 データとML周辺エンジニアリングを考える会 #1 2019/1/18 @dasoran2
自己紹介 - なんでもやるエンジニア - Python(クラウド系ツール、 Webアプリ、機械学習) - Java(Webアプリ) - Ruby(RailsだけだからRubyはできない)
- あとterraformとかansibleとか.... - 普段はML系の基盤とか火消しとか - GCP x k8sはじめました - 趣味でゲート式量子コンピュータしてます 安田 京太(@dasoran2)
はなすこと - ある日の出来事 - Serverlessとの出会い - やってみた - つらかったこと1 -
つらかったこと2 - まとめ
ある日の出来事 - 簡単なレコメンドAPIを作ることに 適当な集計 (協調フィルタとか) 類似関係のデータ (IDで引ける) 外部 APIサーバー HTTP
チーム内の会話 こんな簡単なシステムでいちいち ECS task書きたくないなぁ.... 最近 って フレームワークがいいらしい APIはこれでいくか....? terraformもいっぱい書きたくない
最近 って フレームワークがいいらしい APIはこれでいくか....? terraformもいっぱい書きたくない チーム内の会話 こんな簡単なシステムでいちいち ECS task書きたくないなぁ.... 面倒臭さと好奇心に敗北した エンジニア各位
やってみた データソース 集計batch (日次) 集計結果 API処理
やってみた データソース 集計batch (日次) 集計結果 API処理 Serverlessで楽できる
やってみた データソース 集計batch (日次) 集計結果 API処理 Serverlessで楽できる lambdaがいっぱい立ち上がるから RDSじゃなくDynamoDB
やってみた データソース 集計batch (日次) 集計結果 API処理 Serverlessで楽できる lambdaがいっぱい立ち上がるから RDSじゃなくDynamoDB アプリのdeployから分離するため
結局terraform管理
やってみた データソース 集計batch (日次) 集計結果 API処理 Serverlessで楽できる lambdaがいっぱい立ち上がるから RDSじゃなくDynamoDB 実行時間で諦めたECS
アプリのdeployから分離するため 結局terraform管理
やってみた データソース 集計batch (日次) 集計結果 API処理 Serverlessで楽できる lambdaがいっぱい立ち上がるから RDSじゃなくDynamoDB 実行時間で諦めたECS
アプリのdeployから分離するため 結局terraform管理 あれ、あまり楽になってない....
つらかったこと1: Lamda不安定問題 - 偶発的にレスポンスが極端に劣化する - Lambdaのコールドスタートに起因する様子 - リクエストが多いとわからないため負荷テスト時には発覚せず - pingを打って回避を試みても偶発的に発生する
- ググってもLambdaの仕様で起こるっぽい的な記事がでてくるが真偽は謎 - だれか解決策知ってたら教えてください
つらかったこと2: DynamoDB高すぎ問題 - 毎日すべてのコンテンツの類似コンテンツを集計した - 1日3時間程度 12000 Write Capacity が必要に
- 差分更新できれば良かったが .... - 結果、月$700程度DynamoDBのコストが発生
つらかったこと2: DynamoDB高すぎ問題 - 毎日すべてのコンテンツの類似コンテンツを集計した - 1日3時間程度 12000 Write Capacity が必要に
- 差分更新できれば良かったが .... - 結果、月$700程度DynamoDBのコストが発生 全件更新系のBatchには DynamoDBの課金体系は向かない
つらかったこと2+: スループット管理怖すぎ問題 - (先日の新しい課金プランで解決した) - Writeしている際に予期しないエラーでハンドリングできず batchが落ちた - Write Capacityが大きい状態のまま放置される
- ひどい金額の課金が発生した スループット管理は慎重に ....
まとめ - 少なくともDynamoDBは全件入れ替え系の集計には向かない - Lambdaが不安定なので以下の場合は向かない可能性がある - レスポンスタイム要求がシビア - リトライ等が難しい -
知らない方法で解決できると嬉しいな - 結局Serverlessと同じくらい容易にDeployできる基盤を構築したほうが、 現在の環境では利用可能範囲が広そう - Serverlessくらいの記述量で扱えるコンテナ基盤がほしい .... - がんばって研究中!