Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Lambdaでサーバレス化した時に考慮し忘れちゃったこと
Search
Yasuhiro Matsuda
November 21, 2021
Technology
1
390
Lambdaでサーバレス化した時に考慮し忘れちゃったこと
JAWS PANKRATION 2021
の登壇資料の日本語版です。
Yasuhiro Matsuda
November 21, 2021
Tweet
Share
More Decks by Yasuhiro Matsuda
See All by Yasuhiro Matsuda
AWSを活用したAIサービス開発(フルバージョン)
matyuda
0
27
AWSを活用したAIサービス開発
matyuda
0
23
マーケティング実践とデジタル活用
matyuda
0
52
カンタンAI活用術
matyuda
0
58
スタートアップ企業の支援のあり方
matyuda
0
35
利益を生まない情報セキュリティとバックアップに投資する重要性
matyuda
0
71
いしかわ暮らしセミナー~移住にまつわるお金の話~
matyuda
0
160
身近なセキュリティについて学びましょう!
matyuda
0
160
情報処理安全確保支援士の視点で考える中小企業におけるセキュリティ対策
matyuda
0
150
Other Decks in Technology
See All in Technology
2024年にチャレンジしたことを振り返るぞ
mitchan
0
130
サイバー攻撃を想定したセキュリティガイドライン 策定とASM及びCNAPPの活用方法
syoshie
3
1.2k
ずっと昔に Star をつけたはずの思い出せない GitHub リポジトリを見つけたい!
rokuosan
0
150
watsonx.ai Dojo #5 ファインチューニングとInstructLAB
oniak3ibm
PRO
0
160
KubeCon NA 2024 Recap: How to Move from Ingress to Gateway API with Minimal Hassle
ysakotch
0
200
オプトインカメラ:UWB測位を応用したオプトイン型のカメラ計測
matthewlujp
0
170
Opcodeを読んでいたら何故かphp-srcを読んでいた話
murashotaro
0
180
Oracle Cloudの生成AIサービスって実際どこまで使えるの? エンジニア目線で試してみた
minorun365
PRO
4
280
OpenAIの蒸留機能(Model Distillation)を使用して運用中のLLMのコストを削減する取り組み
pharma_x_tech
4
550
日本版とグローバル版のモバイルアプリ統合の開発の裏側と今後の展望
miichan
1
130
Amazon Kendra GenAI Index 登場でどう変わる? 評価から学ぶ最適なRAG構成
naoki_0531
0
110
Jetpack Composeで始めるServer Cache State
ogaclejapan
2
170
Featured
See All Featured
jQuery: Nuts, Bolts and Bling
dougneiner
61
7.5k
What's in a price? How to price your products and services
michaelherold
243
12k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
28
8.3k
VelocityConf: Rendering Performance Case Studies
addyosmani
326
24k
Building Better People: How to give real-time feedback that sticks.
wjessup
365
19k
Making the Leap to Tech Lead
cromwellryan
133
9k
Making Projects Easy
brettharned
116
5.9k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
251
21k
A designer walks into a library…
pauljervisheath
204
24k
Bootstrapping a Software Product
garrettdimon
PRO
305
110k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
0
97
Transcript
Lambdaでサーバレス化した時に 考慮し忘れちゃったこと JAWS-UG 金沢 松田 康宏
自己紹介 私は金沢市にある印刷会社のインフラエンジニア として2020年まで勤務し、AWSを利用したインフ ラの概念検証を担当 2021年1月よりイースト株式会社に転職 JAWS-UG金沢に2018年より参加し、コアメンバー として活動 ファイナンシャルプランナー (AFP) 趣味はランニング、ボウリング、家庭菜園
#jawsug_kanazawa
#jawsug_kanazawa
金沢支部の紹介 1ヶ月ごとに勉強会を行なっており、AWSに興味ある方、 より一層活用したい方、使っている仲間を見つけたい方 に是非とも参加いただきたいです #jawsug_kanazawa 2019年にAWS Community Day Kanazawaを開催し、120 名以上の方にお集まりいただきました
本日のゴール ・手軽にサーバレスを実現できるLambdaにお ける落とし穴と対応策を理解する ・Lambdaのコールドスタートとスロットリン グについて理解する
本日お話すること ・サーバレス化した概要についてです ・サーバレスに移行した際の落とし穴 ・どうすればよかったのか?
サービス内容の紹介 ・DONGRIという辞書アプリをイースト株式会社では提供して おり、各種辞典、用語集など幅広いラインナップから利用がで きます ・iOS, Android, Windows版を提供 し、複数のディバイスを通して辞 書が利用できることが特徴で、オ ンラインだけでなくオフラインで
も利用できます
システム面での特徴 ・主に学校と自宅で利用されることが多い ・平日日中時間帯と夜間に利用が多い ・特に日中時間帯は授業で一斉に利用されることが多く、瞬 間的なピークが発生しやすい
移行前のアーキテクチャ 複数のEC2をロ ードバランサ― に接続し負荷分 散を行うシンプ ルな構成
旧アーキテクチャが抱えていた課題 ・拡張性がなく、冗長構成を維持するためのコストが高止まり ・ap-northeast-1bのみにインスタンスが構築されており、アベ イラビリティーゾーン障害時にサービス停止となる可能性 ・Windows Serverをベースにしたシステムで保守コストが高 い ・EC2内にある独自データベースを保守することが困難
更新後のアーキテクチャ LambdaとDocumentDBを使った構成 スケーリングできるようにするとと もにマネージドサービスに移行する ことで保守コストを押さえられた 移行途中のため、DocumentDBに移 行されていない辞書については従来 のシステムにリクエストを転送し、 検索を行っている
何が起こったか? 負荷テストを行っていたところ、502エラーが発生 デフォルト1000となっている同時実行数を超えたことが原因
同時実行数の緩和申請 アカウントの同時実行 数を1000→5000に緩和 申請して問題を解決し たつもりでした
しかし… 再度負荷テストを実施したところ、異なるエラーが発生 辞書の検索アルゴリズムが原因でスロットリングが発生していたことがわかる
スロットリングについて
スロットリングについて
どうすればよかったのか? ・処理時間を減らす →コールドスタートを避けProvisioned Concurrrency Setteingsを使用 ex. serverless-provisioned-concurrency-autoscaling
コールドスタートとはなにか?
抜本的な対応策 ・スパイクにも耐えらえる構成を採用することが重 要 ・「ロマンシング サガ リ・ ユニバースの大規模負荷を 処理する Amazon ECS
& Docker運用知見」が非常に 参考になる
まとめ ・採用するアーキテクチャの特徴を良く理解す る ・概念実証時には負荷テストも考慮する ・ドキュメントをよく読もう ・他社の事例を見よう
ご清聴ありがとうございました JAWS-UG金沢 松田 康宏