Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Lambdaでサーバレス化した時に考慮し忘れちゃったこと
Search
Yasuhiro Matsuda
November 21, 2021
Technology
610
1
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Lambdaでサーバレス化した時に考慮し忘れちゃったこと
JAWS PANKRATION 2021
の登壇資料の日本語版です。
Yasuhiro Matsuda
November 21, 2021
More Decks by Yasuhiro Matsuda
See All by Yasuhiro Matsuda
明日から業務に使える 生成AI活用ワークショップ
matyuda
0
89
生成AI活用セミナー
matyuda
0
58
中小企業だからこそ狙われる現実を知る
matyuda
0
280
現場で活かす生成AI実践セミナー「広報×AI活用」編
matyuda
0
520
いしかわ暮らしセミナー~知って安心!移住とお金講座~
matyuda
0
300
AI活用ワークショップ
matyuda
0
430
AIを活用した広報と事業計画を一気に学ぶワークショップ
matyuda
0
380
AWSを活用したAIサービス開発(フルバージョン)
matyuda
0
130
AWSを活用したAIサービス開発
matyuda
0
290
Other Decks in Technology
See All in Technology
AI・HPC開発を支えるGPU環境の新しい選択肢 液冷GPUシステム「AquSys」の取り組み
gpuunite_official
0
110
20260804_Q4AzureUpdateBite_FabricDataAgentの精度を高める設計.pdf
matayuuu
1
150
Bill One 開発エンジニア 紹介資料
sansan33
PRO
7
20k
モダンフロントエンド 開発研修
recruitengineers
PRO
4
800
つくって納得、つかって実感! 大規模言語モデルことはじめ ver2.0
recruitengineers
PRO
5
2k
Invisible to AI? Making TYPO3 Sites Quotable by AI Search Systems
wolfgangwagner
0
230
35分でわかるEffective Platform Engineering
nwiizo
5
470
小粒でもパワフルなJS Runtime Antjsについて
comamoca
0
110
Bits AI を制するものは Datadog を制す / The player that controls Bits AI, controls Datadog
kaminashi
0
130
2027年のMetricKit
kantacky
0
110
LLM Internals: 언어 모델의 계보와 알고리즘 진화 (2023~2026)
inureyes
PRO
0
730
Goでデータパイプラインを作ろう
sansantech
PRO
1
510
Featured
See All Featured
Producing Creativity
orderedlist
PRO
348
40k
How Software Deployment tools have changed in the past 20 years
geshan
1
34k
SEO Brein meetup: CTRL+C is not how to scale international SEO
lindahogenes
1
2.8k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.8k
Building an army of robots
kneath
306
46k
Leading Effective Engineering Teams in the AI Era
addyosmani
9
2.4k
Noah Learner - AI + Me: how we built a GSC Bulk Export data pipeline
techseoconnect
PRO
0
390
BBQ
matthewcrist
89
10k
Documentation Writing (for coders)
carmenintech
77
5.5k
Rails Girls Zürich Keynote
gr2m
96
14k
The Impact of AI in SEO - AI Overviews June 2024 Edition
aleyda
5
1.2k
Are puppies a ranking factor?
jonoalderson
1
3.8k
Transcript
Lambdaでサーバレス化した時に 考慮し忘れちゃったこと JAWS-UG 金沢 松田 康宏
自己紹介 私は金沢市にある印刷会社のインフラエンジニア として2020年まで勤務し、AWSを利用したインフ ラの概念検証を担当 2021年1月よりイースト株式会社に転職 JAWS-UG金沢に2018年より参加し、コアメンバー として活動 ファイナンシャルプランナー (AFP) 趣味はランニング、ボウリング、家庭菜園
#jawsug_kanazawa
#jawsug_kanazawa
金沢支部の紹介 1ヶ月ごとに勉強会を行なっており、AWSに興味ある方、 より一層活用したい方、使っている仲間を見つけたい方 に是非とも参加いただきたいです #jawsug_kanazawa 2019年にAWS Community Day Kanazawaを開催し、120 名以上の方にお集まりいただきました
本日のゴール ・手軽にサーバレスを実現できるLambdaにお ける落とし穴と対応策を理解する ・Lambdaのコールドスタートとスロットリン グについて理解する
本日お話すること ・サーバレス化した概要についてです ・サーバレスに移行した際の落とし穴 ・どうすればよかったのか?
サービス内容の紹介 ・DONGRIという辞書アプリをイースト株式会社では提供して おり、各種辞典、用語集など幅広いラインナップから利用がで きます ・iOS, Android, Windows版を提供 し、複数のディバイスを通して辞 書が利用できることが特徴で、オ ンラインだけでなくオフラインで
も利用できます
システム面での特徴 ・主に学校と自宅で利用されることが多い ・平日日中時間帯と夜間に利用が多い ・特に日中時間帯は授業で一斉に利用されることが多く、瞬 間的なピークが発生しやすい
移行前のアーキテクチャ 複数のEC2をロ ードバランサ― に接続し負荷分 散を行うシンプ ルな構成
旧アーキテクチャが抱えていた課題 ・拡張性がなく、冗長構成を維持するためのコストが高止まり ・ap-northeast-1bのみにインスタンスが構築されており、アベ イラビリティーゾーン障害時にサービス停止となる可能性 ・Windows Serverをベースにしたシステムで保守コストが高 い ・EC2内にある独自データベースを保守することが困難
更新後のアーキテクチャ LambdaとDocumentDBを使った構成 スケーリングできるようにするとと もにマネージドサービスに移行する ことで保守コストを押さえられた 移行途中のため、DocumentDBに移 行されていない辞書については従来 のシステムにリクエストを転送し、 検索を行っている
何が起こったか? 負荷テストを行っていたところ、502エラーが発生 デフォルト1000となっている同時実行数を超えたことが原因
同時実行数の緩和申請 アカウントの同時実行 数を1000→5000に緩和 申請して問題を解決し たつもりでした
しかし… 再度負荷テストを実施したところ、異なるエラーが発生 辞書の検索アルゴリズムが原因でスロットリングが発生していたことがわかる
スロットリングについて
スロットリングについて
どうすればよかったのか? ・処理時間を減らす →コールドスタートを避けProvisioned Concurrrency Setteingsを使用 ex. serverless-provisioned-concurrency-autoscaling
コールドスタートとはなにか?
抜本的な対応策 ・スパイクにも耐えらえる構成を採用することが重 要 ・「ロマンシング サガ リ・ ユニバースの大規模負荷を 処理する Amazon ECS
& Docker運用知見」が非常に 参考になる
まとめ ・採用するアーキテクチャの特徴を良く理解す る ・概念実証時には負荷テストも考慮する ・ドキュメントをよく読もう ・他社の事例を見よう
ご清聴ありがとうございました JAWS-UG金沢 松田 康宏