Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Amazon Data Firehoseの入門から実戦まで
Search
ONOYAMA Shodai
November 20, 2024
Technology
0
380
Amazon Data Firehoseの入門から実戦まで
2024/11/21(木) 九州AWS若手の会#2 登壇資料
ONOYAMA Shodai
November 20, 2024
Tweet
Share
More Decks by ONOYAMA Shodai
See All by ONOYAMA Shodai
DevOps視点でAWS re:invent2024の新サービス・アプデを振り返ってみた
oshanqq
0
410
AWSを始めた頃に陥りがちなポイントをまとめてみた
oshanqq
1
3.9k
AWS版GitHub?Amazon CodeCatalystの全体像をまとめてみた
oshanqq
2
5.6k
Amazon CloudFront の機能、カテゴリ分けすると理解しやすい説
oshanqq
0
740
ジュニアレベルのAWS学習戦略
oshanqq
1
1.3k
出張! #DevelopersIO IT技術ブログの中の人が語る勉強会 「【速報】AWSの生成AIサービスであるAmazon Bedrock がリリースされたので朝イチで触ってみた」について語る
oshanqq
0
730
EC2 Instance Connectを図解してみた
oshanqq
1
1.6k
初海外・初ベガス・初re:Inventで新卒が感じたこと
oshanqq
1
780
エンジニア志望学生が"ブログの会社"に入社してみて思ったこと〜新卒目線のブログ戦略〜
oshanqq
1
1k
Other Decks in Technology
See All in Technology
Findy Team+ QAチーム これからのチャレンジ!
findy_eventslides
0
500
OpenTelemetry が拡げる Gemini CLI の可観測性
phaya72
2
1.7k
OSSで50の競合と戦うためにやったこと
yamadashy
3
930
サイバーエージェント流クラウドコスト削減施策「みんなで金塊堀太郎」
kurochan
4
2.2k
「魔法少女まどか☆マギカ Magia Exedra」のIPのキャラクターを描くための3Dルック開発
gree_tech
PRO
0
150
個人でデジタル庁の デザインシステムをVue.jsで 作っている話
nishiharatsubasa
2
2.6k
AWS UG Grantでグローバル20名に選出されてre:Inventに行く話と、マルチクラウドセキュリティの教科書を執筆した話 / The Story of Being Selected for the AWS UG Grant to Attending re:Invent, and Writing a Multi-Cloud Security Textbook
yuj1osm
1
120
AI駆動で進める依存ライブラリ更新 ─ Vue プロジェクトの品質向上と開発スピード改善の実践録
sayn0
1
100
Contract One Engineering Unit 紹介資料
sansan33
PRO
0
8.9k
CNCFの視点で捉えるPlatform Engineering - 最新動向と展望 / Platform Engineering from the CNCF Perspective
hhiroshell
0
130
生成AI時代のセキュアコーディングとDevSecOps
yuriemori
0
150
「魔法少女まどか☆マギカ Magia Exedra」におけるバックエンドの技術選定
gree_tech
PRO
0
110
Featured
See All Featured
YesSQL, Process and Tooling at Scale
rocio
173
15k
How To Stay Up To Date on Web Technology
chriscoyier
791
250k
Making Projects Easy
brettharned
120
6.4k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
49
3.1k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
34
2.3k
It's Worth the Effort
3n
187
28k
Designing Experiences People Love
moore
142
24k
Designing for Performance
lara
610
69k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
657
61k
Why You Should Never Use an ORM
jnunemaker
PRO
59
9.6k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
230
22k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
190
55k
Transcript
2024/11/20 九州AWS若⼿の会#2 おのやん Amazon Data Firehoseの ⼊⾨から実戦まで
⽬次 2 1.⾃⼰紹介 2.Amazon Data Firehoseとは? 3.実際のユースケース 4.IaCテンプレート例 5.注意点いろいろ 6.まとめ
⾃⼰紹介 3 • 2023年4⽉ クラスメソッド 新卒⼊社 • 2024年7⽉ 2024 AWS
Jr.Champion ◦ お客様のAWS環境構築を技術的に⽀援 • 部署 ◦ AWS事業本部 コンサルティング部 • 名前(ニックネーム) ◦ ⼩野⼭ 翔⼤ (おのやん) • 出⾝‧住まい ◦ 福岡 • 趣味 ◦ ランニング‧バドミントン ◦ 特撮
Amazon Data Firehoseとは 4 l AWS フルマネージドサービス l ストリーミングデータを収集‧変換 l
他のAWS サービスなど、 分析⽤データストアに配信可能 l 旧 Amazon Kinesis Data Firehose l ストリーミングデータを S3バケット(バケツ)に流す 消⽕ホース(Firehose)のイメージ
コンソールで新アイコンが適⽤されている 数少ないサービス(当⽅観測範囲内) Amazon Data Firehoseとは 5
Amazon Data Firehoseとは 6 https://dev.classmethod.jp/articles/introduction-2024-amazon-data-firehose/
Amazon Data Firehoseとは 7 l 1つのストリームを構成単位とする l 「Data Firehose ストリームを作成」
l バッファサイズとバッファ間隔を ストリームごとに設定 l バッファサイズ:特定のサイズに達したら データストアに保存 l バッファ間隔:特定の期間が経過したら データストアに保存
実際のユースケース 8 l ストリームデータをデータストアに 保存する際のつなぎ l CloudWatchログをS3に保存したい! l 外部SaaSのログをS3に保存したい! l
バッファリングのサイズや時間について 実装が不必要に l シンプルな分、保存ファイル名の変更が 効かないなどの制約はある https://dev.classmethod.jp/articles/introduction-2024- amazon-data-firehose/
IaC テンプレート例 9
注意点いろいろ 10 IaC経由で構築時:Data Firehose ログストリームの作成が必要 l CloudWatch ロググループだけだと構築に失敗する l CloudWatch
ログストリームも明⽰的に作成が必要
注意点いろいろ 11 Data Firehose => S3で保存したGZIP圧縮ファイル: ブラウザ経由でDLすると勝⼿に解凍されるが、ファイルの拡張⼦は変わらない l PCでファイルの内容を確認するときに引っかかりがち
Amazon Data Firehoseとは:おかわり 12 https://dev.classmethod.jp/articles/introduction-2024-amazon-data-firehose/
ファイル名や圧縮形式にそこまで制約がなく ストリーミングデータをデータストアへシンプルに配信したいなら Data Firehoseは⼤いに採⽤の価値あり!! まとめ 13
None