Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Fluentbit_mulitline_filterについて.pdf
Search
clouddev-code
June 13, 2024
1
770
Fluentbit_mulitline_filterについて.pdf
clouddev-code
June 13, 2024
Tweet
Share
More Decks by clouddev-code
See All by clouddev-code
GitHub_Copilot_AgentでするMCP_Streamable_HTTPまで.pdf
cloudevcode
0
83
EKS_Auto_Mode_Deep_Live.pdf
cloudevcode
0
34
re_invent_2024アップデートで実現可能なアーキテクチャを考える.pdf
cloudevcode
1
280
WebAssembly_workloadをEKSで利用するには.pdf
cloudevcode
0
1.2k
ECS EBS integation の概要、ユースケース
cloudevcode
0
790
ELYA-japanese-Llama-2-7bを Rust(WASM)で動かしてみた
cloudevcode
1
560
agentless metric collection for Amazon EKS
cloudevcode
0
730
DataZoneどこまで使えるものか
cloudevcode
1
560
adot-collectorを本番環境に導入してみた
cloudevcode
0
560
Featured
See All Featured
Rebuilding a faster, lazier Slack
samanthasiow
83
9.1k
Statistics for Hackers
jakevdp
799
220k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.4k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.5k
Optimizing for Happiness
mojombo
379
70k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.4k
Build The Right Thing And Hit Your Dates
maggiecrowley
37
2.8k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
8
750
Practical Orchestrator
shlominoach
190
11k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
Designing for Performance
lara
610
69k
KATA
mclloyd
32
14k
Transcript
2024.06.13 JAWS-UG 東京 #12 s.hiruta (@web_se) java, pythonのStackTraceにまたがる場合に有益な Multiline filter
pluginについて
Self introduction 【名前】 s.hiruta ( @web_se ) 【仕事】 コンテナ、マイクロサービス基盤構築 【興味分野】
Containers、WASM+LLM、 Github clouddev-code zenn clouddevcode 2
Previous LT Slide https://speakerdeck.com/cloudevcode 3
セッションの目的 multiline filterの概要、導入注意点 • 導入の背景 • 導入で期待されること • 具体的な使用例 •
4
アジェンダ • Containerログどう収集していますか • ログ収集パターン • メジャーなFluentbitについて深掘り • StackTraceなど複数行にまたがるときの問題点 •
Mulitiline filter • filter設定時の注意点 • Rewrite tag併用時の注意点 • まとめ 5
コンテナログ収集どうしていますか • 6
ECS https://aws.amazon.com/jp/blogs/news/under-the-hood-firelens-for-amazon-ecs-tasks/
8 EKS https://aws.amazon.com/jp/blogs/news/fluent-bit-for-amazon-eks-on-aws-fargate-is-here-jp/
ログ収集パターン • AWSlogs driver • Fluentbit • OpenTlemetry logging 9
AWSlog drvierによるログ収集 • 手軽だけど、Cloudwatch logsからS3にエクスポー トするときは、Amazon Firehoseあるいは、 EventBridgeを利用する必要がある • Cloudwatch
logsのPutLogEventsは高価 10
Fluentbit 11 • super fast, lightweight and high scalable logging
and metrics processor and forwarder https://www.fluentbit.io/
OpenTelmetry logging • OtelでContext Propagationの考え方でメトリクスとトレースと の相関があり、個々の価値向上を図れそう 12 https://opentelemetry.io/docs/specs/otel/logs/
Fluentbitについて深掘り 13
Fluentbitの仕組み 14
Fluentbitの仕組み • 15
Java、PythonなどStackTrace messageのときの問題点 16
Multiline filter • 複数のレコードやログ行に分割されたメッセージを 連結するのに役に立ちます。例としてスタックト レースやログを複数行に分けて出力するアプリ ケーション 17
Multiline filter 18
Multiline filter 19
Multiline filter 20
Rewrite tag 21 • ログレベルの文字列で出力させたい、別の出力先 に出したいときに利用する • Multiline filterと併用する場合、Rewrite Tagで変更
した後のタグが、Multiline の条件に一致しないよ うにする必要がある
Rewrite tag 22
Athena • ログ連結することでAthenaのログフィールドにマー ジさせてクエリすることができる 23
まとめ • 複数行のログメッセージをマージするときに便利 • Rewrite Tagとの併用に気をつける 24
索引 • Multiline – https://docs.fluentbit.io/manual/pipeline/filters/multiline-stacktrace • Fluent Bit の Multiline
Praserを使用して複数行ログを収集する – https://zenn.dev/nh8939/articles/add269d15152ba • Fluent Bit v3.0 Documentation – https://docs.fluentbit.io/manual 25
26 https://github.com/aws-samples/whats-new-summary-notifier AWS What’s new の 情報をクロールし、 Claude 3にまとめを chatに投稿ツール
ツールを改造して、 GoogleChatのスペー スに飛ばすこともで きる おまけ