Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Datadog Logs に ログを集約しようと してる話
Search
orfx
August 25, 2020
Technology
0
7k
Datadog Logs に ログを集約しようと してる話
Japan Datadog User Group Meetup#1
https://datadog-jp.connpass.com/event/185920/
orfx
August 25, 2020
Tweet
Share
More Decks by orfx
See All by orfx
GitLab CI/CDとECS Fargateでリリース作業が楽になった話
orfx
2
4.9k
Other Decks in Technology
See All in Technology
スクラムチームを立ち上げる〜チーム開発で得られたもの・得られなかったもの〜
ohnoeight
2
350
20241120_JAWS_東京_ランチタイムLT#17_AWS認定全冠の先へ
tsumita
2
230
【令和最新版】AWS Direct Connectと愉快なGWたちのおさらい
minorun365
PRO
5
750
Amazon Personalizeのレコメンドシステム構築、実際何するの?〜大体10分で具体的なイメージをつかむ〜
kniino
1
100
Why App Signing Matters for Your Android Apps - Android Bangkok Conference 2024
akexorcist
0
120
AGIについてChatGPTに聞いてみた
blueb
0
130
スクラム成熟度セルフチェックツールを作って得た学びとその活用法
coincheck_recruit
1
140
第1回 国土交通省 データコンペ参加者向け勉強会③- Snowflake x estie編 -
estie
0
120
Lambdaと地方とコミュニティ
miu_crescent
2
370
AWS Media Services 最新サービスアップデート 2024
eijikominami
0
190
開発生産性を上げながらビジネスも30倍成長させてきたチームの姿
kamina_zzz
2
1.7k
VideoMamba: State Space Model for Efficient Video Understanding
chou500
0
190
Featured
See All Featured
Music & Morning Musume
bryan
46
6.2k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
6
410
Dealing with People You Can't Stand - Big Design 2015
cassininazir
364
24k
Embracing the Ebb and Flow
colly
84
4.5k
Six Lessons from altMBA
skipperchong
27
3.5k
Optimising Largest Contentful Paint
csswizardry
33
2.9k
Happy Clients
brianwarren
98
6.7k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
246
1.3M
Building a Scalable Design System with Sketch
lauravandoore
459
33k
Put a Button on it: Removing Barriers to Going Fast.
kastner
59
3.5k
Agile that works and the tools we love
rasmusluckow
327
21k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
159
15k
Transcript
Datadog Logs に ログを集約しようと してる話 川口 奏 Japan Datadog User
Group Meetup#1
1 自己紹介 1 川口 奏 (Kawaguchi So) 所属: 株式会社アイリッジ (自社サービス
FANSHIP 運用チームのエンジニア) 使用クラウド: AWS(一部GCP) Datadog 歴: ちょうど2年くらい 使ってる機能: • Dashboard • Monitor • APM • Logs • UX Monitoring 最近苦労した事: Datadog のプラン変更(主に事務作業)
2 主なログ保管場所 S3 (JSON file) CloudWatch Logs Datadog Logs コストが安い・高信頼性
AWS サービスと相性がいい UI がリッチ・設定が柔軟 閲覧がシェル芸 操作性が・・・ 連携方法が乏しかった
リッチなUI
4 リッチなUI
5 リッチなUI タイムレンジ • 右上のセレクトメニューで画面に表示するログの期間を絞れる。 • ⏪ ⏩ でタイムレンジを指定期間でスライドさせることができる。
6 リッチなUI ファセット • 左端のチェックボックスから用意された分類ごとに絞り込み条件 を絞ることができる。 • 設定した絞り込み条件は後述の検索に反映される • ファセットは手動で設定しているので適切に設定・用意されてい
ないログも存在する。
7 リッチなUI 検索 • 画面上部の入力欄からもフリーテキスト絞り込み条件が設定できる。 • 除外や AND/OR、ワイルドカードなど使用可能な書式は下記を参照 ◦ https://docs.datadoghq.com/ja/logs/search_syntax/
8 リッチなUI ログ一覧 • 絞り込み条件に一致したログの一覧が表示される • 右上 Options からカラム並び替え・削除などの表示を切り替えられる。
9 リッチなUI ログ詳細 • ログ一覧から各ログの詳細を表示することができる。 • 各項目を選択することで下記の機能が使用できる。 ◦ Search fo
~~~ ▪ 絞り込み条件に項目を追加できる。 ▪ 表示されない場合は後述のファセット追加 が必要。 ◦ Exclude ~~~ ▪ 絞り込みの除外条件に項目を追加できる。 ◦ Add column for ~~~ ▪ ログ一覧のカラムに項目を追加できる。 ◦ Create facets for ~~~ ▪ ファセットに項目を追加できる。 ◦ Create measure for ~~~ ▪ 値が数値の場合、レンジや大小比較で絞り 込みすることができるファセットを追加でき る。
10 リッチなUI 非エンジニアにも優しい、直感的に操作可能なUI -> 実際にサポートチームに共有している 資料をほぼそのままスライド転用
設定が柔軟
12 設定が柔軟 システム毎のログフォーマットの違いを パイプラインの強力なプロセッサーで吸収できる { "asctime": "2020-04-08 22:21:08,616" , "levelname":
"INFO", "message": "Request info" , "params": { "request_path" : "/aaa/bbb/ccc/" , "client_ip": "xxx.xxx.xxx.xxx" , } } { "msg": { "msg": "program finished." , "action_type" : "aaa" }, "level": "info", "time": "2020-08-24T22:28:47+09:00" , "timestamp": 1598275727000 } システムA システムB
13 設定が柔軟 Grok Parser
14 設定が柔軟 { "log": "{\"msg\": {...}, \"time\":\"2020-07-27T15:50:39+09:00 \", \"level\": \"info\"}",
"service": "fanship", "source": "stderr", "timestamp": 1595832639000 } ログフォーマットを吸収できた事例 (JSON in JSON) Datadog サポートの方に神速で教えていただきました
Datadog Logs への 連携経路
16 Datadog Logs への連携経路 以前は・・ • datadog-agent が直接ログを tail して
Datadog に送信までさせる方法 ◦ 詳しく語らないが、弊社で過去にトラブルが発生した • ECS Fargate は CloudWatch Logs を経由させる方法しかほぼ無かった ◦ 二重課税
17 Datadog Logs への連携経路 (ECS アプリログ) ECS Service Application Container
Datadog Output plugin Datadog Logs FireLens Log driver FireLens の登場と、いつの 間にか fluent-bit に追加され てた Datadog Output plugin でシンプルなログの連携が 可能になった
18 Datadog Logs への連携経路 (ELB アクセスログ) Datadog Logs ELB S3
Datadog Forwarder CloudFormation Access Logs Put Invoke Deploy • Datadog Forwarder という公式ツールを使って、ELBのアク セスログを Datadog Logs に連携できる • CFn テンプレートも公開されているのでデプロイも楽 • Lambda 時点のフィルタリング設定も可能
19 Datadog Logs への連携経路 (ELB アクセスログ) • パイプライン設定も公式 Library から設定するだけで
マッピングされる
20 まとめ • 非エンジニアでも使いやすいUI • 柔軟な設定でログの集約場所にしやすい • ログの連携経路に目途が立った
21 最後に https://iridge-tech.hatenablog.com/ Datadog に関する記事も公開予定です!