1B+ /day規模のログを管理する技術

Transcript

1. 1B+ / day規模のログを管理する技術 左近充 裕樹 株式会社 ブロードリーフ Fukuoka.sre#0 2026/06/19
2. ## 名前 左近充 裕樹 _さこんじゅう ひろき_ ## 所属 株式会社ブロードリーフ ## 役割 インフラエンジニア # 自己紹介
3. 社名 株式会社ブロードリーフ 上場市場 東京証券取引所 プライム市場 (3673) 連結従業員数 920人 (2024年12月末時点) 開発拠点 3拠点 (札幌・東京・福岡) 開発体制: 全国約100人のうち、福岡には約35人が在籍 福岡拠点: 中洲川端駅直結のビルに位置 会社概要
4. 会社紹介 4
5. 本編
6. ログの管理が 辛い
7. どのシステムにおいてもログは非常に大事なテレメトリーデータです。 しかし、コスパが ちょうどいい塩梅 で管理するのは難しいです。 超巨大サービスのログ管理術は参考になるものの 🙄「はえ〜、すっごい」 となってしまうこともあると思います。 1B+/day 程度の規模のログをどう扱っているかを紹介します。 はじめに
8. こんな感じの構成にしている
9. Elasticsearchはコストを最適化している 直近はSSD 長期保存はHDD さらにスナップショットを GCSに取得する事により任 意の時点のログも 復元可能にしている
10. この構成のメリット 1. 低コストな運用 OSSのみで構成されているため、ライセンス費用を抑えること が出来る。 この規模だとDatadogにログを集約すると課金がヤバい。
11. この構成のメリット 1. 低コストな運用 OSSのみで構成されているため、ライセンス費用を抑えること が出来る。 この規模だとDatadogにログを集約すると課金がヤバい。 2. 高い柔軟性 自由なconfig設定が可能。DatadogやCloud Loggingの 上限を超えるような大規模なログも保存可能。
12. この構成のメリット 1. 低コストな運用 OSSのみで構成されているため、ライセンス費用を抑えること が出来る。 この規模だとDatadogにログを集約すると課金がヤバい。 2. 高い柔軟性 自由なconfig設定が可能。DatadogやCloud Loggingの 上限を超えるような大規模なログも保存可能。 3. 運用の容易さ Kubernetes Operatorを採用しているため、管理や運用が 比較的容易。
13. この構成のメリット 1. 低コストな運用 OSSのみで構成されているため、ライセンス費用を抑えること が出来る。 この規模だとDatadogにログを集約すると課金がヤバい。 2. 高い柔軟性 自由なconfig設定が可能。DatadogやCloud Loggingの 上限を超えるような大規模なログも保存可能。 3. 運用の容易さ Kubernetes Operatorを採用しているため、管理や運用が 比較的容易。 4. 健全なライフサイクル Kubernetesのバージョンに追従する必要があるため、 「塩漬け」を防ぐ ことができる。
14. 🤔 DatadogとElasticsearchだと コンテキストが散らばってて 問題発生時にAIで調査しづらくない？
15. AI活用の現時点の現実解 それはそう。 コンテキスト不足でBits AIの精度も悪い。 AI Agentがハブとなる Skillを使って両方のコンテキストを取得 最近はAgentが賢いので、この構成でも 精度が高い
16. まとめ • ある程度の規模だとセルフホストになる ◦ ただ、塩漬け出来ない仕組みにしておくと、強制力が働く • 最近のAI Agentは賢いので、コンテキストがバラバラでも何とかなる • Bits AI使いたい