[デブサミ秋2015] 新卒入社エンジニアが２年間fluentdを運用して学んだ事いろいろ

by gree_tech

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Copyright © GREE, Inc. All Rights Reserved. グリーでの fluentd の利⽤⽅法 • サービスごとに数台のアグリゲーターを⽤意 • TreasureData や内製のHadoopクラスタにデータ転送 webサーバアグリゲーター Copyright © 2014 The Apache Software Foundation. Apache Hadoop, Hadoop, Apache, the Apache feather logo, and the Apache Hadoop project logo are either registered trademarks or trademarks of the Apache Software Foundation in the United States and other countries.

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Copyright © GREE, Inc. All Rights Reserved. ログを追加しやすい設定例 • ログは基本的にJSONで • カラムの追加が容易 • アプリケーション側でtagをつけるようにする type unix 例１ type tail format json path /path/to/log.json tag log type rewrite_tag_filter rewriterule1 _tag ^(.+)$ db.$1 例２ tagとrecordを自由に渡せるレコード内でテーブルに相当するtagを指定する

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Copyright © GREE, Inc. All Rights Reserved. プラグインをforkして改造しない • fluentdのバージョンアップに追従しづらくなる • 例1: 拡張 out_webhdfs • 問題点 • fluentdのバージョンアップ時にデータが壊れてしまった • 本家のアップデートをマージするのが⼤変だった • 対応 • ⼀部のメソッドに変更点をまとめることができた • WebHDFSOutput を継承するようにした

Slide 10

Slide 10 text

Copyright © GREE, Inc. All Rights Reserved. プラグインをforkして改造しない • fluentdのバージョンアップに追従しづらくなる • 例2: 拡張 in_tail • 昔のfluentdの時から使ってる( fluentd-0.10.35 以前 ) • 問題点 • 公式のtailに追加された機能を取り⼊れるのが難しい • 内製のパーサが動かなくなった • 対応 • どうしようもなかった • 割りきって使っている • 運⽤でカバー • テストをたくさん追加した

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Copyright © GREE, Inc. All Rights Reserved. まとめ • fluentdの運⽤でこうした⽅が良いと思うこと • webサーバのfluentdの設定変更が少ない形にする • プラグインをforkして改造しない • ドキュメントを書く(⾃戒) • なるべく公開されているプラグインを使う • 追加機能は本家にコントリビュート • シンプルに使う • 困ったら#fluentdをつけてtwitterでつぶやくと吉 : )