Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
2014-11-28_Elasticsearch
Search
SUZUKI Masashi
November 28, 2014
Technology
0
59
2014-11-28_Elasticsearch
社内でElasticsearchを導入した時の説明資料
SUZUKI Masashi
November 28, 2014
Tweet
Share
More Decks by SUZUKI Masashi
See All by SUZUKI Masashi
2025-01-31 吉祥寺.pm 37 初めての海外カンファレンス
masasuzu
0
440
2025-01-24-SRETT11-OpenTofuについてそろそろ調べてみるか
masasuzu
0
330
2024-03-29 SRETT9 Cloud SQLの可用性について
masasuzu
0
420
2023-12-18 SRETT8 Terraform使いがPulumiに入門する
masasuzu
0
2.3k
2023-12-01 吉祥寺.pm ベストプラクティスと組織とIaC
masasuzu
1
1.6k
SRETT#6_Terraformのtfstateについて考える
masasuzu
2
3k
SRETT#4黒い画面をもっと効率的に(使って自動化の時間を捻出)
masasuzu
2
430
2022-04-12 吉祥寺.pm 29
masasuzu
0
1.4k
2015-12-12-chiba.pm7
masasuzu
0
3.4k
Other Decks in Technology
See All in Technology
1行のコードから社会課題の解決へ: EMの探究、事業・技術・組織を紡ぐ実践知 / EM Conf 2025
9ma3r
12
4.8k
大規模アジャイルフレームワークから学ぶエンジニアマネジメントの本質
staka121
PRO
3
1.6k
DeepSeekとは?何がいいの? - Databricksと学ぶDeepSeek! 〜これからのLLMに備えよ!〜
taka_aki
1
180
データベースの負荷を紐解く/untangle-the-database-load
emiki
2
550
スクラムというコンフォートゾーンから抜け出そう!プロジェクト全体に目を向けるインセプションデッキ / Inception Deck for seeing the whole project
takaking22
2
120
Oracle Database Technology Night #87-1 : Exadata Database Service on Exascale Infrastructure(ExaDB-XS)サービス詳細
oracle4engineer
PRO
1
220
【Snowflake九州ユーザー会#2】BigQueryとSnowflakeを比較してそれぞれの良し悪しを掴む / BigQuery vs Snowflake: Pros & Cons
civitaspo
1
170
開発者のための FinOps/FinOps for Engineers
oracle4engineer
PRO
2
250
EMConf JP 2025 懇親会LT / EMConf JP 2025 social gathering
sugamasao
2
210
OCI Success Journey OCIの何が評価されてる?疑問に答える事例セミナー(2025年2月実施)
oracle4engineer
PRO
2
220
目標と時間軸 〜ベイビーステップでケイパビリティを高めよう〜
kakehashi
PRO
8
990
Pwned Labsのすゝめ
ken5scal
2
570
Featured
See All Featured
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
10
530
GraphQLの誤解/rethinking-graphql
sonatard
69
10k
Become a Pro
speakerdeck
PRO
26
5.2k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
233
17k
Large-scale JavaScript Application Architecture
addyosmani
511
110k
Unsuck your backbone
ammeep
669
57k
Designing for humans not robots
tammielis
250
25k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Documentation Writing (for coders)
carmenintech
68
4.6k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
40
2k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
4
440
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3k
Transcript
Elasticsearch導入 ͖ͣ͢·͞͠ @ ࣾ 1
もくじ 弊社のログアーキテクチャのおさらい Elasticsearch導入の動機 Elasticsearch/Kibana概要 KibanaのDashboard 2
Elasticsearchの 話の前におさらい 3
ログ回りアーキテクチャ おさらい 4
Fluentd http://www.fluentd.org/ ログ収集ミドルウェア input pluginとoutput pluginを柔軟に組み合わせ ることができる ruby ware 弊社ではtd-agentというパッケージを利用してい
る 設定ファイルはFluentdConfプロジェクトで管理 5
td-agent https://github.com/treasure-data/ td-agent fluentdの開発元のTreasure Dataが開 発しているrubyとfluentdを同梱した パッケージ rubyを同梱しているのでsystem rubyに 影響を受けず/与えず利用できる。
6
agent/collector Fluentdに2つの役割を持たせている agent ログを転送するサーバ collector ログを受信するサーバ 7
収集しているログ ※FluentdConfプロジェクト参照 error log apache/nginx/plack access log apache/nginx(reverse proxy,static) application
log MF::FileLogger(社内用ログ出力モジュール) 8
ログの場所 ログサーバの/var/log/td-agent/以下に保存される access log {application,static,reverse_proxy}/access/site/${VHOST}/ エラーなaccess log {application,static,reverse_proxy}/access/status/${STATUS_CODE}/${VHOST}/ error log
plack/error/${APP_NAME}/ {apache,nginx}/error/${HOSTNAME}/ application log app/${APP_NAME}.${LOG_TYPE}/ 9
利用している主なplugin fluent-plugin-forest fluent-plugin-config-expander fluent-plugin-file_alternative fluent-plugin-parser fluent-plugin-rewrite-tag-filter fluent-plugin-record-reformer fluent-plugin-elasticsearch etc.. 10
ログ回りアーキテクチャ おさらい 11
ログ回りアーキテクチャ おさらい agent 1. ログをtailして読み込む 2. collectorにログを転送する collector 3. agentからのログを受信する
4. タグに従って、ログを振り分ける 5. 振り分けに従ってログをファイルに保存 12
これから 13
これから agent 1. ログをtailして読み込む 2. collectorにログを転送する collector 3. agentからのログを受信する 4.
タグに従って、ログを振り分ける 5. 振り分けに従ってログをファイルに保存 5’Elasticsearchにログを転送する 14
そもそもElasticsearch を導入する動機 15
動機 ファイルに保存されてるのでアプリケー ション(web)からログの利用がしにく い。 簡単にできるようにしたい。 16
ファイルめんどう Fluentdで集めたログは一定サイズで rotateされて横断検索がめんどう /var/log/td-agent/foo/bar/ 20141128_0.log.gz /var/log/td-agent/foo/bar/ 20141128_1.log.gz 17
ファイルめんどうcont.. flash後はgzip圧縮されるのでflash前 (buffer)と合わせて横断検索しにくい /var/log/td-agent/foo/bar/ 20141128_0.log.gz /var/log/td-agent/foo/bar/ 20141128_0924141251.log ※gzip圧縮しなくても良いのですが、そ うするとディスクの容量の問題が。 18
ファイルめんどうcont.. ファイルなのでアプリケーションから 参照するときはsshしないといけない 19
検討して選んだのは Elasticsearch 20
選ばれなかったものたち Google Big Query お金の問題と常時外にデータを投げるのに抵抗感 Tresure Data 同上 InfluxDB ちょっと実績足りない
MongoDB MySQL 21
Elasticsearch 22
Elasticsearch http://www.elasticsearch.org/ Apache Luceneベースの全文検索エンジン スキーマレス 型は存在、自動で型マッピングされるが事前に指定も可能 クラスタリング スケーラブルだけど、今回は1台構成 JVM JSON
API Fluentd + Elasticsearch + Kibana3の実績多い Kibanaの存在が決め手 23
ElasticsearchConf Elasticsearch回りの設定管理レポジト リ 設定ファイル KibanaのDashboard スキーママッピング 各種管理スクリプト 24
Elasiticsearchに 保存されるデータ application access log application/staticの404/500なaccess log application log 25
Kibana 26
Kinaba3 ElasticsearchのWebフロントエンドツール JS + HTML 簡単な検索集計であれば、Elasticsearch のAPIを直接使わないでも充分 最新バージョンは4 ただし3を使う 27
利用方針 基本的なログ検索に関してはKibanaで行 う 本当に必要であれば、Elasiticsearch のAPIを利用しても良いが、Kibanaの Dashboardをいじる方が工数が少ない と思います。 アクセスログアラートに関しては Elasticsearchの検索結果を元にするよう に修正予定
28
注意点/制限 ディスク容量と負荷の関連で全てのロ グが検索できるわけでは無いです 現状1台のサーバで大量のログをさばい ているので、重いクエリを短時間で大 量に発行すれば、普通にダウンします。 29
Kibanaの Dashboard構成要素 Header ヘッダー部分 Query 検索条件 Filter 検索条件 Row 複数のPanelをまとめたもの
Panel 検索/集計結果 30
Header ヘッダーです。 Dashboardの保存/読み込み、設定変更 とかできます。 31
QueryとFilter QueryもFilterも検索条件 Queryは複数の検索結果を比較するため に使用するもの Filterはそれぞれの検索結果に対して 条件をつけるもの 32
主なPanelの種類 Histgram 単位時間当たりのデータのカウント/最大値/平 均値などをグラフ化できます Table 実データに中身を参照できます Terms ファセット検索を用いてデータの集計ができま す 33
Histgram 34
Table 35
Terms 36
そのたのPanel map bettermap goal hits sparklines stats trends 37
Kibanaの画面を 見つつ説明 38
Dashboardの保存 一時領域に保存 企画者に検索結果を共有したいときとか ローカルに保存 Elasiticsearchに保存 Dashboard作り中に一時的に保存するときとか 他のユーザに簡単に上書き保存されかねない ElasiticsearchConfのレポジトリに保存 明示的に消さない限りは消えないので恒久的に使いたいもの とか
39
まとめ 適切にログ設定して適切にログ出力さ れていれば、快適なログ検索ができる ようになった 単純なログ検索/集計はKibanaでできる 慣れるまでは、若干辛いのでDashboard をつかいこなしてみてくだしあ 40
リソース ドキュメント Elasticsearch Kibana 書籍 サーバ/インフラエンジニア養成読本 ログ収集 ~可視化編 高速スケーラブル検索エンジン ElasticSearch
Server 41
質疑応答 42
43 おわり