DevOpsDays Brasília - Gestão centralizada de logs com ELK - Gustavo Hoyer

Palestrante: Gustavo Hoyer

Gestão centralizada de logs com ELK
A palestra consistirá na apresentação de arquiteturas de referência para a implantação de um sistema de gestão centralizada de logs com o ELK abordando vantagens e desvantagens de cada arquitetura, e apresentar o case da Dataprev mostrando a arquitetura adotada, volumes e tipos de logs tratados.

Trilha: Metrics (métricas, monitoramento, gestão)
Público alvo: Intermediário

Transcript

2. Gestão Centralizada de Logs com ELK Case Dataprev
3. Agenda Gustavo O. Hoyer Líder de equipe, Dataprev @gustavohoyer github.com/gohoyer Introdução Arquiteturas de referência Case Dataprev
4. A Dataprev
5. A Dataprev
6. Introdução “Logs provide visibility into the behavior of a running app” - The Twelve-Factor App
7. Casos de uso
8. Etapas de um SGCL Coleta Tratamento Armazenamento Análise
9. Ferramentas Coleta Tratamento Armazenamento Análise Beats Logstash Elasticsearch
10. Kibana
11. Kibana
12. Possibilidades • Dados de infraestrutura – Análise de erros – Medir a quantidade de deploys – Medir a performance da sua aplicação – Horário de maior utilização da aplicação • Dados de negócio – Quantidade de clientes cadastrados – País de origem dos usuários do seu site – Horário que mais realiza vendas – Produtos mais visualizados
13. Possibilidades
14. Arquiteturas Cluster Elasticsearch Cluster Elasticsearch Logstash Logstash Kibana Log Shippers Beats syslog
15. Arquiteturas Balanceamento Logstash Cluster Elasticsearch Logstash Logstash Kibana Log Shippers Beats syslog
16. Arquiteturas Message Queue + Logstash Message Queue Cluster Elasticsearch Logstash Logstash Redis Forwarders Indexers Kibana Log Shippers Beats syslog
17. Arquiteturas Especialização dos nodes Elasticsearch Message Queue Cluster Elasticsearch Logstash Logstash Redis Indexers Forwarders Client Nodes Master Nodes Kibana Log Shippers Beats syslog Data Nodes
18. Arquiteturas Hot / Warm Message Queue Cluster Elasticsearch Logstash Logstash Redis Indexers Data Nodes (hot) Forwarders Client Nodes Master Nodes Kibana Log Shippers Beats syslog Data Nodes (warm)
19. Arquiteturas Cluster para monitoração Message Queue Cluster Elasticsearch Logstash Logstash Redis Indexers Data Nodes (hot) Forwarders Client Nodes Master Nodes Kibana Log Shippers Beats syslog Data Nodes (warm) Monit Marvel
20. Arquiteturas Multiplos clusters – Tribe node Tokio Houston Kibana Cluster Elasticsearch Data Nodes (hot) Client Nodes Master Nodes Data Nodes (warm) Monit Marvel Cluster Elasticsearch Data Nodes (hot) Client Nodes Master Nodes Data Nodes (warm) Tribe Node Monit Marvel
21. Case Dataprev Arquitetura adotada SP SP DF DF RJ RJ Cluster Elasticsearch Logstash Logstash Client Nodes Master Nodes Indexers Data Nodes
22. Case Dataprev Volume de dados • > 14 bilhões de registros (45 dias) • > 21 TB de dados (>42 TB com as réplicas) • Cluster: – 15 data nodes – 3 master nodes – 1 client node • 12 Indexadores + 6 Forwarders • 6 Redis
23. Case Dataprev Tipos de logs tratados • LDAP • Ativos de rede • Linux • Apache/Nginx • Aplicações Java • Varnish • Proxy • Correio eletrônico • Agentes puppet
24. Case Dataprev Dashboards - Geral
25. Case Dataprev Dashboards - Puppet
26. Case Dataprev Dashboards - Apache
27. Case Dataprev Dashboards - Apache
28. Perguntas?
29. Referências • https://www.elastic.co/webinars/es-at-scale • https://www.elastic.co/blog/multiple-elasticsearch-clusters • https://www.elastic.co/blog/tribe-node • https://www.elastic.co/blog/clustering_across_multiple_data_centers • https://devops.com/log-data-valuable-tool-devops-lifecycle-beyond/ • https://calm.io/2016/06/29/devops-instrumentation-metrics-monitors-and-logs/ • https://12factor.net/logs