Überwache deine Container

Container sowie Orchestrieungssysteme wie Kubernetes werden gerade das bevorzugte Werkzeug, um Microservices zu betreiben. Während sie beim Deployment und der Isolation von Services vieles erleichtern, erzeugen Container zusätzliche Herausforderungen für Logging und Monitoring.

Eine beliebte Lösung ist der Elastic Stack, der aus Elasticsearch, Logstash, Kibana und Beats besteht. Dieser Vortag gibt einen Überblick über den Elastic Stack und konzentriert sich dann besonders auf Beats, die leichtgewichtigen Shipper, die Logs und Metriken von Containern auslesen.

Dabei gehen wir speziell auf die Fragen ein, wie man:
* Logs von Containern mit Filebeat ausliest
* Metriken mit Metricbeat einsammelt
* den Netzwerkverkehr zwischen Containern mit Packetbeat überwacht
* automatisch Metadaten von Docker-Containern findet
* die ausgelesenen Daten in Kibana visualisieren kann

Transcript

1. Loggen mit Beats Philipp Krenn̴̴̴̴̴@xeraa
5. Infrastructure | Developer Advocate
6. ViennaDB Papers We Love Vienna
7. Beats are lightweight shippers that collect and ship all kinds of operational data to Elasticsearch.
9. Wer verwendet mehr als 10 Server / Container?
10. Wie loggt ihr?
11. Was sind Logs?
12. Was nun?
13. You Know, for Search
16. ELK Stack
21. Elastic Stack
26. Filebeat
27. tail -f ̴ ̴
28. tail -f über das Netzwerk ̴
29. tail -f über das Netzwerk auf !
30. Parsing: Logstash oder Ingest-Node
31. At-Least-Once, Backpressure und Graceful Downtime
34. Multiline Filtering JSON Decode
35. Loggen mit Docker 101 Optionen
36. https://docs.docker.com/engine/admin/logging/overview/
37. 001 JSON-File Filebeat für JSON ➕ Simpel, Standard, gut integriert Metadata (Name, Labels,...) docker logs ➖ Potentiell langsam Standardmäßig Dateigröße unlimitiert
38. 010 Syslog Lokaler Syslog Server und Filebeat ➕ Kontrolle über Pfad, Rotation,... ➖ Eigener Syslog Server Metadaten serialisiert und deserialisiert Multiline
39. 011 Journald Filebeat ➕ Oft verfügbar Metadaten docker logs ➖ Noch nicht von Filebeat unterstützt (Community Beat: Journalbeat)
40. 100 GELF Logstash-GELF-Input ➕ Direkte Logstash-Anbindung ➖ UDP — keine Zustellungsgarantie, keine Backpressure
41. 101 Volume Filebeat ➕ Einfache Installation (wenn Applikation Logs rotieren kann) Skalierbar ➖ Metadaten
42. ! Heute: JSON, Syslog, Volume Zukunft: Journald
43. Metricbeat
44. Metricbeat System
45. Metricbeat Service
46. cgroup Daten von /proc/ lesen Teil der System Module
47. Kein Zugriff auf Docker API notwendig Security
48. Alle Container Docker, rkt, runC, LXD,...
49. Reichert Prozesse automatisch mit cgroup Information an Keine Container Name oder Labels
50. But Docker...
51. Dockerbeat https://github.com/Ingensi/dockerbeat
52. Dockerbeat https://github.com/Ingensi/dockerbeat
53. Dockbeat https://github.com/Ingensi/dockbeat
54. Bald in Metricbeat master
55. Metricbeat und Docker
57. Half Float
58. Packetbeat
59. Protokolle
60. Flows Nicht unterstützte / verschlüsselte (TLS) Protokolle auf Applikations-Layer IP / TCP / UDP Anzahl Pakete & Bytes Retransmissions Zeitliche Abläufe
61. Packetbeat und Docker
62. Winlogbeat
63. Community Beats
64. Springbeat Spring Boot /metrics & /health https://github.com/consulthys/springbeat
65. Execbeat execbeat: execs: - cron: "@every 10s" command: echo args: "Hello World" fields: host: testhost
66. Nagioscheckbeat input: checks: - name: "disks" cmd: "plugins/check_disk" args: "-w 80 -c 90 -x /dev" period: "1h" - name: "load" cmd: "plugins/check_load" args: "-w 5 -c 10" period: "1m"
67. Dein Beat
68. libbeat https://github.com/elastic/beats/tree/ master/generate/beat
69. Docker Images
70. https://github.com/elastic/elasticsearch-docker https://github.com/elastic/kibana-docker https://github.com/elastic/logstash-docker
71. --- version: '2' services: kibana: image: docker.elastic.co/kibana/kibana:5.0.1 links: - elasticsearch ports: - 5601:5601 elasticsearch: image: docker.elastic.co/elasticsearch/elasticsearch:5.0.1 cap_add: - IPC_LOCK volumes: - esdata1:/usr/share/elasticsearch/data ports: - 9200:9200 volumes: esdata1: driver: local
72. Kein :latest mehr
73. Löst Docker alle Probleme? Für Stateful Services
74. Fazit
77. PS: Mehr Open Source Training Dev Support Consulting Support
78. Danke! Fragen? Philipp Krenn̴̴̴̴̴@xeraa PS: Stickers
79. Schnitzel: https://flic.kr/p/9m27wm Architecture: https://flic.kr/p/6dwCAe Conchita: https://flic.kr/p/nBqSHT Elk horn: https://www.theexplora.com/the-irish-elk- megaloceros-giganteus/ Container ship: https://flic.kr/p/hjxW62 https://flic.kr/p/2AzAVJ Wooden logs: https://flic.kr/p/9vvbKE
80. Axe: https://flic.kr/p/pBU2VD Tools: https://flic.kr/p/5JFmTS Files: https://flic.kr/p/2EFcQ Metric: https://flic.kr/p/9g5h3f Packages: https://flic.kr/p/cJFDLN Windows: https://flic.kr/p/94Z6y Library: https://flic.kr/p/fiXcBj