快速入門可觀測性

DevOps Taiwan Meetup #65 - 快速入門可觀測性
面對眾多的可觀測性工具與技術，常令人不知如何開始。本次分享將以資料流的角度，分析工具間的關係，快速構建完整框架概念，為後續的可觀測性技術選型與導入奠定基礎。

Transcript

1. DevOps Taiwan Meetup # 6 5 劉義瑋 Blueswen 快速⼊⾨可觀測性
2. ⾃介  • 劉義瑋 Blueswen • blueswen @ GitHub • DevOps Engineer @ Berry AI • 領域 • DevOps • Observability • Developer Experience
3. Dev or Ops？ Front End or Back End？
4. 你也是被冠上天才之名的通靈奇才嗎？
5. 強化 Observability 可觀測性，⼈⼈都能通靈
6. Outline  • Observability Introduction • Observability Signals Data Flow • Recap 圖⽚來源：Grafana
7. Observability Introduction
8. Observability Intro  有⾜夠的資訊嗎？ 他們都有被好好保存嗎？ 有好好利⽤這些資訊嗎？ 是否散落個處，形成 Data Silo？ 透過各種資訊，清楚了解系統狀態 Log ⼯具 指標儀表板 APM ⼯具
9. Observability Intro  有⾜夠的資訊嗎？ 他們都有被好好保存嗎？ 有好好利⽤這些資訊嗎？ 是否散落個處，形成 Data Silo？ 透過各種資訊，清楚了解系統狀態 Log ⼯具 指標儀表板 APM ⼯具
10. Observability Intro - Observability Signals  指標 不同時間採樣的系統量化指標 如：CPU 使⽤率、API 回應時間 ⽇誌 紀錄系統中發⽣的事情 如：Debug 訊息、Exception 分散式追蹤 紀錄⾏為在不同服務中的歷程 如：SSO ⾏為橫跨多個服務 系統主動揭露讓我們能夠更理解它的資訊
11. Observability Intro - Observability Signals  徵狀：有問題發⽣ 脈絡：怎麼發⽣的 發⽣什麼事 哪裡發⽣的 狀況如何 系統主動揭露讓我們能夠更理解它的資訊
12. Observability Intro  有⾜夠的資訊嗎？ 他們都有被好好保存嗎？ 有好好利⽤這些資訊嗎？ 是否散落個處，形成 Data Silo？ 透過各種資訊，清楚了解系統狀態 Log ⼯具 指標儀表板 APM ⼯具
13. Observability Intro - Grafana  Metrics 儀表板範例 OpenTelemetry Application Performance Management 開源的視覺化與儀表板⼯具，並提供告警功能
14. Observability Intro - Grafana  ⽀援多種資料來源
15. Observability Intro - Grafana  Exemplar 時間區段同步 Trace ID 連結 建⽴資訊關聯，交互應⽤、產⽣綜效
16. Observability Intro  想要⼊⾨，但⼯具好多怎麼學 Cloud Native Landscape
17. Observability Signals Data Flow
18. Observability Signals Data Flow 
19. Observability Signals Data Flow  ⽣成 收集 儲存 使⽤ 資訊處理四步驟
20. Observability Signals Data Flow - 資料流向  資料流向會依據資料特性、場景有所不同
21. Observability Signals Data Flow  ⽣成 收集 儲存 使⽤ 了解⼯具在 Data Flow 中的定位
22. Observability Signals Data Flow - Metrics  Prometheus Metrics Exporter Prometheus Client Library ⽣成 收集 儲存 使⽤
23. Observability Signals Data Flow - Logs  Logging Library ⽣成 收集 儲存 使⽤
24. Observability Signals Data Flow - Traces  ⽣成 收集 儲存 使⽤
25. Observability Signals Data Flow - Basic  基礎的 Observability Signals Data Flow
26. Observability Signals Data Flow - New Component  新需求：Prometheus Metrics 需要 Long-term Storage
27. Observability Signals Data Flow - New Component  新需求：Prometheus 只做收集 Metrics 使⽤太多資源
28. Observability Signals Data Flow - New Component  新需求：Traces 要做額外加⼯
29. Observability Signals Data Flow - New Component  新需求：收集資訊⽤的 Agent 太多，簡化架構
30. Observability Signals Data Flow - New Component  新需求：⼈⼿不⾜，維運服務負擔過⼤
31. • OpenTelemtry Collector 的 Span Metrics Connector 能將 Traces 資訊轉化 成為 Metrics Observability Signals Data Flow - Metrics from Traces  範例程式
32. Observability Signals Data Flow - Pyroscope  • Pyroscope 以 SDK 或 eBPF 對 Application 進⾏ Pro fi ling，產⽣紀錄程式效 能的 Pro fi les 資訊 範例程式
33. Observability Signals Data Flow - Beyla  • Beyla 透過 eBPF 收集資料，產⽣ Traces 與 Metrics 範例程式
34. Observability Signals Data Flow - Faro  • Faro Web SDK 收集前端事件，以 Logs 與 Treces 形式紀錄，了解使⽤者的 真實體驗狀況 範例程式
35. Observability Signals Data Flow - ⽔管⼯  注意流向、流量、儲存空間 Pipe Dream Windows 3 .x version
36. Observability Signals Data Flow - ⽔管⼯  • OpenAI 2 0 2 4 / 1 2 / 1 1 Incident • ⼤量新部署的 Telemery Service 發送 API 把 K 8 s Control plane 擠爆，導 致 Cluster 無法正常運作
37. • 可觀測性：透過各種資訊，清楚了解系統狀態 • 擴充更多資訊 • 單⼀平台達成綜效 • Observability Data Flow • ⽣成、收集、儲存、使⽤ • 了解⼯具在 Data Flow 中的定位 • 注意流向、流量、儲存空間 Recap 
38. Recap  ⼀起當個快樂的⽔管⼯吧！
39. 延伸閱讀  • 從零開始打造可觀測性平台：可觀測性平台 Workshop 簡報與 Lab • iThome 鐵⼈賽 • 時光之鏡：透視過去、現在與未來的 Observability：Observability 概 念、⼯具與應⽤介紹 • 你以為你在學 Grafana 其實你建⽴了 Kubernetes 可觀測性宇宙：LGTM Stack with Kubernetes • 淺談DevOps與Observability：Observability ⼯具與概念介紹 • Grafana 全家桶，如何打造⾼可⽤且具可擴充性的 o 1 1 y 平台 • Observability Conference 2 0 2 4
40. 延伸閱讀  • Demo Project • FastAPI Observability • Spring Boot Observability • FastAPI Tracing with Jaeger through OpenTelemetry • OpenTelemetry Application Performance Management • Prometheus: The Documentary - Prometheus 紀錄⽚ • The Grafana documentary: The fi rst 1 0 years - Grafana 紀錄⽚
41. ⼯商時間  可觀測性概念、⼯具介紹 天瓏網路書店 2024 鐵⼈賽 - Grafana Zero to Hero
42. • 徵 Senior DevOps Engineer • Tech Stack • Python • React • Ansible AWX • Cloud: AWS • On-Prem: Ubuntu • Grafana Stack ⼯商時間  Job Description