Программирование с Grafana и InfluxDB

Доклад Вячеслава Смирнова из Райффайзенбанк для митапа сообщества по тестированию производительности (qa_load)

Рассказ про программирование с Grafana 6.5.2 и InfluxDB 1.7.

Рассмотрены две темы:
1. Фильтрация выпадающих списков с тегами InfluxDB по времени из Grafana
2. Вычисление длительности выполнения теста с ELAPSED и передача фильтров по времени из отчета в отчет через ссылки Grafana

Косвенно затронуты темы:
1. Вычисление интенсивности записи метрик из Gatling в InfluxDB с помощью функции ELAPSED
2. Настройка InfluxDB для разбора метрик по протоколу Graphite.
3. Настройка InfluxDB для сохранения идентификатора запуска теста Gatling.
4. Настройка Gatling для передачи идентификатора запуска теста в InfluxDB.

Чат сообщества QA — Load & Performance:
https://t.me/qa_load

Запись выступления:
https://youtu.be/sEcudxQB62M?t=573

Transcript

1. Программирование с Grafana и InfluxDB Смирнов Вячеслав Райффайзенбанк
2. Ускоряю Raiffeisen Business Platform
3. Программированию с Grafana и InfluxDB стоит научиться ради красивых и гибких отчётов
4. 4 Стандартный отчет Gatling Realtime https://gatling.io/docs/current/realtime_monitoring
5. 5 Gatling Realtime: RPS https://gatling.io/docs/current/realtime_monitoring
6. 6 Gatling Realtime: Latencies https://gatling.io/docs/current/realtime_monitoring
7. 7 Gatling Realtime: Errors vs Passes https://gatling.io/docs/current/realtime_monitoring
8. 8 Gatling Realtime: Individual Requests https://gatling.io/docs/current/realtime_monitoring
9. 9 Gatling Realtime: Individual Requests Уберём другие тесты с доски https://gatling.io/docs/current/realtime_monitoring
10. 10 Gatling Realtime: Individual Requests Уберём другие тесты с доски https://gatling.io/docs/current/realtime_monitoring
11. 11 Gatling Realtime: Individual Requests Уберём другие тесты с доски
12. 12 Gatling Realtime: после фильтрации https://gatling.io/docs/current/realtime_monitoring
13. 13 Gatling Realtime: после фильтрации https://gatling.io/docs/current/realtime_monitoring
14. 14 Gatling Realtime: проблемы 1 Нет фильтрации по тестам 2 Нет фильтрации по запускам
15. 15 В Gatling HTML Report есть таблицы
16. 16 Есть Active Users на каждом графике
17. 17 Подобраны цвета под графики
18. 18 Простои отображаются пустотами
19. 19 Gatling Realtime: проблемы 1 Нет фильтрации по тестам 2 Нет фильтрации по запускам 3 Gatling HTML красивее и точнее, чем Realtime отчёт
20. 20 Проблемы, решаемые в докладе 1 Нет фильтрации по тестам 2 Нет фильтрации по запускам 3 Gatling HTML красивее и точнее, чем Realtime отчёт
21. 21 Фильтрация по тестам (симуляциям) class OpenModelRampUsers extends Simulation { setUp( SimpleScenario.simpleScenario("rampUsers") .inject( rampUsers(1000) during (60 seconds) ).protocols(Protocol.httpConf) ) }
22. 22 Фильтрация по тестам (симуляциям) Нужно разделить результаты
23. 23 Фильтрация по тестам (симуляциям) Простая выборка тегов из Influx
24. 24 Простая выборка тегов из InfluxDB выдаёт теги
25. 25 Простая выборка тегов из InfluxDB выдаёт теги, без фильтра по времени
26. 26 Простая выборка тегов из InfluxDB выдаёт теги, без фильтра по времени SHOW TAG VALUES FROM "gatling" WITH KEY = "simulation"
27. 27 Простая выборка тегов из InfluxDB выдаёт теги, без фильтра по времени SHOW TAG VALUES FROM "gatling" WITH KEY = "simulation"
28. 28 Простая выборка тегов из InfluxDB с фильтром по времени SHOW TAG VALUES FROM "gatling" WITH KEY = "simulation" WHERE $timeFilter
29. 29 Простая выборка тегов из InfluxDB с фильтром по времени SHOW TAG VALUES FROM "gatling" WITH KEY = "simulation" WHERE $timeFilter
30. 30 Размер шарды 168 часов точность фильтрации 168 часов > use gatling Using database gatling > show retention policies name duration shardGroupDuration replicaN def ---- -------- ------------------ -------- --- autogen 0s 168h0m0s 1 tru https://docs.influxdata.com/influxdb/v1.7/query_language/schema_exploration/#filter-meta-queries-by-time
31. 31 Выборка тегов из InfluxDB Refresh: On Time Range Change
32. 32 Выборка тегов из InfluxDB c DISTINCT("tag") и подзапросом SELECT DISTINCT("simulation") FROM (SELECT "simulation","mean" FROM "gatling" WHERE $timeFilter)
33. 33 Выборка тегов из InfluxDB c DISTINCT("tag") и подзапросом SELECT DISTINCT("simulation") FROM (SELECT "simulation","mean" FROM "gatling" WHERE $timeFilter) https://stackoverflow.com/questions/54931888/
34. 34 Выборка тегов из InfluxDB c DISTINCT("tag") и подзапросом SELECT DISTINCT("simulation") FROM (SELECT "simulation","mean" FROM "gatling" WHERE $timeFilter) execution: 92 ms planning: 12 ms total: 104 ms https://stackoverflow.com/questions/54931888/
35. 35 Выборка тегов из InfluxDB c GROUP BY "tag" и подзапросом SELECT "simulation" FROM ( SELECT last("mean") FROM "gatling" WHERE $timeFilter GROUP BY "simulation")
36. 36 Выборка тегов из InfluxDB c GROUP BY "tag" и подзапросом SELECT "simulation" FROM ( SELECT last("mean") FROM "gatling" WHERE $timeFilter GROUP BY "simulation") execution: 4 ms planning: 28 ms total: 31 ms
37. 37 Выборка тегов из InfluxDB c GROUP BY "tag" и подзапросом SELECT "tag" FROM ( SELECT last("field") FROM "measurement" WHERE $timeFilter AND ... GROUP BY "tag" )
38. 38 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Нет фильтрации по запускам 3 Gatling HTML красивее и точнее, чем Realtime отчёт
39. 39 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Нет фильтрации по запускам ◦ нет идентификатора запуска 3 Gatling HTML красивее и точнее, чем Realtime отчёт
40. 40 Для фильтрации по запускам Расчитаем идентификатор запуска def getRunID(roundMinute: Int): String = { val dateTimeFormatter = DateTimeFormatter.ofPattern("yyyy-MM-dd_HH") val startTime = OffsetDateTime.now().format(dateTimeFormatter) val date = new Date() val calendar = new GregorianCalendar() calendar.setTime(date) val minute = calendar.get(Calendar.MINUTE) val minuteRound = round(floor( 1.0d * minute / roundMinute) * roundMinute) s"${startTime}:${"%02d".format(minuteRound)}" }
41. 41 Временной идентификатор запуска 2020-01-22_15:10 2020-01-22_15:20 2020-01-22_15:30 2020-01-22_15:40 2020-01-22_15:50 2020-01-22_16:00 2020-01-22_16:10
42. 42 Перед передачей идентификатора убираем rootPathPrefix из gatling.conf graphite { light = false # only send the al host = "localhost" # The host where t port = 2003 # The port to whic protocol = "tcp" # The protocol use #rootPathPrefix = "gatling" # The common prefi bufferSize = 81920 # Internal data bu writePeriod = 1 # Write period, in }
43. 43 Передача идентификатора тесту Для maven artifact (Engine.scala) var config = scala.collection.mutable.Map( core.directory.Resources -> IDEPathHelper.resourcesDirectory.toString, data.graphite.RootPathPrefix -> s"v2.gatling.${getRunId(10)}.${getHost}", core.SimulationClass -> "io.qaload.gatling.simulation.OpenModel" ) Gatling.fromMap(config)
44. 44 Примеры rootPathPrefix для Gatling v2.gatling.2020-01-22_15:10.LoadAgent1 v2.gatling.2020-01-22_15:20.LoadAgent1 v2.gatling.2020-01-22_15:30.LoadAgent2 v2.gatling.2020-01-22_15:40.LoadAgent3 v2.gatling.2020-01-22_15:50.LoadAgent4 v2.gatling.2020-01-22_16:00.LoadAgent4 v2.gatling.2020-01-22_16:10.LoadAgent5
45. 45 Разбор rootPathPrefix в influxdb.conf templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
46. 46 Разбор rootPathPrefix в influxdb.conf gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
47. 47 Разбор rootPathPrefix в influxdb.conf gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
48. 48 Разбор rootPathPrefix в influxdb.conf gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
49. 49 Разбор rootPathPrefix в influxdb.conf gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
50. 50 Разбор rootPathPrefix в influxdb.conf gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
51. 51 Разбор rootPathPrefix в influxdb.conf gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
52. 52 Разбор измерения (measurement) gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling
53. 53 Разбор тега simulation gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers
54. 54 Разбор тега request gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers request (тег) allRequest
55. 55 Разбор тега status gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok
56. 56 Разбор поля count gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле)
57. 57 Разбор поля count (значение поля) gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле) 1
58. 58 Разбор экстра-тега group gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле) 1 group (тег) 0
59. 59 Разбор метки времени gatling.openmodelatonceusers.allRequests.ok.count 1 1577784130 "gatling.*.*.*.* measurement.simulation.request.status.field group=0", Измерение InfluxDB gatling simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле) 1 group (тег) 0 время 1577784130
60. 60 Разбор rootPathPrefix в influxdb.conf v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
61. 61 Разбор rootPathPrefix в influxdb.conf v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
62. 62 Разбор rootPathPrefix в influxdb.conf v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
63. 63 Разбор rootPathPrefix в influxdb.conf v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
64. 64 Разбор rootPathPrefix в influxdb.conf v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
65. 65 Подходит один template v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 templates = [ "gatling.*.users.*.* measurement.simulation.measurement.request.field", "gatling.*.*.*.* measurement.simulation.request.status.field group=0", "gatling.*.*.*.*.* measurement.simulation.group1.request.status.field group=1", "gatling.*.*.*.*.*.* measurement.simulation.group1.group2.request.status.field group=2", "gatling.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.request.status.field group= "gatling.*.*.*.*.*.*.*.* measurement.simulation.group1.group2.group3.group4.request.status.field "v2.gatling.*.*.*.users.*.* .measurement.run.host.simulation.measurement.request.field", "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", "v2.gatling.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.request.status.field group=1 "v2.gatling.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.request.status.field "v2.gatling.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.request.stat "v2.gatling.*.*.*.*.*.*.*.*.*.* .measurement.run.host.simulation.group1.group2.group3.group4.req ]
66. 66 v2 не сохраняется v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0",
67. 67 Разбор измерения (measurement) v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling
68. 68 Разбор тега run v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10
69. 69 Разбор тега host v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1
70. 70 Разбор тега simulation v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers
71. 71 Разбор тега request v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers request (тег) allRequest
72. 72 Разбор тега status v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok
73. 73 Разбор поля count v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле)
74. 74 Разбор поля count (значение поля) v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле) 1
75. 75 Разбор экстра-тега group v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле) 1 group (тег) 0
76. 76 Разбор метки времени v2.gatling.2020-01-22_15:10.LoadAgent1.openmodelatonceusers.allRequests.ok.count 1 1577784130 "v2.gatling.*.*.*.*.*.* .measurement.run.host.simulation.request.status.field group=0", Измерение InfluxDB gatling run (тег) 2020-01-22_15:10 host (тег) LoadAgent1 simulation (тег) openmodelatonceusers request (тег) allRequest status (тег) ok count (поле) 1 group (тег) 0
77. 77 Выбор тега run (фильтр) из InfluxDB c фильтрацией по simulation SELECT "run" FROM ( SELECT last("mean") FROM "gatling" WHERE $timeFilter AND "run" <> '' AND "simulation" = '$simulation' GROUP BY "run")
78. 78 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Нет фильтрации по запускам ◦ есть идентификатор запуска ◦ нет периода от старта до финала 3 Gatling HTML красивее и точнее, чем Realtime отчёт
79. 79 Значение graphite.writePeriod в gatling.conf может быть разным graphite { light = false # only s host = "localhost" # The ho #rootPathPrefix = "gatling" # The co writePeriod = 1 # Write bufferSize = 81920 # Intern }
80. 80 Значение graphite.writePeriod можно вычислить через ELAPSED SELECT last("wp90") as "writePeriod" FROM ( SELECT PERCENTILE("wp", 90) as "wp90" FROM ( SELECT ELAPSED("count", 1s) as "wp" FROM "gatling" WHERE "simulation" = '$simulation' and $timeFilter AND "status" = 'all' AND "request" = 'allRequests' ) GROUP BY time(10s), "run" ) GROUP BY "run"
81. 81 Значение graphite.writePeriod можно вычислить через ELAPSED SELECT last("wp90") as "writePeriod" FROM ( SELECT PERCENTILE("wp", 90) as "wp90" FROM ( SELECT ELAPSED("count", 1s) as "wp" FROM "gatling" WHERE "simulation" = '$simulation' and $timeFilter AND "status" = 'all' AND "request" = 'allRequests' ) GROUP BY time(10s), "run" ) GROUP BY "run"
82. 82 Сумма graphite.writePeriod примерно равна длительности теста SELECT SUM(ELAPSED("count", 1s)) AS "duration" FROM "gatling" WHERE "simulation" = '$simulation' AND $timeFilter AND "status" = 'all' AND "request" = 'allRequests' GROUP BY "run"
83. 83 Длительность теста ±10 в конце теста через cumulative_sum SELECT last("d") AS "Duration" FROM ( SELECT cumulative_sum(elapsed(last("count"), 1s)) AS "d" FROM "gatling" WHERE "simulation" = '$simulation' AND $timeFilter GROUP BY time(10s), "run" ) GROUP BY "run"
84. 84 Двойная длительность теста в момент завершения теста ±10 сек SELECT (last("d")+10)*2 AS "DoubleDuration" FROM ( SELECT cumulative_sum(elapsed(last("count"), 1s)) AS "d" FROM "gatling" WHERE "simulation" = '$simulation' AND $timeFilter GROUP BY time(10s), "run" ) GROUP BY "run"
85. 85 Зададим длительность time.window/2 и момент завершения теста time https://grafana.com/docs/grafana/latest/reference/timerange/#controlling-time-range-using-url
86. 86 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Нет фильтрации по запускам ◦ есть идентификатор запуска ◦ есть период от старта до финала 3 Gatling HTML красивее и точнее, чем Realtime отчёт
87. 87 Для Time в Table panel зададим стиль и представим Time, как ссылку https://grafana.com/docs/grafana/latest/reference/timerange/#controlling-time-range-using-url
88. 88 Можно ссылаться на ячейки таблицы и на переменные из фильтра /d/gatling/gatling-report? time=${__cell}& time.window=${__cell_2}000& var-g=${__cell_3}s& var-run=${__cell_1}& var-simulation=${simulation}& var-loadstation=All& ...
89. 89 Выбираем большой период (7 days) и название теста в фильтре
90. 90 Выбираем строку запуска теста и переходим по ссылке на интервал
91. 91 Видим нужные графики без лишних метрик
92. 92 Видим нужные графики без лишних метрик
93. 93 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Есть фильтрация по запускам ◦ есть идентификатор запуска ◦ есть период от старта до финала 3 Gatling HTML красивее и точнее, чем Realtime отчёт
94. 94 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Есть фильтрация по запускам ◦ есть идентификатор запуска ◦ есть период от старта до финала 3 Gatling HTML красивее и точнее, чем Realtime отчёт
95. 95 Заголовок отчета из Text (html) с названием и длительностью
96. 96 Заголовок отчета из Text (html) с названием и длительностью
97. 97 Сводная информация по тесту гистограмма, пай, сводная таблица
98. 98 Сводная таблица с колонками групп Группы отображаются если они есть
99. 99 Boom Table с группами в строчку Группы отображаются если они есть
100. 100 Active Users Along Simulation с поддержкой распределённого теста
101. 101 Response Time Percentile over Time с корретным заполнением пустот
102. 102 Number of requests per second с поддержкой распределённого теста
103. 103 Number of responces per second с подобранными цветами
104. 104 Детальный график с запросами и группами запросов
105. 105 Динамический список мини-отчетов по запросам
106. 106 Гибкие фильтры с тегами и точной фильтрацией элементов
107. 107 Гибкие фильтры с тегами и точной фильтрацией элементов
108. 108 Проблемы, решаемые в докладе 1 Есть фильтрация по тестам 2 Есть фильтрация по запускам ◦ есть идентификатор запуска ◦ есть период от старта до финала 3 Gatling Realtime красив, точен и удобен в работе
109. 109 Результаты будут на github github.com/Raiffeisen-DGTL
110. Сообщество @qa_load 110 Image by ar130405 from Pixabay
111. Сообщество @qa_load 111
112. Вопросы Смирнов Вячеслав owasp@yandex.ru @polarnik @qa_load 112