Невидимые ошибки Go-разработчика – Артём Картасов

Transcript

1. Невидимые ошибки Go-разработчика Артём Картасов, инженер Postgres.ai GopherCon Russia Online 2020
2. Обо мне • инженер в Postgres.ai • контрибьютор в open-source • ментор и наставник образовательных проектов по разработке на Go 2
3. Зачем этот доклад и для кого? • поделиться опытом • рассмотреть распространенные ошибки • развеять мифы 3
4. 10 лет Go https://twitter.com/bradfitz/status/1193550962792681473 4
5. Go очень простой 5
6. В чём особенность ошибок? • не видны на первый взгляд 6
7. В чём особенность ошибок? • не видны на первый взгляд 7
8. В чём особенность ошибок? • не видны на первый взгляд • тесты успешно проходят 8
9. В чём особенность ошибок? • не видны на первый взгляд • тесты успешно проходят • проявляются с течением времени 9
10. В чём особенность ошибок? • не видны на первый взгляд • тесты успешно проходят • проявляются с течением времени • проявляются на больших масштабах 10
11. Масштаб имеет значение Утилизация CPU в одной из точек присутствия Cloudflare 11 https://blog.cloudflare.com/details-of-the-cloudflare-outage-on-july-2-2019/
12. Чего в докладе не будет • явные ошибки/неправильное использование синтаксиса 12
13. Чего в докладе не будет • микро-оптимизации и performance 13
14. А что же будет ? 14 ************* ********* ********** ******* ************** ********* * ******** ********* ********
15. App? 15 Понятно Наглядно
16. App? URL shortener 16 Понятно Наглядно
17. App? URL shortener 17 Понятно Наглядно
18. App? 18
19. Podcast App • список эпизодов • прослушанные эпизоды • новые эпизоды 19
20. Podcast App 20
21. Podcast App. Список эпизодов GET /latest 21
22. Podcast App. Прослушанные эпизоды 22
23. Podcast App. Прослушанные эпизоды 23
24. Неоптимальные аллокации 24
25. Неоптимальные аллокации 25
26. Профилирование https://github.com/google/pprof 26
27. Профилирование. Vegeta echo "GET http://localhost:6060" | vegeta attack -rate 250 -duration=30s | vegeta report Requests [total, rate, throughput] 7500, 250.03, 250.00 Duration [total, attack, wait] 30.000460044s, 29.995965447s, 4.494597ms Latencies [mean, 50, 95, 99, max] 4.50337ms, 4.51515ms, 4.912763ms, 5.463ms, 28.8979ms Bytes In [total, mean] 37500, 5.00 Bytes Out [total, mean] 0, 0.00 Success [ratio] 100.00% Status Codes [code:count] 200:7500 Error Set: 27 https://github.com/tsenart/vegeta
28. Профилирование. Graph 28
29. Неоптимальные аллокации. Map 29 https://www.ardanlabs.com/blog/2013/12/macro-view-of-map-internals-in-go.html
30. Неоптимальные аллокации. Структура hmap 30 https://github.com/golang/go/blob/master/src/runtime/map.go
31. Неоптимальные аллокации. Структура hmap 31 https://github.com/golang/go/blob/master/src/runtime/map.go
32. Неоптимальные аллокации. Эвакуация 32 https://www.ardanlabs.com/blog/2013/12/macro-view-of-map-internals-in-go.html
33. Неоптимальные аллокации. Как исправить? 33
34. Неоптимальные аллокации. Исправили! 34
35. Graph после исправления 35
36. Неоптимальные аллокации. Итоги • используйте знания о данных 36
37. Неоптимальные аллокации. Итоги • используйте знания о данных • профилирование * 37 * если есть сомнения
38. Неоптимальные аллокации. Итоги • используйте знания о данных • профилирование * • continuous profiling ** ◦ https://github.com/profefe/profefe ◦ https://github.com/segmentio/pprof-server ◦ https://github.com/conprof/conprof 38 * если есть сомнения ** если сомнений нет
39. Невидимые ошибки неоптимальные аллокации ********** ******* ************** ********* * ******** ********* ******** 39
40. Out of memory 40
41. Почему? 41
42. Незакрытые ресурсы 42
43. Незакрытые ресурсы • file, err := os.Open("file.go") • response, err := http.Get("https://example.com/") • rows, err := db.Query(query) • ticker := time.NewTicker(duration) 43
44. Незакрытые ресурсы 44
45. Незакрытые ресурсы Не забыть: • defer file.Close() • defer response.Body.Close() • defer rows.Close() • defer ticker.Close() 45
46. Незакрытые ресурсы. Как не забыть? 46
47. Незакрытые ресурсы. Как не забыть? • бдительность • мониторинг 47
48. Незакрытые ресурсы. Как не забыть? • бдительность ◦ code review ◦ linters • мониторинг 48
49. Незакрытые ресурсы. Как не забыть? • бдительность ◦ code review ◦ linters ◦ finalizers • мониторинг 49 https://medium.com/a-journey-with-go/go-finalizers-786df8e17687
50. Незакрытые ресурсы. Финализатор 50
51. Незакрытые ресурсы. Бразильская система 51
52. Незакрытые ресурсы. Как не забыть? • бдительность ◦ code review ◦ linters ◦ finalizers • мониторинг 52 https://crawshaw.io/blog/tragedy-of-finalizers
53. Незакрытые ресурсы. Как не забыть? • бдительность ◦ code review ◦ linters ◦ finalizers • мониторинг ◦ https://github.com/prometheus/prometheus ◦ https://github.com/google/gops 53
54. Невидимые ошибки избыточные аллокации незакрытые ресурсы ************** ********* * ******** ********* ******** 54
55. Podcast App. Новые эпизоды 55
56. Podcast App. Новые эпизоды 56
57. Podcast App. Новые эпизоды 57
58. Podcast App. Новые эпизоды 58
59. Как ускорить? 59 https://twitter.com/olivier_poitrey/status/779953044066676737
60. Как ускорить? • IO-bound 60 https://twitter.com/olivier_poitrey/status/779953044066676737
61. Как ускорить? • IO-bound • concurrency is not parallelism 61 https://twitter.com/olivier_poitrey/status/779953044066676737
62. Полный вперёд! 62
63. Почему очень много горутин не хорошо? • открытые сетевые соединения * 63
64. Почему очень много горутин не хорошо? • открытые сетевые соединения * • перерасход памяти 64
65. Почему очень много горутин не хорошо? • открытые сетевые соединения * • перерасход памяти • замедление сборки мусора 65
66. Ограничим количество горутин 66
67. Расточительное отношение к ресурсам 67
68. Расточительное отношение к ресурсам • аллокация крупных структур 68
69. Расточительное отношение к ресурсам • аллокация крупных структур • “одноразовые” горутины 69
70. https://eng.uber.com/optimizing-m3/ Регрессия на практике 70 2x latency после регрессии производительности
71. Рост - это не всегда хорошо https://eng.uber.com/optimizing-m3/ 71
72. Worker pool. Обработчик 72
73. Worker pool. Запуск горутин 73
74. Worker pool. Обработка результатов 74
75. Worker pool. Отправка задач 75
76. Worker pool. Итоги • Горутины не бесплатны • Ограничивайте запущенные горутины 76 https://medium.com/a-journey-with-go
77. Невидимые ошибки избыточные аллокации незакрытые ресурсы расточительное отношение к ресурсам ********* ******** 77
78. Утекающие горутины 78
79. Утекающие горутины 79
80. Утекающие горутины 80
81. Не утекающие горутины 81
82. Блокировка горутин • получение из пустого канала • получение из nil-канала • отправка в полный канал • отправка в nil-канал 82
83. Утекающие горутины 83
84. Не утекающие горутины* 84 https://rakyll.org/leakingctx/
85. Обнаружение утекающих горутин • пакет runtime: ◦ runtime.NumGoroutine() 85
86. Обнаружение утекающих горутин • пакет runtime: ◦ runtime.NumGoroutine() ◦ debug.Stack() ◦ pprof ▪ pprof.Lookup("goroutine") ▪ net/http/pprof/ 86
87. Обнаружение утекающих горутин • пакет runtime: ◦ runtime.NumGoroutine() ◦ debug.Stack() ◦ pprof ▪ pprof.Lookup("goroutine") ▪ net/http/pprof/ • метрики ◦ https://prometheus.io/ 87
88. Обнаружение утекающих горутин • пакет runtime: ◦ runtime.NumGoroutine() ◦ debug.Stack() ◦ pprof ▪ pprof.Lookup("goroutine") ▪ net/http/pprof/ • метрики ◦ https://prometheus.io/ • обнаружение при тестировании: ◦ https://github.com/uber-go/goleak ◦ https://github.com/fortytw2/leaktest 88
89. Что делает goleak? 89
90. Пример применения goleak 90
91. Пример применения goleak 91
92. Утекающие горутины. Выводы • иметь контроль над goroutine ◦ https://golang.org/pkg/context/ 92
93. Утекающие горутины. Выводы • иметь контроль над goroutine ◦ https://golang.org/pkg/context/ • следить за запущенными goroutine ◦ runtime ◦ github.com/prometheus/client_golang/prometheus/promhttp 93
94. Утекающие горутины. Выводы • иметь контроль над goroutine ◦ https://golang.org/pkg/context/ • следить за запущенными goroutine ◦ runtime ◦ github.com/prometheus/client_golang/prometheus/promhttp • тестировать во время разработки ◦ github.com/fortytw2/leaktest ◦ github.com/uber-go/goleak 94
95. Невидимые ошибки избыточные аллокации незакрытые ресурсы расточительное отношение к ресурсам утекающие горутины 95
97. Итоги • Go не такой простой, как кажется 97
98. Итоги • Go не такой простой, как кажется • проверять как можно ближе к реальным профилям нагрузки ◦ мелочей не бывает* 98
99. Итоги • Go не такой простой, как кажется • проверять как можно ближе к реальным профилям нагрузки ◦ мелочей не бывает* • готовы выявлять и предотвращать проблемы ◦ практический опыт ◦ автоматическая детекция 99
100. Полезные ссылки • William Kennedy - Macro View of Map Internals In Go • Vladimir Varankin - Continuous Profiling and Go • go101 - Memory Leaking Scenarios • Jacob Walker - Goroutine Leaks 100
101. Идея дня Никогда не используйте в production сниппеты кода из слайдов доклада. @arkartasov 101
102. Спасибо Артём Картасов инженер Postgres.ai akartasov artyom@postgres.ai @arkartasov