Как устроен garbage collector в Go 1.9 — Андрей Дроздов (Avito)

Недавно вышел релиз Go 1.9, в нем был обновлен алгоритм сборки мусора. Для того чтобы писать быстрые приложения нужно хорошо понимать как это устроено. В своем докладе я расскажу об алгоритмах сборки мусора и деталях реализации runtime.GC() в Go 1.9 на простых примерах.

Golang Moscow: Встреча в Avito
14/10/2017
https://golang-moscow.timepad.ru/event/587055/

Transcript

1. Как устроен garbage collector Андрей Дроздов, 2017
2. Чем мы занимаемся? • BuyerX/Поиск • 35 млн посетителей в месяц (~ ¼ Страны) • 38 млн активных объявлений • 1 млн поисковых запросов в минуту 2
3. О чем я расскажу? • Теория • Как теория GC используется в Go • Hacking • Выводы 3
4. Основная идея 4
5. Основная идея 5
6. Достижимость • Корневые объекты • Объекты, связанные с корневыми • Достижимые из связанных с корневыми 6
7. Mark’n’Sweep • Бит достижимости • Изначально все, кроме корневых, не размечены Алгоритм: • Останавливаем выполнение • Рекурсивно обходим все объекты и выставляем бит достижимости • Удаляем все недостижимые объекты • Продолжаем работу программы 7
8. Mark’n’Sweep 8
9. Mark’n’Sweep 9
10. Mark’n’Sweep 10
11. Минусы 11
12. Минусы • Паузы • Обход Heap полностью • Фрагментация 12
13. Как же быть? Проблема: Паузы в GC Цель: Пауз не должно быть by design Стратегия: GC должен работать полностью отдельно 13
14. Breath First Mark • Делим все объекты на три группы • На каждом шаге помечаем все достижимые объекты как scanned • В “will be scanned” помечаем все, на что есть ссылки • При завершении BFS удаляем все, что не в 1 и второй группе 14
15. BF Mark. Группы • Black - исследованные объекты • Gray - ожидающие исследования объекты • White - неисследованные объекты 15
16. BFM Start 16
17. BFM Scan 17
18. BFM Sweep 18
19. Почему это работает? • Мы знаем про все объекты в памяти • Все, что не попало в 1 и 2 группы, не используется • Следовательно: удаляется только мусор • It works 19
20. Concurrency и что это ломает? 20
21. Как это починить? • Процесс может создать новый объект • Процесс может поменять указатель 21
22. Неправильный вариант 22
23. Правильный вариант 23
24. Reference Counter 24
25. Reference Counter 25
26. GC Generations 26
27. GC Generations 27 • Разделяем объекты на молодые и старые • Сканируем с разными интервалами каждую группу • Экономим CPU
28. Golang 28
29. Переход от 1.4 к 1.5 29
30. Переход от 1.4 к 1.5 30
31. Go 1.5 31
32. Первая версия concurrent gc 32
33. Бенчмарк 33 https://github.com/WillSewell/gc-latency-experiment
34. Go 1.9 • После релиза 1.8 возникли проблемы вызовом GC во время сбора профилей или memory footprint • Для этого библиотечные функции runtime.GC, debug.SetGCPercent, debug.FreeOSMemory были обновлены использованием concurrent GC • Таким образом спайки в latency во время профилирования приложений в production были побеждены mgc.go:1016 34
35. Hacking 35
36. runtime/mgc* mgc.go - реализация GC mgclarge.go - структура данных (https://en.wikipedia.org/wiki/Treap) mgcmark.go - scanner (marking) mgcsweep.go - sweeper (sweeping) mgcsweepbuf.go - buffer/set data structure mgcwork.go - пул GC mbarrier.go - реализация write barrier 36
37. Состояния GC • GCoff - wb запрещен, проводим sweep в фоне • GCMark - wb активен, обходим объекты и размечаем • GCMarkTermination - создаем объекты в черной зоне, wb активен mgc.go:272 37
38. mgc.go. Фаза Sweep termination • Stop the world • Достижение GC safe-point • Завершение всех sweep фаз • Удаление остатков мусора mgc.go:1203 38
39. mgc.go. Фаза mark 1 • Перевод состояния из GCoff в GCMark • Start the world • Новые объекты попадают в черную зону • Обход корневых объектов (стек, глобальные переменные, etc.) • Обработка задач из working pool, обход серой зоны • Найденные указатели помещаются в working pool mgcmark.go:54 39
40. mgc.go. Фаза mark 2 • Глобальная очередь пуста, локальные очереди еще имеют данные • Останавливается работа gc worker’ов • Данные кеша очередей выталкиваются в кеш глобальной очереди • Работа worker’ов продолжается • Продолжается обработка задач из working pool mgc.go:1901 40
41. mgc.go. Фаза Mark termination • Главная очередь пуста - запускается mark termination • Stop the world • Перевод состояния из GCMark в GCMarkTermination • Дообработка последних задач из очереди mgc.go:1458 41
42. mgc.go. Фаза Sweep • Перевод состояния из GCMarkTermination в GCoff • Start the world • Выполнение sweep в фоне mgc.go:1985 42
43. Интервалы включения GC • Константа GOGC • GC включается при увеличении использования памяти на $(GOGC) процентов mgc.go:201 mgc.go:1151 malloc.go:802 43
44. Очередь задач GC 44 mgcwork.go:58
45. Очередь задач GC 45 mgcwork.go:100 mgcwork.go:385 lfstack.go:25
46. Community pain • Нет реализации compaction • Нет реализации поколений • Не используется весь опыт создания GC • GC не успевает “разгрести” мусор => STW • Триггер запуска GC 46
47. Request Oriented Collector 47
48. Request Oriented Collector 48
49. Выводы • Мы узнали про алгоритмы сборки мусора • Главное достижение: STW=const • За GC всегда приходится платить оверхедом • GC - это всегда tradeoff https://gist.github.com/Sulverus/ac9e003124d7a13bee4a7a3f7cb3ae47 49