Ходячие объекты мертвецы, или GC всегда прав

Спикер: Углянский Иван, JVM инженер из Excelsior @ Huawei

О чем лекция: о внутренностях GC, но не о том, «как», а о том, «когда», что особенно важно пользователям weak references. Речь не о конкретном алгоритме GC, а о требованиях стандарта и о том, как он фактически воплощен.

Автоматическое управление памятью — одна из основных особенностей Java и других managed языков. При этом в спецификации про GC написано очень мало: как именно собирать мусор каждой конкретной реализации JVM, предлагается решать самостоятельно. В результате для сборки мусора существует огромное количество стратегий и степеней свободы. Например, когда именно GC должен приходить за мертвым объектом? Ответ не так очевиден, а любое решение может повлиять на ход исполнения пользовательской программы.

В докладе обсудим, зачем коллектору оставлять мертвые объекты в памяти, как это сказывается на вашем приложении и как выжить во время нашествия ходячих объектов-мертвецов.

Transcript

1. Иван Углянский
   Huawei Technologies
   Ходячие объекты-мертвецы
   или
   GC всегда прав

   

   View Slide

2. JVM инженер, Excelsior @ Huawei
   ○ разрабатываю рантайм
   2
   Иван Углянский
   ivan.ugliansky@gmail.com
   @dbg_nsk
   JUGNsk lead
   

   View Slide

3. 3
   Автоматическое
   управление памятью
   (Сборка мусора)
   

   View Slide

4. 4
   Сборка мусора
   

   View Slide

5. 5
   А что в спеке?
   The Java Virtual Machine Specification, (§2.5.3):
   Heap storage for objects is reclaimed by an automatic
   storage management system (known as a garbage
   collector); objects are never explicitly deallocated.
   The Java Virtual Machine assumes no particular type of
   automatic storage management system, and the storage
   management technique may be chosen according to the
   implementor's system requirements.
   

   View Slide

6. 6
   Сборка мусора
   Ожидание:
   ○ JVM собирает мусор, как хочет
   (в рамках корректности)
   

   View Slide

7. 7
   Сборка мусора
   Ожидание:
   ○ JVM собирает мусор, как хочет
   (в рамках корректности)
   ○ Разработчик не задумывается
   об управлении памятью
   

   View Slide

8. 8
   Сборка мусора
   Реальность:
   java.lang.NullPointerException
   at java.util.ResourceBundle$Control.newBundle(ResourceBundle.java:2640)
   at java.util.ResourceBundle.loadBundle(ResourceBundle.java:1501)
   at java.util.ResourceBundle.findBundle(ResourceBundle.java:1465)
   at java.util.ResourceBundle.findBundle(ResourceBundle.java:1419)
   at java.util.ResourceBundle.getBundleImpl(ResourceBundle.java:1361)
   ... 3 more
   

   View Slide

9. 9
   Сборка мусора
   Реальность:
   java.lang.NullPointerException
   at java.util.ResourceBundle$Control.newBundle(ResourceBundle.java:2640)
   at java.util.ResourceBundle.loadBundle(ResourceBundle.java:1501)
   at java.util.ResourceBundle.findBundle(ResourceBundle.java:1465)
   at java.util.ResourceBundle.findBundle(ResourceBundle.java:1419)
   at java.util.ResourceBundle.getBundleImpl(ResourceBundle.java:1361)
   ... 3 more
   Exception in thread "1" java.lang.OutOfMemoryError: Java heap space
   at StressTimer$Task.run(StressTimer.java:10)
   at java.util.TimerThread.mainLoop(Unknown Source)
   at java.util.TimerThread.run(Unknown Source)
   Exception in thread "2" java.lang.OutOfMemoryError: Java heap space
   at StressTimer$Task.run(StressTimer.java:10)
   at java.util.TimerThread.mainLoop(Unknown Source)
   ...
   

   View Slide

10. 10
    Сборка мусора
    Реальность:
    java.lang.NullPointerException
    at java.util.ResourceBundle$Control.newBundle(ResourceBundle.java:2640)
    at java.util.ResourceBundle.loadBundle(ResourceBundle.java:1501)
    at java.util.ResourceBundle.findBundle(ResourceBundle.java:1465)
    at java.util.ResourceBundle.findBundle(ResourceBundle.java:1419)
    at java.util.ResourceBundle.getBundleImpl(ResourceBundle.java:1361)
    ... 3 more
    Exception in thread "1" java.lang.OutOfMemoryError: Java heap space
    at StressTimer$Task.run(StressTimer.java:10)
    at java.util.TimerThread.mainLoop(Unknown Source)
    at java.util.TimerThread.run(Unknown Source)
    Exception in thread "2" java.lang.OutOfMemoryError: Java heap space
    at StressTimer$Task.run(StressTimer.java:10)
    at java.util.TimerThread.mainLoop(Unknown Source)
    ...
    Java HotSpot(TM) 64-Bit Server VM warning: INFO:
    os::commit_memory(0x00000000e0000000, 257949696, 0) failed;
    error='Not enough space' (errno=12)
    #
    # There is insufficient memory for the Java Runtime Environment
    to continue.
    # Native memory allocation (mmap) failed to map 257949696
    bytes for committing reserved memory.
    # An error report file with more information is saved as:
    

    View Slide

11. 11
    Когда конкретно GC
    придет за объектом?
    

    View Slide

12. 12
    В этом докладе
    ○ Про политики GC относительно времени жизни
    объектов на примерах
    ○ Как это влияет на исполнение?
    ○ Как не получить OOM это учитывать в коде?
    

    View Slide

13. 13
    Разминка
    

    View Slide

14. 14
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    

    View Slide

15. 15
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    

    View Slide

16. 16
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    

    View Slide

17. 17
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    java -Xmx768m Test
    

    View Slide

18. 18
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    java -Xmx768m Test
    arr1 ([I@4aa8f0b4) allocated
    Exception in thread "main"
    java.lang.OutOfMemoryError: ...
    

    View Slide

19. 19
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    java -Xcomp -Xmx768m Test
    

    View Slide

20. 20
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    java -Xcomp -Xmx768m Test arr1 ([I@4aa8f0b4) allocated
    arr2 ([I@9e89d68) allocated
    

    View Slide

21. 21
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    java -Xcomp -Xmx768m Test arr1 ([I@4aa8f0b4) allocated
    arr2 ([I@9e89d68) allocated
    

    View Slide

22. 22
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    Имеем право собирать первый массив?
    

    View Slide

23. public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    23
    Разминка
    Область видимости переменной arr1
    

    View Slide

24. public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    24
    Разминка
    Область видимости переменной arr1
    Область жизни переменной arr1
    

    View Slide

25. public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    25
    Разминка
    Здесь GC имеет право
    собрать первый массив
    

    View Slide

26. 26
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    512mb
    512mb
    java -Xmx768m Test
    arr1 ([I@4aa8f0b4) allocated
    Exception in thread "main"
    java.lang.OutOfMemoryError: ...
    

    View Slide

27. public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    27
    Разминка
    Интерпретатор не вычисляет время жизни!
    

    View Slide

28. 28
    Разминка
    public static void main(String[] args) {
    final int size = 512*1024*1024 / Integer.BYTES;
    int[] arr1 = new int[size];
    System.out.println("arr1 (" + arr1 + ") allocated");
    System.gc();
    int[] arr2 = new int[size];
    System.out.println("arr2 (" + arr2 + ") allocated");
    }
    Интерпретатор не вычисляет время жизни!
    (предполагает худший случай)
    

    View Slide

29. 29
    История #1. Объекты-призраки
    

    View Slide

30. 30
    История #1. Объекты-призраки
    Слабые ссылки:
    

    View Slide

31. 31
    История #1. Объекты-призраки
    Слабые ссылки:
    1. java.lang.ref.*
    2. Не останавливают GC от
    сборки референта
    

    View Slide

32. 32
    История #1. Объекты-призраки
    Слабые ссылки:
    1. java.lang.ref.*
    2. Не останавливают GC от
    сборки референта
    3. «Протухают»
    

    View Slide

33. 33
    История #1. Объекты-призраки
    Слабые ссылки:
    1. java.lang.ref.*
    2. Не останавливают GC от
    сборки референта
    3. «Протухают»
    

    View Slide

34. 34
    Пример
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    

    View Slide

35. 35
    Пример
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    

    View Slide

36. 36
    Пример
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    

    View Slide

37. 37
    Пример
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    java Test 1252585652
    

    View Slide

38. 38
    Пример
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    java Test 1252585652
    java -Xcomp Test Exception in thread "main"
    java.lang.NullPointerException
    

    View Slide

39. 39
    Пример
    java Test 1252585652
    java -Xcomp Test Exception in thread "main"
    java.lang.NullPointerException
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    

    View Slide

40. Но ведь это искусственный пример?
    40
    Объекты-призраки
    

    View Slide

41. Но ведь это искусственный пример?
    41
    Объекты-призраки
    java.lang.NullPointerException
    at java.util.ResourceBundle$Control.newBundle(ResourceBundle.java:2640)
    at java.util.ResourceBundle.loadBundle(ResourceBundle.java:1501)
    at java.util.ResourceBundle.findBundle(ResourceBundle.java:1465)
    at java.util.ResourceBundle.findBundle(ResourceBundle.java:1419)
    at java.util.ResourceBundle.getBundleImpl(ResourceBundle.java:1361)
    ... 3 more
    

    View Slide

42. 42
    Реальный пример
    private static ResourceBundle getBundleImpl(...,
    ClassLoader loader,
    ...) {
    ...
    CacheKey cacheKey = new CacheKey(baseName, locale, loader);
    ...
    // обращение к loader через cacheKey
    ...
    return bundle;
    }
    

    View Slide

43. 43
    Реальный пример
    private static ResourceBundle getBundleImpl(...,
    ClassLoader loader,
    ...) {
    ...
    CacheKey cacheKey = new CacheKey(baseName, locale, loader);
    ...
    // обращение к loader через cacheKey
    ...
    return bundle;
    }
    Слабая ссылка Последнее использование
    

    View Slide

44. 44
    Реальный пример
    ○ JDK 1.8.0_181
    ○ java.util.ResourceBundle.getBundle(...)
    ○ Для проявления: -Xcomp + итерации
    ○ JDK-8209184
    

    View Slide

45. 45
    Что с этим делать?
    

    View Slide

46. 46
    Что с этим делать?
    ○ Перед использованием проверять, что
    ссылка не протухла
    

    View Slide

47. 47
    Что с этим делать?
    ○ Перед использованием проверять, что
    ссылка не протухла
    ○ Продлить жизнь объекта!
    

    View Slide

48. 48
    Что с этим делать?
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    }
    

    View Slide

49. 49
    Что с этим делать?
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    // use obj ???
    }
    

    View Slide

50. 50
    Что с этим делать?
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    // use obj ???
    }
    Но какое именно использование добавить?
    

    View Slide

51. 51
    Что с этим делать?
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    // use obj ???
    }
    Но какое именно использование добавить?
    Как убедить компилятор его не выкидывать?
    

    View Slide

52. 52
    Использование
    ○ Передать в метод
    ○ Записать в поле
    

    View Slide

53. 53
    Использование
    ○ Передать в метод
    ○ Записать в поле
    ○ Reference.reachabilityFence(obj)
    Since Java 9
    

    View Slide

54. 54
    Лечение
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    // use obj ???
    }
    

    View Slide

55. 55
    Лечение
    public static void main(String[] args) {
    Object obj = new Object();
    WeakReference ref = new WeakReference<>(obj);
    System.gc();
    System.out.println(ref.get().hashCode());
    Reference.reachabilityFence(obj);
    }
    

    View Slide

56. 56
    Лечение
    private static ResourceBundle getBundleImpl(...) {
    ...
    CacheKey cacheKey = new CacheKey(baseName, locale, module,
    callerModule);
    ...
    // keep callerModule and module reachable for as long
    // as we are operating with WeakReference(s) to them
    // (in CacheKey)
    ...
    Reference.reachabilityFence(callerModule);
    Reference.reachabilityFence(module);
    return bundle;
    }
    

    View Slide

57. Подумаешь, один пример!
    57
    Объекты-призраки
    

    View Slide

58. 58
    Объекты-призраки
    JDK-8212178
    

    View Slide

59. 59
    Объекты-призраки
    public static BufferAllocator getBufferAllocator() {
    SoftReference bAllocatorRef = tlba.get();
    if (bAllocatorRef == null || bAllocatorRef.get() == null) {
    bAllocatorRef = new SoftReference(new BufferAllocator());
    tlba.set(bAllocatorRef);
    }
    return bAllocatorRef.get();
    }
    com.sun.xml.internal.stream.util.ThreadLocalBufferAllocator:
    

    View Slide

60. 60
    Объекты-призраки
    public static BufferAllocator getBufferAllocator() {
    SoftReference bAllocatorRef = tlba.get();
    if (bAllocatorRef == null || bAllocatorRef.get() == null) {
    bAllocatorRef = new SoftReference(new BufferAllocator());
    tlba.set(bAllocatorRef);
    }
    return bAllocatorRef.get();
    }
    com.sun.xml.internal.stream.util.ThreadLocalBufferAllocator:
    

    View Slide

61. 61
    Выводы
    ○ GC имеет право собрать объект после
    последнего использования
    ○ Компилятор может выкидывать использования
    при оптимизации
    ○ Reference.reachabilityFence для продления
    жизни объекта
    

    View Slide

62. 62
    Ходячие объекты-мертвецы
    

    View Slide

63. 63
    Ходячие объекты-мертвецы
    Обратная проблема: объекты мертвы, но GC
    за ними приходить не торопится.
    

    View Slide

64. 64
    Ходячие объекты-мертвецы
    

    View Slide

65. 65
    Ходячие объекты-мертвецы
    Memory Drag -
    память, которую GC
    «протаскивает» до
    следующей* сборки
    (характеристика
    алгоритма GC)
    

    View Slide

66. 66
    Ходячие объекты-мертвецы
    Большой Memory Drag ⇒
    

    View Slide

67. 67
    Ходячие объекты-мертвецы
    Большой Memory Drag ⇒
    Много зомби-объектов ⇒
    

    View Slide

68. 68
    Ходячие объекты-мертвецы
    Большой Memory Drag ⇒
    Много зомби-объектов ⇒
    Результат:
    ○ Неожиданные OOM
    ○ Проблемы с java.lang.ref
    

    View Slide

69. 69
    История #2. F-reachables
    

    View Slide

70. 70
    История #2. F-reachables
    Object.finalize() JavaDoc in JDK 9+:
    The finalization mechanism is inherently problematic.
    

    View Slide

71. 71
    История #2. F-reachables
    Object.finalize() JavaDoc in JDK 9+:
    The finalization mechanism is inherently problematic.
    Finalization can lead to performance issues,
    deadlocks, and hangs.
    

    View Slide

72. 72
    История #2. F-reachables
    Object.finalize() JavaDoc in JDK 9+:
    The finalization mechanism is inherently problematic.
    Finalization can lead to performance issues,
    deadlocks, and hangs. Errors in finalizers can lead to
    resource leaks; there is no way to cancel finalization
    if it is no longer necessary; and no ordering is
    specified among calls to finalize methods of different
    objects. Furthermore, there are no guarantees
    regarding the timing of finalization.
    

    View Slide

73. 73
    История #2. F-reachables
    Object.finalize() JavaDoc in JDK 9+:
    The finalization mechanism is inherently problematic.
    Finalization can lead to performance issues,
    deadlocks, and hangs. Errors in finalizers can lead to
    resource leaks; there is no way to cancel finalization
    if it is no longer necessary; and no ordering is
    specified among calls to finalize methods of different
    objects. Furthermore, there are no guarantees
    regarding the timing of finalization.
    

    View Slide

74. 74
    История #2. F-reachables
    ➢ JDK 8 ㄧ 89 реализаций finalize()
    

    View Slide

75. 75
    История #2. F-reachables
    ➢ JDK 8 ㄧ 89 реализаций finalize()
    ➢ JDK 9 ㄧ 87 реализаций
    (Object.finalize() is deprecated since 9)
    

    View Slide

76. 76
    История #2. F-reachables
    ➢ JDK 8 ㄧ 89 реализаций finalize()
    ➢ JDK 9 ㄧ 87 реализаций
    (Object.finalize() is deprecated since 9)
    ➢ JDK 11 ㄧ 84 реализации
    

    View Slide

77. 77
    История #2. F-reachables
    Объекты с нетривиальным finalize():
    ○ живут дольше
    

    View Slide

78. 78
    История #2. F-reachables
    Java
    Threads
    Finalizer
    Thread
    

    View Slide

79. 79
    История #2. F-reachables
    Java
    Threads
    Finalizer
    Thread
    STW
    GC Threads
    

    View Slide

80. 80
    История #2. F-reachables
    Java
    Threads
    Finalizer
    Thread
    STW
    GC Threads
    finalize() выполнить
    не получится
    

    View Slide

81. 81
    История #2. F-reachables
    Объекты с нетривиальным finalize():
    ○ живут дольше: для STW как минимум (!)
    на один цикл GC
    

    View Slide

82. 82
    История #2. F-reachables
    class Foo {
    Object ref;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    

    View Slide

83. class Foo {
    Object ref;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    83
    История #2. F-reachables
    ref используется из finalize,
    значит он тоже выживет
    Foo
    ref
    

    View Slide

84. 84
    История #2. F-reachables
    ref используется из finalize,
    значит он тоже выживет
    как и все достижимое из ref
    Foo
    ref
    class Foo {
    Object ref;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    

    View Slide

85. Объекты с нетривиальным finalize():
    ○ живут дольше: для STW как минимум (!)
    на один цикл GC
    ○ дополнительно удерживают все
    достижимые из них объекты
    (f-reachables)
    85
    История #2. F-reachables
    

    View Slide

86. Как JVM может бороться с F-reachables?
    86
    JVM vs F-reachables
    

    View Slide

87. 87
    JVM vs F-reachables
    Foo
    ref
    ...
    ...
    ...
    class Foo {
    Object ref;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    

    View Slide

88. 88
    JVM vs F-reachables
    Foo
    ref
    ...
    ...
    ...
    class Foo {
    Object ref;
    Object ref2;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    

    View Slide

89. class Foo {
    Object ref;
    Object ref2;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    Foo
    89
    JVM vs F-reachables
    ref
    ...
    ...
    ...
    ref2
    

    View Slide

90. Foo
    90
    JVM vs F-reachables
    ref
    ...
    ...
    ...
    ref2
    но ref2 не используется в
    finalize!
    class Foo {
    Object ref;
    Object ref2;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    

    View Slide

91. Foo
    91
    JVM vs F-reachables
    ref
    ...
    ...
    ...
    ref2
    но ref2 не используется в
    finalize!
    можно сократить f-reachables
    class Foo {
    Object ref;
    Object ref2;
    Foo(Object r) {
    ref = r;
    }
    void finalize() {
    ref.call();
    }
    }
    

    View Slide

92. Как обнаружить проблему с F-reachables?
    92
    Developer vs F-reachables
    

    View Slide

93. Как обнаружить проблему с F-reachables?
    93
    Developer vs F-reachables
    jmap -finalizerinfo
    

    View Slide

94. Как обнаружить проблему с F-reachables?
    94
    Developer vs F-reachables
    jmap -finalizerinfo
    Unreachable instances waiting for finalization
    #instances class name
    -----------------------
    147532 StressTimer$FinalizeBallast
    222 java.util.Timer$1
    221 StressTimer$Task
    

    View Slide

95. Как обнаружить проблему с F-reachables?
    95
    Developer vs F-reachables
    jmap -finalizerinfo
    HotSpot-specific
    

    View Slide

96. Как Вы можете бороться с F-reachables?
    96
    Developer vs F-reachables
    

    View Slide

97. 97
    Developer vs F-reachables
    Foo
    ref1
    ref2
    ref3
    resource1
    resource2
    resource3
    finalize()
    Как Вы можете бороться с F-reachables?
    

    View Slide

98. 98
    Developer vs F-reachables
    Foo
    ref1
    ref2
    ref3
    resource1
    resource2
    resource3
    State
    state
    finalize()
    Как Вы можете бороться с F-reachables?
    

    View Slide

99. Как Вы можете бороться с F-reachables?
    99
    Developer vs F-reachables
    

    View Slide

100. Если не finalize(), то кто?
     100
     Developer vs F-reachables
     

     View Slide

101. Если не finalize(), то кто?
     101
     Developer vs F-reachables
     java.lang.ref.Cleaner
     (ранее sun.misc.Cleaner)
     

     View Slide

102. 102
     Developer vs F-reachables
     Foo
     ref1
     ref2
     ref3
     resource1
     resource2
     resource3
     State
     state
     static class State implements Runnable { ... }
     static final Cleaner cleaner = Cleaner.create();
     ...
     var foo = new Foo();
     cleaner.register(foo, foo.getState());
     finalize()
     

     View Slide

103. 103
     Developer vs F-reachables
     Поможет с Memory Drag только в Java 9+!
     JDK-8071507
     Если не finalize(), то кто?
     java.lang.ref.Cleaner
     (ранее sun.misc.Cleaner)
     

     View Slide

104. 104
     Выводы
     ○ finalize() увеличивает Memory Drag
     ○ JVM могут облегчить симптомы
     (но делают это редко)
     ○ java.lang.ref.Cleaner since Java 9
     

     View Slide

105. 105
     История #3. Непотизм GC
     Непотизм (кумовство) — вид фаворитизма, предоставляющий привилегии
     родственникам или друзьям независимо от их профессиональных качеств.
     

     View Slide

106. 106
     Пример
     public class DummyList {
     private Node first;
     private Node last;
     private class Node {
     E value;
     Node next;
     public Node(E value, Node next) { ... }
     }
     }
     

     View Slide

107. 107
     Пример
     public void addLast(Node n) {
     final var l = last;
     last = n;
     if (l == null) {
     first = n;
     } else {
     l.next = n;
     }
     }
     

     View Slide

108. 108
     Пример
     public void removeFirst() {
     if (first != null) {
     var next = first.next;
     first = next;
     if (next == null) {
     last = null;
     }
     }
     }
     public void addLast(Node n) {
     final var l = last;
     last = n;
     if (l == null) {
     first = n;
     } else {
     l.next = n;
     }
     }
     

     View Slide

109. public void addLast(Node n) {
     final var l = last;
     last = n;
     if (l == null) {
     first = n;
     } else {
     l.next = n;
     }
     }
     109
     Пример
     public void removeFirst() {
     if (first != null) {
     var next = first.next;
     first = next;
     if (next == null) {
     last = null;
     }
     }
     }
     

     View Slide

110. 110
     История #3. Непотизм
     Сборка мусора по поколениям:
     ○ Молодое/старое поколения
     ○ Minor/Major GC
     

     View Slide

111. 111
     История #3. Непотизм
     Сборка мусора по поколениям:
     ○ Молодое/старое поколения
     ○ Minor/Major GC
     ○ Все достижимое из старого поколения
     должно переживать Minor GC
     

     View Slide

112. 112
     История #3. Непотизм
     Young
     Generation
     Old
     Generation
     

     View Slide

113. 113
     История #3. Непотизм
     new DummyList()
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

114. 114
     История #3. Непотизм
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

115. 115
     История #3. Непотизм
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

116. 116
     История #3. Непотизм
     DummyList
     first
     last
     DummyList.addLast(...)
     Young
     Generation
     Old
     Generation
     

     View Slide

117. 117
     История #3. Непотизм
     DummyList
     first
     last
     DummyList.addLast(...)
     Young
     Generation
     Old
     Generation
     

     View Slide

118. 118
     История #3. Непотизм
     DummyList
     first
     last
     DummyList.addLast(...)
     Young
     Generation
     Old
     Generation
     

     View Slide

119. 119
     История #3. Непотизм
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

120. 120
     История #3. Непотизм
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

121. 121
     История #3. Непотизм
     DummyList
     first
     last
     DummyList.removeFirst(...)
     Young
     Generation
     Old
     Generation
     

     View Slide

122. 122
     История #3. Непотизм
     DummyList
     first
     last
     DummyList.removeFirst(...)
     Young
     Generation
     Old
     Generation
     

     View Slide

123. 123
     История #3. Непотизм
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

124. 124
     История #3. Непотизм
     DummyList
     first
     last
     Young
     Generation
     Old
     Generation
     

     View Slide

125. 125
     История #3. Непотизм
     Сборка мусора по поколениям
     сознательно увеличивает Memory Drag.
     

     View Slide

126. 126
     История #3. Непотизм
     Сборка мусора по поколениям
     сознательно увеличивает Memory Drag.
     Старое поколение - источник
     ходячих мертвецов
     

     View Slide

127. 127
     История #3. Непотизм
     Но ведь это искусственный пример?
     

     View Slide

128. 128
     История #3. Непотизм
     Но ведь это искусственный пример?
     Tony Printezis о борьбе с непотизмом
     LinkedHashMap в TwitterJDK:
     https://youtu.be/M9o1LVfGp2A?t=1391
     

     View Slide

129. 129
     Как обнаружить непотизм?
     

     View Slide

130. 130
     Как обнаружить непотизм?
     По косвенным признакам:
     1. Частые и долгие Full GC
     (проверить по -XX:+PrintGCDetails)
     2. Много подозрительных живых объектов
     (смотреть jmap -dump )
     

     View Slide

131. 131
     Что делать?
     

     View Slide

132. 132
     Что делать?
     ○ Ждать Full GC
     

     View Slide

133. 133
     Что делать?
     ○ Ждать Full GC
     ○ Занулять ссылки из объектов при удалении
     

     View Slide

134. 134
     /**
     * Unlinks non-null first node f.
     */
     private E unlinkFirst(Node f) {
     final E element = f.item;
     final Node next = f.next;
     f.item = null;
     f.next = null; // help GC
     ...
     }
     java.util.LinkedList:
     Что делать?
     

     View Slide

135. /**
     * Unlinks non-null first node f.
     */
     private E unlinkFirst(Node f) {
     final E element = f.item;
     final Node next = f.next;
     f.item = null;
     f.next = null; // help GC
     ...
     }
     135
     java.util.LinkedList:
     Что делать?
     

     View Slide

136. 136
     Что делать?
     void afterNodeRemoval(Node e) {
     // unlink
     LinkedHashMap.Entry p =
     (LinkedHashMap.Entry)e;
     b = p.before, a = p.after;
     p.before = p.after = null;
     ...
     }
     java.util.LinkedHashMap:
     

     View Slide

137. 137
     Что делать?
     ○ Ждать Full GC
     ○ Занулять ссылки из объектов при удалении
     

     View Slide

138. 138
     Что делать?
     ○ Ждать Full GC
     ○ Занулять ссылки из объектов при удалении
     ○ Увеличить размер молодого поколения
     -Xmn
     -XX:NewRatio
     -XX:NewSize
     

     View Slide

139. 139
     Ходячие объекты-мертвецы
     А может ли GC вообще не прийти
     за мертвым объектом?
     

     View Slide

140. 140
     Ходячие объекты-мертвецы
     

     View Slide

141. 141
     История #4. Консерватизм
     

     View Slide

142. 142
     Точный GC
     public static void main(String[] args) {
     final int size = 512*1024*1024 / Integer.BYTES;
     int[] arr1 = new int[size];
     System.out.println("arr1 (" + arr1 + ") allocated");
     System.gc();
     int[] arr2 = new int[size];
     System.out.println("arr2 (" + arr2 + ") allocated");
     }
     

     View Slide

143. 143
     Точный GC
     public static void main(String[] args) {
     final int size = 512*1024*1024 / Integer.BYTES;
     int[] arr1 = new int[size];
     System.out.println("arr1 (" + arr1 + ") allocated");
     System.gc();
     int[] arr2 = new int[size];
     System.out.println("arr2 (" + arr2 + ") allocated");
     }
     Как GC понимает, какие локалы живы?
     

     View Slide

144. 144
     Точный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

145. 145
     Точный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

146. 146
     Точный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

147. 147
     Точный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

148. 148
     Точный GC
     ➢ Поддержка от компилятора
     

     View Slide

149. 149
     Точный GC
     ➢ Поддержка от компилятора
     ➢ Генерация карт стека и регистров
     

     View Slide

150. 150
     Точный GC
     ➢ Поддержка от компилятора
     ➢ Генерация карт стека и регистров
     ➢ Карты только в safe-points!
     

     View Slide

151. 151
     Консервативный GC
     А нельзя ли без поддержки от компилятора?
     

     View Slide

152. 152
     Консервативный GC
     ➢ Предполагаем худшее: каждое
     значение может быть указателем
     ➢ Отсеиваем лишнее в рантайме
     

     View Slide

153. 153
     Консервативный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

154. 154
     Консервативный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

155. 155
     Консервативный GC
     stack
     sp+30h
     sp+0h
     registers
     rax
     rcx
     ...
     rdx
     r14
     

     View Slide

156. 156
     Консервативный GC
     ➢ Предполагаем худшее: каждое
     значение может быть указателем
     ➢ Отсеиваем лишнее в рантайме
     ➢ Иногда ошибаемся ⇒ увеличиваем
     Memory Drag на величину ошибки
     

     View Slide

157. 157
     Консервативный GC
     Зачем такое нужно?
     

     View Slide

158. 158
     Консервативный GC
     Зачем такое нужно?
     ➢ Нет карт ⇒ они не занимают место
     ➢ Нет карт ⇒ нет затрат на генерацию
     

     View Slide

159. 159
     Консервативный GC
     Зачем такое нужно?
     ➢ Нет карт ⇒ они не занимают место
     ➢ Нет карт ⇒ нет затрат на генерацию
     ➢ Нет карт ⇒ можно выкинуть safe-points
     

     View Slide

160. 160
     Safe-points
     1 - 2 машинные инструкции
     Обратные дуги циклов и эпилоги
     

     View Slide

161. 161
     Safe-points
     1 - 2 машинные инструкции
     Обратные дуги циклов и эпилоги
     Ухудшают производительность ⇒
     Агрессивно оптимизируются
     

     View Slide

162. 162
     Мир без safe-points
     

     View Slide

163. 163
     Мир без safe-points
     Производительность растет
     Размер кода уменьшается
     

     View Slide

164. 164
     Мир без safe-points
     Производительность растет
     Размер кода уменьшается
     Многое работает через safe-points,
     поэтому потребует переработки
     

     View Slide

165. 165
     Консервативный GC
     А так вообще делают?
     

     View Slide

166. 166
     Консервативный GC
     А так вообще делают?
     Теория:
     Boehm GC, 1988, conservative
     Immix, 2008, mostly-precise
     

     View Slide

167. 167
     Консервативный GC
     А так вообще делают?
     Теория:
     Boehm GC, 1988, conservative
     Immix, 2008, mostly-precise
     Практика:
     

     View Slide

168. 168
     Консервативный GC
     А так вообще делают?
     Теория:
     Boehm GC, 1988, conservative
     Immix, 2008, mostly-precise
     Практика:
     MobiVM
     

     View Slide

169. 169
     Консервативный GC
     А так вообще делают?
     Теория:
     Boehm GC, 1988, conservative
     Immix, 2008, mostly-precise
     Практика:
     MobiVM
     scala-native
     

     View Slide

170. 170
     Консервативный GC
     А так вообще делают?
     Теория:
     Boehm GC, 1988, conservative
     Immix, 2008, mostly-precise
     Практика:
     MobiVM
     scala-native
     Excelsior JET
     Generation 1
     (с 1999 по 2015)
     

     View Slide

171. 171
     Неограниченный Memory Drag
     Консервативная ошибка:
     ○ обычно продлевает жизнь объекта на
     один или несколько циклов GC
     (пока ложный корень на стеке)
     

     View Slide

172. 172
     Неограниченный Memory Drag
     Консервативная ошибка:
     ○ обычно продлевает жизнь объекта на
     один или несколько циклов GC
     (пока ложный корень на стеке)
     ○ иногда продлевает навсегда
     

     View Slide

173. 173
     Неограниченный Memory Drag
     public class Executor extends Thread {
     public abstract class Task implements Runnable { }
     final TaskQueue queue = new TaskQueue();
     . . .
     }
     

     View Slide

174. 174
     Неограниченный Memory Drag
     public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     

     View Slide

175. public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     175
     Неограниченный Memory Drag
     stack
     sp+20h addr t
     

     View Slide

176. public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     176
     Неограниченный Memory Drag
     stack
     addr t
     sp+20h
     

     View Slide

177. public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     177
     Неограниченный Memory Drag
     stack
     addr t
     sp+20h
     

     View Slide

178. public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     178
     Неограниченный Memory Drag
     stack
     addr t
     sp+20h
     

     View Slide

179. 179
     Неограниченный Memory Drag
     Может это искусственный пример?
     

     View Slide

180. 180
     Неограниченный Memory Drag
     Может это искусственный пример?
     Нет, это класс java.util.Timer из JDK
     И там все еще хуже
     

     View Slide

181. public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     181
     Неограниченный Memory Drag
     stack
     addr t
     sp+20h
     

     View Slide

182. public void mainLoop() {
     while (true) {
     synchronized (queue) {
     while (queue.isEmpty()) {
     queue.wait();
     }
     Task t = queue.get();
     t.run();
     }
     }
     }
     182
     Неограниченный Memory Drag
     stack
     addr t
     sp+20h
     threadReaper
     

     View Slide

183. 183
     Неограниченный Memory Drag
     Как Вы можете
     бороться с консервой?
     

     View Slide

184. 184
     Неограниченный Memory Drag
     Как Вы можете
     бороться с консервой?
     

     View Slide

185. 185
     Неограниченный Memory Drag
     Как Вы можете
     бороться с консервой?
     

     View Slide

186. 186
     Неограниченный Memory Drag
     java.util.Timer javadoc:
     After the last live reference to a Timer object goes
     away and all outstanding tasks have completed
     execution, the timer's task execution thread terminates
     gracefully (and becomes subject to garbage collection).
     However, this can take arbitrarily long to occur. By
     default, the task execution thread does not run as a
     daemon thread, so it is capable of keeping an
     application from terminating. If a caller wants to
     terminate a timer's task execution thread rapidly, the
     caller should invoke the timer's cancel method.
     

     View Slide

187. 187
     Выводы
     Консервативный GC - большая сила, но и
     большая ответственность
     

     View Slide

188. 188
     Выводы
     Консервативный GC - большая сила, но и
     большая ответственность
     Консерва не только в GC
     (смотри первый пример)
     

     View Slide

189. 189
     Заключение
     

     View Slide

190. 190
     Заключение
     Не нужно пытаться предугадать время жизни
     объекта и рассчитывать на это в коде!
     

     View Slide

191. 191
     Заключение
     Не нужно пытаться предугадать время жизни
     объекта и рассчитывать на это в коде!
     Если вы все-таки на это решились:
     Используйте правильные костыли решения
     (reachabilityFence, Cleaner, Timer.cancel)
     

     View Slide

192. 192
     Q & A
     @jugnsk
     ivan.ugliansky@gmail.com
     @dbg_nsk
     

     View Slide