[Tdc business - zup ] Desvendando a JVM: arquitetura e funcionamento

Slide 1

Slide 1 text

zup.com.br @zupinnovation >_< TDC Business 2022 Desvendando a JVM Arquitetura e funcionamento

Slide 2

Slide 2 text

@zupinnovation zup.com.br <> Kamila Santos Tech Lead kamila.oliveira@zup.com.br @kamilacode Kamila-santos-oliveira

Slide 3

Slide 3 text

.O que é a JVM?.

Slide 4

Slide 4 text

@zupinnovation zup.com.br <> JVM (Java Virtual Machine) foi criada nos anos 90 e é a base da plataforma Java. Também responsável por tratar todos os SOs e plataformas para a linguagem, ela não conhece a linguagem Java, somente o seu bytecode.

Slide 5

Slide 5 text

@zupinnovation zup.com.br <> O bytecode vem no formato .class e são instruções que indicam para a JVM o que deve ser realizado naquela parte da aplicação.

Slide 6

Slide 6 text

.Tipos de. .linguagens.

Slide 7

Slide 7 text

@zupinnovation zup.com.br <> ? E o Java? Interpretadas Compiladas ⟷ ⟷ Tipos de linguagens

Slide 8

Slide 8 text

@zupinnovation zup.com.br <> Linguagens compiladas Compilam e transformam o código em binário 🚀. Ou seja, transformam o código em linguagem de máquina, seguindo a arquitetura do sistema. Tem como vantagem a velocidade de execução pela compilação ser focada na arquitetura. Ex: C e C++

Slide 9

Slide 9 text

@zupinnovation zup.com.br <> Linguagens interpretadas Traduzem cada linha de código em binário conforme. a linha é executada.. A vantagem dessa abordagem é a portabilidade, que permite executar o código em diversos tipos de arquiteturas sem precisar fazer nenhum tipo de pré-compilação para a arquitetura. Ex: Ruby e Python

Slide 10

Slide 10 text

@zupinnovation zup.com.br <> E o Java? Ela é um misto de linguagem. .compilada e interpretada.. Primeiramente o código é compilado para um formato portátil e intermediário (chamado de bytecode), para somente depois ser interpretado.

Slide 11

Slide 11 text

@zupinnovation zup.com.br <> E o Java? Dentre as vantagens dessa abordagem podemos citar: ➔ Type checking (veriﬁcação da tipagem); ➔ Otimização da compilação do código; ➔ O bytecode só necessita ser compilado uma vez para chegar o mais próximo do código de máquina e manter a portabilidade.

Slide 12

Slide 12 text

.Conhecendo. .a arquitetura.

Slide 13

Slide 13 text

@zupinnovation zup.com.br <>

Slide 14

Slide 14 text

.Class Loader.

Slide 15

Slide 15 text

@zupinnovation zup.com.br <> É responsável por 3 atividades: ➔ Loading ➔ Linking ➔ Initialization Class Loader 🔐 Esse conteúdo é conﬁdencial e não deve ser compartilhado fora da Zup!

Slide 16

Slide 16 text

@zupinnovation zup.com.br <> Quando você compila um arquivo java, ele é convertido em bytecode (arquivo .class). Quando você tenta usar esta classe em seu aplicativo, o class loader o carrega na memória principal. Jvm armazena as seguintes informações no method area: ➔ O nome da classe carregada e sua classe pai. ➔ Todos os arquivos .class relacionados a esta classe ➔ Modiﬁcadores, Métodos e Variáveis. Class Loader

Slide 17

Slide 17 text

@zupinnovation zup.com.br <> Bootstrap Class Loader Class Loader - Loading Extension Class Loader Application Class Loader 1 2 3 Temos 3 carregadores de classes integrados disponíveis em Java:

Slide 18

Slide 18 text

@zupinnovation zup.com.br <> O carregador de classes raiz. É a superclasse do Extension Class Loader e carrega os pacotes Java padrão (lang, util, net, io ..). Esses pacotes padrão estão presentes no arquivo rt.jar e em outras bibliotecas centrais no diretório $ JAVA_HOME / jre / lib. 1. Bootstrap class loader: Class Loader - Loading

Slide 19

Slide 19 text

@zupinnovation zup.com.br <> É a subclasse do Bootstrap Class Loader e a superclasse do Application Class Loader. Carrega as extensões das bibliotecas Java padrão presentes no diretório $ JAVA_HOME / jre / lib / ext. 2. Extension Class Loader: Class Loader - Loading

Slide 20

Slide 20 text

@zupinnovation zup.com.br <> O último Class Loader e a subclasse do Extension Class Loader. Carrega os arquivos presentes no caminho de classe. O caminho de classe é deﬁnido como o diretório atual do aplicativo. 3. Application Class Loader: Class Loader - Loading

Slide 21

Slide 21 text

@zupinnovation zup.com.br <> Se um class loader pai não puder localizar uma classe, delega o trabalho a um class loader ﬁlho. Se o ﬁlho não for capaz de carregar a classe, ele lança noC lassDefFoundError ou ClassNotFoundException. Class Loader - Loading

Slide 22

Slide 22 text

@zupinnovation zup.com.br <> Depois que uma classe é carregada na memória, ela vai para o processo de linking. O processo de linking envolve combinar os diferentes elementos e dependências do programa. Class Loader - Linking ➔ Linking inclui as seguintes etapas: - Veriﬁcação - Preparação - Resolução

Slide 23

Slide 23 text

@zupinnovation zup.com.br <> Verificação Preparação Resolução Verifica se um arquivo está corretamente formatado e se foi gerado por compilador válido ou não. Se essa verificação falhar, nós recebemos uma runtime exception java.lang.VerifyError. Essa verificação é feita pelo componente ByteCodeVerifier. Quando essa atividade é concluída a classe está pronta para compilação. JVM aloca memória para variáveis de classe e inicializa a memória para valores padrão. O processo de substituição de referências simbólicas, o processo é feito pesquisando no method area para alocar a entidade de referência. Class Loader - Linking

Slide 24

Slide 24 text

@zupinnovation zup.com.br <> Class Loader - Initialization Nesta etapa, todas as variáveis estáticas são atribuídas com seus valores deﬁnidos no código e no bloco estático. Esta etapa é executada de cima para baixo em uma classe de pai para ﬁlho na hierarquia de classes.

Slide 25

Slide 25 text

.JVM Memory.

Slide 26

Slide 26 text

@zupinnovation zup.com.br <>

Slide 27

Slide 27 text

@zupinnovation zup.com.br <> Nós temos 5 componentes nessa área: ➔ Method area ➔ Heap ➔ JVM language stacks ➔ PC registers ➔ Native Method stacks JVM Memory

Slide 28

Slide 28 text

@zupinnovation zup.com.br <> ➔ Contém todas as informações das classes, como nome, métodos e etc. ➔ Se a memória disponível nesta área não for suﬁciente para a inicialização do aplicativo, a JVM lança um OutOfMemoryError. ➔ Existe apenas uma method area por JVM e é um recurso compartilhado. JVM Memory - Method Area

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Slide 31

Slide 31 text

@zupinnovation zup.com.br <> JVM Memory ➔ Aqui estão todos os objetos, suas variáveis de instância e matrizes relacionadas. ➔ Esta memória é compartilhada por vários threads. Heap Area

Slide 32

Slide 32 text

@zupinnovation zup.com.br <> ➔ Quando uma nova thread é criada na JVM, uma pilha de tempo de execução separada também é criada neste momento (armazena informações especíﬁcas da thread criada, que será destruída assim que a thread for ﬁnalizada). ➔ Variáveis locais, chamadas de método e resultados parciais são armazenados aqui. ➔ Um stackOverFlowError ocorre quando um processo que está sendo executado em uma thread requer um tamanho de pilha muito grande que não está disponível. ➔ Para cada chamada de método, uma entrada é feita na pilha de memória (stack frame) quando essa chamada de método é concluída, a stack frame é destruída. JVM Memory - JVM language Stacks (stack area)

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

Slide 36

Slide 36 text

@zupinnovation zup.com.br <> Operand stack Frame Data Local Variables A stack frame é dividida em 3 partes: JVM Memory - JVM language Stacks (stack area)

Slide 37

Slide 37 text

@zupinnovation zup.com.br <> JVM Memory ➔ Cada frame contém um array de variáveis chamada local variables. ➔ Todas as local variables e seus valores são armazenados aqui. Local Variables

Slide 38

Slide 38 text

.Diferença entre. .heap e stack.

Slide 39

Slide 39 text

➔ Armazena objetos complexos; ➔ Em um aplicativo, ele é compartilhado por todas as threads; ➔ Os dados armazenados na heap podem ser acessados por threads múltiplas; ➔ Ponteiro para aquele objeto, que é a referência da variável e que está armazenado na pilha. Heap ➔ Cada thread tem sua própria stack; ➔ Pode ser deﬁnida como uma estrutura de dados gerenciada pela JVM; ➔ Todas as variáveis locais são criadas na pilha e são automaticamente retiradas da pilha quando você chega ao fechamento do bloco que criou aquela variável; ➔ O dado na stack é restrito para a thread, não pode ser acessada por outras threads da aplicação. Stack

Slide 40

Slide 40 text

Cada frame contém uma pilha LIFO chamada operand stack. Atua como um workspace em tempo de execução para performar operações intermediárias. JVM Memory - Operand stack Armazena todos os símbolos correspondentes ao method area e armazena as informações do bloco catch em caso de exceptions. JVM Memory - Frame Data

Slide 41

Slide 41 text

@zupinnovation zup.com.br <> PC Cada thread tem o seu próprio PC registers para armazenar o endereço do que está sendo executado no momento na JVM. (Program Counter) Registers

Slide 42

Slide 42 text

@zupinnovation zup.com.br <> JVM Memory Para cada nova thread, uma nova native method stack é alocada. Native Method Stacks

Slide 43

Slide 43 text

.Execution Engine.

Slide 44

Slide 44 text

@zupinnovation zup.com.br <> Just-In-Time Compiler (JIT) Garbage Collector Interpreter Na execution engine nós temos 3 partes: Execution Engine

Slide 45

Slide 45 text

O interpreter é responsável por ler e executar o bytecode linha a linha. Devido a esse processo linha a linha, o interpreter é uma das etapas mais demoradas. Execution Engine - Interpreter ➔ A execution engine executa os bytecodes (arquivo .class); ➔ Lê o bytecode linha a linha; ➔ Então usa os dados e informações presentes na área de memória para executar instruções. Execution Engine

Slide 46

Slide 46 text

O JIT compiler vê quais partes do código são executadas com maior frequência. (Principalmente quais métodos são chamados com maior frequência). A execução desse código pode ser acelerada se o método já for compilado para código nativo de máquina. Execution Engine - JIT Compiler

Slide 47

Slide 47 text

.O que é o código. .de máquina. .nativo mesmo?.

Slide 48

Slide 48 text

@zupinnovation zup.com.br <> O código executável que é compreendido pelo SO, na compilação o bytecode é convertido para o código de máquina nativo (isso em um thread separada), enquanto isso a JVM continua usando a versão interpretada.

Slide 49

Slide 49 text

.JIT Compiler.

Slide 50

Slide 50 text

@zupinnovation zup.com.br <> Vamos voltar no detalhe do funcionamento do JIT ➔ Quando compilamos nosso programa Java, terminamos com nosso código-fonte compilado na representação de um bytecode JVM. ➔ Esse bytecode é mais simples e compacto que nosso código-fonte, porém os processadores convencionais em nossos computadores não podem executá-lo.

Slide 51

Slide 51 text

@zupinnovation zup.com.br <> Vamos voltar no detalhe do funcionamento do JIT ➔ Para poder executar um programa Java, a JVM interpreta o bytecode, como os interpretadores geralmente são muito mais lentos do que o código nativo executado em um processador real, a JVM pode executar outro compilador, que agora compilará nosso bytecode no código de máquina, que pode ser executado pelo processador.

Slide 52

Slide 52 text

@zupinnovation zup.com.br <> Vamos voltar no detalhe do funcionamento do JIT ➔ Esse chamado compilador just-in-time é bem mais soﬁsticado que o compilador javac e executa otimizações complexas para gerar código de máquina de alta qualidade. ➔ A implementação do JDK pela Oracle foi baseada no projeto OpenJDK de código aberto. Isso inclui a máquina virtual HotSpot, disponível desde a versão 1.3 do Java. E contém dois compiladores JIT convencionais: o compilador cliente, também chamado C1, e o compilador servidor, chamado opto ou C2.

Slide 53

Slide 53 text

@zupinnovation zup.com.br <> Vamos voltar no detalhe do funcionamento do JIT ➔ C1 é projetado para rodar mais rápido e produzir códigos menos otimizados. Enquanto C2, leva um pouco mais de tempo para rodar, porém produz um código melhor otimizado. O compilador C1 é mais adequado para aplicativos de desktop, pois não queremos longas pausas para a compilação JIT. ➔ O compilador de C2 é indicado para aplicativos de servidor de execução longa que podem gastar mais tempo na compilação.

Slide 54

Slide 54 text

@zupinnovation zup.com.br <> Vamos voltar no detalhe do funcionamento do JIT ➔ Um programa Java, compilado por javac, inicia sua execução em modo interpretado. A JVM rastreia cada método chamado com frequência e os compila. Para fazer isso, ele utiliza C1 para a compilação. Porém, o HotSpot ainda observa as chamadas futuras desses métodos. Se o número de chamadas aumentar, a JVM recompilará esses métodos mais uma vez, porém desta vez usando C2. ➔ C2 foi extremamente otimizado e produz código capaz de competir com C++ ou ser ainda mais rápido. O próprio compilador do servidor é escrito em um dialeto especíﬁco de C++.

Slide 55

Slide 55 text

.E esse tal. .de Graal?.

Slide 56

Slide 56 text

@zupinnovation zup.com.br <> ➔ É um projeto de pesquisa criado pela Oracle. Podemos olhar para o Graal como vários projetos conectados: um novo compilador JIT que se baseia no HotSpot e uma nova máquina virtual poliglota. ➔ Ele fornece um ecossistema abrangente que suporta um grande conjunto de linguagens (Java e outras linguagens baseadas em JVM; JavaScript, Ruby, Python, R, C/C++) Graal

Slide 57

Slide 57 text

@zupinnovation zup.com.br <> ➔ Existem várias vantagens importantes de escrever um compilador em Java. Dentre elas, a segurança, que signiﬁca que não há travamentos, mas exceções, e nenhum vazamento de memória real. ➔ E o compilador pode ser independente do HotSpot e seria capaz de produzir uma versão compilada por JIT mais rápida de si mesmo. Graal

Slide 58

Slide 58 text

@zupinnovation zup.com.br <> ➔ Ele utiliza a nova JVM Compiler Interface – JVMCI para se comunicar com a VM. Para habilitar o uso do novo compilador JIT, precisamos deﬁnir as seguintes opções ao executar o Java a partir da linha de comando: -XX:+UnlockExperimentalVMOptions -XX:+EnableJVMCI -XX:+UseJVMCICompiler Graal

Slide 59

Slide 59 text

@zupinnovation zup.com.br <> Ou seja, podemos executar um programa simples de três maneiras diferentes: 1. Com os compiladores regulares; 2. Com a versão JVMCI do Graal no Java 10; 3. Ou com o próprio GraalVM. Graal

Slide 60

Slide 60 text

.Segmented. .Code Cache.

Slide 61

Slide 61 text

@zupinnovation zup.com.br <> Surgiu no Java 9 com formas de organizar e separar os tipos de código compilados em cache. É uma área onde JVM armazena seu bytecode compilado em código nativo. Segmented Code Cache

Slide 62

Slide 62 text

@zupinnovation zup.com.br <> ● Ele tem um tamanho ﬁxo, quando encher o JIT será desligado (a app não vai parar). Caso isso aconteça iremos receber o erro: "CodeCache is full… The compiler has been disabled" e teremos uma grande queda de desempenho. Para melhorar isso temporariamente, podemos mudar seu tamanho tendo as seguintes opções: - InitialCodeCacheSize – tamanho inicial do code cache, 160K default; - ReservedCodeCacheSize – valor padrão é 48MB; - CodeCacheExpansionSize – quantidade que pode ser adicionada ao code cache, 32KB or 64KB. Segmented Code Cache

Slide 63

Slide 63 text

@zupinnovation zup.com.br <> Para saber como está o uso do code cache temos a opção –XX:+PrintCodeCache e teremos uma saída semelhante a essa: CodeCache: size=xyzKb used=xyz max_used=xyz free=xyzKb Segmented Code Cache

Slide 64

Slide 64 text

@zupinnovation zup.com.br <> Segmented Code Cache Non-method segment: Armazena o código interno relacionado à JVM, como o interpretador de bytecode. Por default, este segmento tem cerca de 5 MB. Além disso, é possível configurar o tamanho do segmento por meio do argumento -XX: NonNMethodCodeHeapSize 1 É dividido em 3 partes: Profiled-code segment: Armazena o código ligeiramente otimizado com tempos de vida potencialmente curtos. Tem como tamanho padrão 122 MB, podemos alterá-lo por meio do argumento -XX: ProfiledCodeHeapSize 2 Non-profiled segment: Armazena o código totalmente otimizado com tempos de vida potencialmente longos. Tem cerca de 122 MB por padrão. Este valor é, obviamente, configurável por meio do argumento -XX: NonProfiledCodeHeapSize 3

Slide 65

Slide 65 text

.Garbage Collector.

Slide 66

Slide 66 text

@zupinnovation zup.com.br <> Garbage Collector O Garbage Collector (GC) é responsável por gerenciar, de modo automático, a alocação de memória da aplicação coordenando junto ao SO a quantidade de memória utilizada e a eliminação de objetos que já não estão mais sendo utilizados. Basicamente, o GC funciona em duas etapas simples, conhecidas como Mark and Sweep: ● Marcação – é aqui que o coletor de lixo identiﬁca quais pedaços de memória estão em uso e quais não estão. ● Varredura – esta etapa remove objetos identiﬁcados durante a fase de “marcação”.

Slide 67

Slide 67 text

@zupinnovation zup.com.br <> Garbage Collector Vantagens: ● Sem manipulação manual de alocação/desalocação de memória, porque o espaço de memória não utilizado é tratado automaticamente pelo GC; ● Gerenciamento automático de vazamento de memória Desvantagens: ● Como a JVM precisa acompanhar a criação/exclusão de referência de objeto, essa atividade requer mais poder de CPU do que o aplicativo original. Isso pode afetar o desempenho de solicitações que exigem grande memória;

Slide 68

Slide 68 text

@zupinnovation zup.com.br <> Serial Garbage Collector Esta é a implementação de GC mais simples, porque funciona basicamente com uma única thread. Como resultado, essa implementação de GC congela todos os encadeamentos do aplicativo quando é executado. O Serial GC é o GC preferido para a maioria dos aplicativos que não têm requisitos de tempo de pausa pequenos e são executados em máquinas de estilo cliente. Para habilitar o Serial Garbage Collector, podemos usar o seguinte argumento: ● Java -XX:+UseSerialGC -jar Application.java

Slide 69

Slide 69 text

@zupinnovation zup.com.br <> Parallel Garbage Collector É o GC default da JVM. Ao contrário do Serial Garbage Collector, ele usa várias threads para gerenciar o espaço de heap, mas também congela outros threads de aplicativos enquanto executa o GC . Se usarmos este GC, podemos especiﬁcar o máximo de threads de GC e tempo de pausa e área de cobertura (tamanho do heap). Os números de encadeamentos do coletor de lixo podem ser controlados com a opção de linha de comando -XX:ParallelGCThreads=.

Slide 70

Slide 70 text

@zupinnovation zup.com.br <> Parallel Garbage Collector O tempo máximo de pausa (intervalo, em milissegundos, entre dois GCs) é especiﬁcado com a linha de comando -XX:MaxGCPauseMillis= O tempo gasto na coleta de lixo versus o tempo gasto fora da coleta de lixo é chamado de destino de rendimento máximo e pode ser especiﬁcado pela linha de comando -XX:GCTimeRatio=

Slide 71

Slide 71 text

@zupinnovation zup.com.br <> Parallel Garbage Collector O espaço de heap máximo (a quantidade de memória heap que um programa necessita durante a execução) é especiﬁcado usando a opção -Xmx. Para habilitar o Parallel Garbage Collector, podemos usar o seguinte argumento: ● java -XX:+UseParallelGC -jar Application.java

Slide 72

Slide 72 text

@zupinnovation zup.com.br <> G1 Garbage Collector G1 (Garbage First) Garbage Collector é projetado para aplicativos executados em máquinas com vários processadores com grande espaço de memória. Está disponível no JDK7 Update 4 e em versões posteriores. Ao contrário de outros coletores, o coletor G1 divide o heap em um conjunto de regiões de heap de tamanho igual, cada uma delas um intervalo contíguo de memória virtual. Para habilitar o G1 Garbage Collector, podemos usar o seguinte comando: ● java -XX:+UseG1GC -jar Application.java

Slide 73

Slide 73 text

@zupinnovation zup.com.br <> Z Garbage Collector ZGC (Z Garbage Collector) é um coletor de lixo escalável de baixa latência que estreou no Java 11 como uma opção experimental para Linux. O JDK 14 introduziu o ZGC nos sistemas operacionais Windows e macOS. O ZGC obteve o status de produção do Java 15 em diante. O ZGC executa todo o trabalho simultaneamente, sem interromper a execução de threads de aplicativos por mais de 10 ms, o que o torna adequado para aplicativos que exigem baixa latência. A coloração de referência é o conceito central do ZGC. Isso signiﬁca que o ZGC usa alguns bits (bits de metadados) de referência para marcar o estado do objeto.

Slide 74

Slide 74 text

@zupinnovation zup.com.br <> Z Garbage Collector Para habilitar o Z Garbage Collector, podemos usar o seguinte argumento nas versões do JDK inferiores a 15: ● java -XX:+UnlockExperimentalVMOptions -XX:+UseZGC Application.java A partir da versão 15: ● java -XX:+UseZGC Application.java

Slide 75

Slide 75 text

.Native Method. .Interface.

Slide 76

Slide 76 text

@zupinnovation zup.com.br <> Native Method Interface É uma interface (como uma ponte) que interage com as Native Method Libraries e provem as native libraries (C, C++).

Slide 77

Slide 77 text

.Native Method. .Libraries.

Slide 78

Slide 78 text

@zupinnovation zup.com.br <> Native Method Interface São bibliotecas que são escritas em outras linguagens de programação (como assembly, C e C++). Essas bibliotecas geralmente estão presentes na forma de arquivos .dll ou .so.

Slide 79

Slide 79 text

@zupinnovation zup.com.br <> Referências \ ● https://www.freecodecamp.org/news/jvm-tutorial-java-virtual-machine-architecture-explained-for-beginners/ ● https://www.geeksforgeeks.org/jvm-works-jvm-architecture/ ● https://www.guru99.com/java-virtual-machine-jvm.html ● Imergindo na JVM - Otávio Santana ● Jornada Java - Capítulos 43 e 44 ● https://www.baeldung.com/jvm-code-cache ● https://deviniciative.wordpress.com/2020/02/06/desmistiﬁcando-otimizacao-de-jvm/ ● https://www.udemy.com/course/java-application-performance-and-memory-management/ ● https://www.baeldung.com/jvm-garbage-collectors ● https://www.geeksforgeeks.org/garbage-collection-java/ ● Referências: YouTube icon by Icons8 ● https://www.baeldung.com/graal-java-jit-compiler

Slide 80

Slide 80 text

<> Siga a Zup nas redes @Zupcast @Zupinnovation @ZupIT @ZUP Instagram Twitter Facebook LinkedIn Spotify GitHub YouTube Obrigada pela participação!

Slide 81

Slide 81 text

No content