$30 off During Our Annual Pro Sale. View Details »

Arquitetura Web: Escalando Sua Aplicação Além do Hype

Rafael Ponte
February 13, 2019

Arquitetura Web: Escalando Sua Aplicação Além do Hype

(Palestra ministrada no evento CEJS em OUT-2019)

É muito comum evangelizarem que hoje em dia uma aplicação somente escala se utilizarmos micro-serviços, containers, cloud computing e muitos outras tecnologias e práticas da moda, o famigerado HYPE.

Mas será mesmo? Já se perguntou como as aplicações escalavam ANTES desse hype todo? Que tipos de práticas e tecnologias eram utilizadas? Alias, será mesmo que meu sistema web precisa escalar para centenas ou milhares de usuários?

Nessa palestra vamos entender como podemos escalar nosso sistema web SEM se levar pelo hype, partindo de práticas mais simples e baratas até as mais rebuscadas e que precisam de um maior investimento. Se você entende pouco ou quase nada sobre como escalar uma aplicação web, então essa palestra é para você!

Rafael Ponte

February 13, 2019
Tweet

More Decks by Rafael Ponte

Other Decks in Technology

Transcript

  1. ARQUITETURA WEB
    escalando sua aplicação além do hype

    View Slide

  2. ahh o hype…

    View Slide

  3. Hype-Driven Development
    https://blog.daftcode.pl/hype-driven-development-3469fc2e9b22

    View Slide

  4. Desenvolvimento Orientado a Modinha
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/

    View Slide

  5. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
    Retorno para "sanidade"
    Agora entendemos onde utilizar

    e seus prós e contras

    View Slide

  6. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/

    View Slide

  7. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/

    View Slide

  8. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/

    View Slide

  9. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/

    View Slide

  10. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
    Retorno para "sanidade"
    Agora entendemos onde utilizar

    e seus prós e contras

    View Slide

  11. View Slide

  12. View Slide

  13. View Slide

  14. View Slide

  15. View Slide

  16. View Slide

  17. View Slide

  18. Um bom arquiteto escolhe
    tecnologias por suas
    desvantagens

    View Slide

  19. View Slide

  20. podemos escalar
    SEM o hype…

    View Slide

  21. Rafael Ponte
    @rponte

    View Slide

  22. View Slide

  23. Fortaleza - Terra do Sol

    View Slide

  24. ARQUITETURA WEB
    escalando sua aplicação além do hype

    View Slide

  25. Como escalar minha
    app para MILHARES de
    usuários?

    View Slide

  26. Loja Virtual

    View Slide

  27. View Slide

  28. Revisitando a Web…

    View Slide

  29. servidor

    View Slide

  30. servidor

    View Slide

  31. navegador
    servidor

    View Slide

  32. navegador
    servidor
    requisição

    View Slide

  33. navegador
    servidor db
    requisição

    View Slide

  34. navegador
    servidor db
    requisição
    resposta

    View Slide

  35. navegador
    servidor db
    requisição
    resposta

    View Slide

  36. 2 conceitos
    importantes

    View Slide

  37. Performance 

    X 

    Escalabilidade

    View Slide

  38. tempo de resposta
    (response time)

    View Slide

  39. navegador
    servidor db
    requisição
    resposta

    View Slide

  40. navegador
    servidor db
    requisição
    resposta
    tempo resposta

    View Slide

  41. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 100ms

    View Slide

  42. operações / unidade_tempo
    (throughput)

    View Slide

  43. usuários / minuto
    (throughput)

    View Slide

  44. usuários / segundo
    (throughput)

    View Slide

  45. usuários / segundo
    (throughput)

    View Slide

  46. requisições / segundo
    (throughput)

    View Slide

  47. navegador
    servidor db
    requisição
    resposta

    View Slide

  48. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 100ms

    View Slide

  49. servidor db
    requisição
    resposta
    tempo resposta: 100ms

    View Slide

  50. servidor db
    requisição
    resposta
    tempo resposta: 100ms

    View Slide

  51. servidor db
    requisição
    resposta
    tempo resposta: 1s

    View Slide

  52. servidor db
    requisição
    resposta
    tempo resposta: 7s

    View Slide

  53. servidor db
    requisição
    resposta
    tempo resposta: 24s

    View Slide

  54. servidor db
    requisição
    resposta
    tempo resposta: 0

    View Slide

  55. nossa aplicação não escala mais
    do que: 80 req/s

    View Slide

  56. navegador
    servidor db
    requisição
    resposta
    throughput: 80 req/s

    View Slide

  57. navegador
    servidor db
    requisição
    resposta
    throughput: 250 req/s

    View Slide

  58. navegador
    servidor db
    requisição
    resposta
    throughput: 1000 req/s

    View Slide

  59. PASSOS
    5
    RESUMINDO EM

    View Slide

  60. Passo 1

    (TUNANDO A APLICAÇÃO)

    View Slide

  61. navegador
    servidor db
    requisição
    resposta

    View Slide

  62. navegador
    servidor db
    requisição
    resposta

    View Slide

  63. View Slide

  64. View Slide

  65. View Slide

  66. View Slide

  67. View Slide

  68. View Slide

  69. JVM

    View Slide

  70. View Slide

  71. 2Gb

    View Slide

  72. 2Gb
    ???

    View Slide

  73. 2Gb
    256Mb

    View Slide

  74. 2Gb
    ??Mb

    View Slide

  75. 2Gb
    2Gb

    View Slide

  76. 2Gb
    2Gb
    =

    View Slide

  77. 2Gb
    2Gb
    =
    X

    View Slide

  78. 2Gb
    1Gb

    View Slide

  79. 2Gb
    1Gb
    -Xms256m -Xmx1024m 

    -XX:MaxPermSize=192m

    View Slide

  80. 2Gb
    1Gb
    -Xms256m -Xmx1024m 

    -XX:MaxPermSize=192m

    View Slide

  81. 2Gb
    1Gb
    -Xms256m -Xmx1024m 

    -XX:MaxPermSize=192m
    minimo != maximo

    View Slide

  82. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m
    minimo = maximo

    View Slide

  83. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m
    Heap Size

    View Slide

  84. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m

    View Slide

  85. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m
    PermGen Size

    View Slide

  86. 2Gb
    1Gb

    View Slide

  87. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m
    memoria

    View Slide

  88. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m
    -server
    modo servidor
    memoria

    View Slide

  89. 2Gb
    1Gb
    -Xms1024m -Xmx1024m 

    -XX:MaxPermSize=192m
    -XX:+UseConcMarkSweepGC

    -XX:+CMSParallelRemarkEnabled
    -server
    modo servidor
    memoria
    coletor de lixo (GC)

    View Slide

  90. Ganhou fôlego,
    mas…

    View Slide

  91. navegador
    servidor db
    requisição
    resposta

    View Slide

  92. servidor
    Aplicação

    View Slide

  93. servidor

    View Slide

  94. servidor
    Produto.java
    Venda.java
    BancoDeDados.java
    FinalizarCompra.java
    Pagamento.java
    carrinhoDeCompras.jsp
    index.jsp
    site.css
    app.js
    GravaProduto.java
    EnviaEmail.java
    GravaProdutoServlet.java
    finalizar-compra.jsp

    View Slide

  95. servidor

    View Slide

  96. servidor

    View Slide

  97. servidor

    View Slide

  98. Divisão de Camadas

    View Slide

  99. servidor

    View Slide

  100. servidor
    modelo

    View Slide

  101. servidor
    modelo
    telas

    View Slide

  102. servidor
    modelo
    acesso a dados
    telas

    View Slide

  103. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  104. servidor
    apresentação
    negócio
    persistência
    controle das telas
    camadas

    View Slide

  105. servidor
    apresentação
    negócio
    persistência
    controle das telas
    logica de negocio
    camadas

    View Slide

  106. servidor
    apresentação
    negócio
    persistência
    controle das telas
    logica de negocio
    acesso a banco e dados
    camadas

    View Slide

  107. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  108. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  109. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  110. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  111. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  112. servidor
    apresentação
    negócio
    persistência
    camadas

    View Slide

  113. navegador
    servidor db
    requisição
    resposta

    View Slide

  114. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 1000ms

    View Slide

  115. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 1000ms
    700ms

    View Slide

  116. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 1000ms
    700ms

    View Slide

  117. servidor
    db

    View Slide

  118. db
    apresentação
    negócio
    persistência

    View Slide

  119. db
    apresentação
    negócio
    persistência
    Transaction Response Time

    View Slide

  120. db
    T =
    apresentação
    negócio
    persistência

    View Slide

  121. db
    T = Tacq
    apresentação
    negócio
    persistência

    View Slide

  122. db
    T = Tacq + Treq
    apresentação
    negócio
    persistência

    View Slide

  123. db
    T = Tacq + Treq + Texec
    apresentação
    negócio
    persistência

    View Slide

  124. db
    T = Tacq + Treq + Texec + Tres
    apresentação
    negócio
    persistência

    View Slide

  125. db
    T = Tacq + Treq + Texec + Tres + Tidle
    apresentação
    negócio
    persistência

    View Slide

  126. quanto menor o response time,
    maior o throughput

    View Slide

  127. db
    T = Tacq + Treq + Texec + Tres + Tidle
    apresentação
    negócio
    persistência

    View Slide

  128. navegador
    servidor db

    View Slide

  129. navegador
    servidor db
    1 requisição 1 conexão

    View Slide

  130. navegador
    servidor db
    10 requisições 10 conexões

    View Slide

  131. navegador
    servidor db
    100 requisições
    100 conexões

    View Slide

  132. navegador
    servidor db
    1000 requisições
    1000 conexões

    View Slide

  133. navegador
    servidor db
    1001 requisições
    0 conexões

    View Slide

  134. Criar conexões
    é CARO!

    View Slide

  135. navegador db
    app

    View Slide

  136. navegador db
    app

    View Slide

  137. navegador db
    app

    View Slide

  138. navegador db
    app
    ini=5

    View Slide

  139. db
    app
    ini=5

    View Slide

  140. db
    app …
    max=30
    ini=5

    View Slide

  141. db
    app …
    max=30
    ini=5

    View Slide

  142. db
    app
    min=3 max=30
    ini=5

    View Slide

  143. navegador db
    connection pool
    app
    min=3 max=30
    ini=5

    View Slide

  144. quanto mais rápido obter
    uma conexão, menor o
    response time

    View Slide

  145. mas qual o tamanho
    ideal do pool?

    View Slide

  146. https://mobile.twitter.com/Nick_Craver/status/969043553711218691

    View Slide

  147. mensure!

    View Slide

  148. db
    T = Tacq + Treq + Texec + Tres + Tidle
    apresentação
    negócio
    persistência

    View Slide

  149. Habilite o Batch Size

    View Slide

  150. @Entity
    public class Produto {
    @Id
    @GeneratedValue
    private Integer id;
    private String nome;
    // outros atributos
    }

    View Slide

  151. List produtos = //...
    for (Produto p : produtos) {
    entityManager.persist(p);
    }
    Persistindo várias entidades

    View Slide

  152. INSERT INTO produto(nome, id) VALUES (‘Prod.1', 1)
    INSERT INTO produto(nome, id) VALUES (‘Prod.2', 2)
    INSERT INTO produto(nome, id) VALUES (‘Prod.3', 3)
    INSERT INTO ...
    3 roundtrips

    View Slide

  153. name="hibernate.jdbc.batch_size"
    value="5"
    />
    persistence.xml

    View Slide

  154. List produtos = //...
    for (Produto p : produtos) {
    entityManager.persist(p);
    }
    Persistindo várias entidades

    View Slide

  155. Query : ["INSERT INTO produto(nome, id) VALUES (?, ?)"]
    Params: [(‘Prod.1', 1), (‘Prod.2', 2), (‘Prod.3', 3)]
    1 roundtrip

    View Slide

  156. Query : ["INSERT INTO produto(nome, id) VALUES (?, ?)"]
    Params: [('Prod.1', 1), ('Prod.2', 2), (‘Prod.3', 3)]
    1 roundtrip

    View Slide

  157. Para UPDATE e DELETE também

    View Slide

  158. List produtos = //...
    for (Produto p : produtos) {
    p.setNome(p.getNome()
    .toUpperCase());
    }
    Atualizando várias entidades

    View Slide

  159. Query : [“UPDATE produto SET nome = ? WHERE id = ?”]
    Params: [(‘PROD.1', 1), (‘PROD.2', 2), (‘PROD.3', 3)]
    1 roundtrip

    View Slide

  160. List produtos = //...
    for (Produto p : produtos) {
    entityManager.remove(p);
    }
    Removendo várias entidades

    View Slide

  161. Query : [“DELETE FROM produto WHERE id = ?”]
    Params: [(1), (2), (3)]
    1 roundtrip

    View Slide

  162. quanto menos roundtrips ao
    banco, menor o response time

    View Slide

  163. db
    T = Tacq + Treq + Texec + Tres + Tidle
    apresentação
    negócio
    persistência

    View Slide

  164. Use Consultas Planejadas
    (DTO Projections)

    View Slide

  165. @Entity
    class NotaFiscal {

    @OneToMany
    List itens;
    }

    View Slide

  166. NotaFiscal nf = entityManager
    .find(NotaFiscal.class, 42);

    processaItensDaNota(nf);
    Processando os itens de uma nota

    View Slide

  167. NotaFiscal nf = entityManager
    .find(NotaFiscal.class, 42);

    processaItensDaNota(nf);
    Processando os itens de uma nota

    View Slide

  168. Processando os itens de uma nota
    NotaFiscal nf = entityManager
    .find(NotaFiscal.class, 42);

    processaItensDaNota(nf);

    View Slide

  169. SELECT nf.*
    FROM NotaFiscal nf
    WHERE nf.id = 42
    SELECT i.*
    FROM Item i
    WHERE i.nota_fiscal_id = 42
    Hibernate executa 2 selects
    NotaFiscal nf = entityManger.find(NotaFiscal.class, 42);
    processaItensDaNota(nf);

    View Slide

  170. List notas = dao.lista();
    for (NotaFiscal nf : notas) {
    processaItensDaNota(nf);
    }
    Processando os itens de varias notas

    View Slide

  171. List notas = dao.lista();
    for (NotaFiscal nf : notas) {
    processaItensDaNota(nf);
    }
    Processando os itens de varias notas

    View Slide

  172. Processando os itens de varias notas
    List notas = dao.lista();
    for (NotaFiscal nf : notas) {
    processaItensDaNota(nf);
    }

    View Slide

  173. SELECT nf.* FROM NotaFiscal nf
    SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
    SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
    SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
    SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
    SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
    ...
    Hibernate executa n+1 selects
    List notas = dao.lista();
    for (NotaFiscal nf : notas) {
    processaItensDaNota(nf);
    }

    View Slide

  174. são muitos hits ao banco
    (Select N+1)

    View Slide

  175. solução?

    View Slide

  176. @Entity
    class NotaFiscal {

    @OneToMany(fetch=FetchType.EAGER)
    List itens;
    }
    Utilizando FetchMode=EAGER

    View Slide

  177. SELECT nf.*, i.*
    FROM NotaFiscal nf
    LEFT OUTER JOIN Item i
    ON nf.id = i.nota_fiscal_id

    Hibernate executa 1 select
    List notas = dao.lista();

    View Slide

  178. antes de definir um mapeamento
    global deste tipo você precisa se
    perguntar...

    View Slide

  179. SEMPRE que uma nota é carregada,
    todos seus itens também são
    necessários?

    View Slide

  180. não?

    View Slide

  181. @Entity
    class NotaFiscal {

    @OneToMany(fetch=FetchType.LAZY)
    List itens;
    }
    Utilizando FetchMode=LAZY

    View Slide

  182. entityManager

    .createQuery(
    " SELECT n
    FROM NotaFiscal n
    LEFT JOIN fetch n.itens")

    .getResultList();
    Utilizando Join Fetch

    View Slide

  183. entityManager

    .createQuery(
    " SELECT n
    FROM NotaFiscal n
    LEFT JOIN fetch n.itens")

    .getResultList();
    Utilizando Join Fetch
    LAZY permite
    mudar para EAGER

    View Slide

  184. Opa! Não para aí…

    View Slide

  185. SEMPRE que uma nota é carregada,
    TODAS as colunas são
    necessárias?

    View Slide

  186. não?

    View Slide

  187. List notas =
    entityManager

    .createQuery(
    " SELECT n
    FROM NotaFiscal n
    WHERE n.tipo = 'DEVOLUCAO'")

    .getResultList();
    DTO Projections

    View Slide

  188. List notas =
    entityManager

    .createQuery(
    " SELECT n.numero, n.serie
    FROM NotaFiscal n
    WHERE n.tipo = 'DEVOLUCAO'")

    .getResultList();
    DTO Projections

    View Slide

  189. List notas =
    entityManager

    .createQuery(
    " SELECT n.numero, n.serie
    FROM NotaFiscal n
    WHERE n.tipo = 'DEVOLUCAO'")
    .getResultList();
    DTO Projections

    View Slide

  190. List????> notas =
    entityManager

    .createQuery(
    " SELECT n.numero, n.serie
    FROM NotaFiscal n
    WHERE n.tipo = 'DEVOLUCAO'")
    .getResultList();
    DTO Projections

    View Slide

  191. class Devolucao {
    Integer numero;
    String serie;
    public Devolucao(Integer n, String s) {
    this.numero = n;
    this.serie = s;
    }
    // getters e setters
    }
    Criando o DTO

    View Slide

  192. List notas =
    entityManager

    .createQuery(
    " SELECT n.numero, n.serie
    FROM NotaFiscal n
    WHERE n.tipo = 'DEVOLUCAO'")
    .getResultList();
    DTO Projections

    View Slide

  193. List notas =
    entityManager

    .createQuery(
    " SELECT new Devolucao(n.numero,
    n.serie)
    FROM NotaFiscal n
    WHERE n.tipo = 'DEVOLUCAO'")
    .getResultList();
    DTO Projections

    View Slide

  194. SELECT nf.numero, nf.serie
    FROM NotaFiscal nf
    WHERE nf.tipo = 'DEVOLUCAO'
    SQL otimizado
    List notas = //...

    View Slide

  195. quanto menor a quantidade de
    dados recuperados, menor o
    response time

    View Slide

  196. db
    T = Tacq + Treq + Texec + Tres + Tidle
    apresentação
    negócio
    persistência

    View Slide

  197. Como otimizar minha query?

    View Slide

  198. SQL Nativo
    (deixe seu banco trabalhar)

    View Slide

  199. Stored Procedures
    (leve o processamento para os
    dados)

    View Slide

  200. View Slide

  201. DBA
    (peça ajuda)

    View Slide

  202. mesmo com todas essas
    melhorias…

    View Slide

  203. picos de acessos
    podem aumentar
    nosso response time

    View Slide

  204. Caching
    (aliviando o banco de dados)

    View Slide

  205. NotaFiscal nf = entityManager
    .find(NotaFiscal.class, 42);

    Carregando uma nota por ID

    View Slide

  206. View Slide

  207. EM

    View Slide

  208. Banco de Dados
    EM

    View Slide

  209. Banco de Dados
    EM NotaFiscal nf = entityManager
    .find(NotaFiscal.class, 42);

    View Slide

  210. SELECT nf.*
    FROM NotaFiscal nf
    WHERE nf.id = 42
    Hibernate executa 1 select
    NotaFiscal nf = entityManger.find(NotaFiscal.class, 42);

    View Slide

  211. NotaFiscal nf1 = entityManager
    .find(NotaFiscal.class, 42);

    NotaFiscal nf2 = entityManager
    .find(NotaFiscal.class, 42);
    NotaFiscal nf3 = entityManager
    .find(NotaFiscal.class, 42);
    Carregando uma nota por ID

    View Slide

  212. NotaFiscal nf1 = entityManager
    .find(NotaFiscal.class, 42);

    NotaFiscal nf2 = entityManager
    .find(NotaFiscal.class, 42);
    NotaFiscal nf3 = entityManager
    .find(NotaFiscal.class, 42);
    Carregando uma nota por ID

    View Slide

  213. SELECT nf.*
    FROM NotaFiscal nf
    WHERE nf.id = 42
    Hibernate executa 1 select
    NotaFiscal nf1 = entityManger.find(NotaFiscal.class, 42);
    NotaFiscal nf2 = entityManger.find(NotaFiscal.class, 42);
    NotaFiscal nf3 = entityManger.find(NotaFiscal.class, 42);
    // sem SQL
    // sem SQL

    View Slide

  214. Banco de Dados
    EM

    View Slide

  215. Banco de Dados
    EM
    First Level Cache

    View Slide

  216. Banco de Dados
    EM

    View Slide

  217. Banco de Dados
    EM EM EM EM

    View Slide

  218. Banco de Dados
    ????
    EM EM EM EM

    View Slide

  219. Banco de Dados
    Second Level Cache
    EM EM EM EM

    View Slide

  220. Banco de Dados
    Second Level Cache
    EM Session Session
    Session
    EM EM EM
    First Level Cache

    View Slide

  221. Banco de Dados
    EntityManagerFactory
    EM EM EM EM

    View Slide

  222. name="hibernate.cache.second_level_cache"
    value="true" />
    name="hibernate.cache.region.factory_class"
    value="net.sf...EhCacheRegionFactory" />
    persistence.xml
    #1 habilitamos o cache

    View Slide

  223. @Entity
    @Cache(...)
    class Produto {
    @Id
    private Long id;
    private String nome;
    }
    #2 configuramos as entidades

    View Slide

  224. name="br.com.app.model.Produto"
    maxElementsInMemory="10000"
    eternal="false"
    timeToIdleSeconds="1800"
    timeToLiveSeconds="10000"
    overflowToDisk="true"
    memoryStoreEvictionPolicy="LRU"
    />
    ehcache.xml

    View Slide

  225. db
    T = Tacq + Treq + Texec + Tres + Tidle
    apresentação
    negócio
    persistência

    View Slide

  226. a consulta mais rápida é aquela
    que nem chega no banco de
    dados

    View Slide

  227. db
    apresentação
    negócio
    persistência

    View Slide

  228. db
    apresentação
    negócio
    persistência

    View Slide

  229. db
    negócio
    persistência
    apresentação

    View Slide

  230. “There are only two hard things in
    Computer Science: cache invalidation
    and naming things.”
    — Phil Karlton

    View Slide

  231. navegador
    servidor db
    requisição
    resposta
    Performance Consistência

    View Slide

  232. E se houver processamento
    pesado?

    View Slide

  233. @Controller
    public class PedidoController {
    @Autowired
    public PedidoService service;
    @PostMapping(path="/vendas/finaliza", ...)
    public void finalizaPedido(Pedido pedido) {
    // faz alguma validação de dados

    service.finaliza(pedido); // demorado...
    }
    }

    View Slide

  234. @Controller
    public class PedidoController {
    @Autowired
    public PedidoService service;
    @PostMapping(path="/vendas/finaliza", ...)
    public void finalizaPedido(Pedido pedido) {
    // faz alguma validação de dados

    service.finaliza(pedido); // demorado...
    }
    }

    View Slide

  235. @Service
    public class PedidoService {
    public void finaliza(Pedido pedido) {

    // efetua pagamento
    // dá baixa no estoque
    // atualiza pedido
    // envia email de confirmação
    }
    }

    View Slide

  236. navegador
    servidor db

    View Slide

  237. navegador
    servidor db

    View Slide

  238. navegador
    servidor db

    View Slide

  239. se a execução é custosa então é
    um possível gargalo…

    View Slide

  240. Assincronicidade
    (processa mais tarde)

    View Slide

  241. @Service
    public class PedidoService {
    public void finaliza(Pedido pedido) {

    // efetua pagamento
    // dá baixa no estoque
    // atualiza pedido
    // envia email de confirmação
    }
    }

    View Slide

  242. @Service
    public class PedidoService {
    @Async
    public void finaliza(Pedido pedido) {

    // efetua pagamento
    // dá baixa no estoque
    // atualiza pedido
    // envia email de confirmação
    }
    }

    View Slide

  243. Spring usa um
    pool de threads

    View Slide

  244. @Controller
    public class PedidoController {
    @Autowired
    public PedidoService service;
    @PostMapping(path="/vendas/finaliza", ...)
    public void finalizaPedido(Pedido pedido) {
    // faz alguma validação de dados

    service.finaliza(pedido); // imediato!!
    }
    }

    View Slide

  245. e se além de custosa
    ela também for em
    grande quantidade…

    View Slide

  246. poderíamos usar
    uma fila…

    View Slide

  247. navegador
    servidor db

    View Slide

  248. navegador
    servidor db
    X

    View Slide

  249. navegador
    servidor db
    fila

    View Slide

  250. @Service
    public class PedidoService {
    @Autowired
    private JmsTemplate fila;
    public void finaliza(Pedido pedido) {
    fila.convertAndSend("fila.pedidos", pedido);

    }
    }

    View Slide

  251. @Service
    public class PedidoService {
    @Autowired
    private JmsTemplate fila;
    public void finaliza(Pedido pedido) {
    fila.convertAndSend("fila.pedidos", pedido);

    }
    }

    View Slide

  252. e em algum momento um
    processo consumiria a
    fila…

    View Slide

  253. navegador
    servidor db
    fila

    View Slide

  254. navegador
    servidor db
    fila
    consumidor

    View Slide

  255. servidor db
    fila
    consumidor
    navegador

    View Slide

  256. servidor db
    fila
    consumidor
    navegador

    View Slide

  257. servidor db
    fila
    consumidor
    navegador

    View Slide

  258. @Service
    public class ProcessadorDePedidos {
    @JmsListener(destination="fila.pedidos")
    public void processa(Pedido pedido) {

    // efetua pagamento
    // dá baixa no estoque
    // atualiza pedido
    // envia email de confirmação
    }
    }

    View Slide

  259. no fim nossa requisição
    responderia
    imediatamente

    View Slide

  260. @Controller
    public class PedidoController {
    @Autowired
    public PedidoService service;
    @PostMapping(path="/vendas/finaliza", ...)
    public void finalizaPedido(Pedido pedido) {
    // faz alguma validação de dados

    service.finaliza(pedido); // imediato!!
    }
    }

    View Slide

  261. Wow!!

    View Slide

  262. 1) tunamos a JVM;
    2) tunanamos a camada de
    persistência;
    3) adicionamos caching;
    4) adicionamos processamento
    assincrono;

    View Slide

  263. 1) tunamos a JVM;
    2) tunamos a camada de
    persistência;
    3) adicionamos caching;
    4) adicionamos processamento
    assincrono;

    View Slide

  264. 1) tunamos a JVM;
    2) tunamos a camada de
    persistência;
    3) adicionamos caching;
    4) adicionamos processamento
    assincrono;

    View Slide

  265. 1) tunamos a JVM;
    2) tunamos a camada de
    persistência;
    3) adicionamos caching;
    4) adicionamos processamento
    assincrono;

    View Slide

  266. Sistema 

    não aguenta?

    View Slide

  267. Passo 2

    (MELHORANDO A MÁQUINA)

    View Slide

  268. navegador
    servidor db
    requisição
    resposta

    View Slide

  269. navegador
    servidor db
    requisição
    resposta

    View Slide

  270. cpu
    memoria

    View Slide

  271. View Slide

  272. View Slide

  273. X

    View Slide

  274. View Slide

  275. View Slide

  276. View Slide

  277. x 6
    x 6

    View Slide

  278. Mais
    requisições?

    View Slide

  279. View Slide

  280. View Slide

  281. View Slide

  282. Escalabilidade Vertical
    (scale up)

    View Slide

  283. View Slide

  284. View Slide

  285. View Slide

  286. View Slide

  287. View Slide

  288. View Slide

  289. View Slide

  290. X

    View Slide

  291. Sistema 

    não aguenta?

    View Slide

  292. Passo 3

    (ADICIONANDO MAIS MÁQUINAS)

    View Slide

  293. navegador
    servidor db
    requisição
    resposta

    View Slide

  294. navegador
    servidor db
    requisição
    resposta

    View Slide

  295. View Slide

  296. View Slide

  297. =

    View Slide

  298. View Slide

  299. View Slide

  300. View Slide

  301. ip?

    View Slide

  302. View Slide

  303. View Slide

  304. View Slide

  305. 200 reqs

    View Slide

  306. 200 reqs
    100 reqs
    100 reqs

    View Slide

  307. Balanceador
    de Carga

    View Slide

  308. Balanceador
    de Carga

    View Slide

  309. Balanceador
    de Carga

    View Slide

  310. View Slide

  311. Mais
    requisições?

    View Slide

  312. View Slide

  313. View Slide

  314. View Slide

  315. View Slide

  316. Cluster

    View Slide

  317. View Slide

  318. View Slide

  319. Escalabilidade Horizontal
    (scale out)

    View Slide

  320. Apesar de mais
    barata…

    View Slide

  321. View Slide

  322. (1a requisição)

    View Slide

  323. (1a requisição)

    View Slide

  324. Sessão

    View Slide

  325. (2a requisição)
    qual?

    View Slide

  326. (2a requisição)

    View Slide

  327. (2a requisição)

    View Slide

  328. Sticky Session

    View Slide


  329. View Slide

  330. Mas e se…

    View Slide

  331. View Slide

  332. View Slide

  333. View Slide

  334. View Slide

  335. View Slide

  336. View Slide

  337. View Slide

  338. View Slide

  339. View Slide

  340. ?

    View Slide

  341. ?

    View Slide

  342. Falta
    Redundância

    View Slide

  343. Passo 4

    (REPLICANDO ESTADO)

    View Slide

  344. View Slide

  345. (1a requisição)

    View Slide

  346. (1a requisição)

    View Slide

  347. (2a requisição)

    View Slide

  348. (2a requisição)
    qual?

    View Slide

  349. (2a requisição)

    View Slide

  350. (2a requisição)

    View Slide

  351. View Slide

  352. Session
    Replication

    View Slide

  353. View Slide

  354. View Slide

  355. View Slide

  356. View Slide

  357. Replica Estado

    View Slide

  358. View Slide

  359. Alta Disponibilidade
    (high availability)

    View Slide

  360. Mais
    requisições?

    View Slide

  361. View Slide

  362. View Slide

  363. View Slide

  364. View Slide

  365. Se tenho mais
    máquinas…

    View Slide

  366. View Slide

  367. View Slide

  368. View Slide

  369. View Slide

  370. Replicar sessão é
    CARO

    View Slide

  371. Passo 5

    (REMOVENDO ESTADO)

    View Slide

  372. View Slide

  373. View Slide

  374. View Slide

  375. View Slide

  376. X X X X X

    View Slide

  377. View Slide

  378. ONDE?

    View Slide

  379. View Slide

  380. View Slide

  381. View Slide

  382. View Slide

  383. View Slide

  384. Cache Distribuído

    View Slide

  385. Cache Distribuído

    View Slide

  386. Cache Distribuído

    View Slide

  387. View Slide

  388. STATELESS
    (shared nothing architecture)

    View Slide

  389. View Slide

  390. View Slide

  391. View Slide

  392. Mais
    requisições?

    View Slide

  393. View Slide

  394. 256GB

    View Slide

  395. 256GB 256GB

    View Slide

  396. Recapitulando…

    View Slide

  397. tunando sua aplicação

    View Slide

  398. tunando sua aplicação
    melhorando sua máquina

    View Slide

  399. tunando sua aplicação
    adicionando máquinas
    melhorando sua máquina

    View Slide

  400. tunando sua aplicação
    replicando estado
    adicionando máquinas
    melhorando sua máquina

    View Slide

  401. tunando sua aplicação
    replicando estado
    adicionando máquinas
    melhorando sua máquina
    removendo estado

    View Slide

  402. Todas
    plataformas

    View Slide

  403. View Slide

  404. CACHE

    View Slide

  405. CACHE
    PROCESSAMENTO
    ASSINCRONO

    View Slide

  406. CACHE
    BALANCEAMENTO
    DE CARGA
    PROCESSAMENTO
    ASSINCRONO

    View Slide

  407. Não escala
    ainda…

    View Slide

  408. View Slide

  409. View Slide

  410. e só então…

    View Slide

  411. View Slide

  412. OBRIGADO!

    View Slide

  413. @rponte
    http://triadworks.com.br/
    @triadworks

    View Slide