Arquitetura Java: Escalando do Monolito ao Microservices

É muito comum evangelizarem que hoje em dia uma aplicação somente escala se utilizarmos microsserviços, containers, cloud computing e muitos outras tecnologias e práticas da moda, o famigerado HYPE.

Mas será mesmo? Já se perguntou como as aplicações escalavam ANTES desse hype todo? Que tipos de práticas e tecnologias eram utilizadas? Alias, será mesmo que meu sistema web precisa escalar para centenas ou milhares de usuários?

Nessa palestra vamos entender como podemos escalar nosso sistema web SEM se levar pelo hype, partindo de práticas mais simples e baratas até as mais rebuscadas e que precisam de um maior investimento. Se você entende pouco ou quase nada sobre como escalar uma aplicação web, então essa palestra é para você!

(GRAVAÇÃO: https://youtu.be/uoLTYZL6qWo?list=PLHMMERsvy9EyWQPru4SrJAYHEGKfkjRgP&t=586)

Transcript

1. ARQUITETURA JAVA
   escalando do monolito ao microservices
   

   View Slide

2. ahh o hype…
   

   View Slide

3. Hype-Driven Development
   https://blog.daftcode.pl/hype-driven-development-3469fc2e9b22
   

   View Slide

4. Desenvolvimento Orientado a Modinha
   https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
   

   View Slide

5. Anatomia de um Hype
   https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
   Retorno para "sanidade"
   Agora entendemos onde utilizar

   e seus prós e contras
   

   View Slide

6. Anatomia de um Hype
   https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
   

   View Slide

7. Anatomia de um Hype
   https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
   

   View Slide

8. Anatomia de um Hype
   https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
   

   View Slide

9. Anatomia de um Hype
   https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
   

   View Slide

10. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
    Retorno para "sanidade"
    Agora entendemos onde utilizar

    e seus prós e contras
    

    View Slide

11. View Slide

12. View Slide

13. View Slide

14. …e de todas as modas
    

    View Slide

15. View Slide

16. https://deniseyu.io/art/
    

    View Slide

17. https://deniseyu.io/art/
    

    View Slide

18. View Slide

19. Se você não tem pré-
    requisito de
    desempenho ou
    throughput então você
    não tem problema de
    escala.
    

    View Slide

20. View Slide

21. Microservices não
    existe para escalar
    aplicações, mas
    sim para escalar
    times.
    

    View Slide

22. View Slide

23. View Slide

24. View Slide

25. View Slide

26. o hype se
    retroalimenta
    

    View Slide

27. E com microservices não seria
    diferente…
    

    View Slide

28. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
    Retorno para "sanidade"
    Agora entendemos onde utilizar

    e seus prós e contras
    

    View Slide

29. Anatomia de um Hype
    https://desenvolvimentoparaweb.com/miscelanea/desenvolvimento-orientado-a-modinha-dom/
    Retorno para "sanidade"
    Agora entendemos onde utilizar

    e seus prós e contras
    

    View Slide

30. https://www.infoq.com/presentations/microservices-panel-value/
    

    View Slide

31. https://www.infoq.com/presentations/microservices-panel-value/ https://www.infoq.com/news/2020/05/monolith-decomposition-newman/
    

    View Slide

32. https://www.youtube.com/watch?v=GBTdnfD6s5Q
    

    View Slide

33. https://www.youtube.com/watch?v=GBTdnfD6s5Q
    “ Eu não escrevi um livro
    sobre microservices, mas sim
    sobre como você arquiteta
    para Entrega Contínua. ”
    — Sam Newman
    

    View Slide

34. View Slide

35. The monolith to microservices
    SPECTRUM
    https://chrisscott.me/the-monolith-to-microservice-spectrum/
    

    View Slide

36. The monolith to microservices
    SPECTRUM
    https://chrisscott.me/the-monolith-to-microservice-spectrum/
    

    View Slide

37. The monolith to microservices
    SPECTRUM
    https://chrisscott.me/the-monolith-to-microservice-spectrum/
    

    View Slide

38. The monolith to microservices
    SPECTRUM
    https://chrisscott.me/the-monolith-to-microservice-spectrum/
    

    View Slide

39. Um bom arquiteto escolhe
    tecnologias por suas
    DESVANTAGENS
    

    View Slide

40. https://twitter.com/argentinomota/status/1222941731424960515?s=20
    

    View Slide

41. podemos escalar
    SEM o hype?
    

    View Slide

42. podemos escalar
    SEM o hype?
    

    View Slide

43. podemos escalar
    SEM o hype?
    

    View Slide

44. podemos escalar
    SEM o hype?
    

    View Slide

45. “ Monolito não
    escala! Uma aplicação
    só escala com
    Microservices! ”
    

    View Slide

46. Rafael Ponte
    @rponte
    

    View Slide

47. View Slide

48. Fortaleza - Terra do Sol
    

    View Slide

49. View Slide

50. ARQUITETURA JAVA
    escalando do monolito ao microservices
    

    View Slide

51. Como escalar minha
    app para MILHARES de
    usuários?
    

    View Slide

52. Loja Virtual
    

    View Slide

53. View Slide

54. Revisitando a Web…
    

    View Slide

55. servidor
    

    View Slide

56. servidor
    

    View Slide

57. navegador
    servidor
    

    View Slide

58. navegador
    servidor
    requisição
    

    View Slide

59. navegador
    servidor db
    requisição
    

    View Slide

60. navegador
    servidor db
    requisição
    resposta
    

    View Slide

61. navegador
    servidor db
    requisição
    resposta
    

    View Slide

62. 2 conceitos
    importantes
    

    View Slide

63. Performance
    X
    Escalabilidade
    

    View Slide

64. tempo de resposta
    (response time)
    performance
    

    View Slide

65. tempo de resposta
    (response time)
    performance
    

    View Slide

66. navegador
    servidor db
    requisição
    resposta
    

    View Slide

67. navegador
    servidor db
    requisição
    resposta
    tempo resposta
    

    View Slide

68. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 100ms
    

    View Slide

69. operações / unidade_tempo
    (throughput)
    escalabilidade
    

    View Slide

70. operações / unidade_tempo
    (throughput)
    escalabilidade
    

    View Slide

71. usuários / minuto
    (throughput)
    escalabilidade
    

    View Slide

72. usuários / segundo
    (throughput)
    escalabilidade
    

    View Slide

73. usuários / segundo
    (throughput)
    escalabilidade
    

    View Slide

74. requisições / segundo
    (throughput)
    escalabilidade
    

    View Slide

75. navegador
    servidor db
    requisição
    resposta
    

    View Slide

76. navegador
    servidor db
    requisição
    resposta
    tempo resposta: 100ms
    

    View Slide

77. servidor db
    requisição
    resposta
    tempo resposta: 100ms
    

    View Slide

78. servidor db
    requisição
    resposta
    tempo resposta: 100ms
    

    View Slide

79. servidor db
    requisição
    resposta
    tempo resposta: 1s
    

    View Slide

80. servidor db
    requisição
    resposta
    tempo resposta: 7s
    

    View Slide

81. servidor db
    requisição
    resposta
    tempo resposta: 24s
    

    View Slide

82. servidor db
    requisição
    resposta
    tempo resposta: 0
    

    View Slide

83. nossa aplicação não escala mais
    do que: 80 req/s
    

    View Slide

84. navegador
    servidor db
    requisição
    resposta
    throughput: 80 req/s
    

    View Slide

85. navegador
    servidor db
    requisição
    resposta
    throughput: 250 req/s
    

    View Slide

86. navegador
    servidor db
    requisição
    resposta
    throughput: 1000 req/s
    

    View Slide

87. PASSOS
    5
    RESUMINDO EM
    

    View Slide

88. Passo 1
    (TUNANDO A APLICAÇÃO)
    

    View Slide

89. navegador
    servidor db
    requisição
    resposta
    

    View Slide

90. navegador
    servidor db
    requisição
    resposta
    

    View Slide

91. View Slide

92. View Slide

93. View Slide

94. View Slide

95. View Slide

96. View Slide

97. JVM
    

    View Slide

98. View Slide

99. 2Gb
    

    View Slide

100. 2Gb
     ???
     

     View Slide

101. 2Gb
     256Mb
     

     View Slide

102. 2Gb
     ??Mb
     

     View Slide

103. 2Gb
     2Gb
     

     View Slide

104. 2Gb
     2Gb
     =
     

     View Slide

105. 2Gb
     2Gb
     =
     X
     

     View Slide

106. 2Gb
     1Gb
     

     View Slide

107. 2Gb
     1Gb
     -Xms256m -Xmx1024m 

     -XX:MaxPermSize=192m
     

     View Slide

108. 2Gb
     1Gb
     -Xms256m -Xmx1024m 

     -XX:MaxPermSize=192m
     

     View Slide

109. 2Gb
     1Gb
     -Xms256m -Xmx1024m 

     -XX:MaxPermSize=192m
     minimo != maximo
     

     View Slide

110. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     minimo = maximo
     

     View Slide

111. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     Heap Size
     

     View Slide

112. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     

     View Slide

113. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     PermGen Size
     

     View Slide

114. 2Gb
     1Gb
     

     View Slide

115. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     memoria
     

     View Slide

116. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     -server
     modo servidor
     memoria
     

     View Slide

117. 2Gb
     1Gb
     -Xms1024m -Xmx1024m 

     -XX:MaxPermSize=192m
     -XX:+UseConcMarkSweepGC

     -XX:+CMSParallelRemarkEnabled
     -server
     modo servidor
     memoria
     coletor de lixo (GC)
     

     View Slide

118. Ganhou fôlego,
     mas…
     

     View Slide

119. navegador
     servidor db
     requisição
     resposta
     

     View Slide

120. servidor
     Aplicação
     

     View Slide

121. servidor
     

     View Slide

122. servidor
     Produto.java
     Venda.java
     BancoDeDados.java
     FinalizarCompra.java
     Pagamento.java
     carrinhoDeCompras.jsp
     index.jsp
     site.css
     app.js
     GravaProduto.java
     EnviaEmail.java
     GravaProdutoServlet.java
     finalizar-compra.jsp
     

     View Slide

123. servidor
     

     View Slide

124. servidor
     

     View Slide

125. servidor
     

     View Slide

126. Divisão de Camadas
     

     View Slide

127. servidor
     

     View Slide

128. servidor
     modelo
     

     View Slide

129. servidor
     modelo
     telas
     

     View Slide

130. servidor
     modelo
     acesso a dados
     telas
     

     View Slide

131. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

132. servidor
     apresentação
     negócio
     persistência
     controle das telas
     camadas
     

     View Slide

133. servidor
     apresentação
     negócio
     persistência
     controle das telas
     logica de negocio
     camadas
     

     View Slide

134. servidor
     apresentação
     negócio
     persistência
     controle das telas
     logica de negocio
     acesso a banco e dados
     camadas
     

     View Slide

135. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

136. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

137. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

138. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

139. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

140. servidor
     apresentação
     negócio
     persistência
     camadas
     

     View Slide

141. navegador
     servidor db
     requisição
     resposta
     

     View Slide

142. navegador
     servidor db
     requisição
     resposta
     tempo resposta: 1000ms
     

     View Slide

143. navegador
     servidor db
     requisição
     resposta
     tempo resposta: 1000ms
     700ms
     

     View Slide

144. navegador
     servidor db
     requisição
     resposta
     tempo resposta: 1000ms
     700ms
     

     View Slide

145. servidor
     db
     

     View Slide

146. db
     apresentação
     negócio
     persistência
     

     View Slide

147. db
     apresentação
     negócio
     persistência
     Transaction Response Time
     

     View Slide

148. db
     T =
     apresentação
     negócio
     persistência
     

     View Slide

149. db
     T = Tacq
     apresentação
     negócio
     persistência
     

     View Slide

150. db
     T = Tacq + Treq
     apresentação
     negócio
     persistência
     

     View Slide

151. db
     T = Tacq + Treq + Texec
     apresentação
     negócio
     persistência
     

     View Slide

152. db
     T = Tacq + Treq + Texec + Tres
     apresentação
     negócio
     persistência
     

     View Slide

153. db
     T = Tacq + Treq + Texec + Tres + Tidle
     apresentação
     negócio
     persistência
     

     View Slide

154. quanto menor o transaction
     response time, maior o
     throughput
     

     View Slide

155. db
     T = Tacq + Treq + Texec + Tres + Tidle
     apresentação
     negócio
     persistência
     

     View Slide

156. navegador
     servidor db
     

     View Slide

157. navegador
     servidor db
     1 requisição 1 conexão
     

     View Slide

158. navegador
     servidor db
     10 requisições 10 conexões
     

     View Slide

159. navegador
     servidor db
     100 requisições
     100 conexões
     

     View Slide

160. navegador
     servidor db
     1000 requisições
     1000 conexões
     

     View Slide

161. navegador
     servidor db
     1001 requisições
     0 conexões
     

     View Slide

162. Criar conexões
     é CARO!
     

     View Slide

163. navegador db
     app
     

     View Slide

164. navegador db
     app
     

     View Slide

165. navegador db
     app
     

     View Slide

166. navegador db
     app
     ini=5
     

     View Slide

167. db
     app
     ini=5
     

     View Slide

168. db
     app …
     max=30
     ini=5
     

     View Slide

169. db
     app …
     max=30
     ini=5
     

     View Slide

170. db
     app
     min=3 max=30
     ini=5
     

     View Slide

171. navegador db
     connection pool
     app
     min=3 max=30
     ini=5
     …
     

     View Slide

172. quanto mais rápido obter
     uma conexão, menor o
     response time
     

     View Slide

173. mas qual o tamanho
     ideal do pool?
     

     View Slide

174. https://mobile.twitter.com/Nick_Craver/status/969043553711218691
     

     View Slide

175. mensure!
     

     View Slide

176. db
     T = Tacq + Treq + Texec + Tres + Tidle
     apresentação
     negócio
     persistência
     

     View Slide

177. Habilite o Batch Size
     

     View Slide

178. @Entity
     public class Produto {
     @Id
     @GeneratedValue
     private Integer id;
     private String nome;
     // outros atributos
     }
     

     View Slide

179. List produtos = //...
     for (Produto p : produtos) {
     entityManager.persist(p);
     }
     Persistindo várias entidades
     

     View Slide

180. INSERT INTO produto(nome, id) VALUES ('Prod.1', 1)
     INSERT INTO produto(nome, id) VALUES ('Prod.2', 2)
     INSERT INTO produto(nome, id) VALUES ('Prod.3', 3)
     INSERT INTO ...
     3 roundtrips
     

     View Slide

181. name="hibernate.jdbc.batch_size"
     value="5"
     />
     persistence.xml
     

     View Slide

182. List produtos = //...
     for (Produto p : produtos) {
     entityManager.persist(p);
     }
     Persistindo várias entidades
     

     View Slide

183. INSERT INTO produto(nome, id) VALUES (?, ?)
     Params: [('Prod.1', 1), ('Prod.2', 2), ('Prod.3', 3)]
     1 roundtrip
     

     View Slide

184. Params: [('Prod.1', 1), ('Prod.2', 2), (‘Prod.3', 3)]
     1 roundtrip
     INSERT INTO produto(nome, id) VALUES (?, ?)
     

     View Slide

185. Para UPDATE e DELETE também
     

     View Slide

186. List produtos = //...
     for (Produto p : produtos) {
     p.setNome(p.getNome()
     .toUpperCase());
     }
     Atualizando várias entidades
     

     View Slide

187. UPDATE produto SET nome = ? WHERE id = ?
     Params: [('PROD.1', 1), ('PROD.2', 2), ('PROD.3', 3)]
     1 roundtrip
     

     View Slide

188. List produtos = //...
     for (Produto p : produtos) {
     entityManager.remove(p);
     }
     Removendo várias entidades
     

     View Slide

189. DELETE FROM produto WHERE id = ?
     Params: [(1), (2), (3)]
     1 roundtrip
     

     View Slide

190. quanto menos roundtrips ao
     banco, menor o response time
     

     View Slide

191. db
     T = Tacq + Treq + Texec + Tres + Tidle
     apresentação
     negócio
     persistência
     

     View Slide

192. Use Consultas Planejadas
     (DTO Projections)
     

     View Slide

193. @Entity
     class NotaFiscal {
     …
     @OneToMany
     List itens;
     }
     

     View Slide

194. NotaFiscal nf = entityManager
     .find(NotaFiscal.class, 42);
     

     processaItensDaNota(nf);
     Processando os itens de uma nota
     

     View Slide

195. Processando os itens de uma nota
     NotaFiscal nf = entityManager
     .find(NotaFiscal.class, 42);
     

     processaItensDaNota(nf);
     

     View Slide

196. Processando os itens de uma nota
     NotaFiscal nf = entityManager
     .find(NotaFiscal.class, 42);
     

     processaItensDaNota(nf);
     

     View Slide

197. SELECT nf.*
     FROM NotaFiscal nf
     WHERE nf.id = 42
     Hibernate executa 2 selects
     NotaFiscal nf = entityManger.find(NotaFiscal.class, 42);
     

     View Slide

198. SELECT nf.*
     FROM NotaFiscal nf
     WHERE nf.id = 42
     SELECT i.*
     FROM Item i
     WHERE i.nota_fiscal_id = 42
     Hibernate executa 2 selects
     NotaFiscal nf = entityManger.find(NotaFiscal.class, 42);
     processaItensDaNota(nf);
     

     View Slide

199. List notas = dao.lista();
     for (NotaFiscal nf : notas) {
     processaItensDaNota(nf);
     }
     Processando os itens de varias notas
     

     View Slide

200. Processando os itens de varias notas
     List notas = dao.lista();
     for (NotaFiscal nf : notas) {
     processaItensDaNota(nf);
     }
     

     View Slide

201. Processando os itens de varias notas
     List notas = dao.lista();
     for (NotaFiscal nf : notas) {
     processaItensDaNota(nf);
     }
     

     View Slide

202. SELECT nf.* FROM NotaFiscal nf
     Hibernate executa n+1 selects
     List notas = dao.lista();
     

     View Slide

203. SELECT nf.* FROM NotaFiscal nf
     Hibernate executa n+1 selects
     List notas = dao.lista();
     for (NotaFiscal nf : notas) {
     processaItensDaNota(nf);
     }
     SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
     SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
     SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
     SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
     SELECT i.* FROM Item i WHERE i.nota_fiscal_id=?
     ...
     

     View Slide

204. são muitos hits ao banco
     (Select N+1)
     

     View Slide

205. são muitos hits ao banco
     (Select N+1)
     

     View Slide

206. solução?
     

     View Slide

207. @Entity
     class NotaFiscal {
     …
     @OneToMany(fetch=FetchType.EAGER)
     List itens;
     }
     Utilizando FetchMode=EAGER
     

     View Slide

208. SELECT nf.*, i.*
     FROM NotaFiscal nf
     LEFT OUTER JOIN Item i
     ON nf.id = i.nota_fiscal_id

     Hibernate executa 1 select
     List notas = dao.lista();
     

     View Slide

209. antes de definir um mapeamento
     global deste tipo você precisa se
     perguntar...
     

     View Slide

210. SEMPRE que uma Nota é carregada,
     todos seus Itens também são
     necessários?
     

     View Slide

211. não?
     

     View Slide

212. @Entity
     class NotaFiscal {
     …
     @OneToMany(fetch=FetchType.LAZY)
     List itens;
     }
     Utilizando FetchMode=LAZY
     

     View Slide

213. entityManager

     .createQuery(
     "SELECT n
     FROM NotaFiscal n
     LEFT JOIN fetch n.itens")

     .getResultList();
     Utilizando Join Fetch
     

     View Slide

214. entityManager

     .createQuery(
     "SELECT n
     FROM NotaFiscal n
     LEFT JOIN fetch n.itens")

     .getResultList();
     Utilizando Join Fetch
     habilita EAGER em
     mapeamentos
     LAZY
     

     View Slide

215. Opa! Não para aí…
     

     View Slide

216. SEMPRE que uma Nota é carregada,
     TODAS as colunas são
     necessárias?
     

     View Slide

217. não?
     

     View Slide

218. List notas =
     entityManager

     .createQuery(
     “SELECT n
     FROM NotaFiscal n
     WHERE n.tipo = 'DEVOLUCAO'")

     .getResultList();
     DTO Projections
     

     View Slide

219. List notas =
     entityManager

     .createQuery(
     “SELECT n.numero, n.serie
     FROM NotaFiscal n
     WHERE n.tipo = 'DEVOLUCAO'")

     .getResultList();
     DTO Projections
     

     View Slide

220. List notas =
     entityManager

     .createQuery(
     "SELECT n.numero, n.serie
     FROM NotaFiscal n
     WHERE n.tipo = 'DEVOLUCAO'")
     .getResultList();
     DTO Projections
     

     View Slide

221. List????> notas =
     entityManager

     .createQuery(
     "SELECT n.numero, n.serie
     FROM NotaFiscal n
     WHERE n.tipo = 'DEVOLUCAO'")
     .getResultList();
     DTO Projections
     

     View Slide

222. class Devolucao {
     Integer numero;
     String serie;
     public Devolucao(Integer n, String s) {
     this.numero = n;
     this.serie = s;
     }
     // getters e setters
     }
     Criando o DTO
     

     View Slide

223. List notas =
     entityManager

     .createQuery(
     "SELECT n.numero, n.serie
     FROM NotaFiscal n
     WHERE n.tipo = 'DEVOLUCAO'")
     .getResultList();
     DTO Projections
     

     View Slide

224. List notas =
     entityManager

     .createQuery(
     “SELECT new Devolucao(n.numero, n.serie)
     FROM NotaFiscal n
     WHERE n.tipo = 'DEVOLUCAO'")
     .getResultList();
     DTO Projections
     

     View Slide

225. SELECT nf.numero, nf.serie
     FROM NotaFiscal nf
     WHERE nf.tipo = 'DEVOLUCAO'
     SQL otimizado
     List notas = //...
     

     View Slide

226. quanto menor a quantidade de
     dados recuperados, menor o
     response time
     

     View Slide

227. db
     T = Tacq + Treq + Texec + Tres + Tidle
     apresentação
     negócio
     persistência
     

     View Slide

228. Como otimizar minha query?
     

     View Slide

229. SQL Nativo
     (deixe seu banco trabalhar)
     

     View Slide

230. Stored Procedures
     (leve o processamento para os
     dados)
     

     View Slide

231. View Slide

232. DBA
     (peça ajuda)
     

     View Slide

233. mesmo com todas essas
     melhorias…
     

     View Slide

234. …PICOS de acessos
     podem aumentar
     nosso response time
     

     View Slide

235. Caching
     (aliviando o banco de dados)
     

     View Slide

236. NotaFiscal nf = entityManager
     .find(NotaFiscal.class, 42);
     

     Carregando uma nota por ID
     

     View Slide

237. View Slide

238. EM
     

     View Slide

239. Banco de Dados
     EM
     

     View Slide

240. Banco de Dados
     EM NotaFiscal nf = entityManager
     .find(NotaFiscal.class, 42);
     

     View Slide

241. SELECT nf.*
     FROM NotaFiscal nf
     WHERE nf.id = 42
     Hibernate executa 1 select
     NotaFiscal nf = entityManger.find(NotaFiscal.class, 42);
     

     View Slide

242. NotaFiscal nf1 = entityManager
     .find(NotaFiscal.class, 42);
     

     NotaFiscal nf2 = entityManager
     .find(NotaFiscal.class, 42);
     NotaFiscal nf3 = entityManager
     .find(NotaFiscal.class, 42);
     Carregando uma nota por ID
     

     View Slide

243. NotaFiscal nf1 = entityManager
     .find(NotaFiscal.class, 42);
     

     NotaFiscal nf2 = entityManager
     .find(NotaFiscal.class, 42);
     NotaFiscal nf3 = entityManager
     .find(NotaFiscal.class, 42);
     Carregando uma nota por ID
     

     View Slide

244. SELECT nf.*
     FROM NotaFiscal nf
     WHERE nf.id = 42
     Hibernate executa 1 select
     NotaFiscal nf1 = entityManger.find(NotaFiscal.class, 42);
     

     View Slide

245. SELECT nf.*
     FROM NotaFiscal nf
     WHERE nf.id = 42
     Hibernate executa 1 select
     NotaFiscal nf1 = entityManger.find(NotaFiscal.class, 42);
     NotaFiscal nf2 = entityManger.find(NotaFiscal.class, 42);
     // sem SQL
     

     View Slide

246. SELECT nf.*
     FROM NotaFiscal nf
     WHERE nf.id = 42
     Hibernate executa 1 select
     NotaFiscal nf1 = entityManger.find(NotaFiscal.class, 42);
     NotaFiscal nf2 = entityManger.find(NotaFiscal.class, 42);
     NotaFiscal nf3 = entityManger.find(NotaFiscal.class, 42);
     // sem SQL
     // sem SQL
     

     View Slide

247. Banco de Dados
     EM
     

     View Slide

248. Banco de Dados
     EM
     First Level Cache
     

     View Slide

249. Banco de Dados
     EM
     

     View Slide

250. Banco de Dados
     EM EM EM EM
     

     View Slide

251. Banco de Dados
     ????
     EM EM EM EM
     

     View Slide

252. Banco de Dados
     Second Level Cache
     EM EM EM EM
     

     View Slide

253. Banco de Dados
     Second Level Cache
     EM Session Session
     Session
     EM EM EM
     First Level Cache
     

     View Slide

254. Banco de Dados
     EntityManagerFactory
     EM EM EM EM
     

     View Slide

255. name="hibernate.cache.second_level_cache"
     value="true" />
     persistence.xml
     #1 habilitamos o cache
     

     View Slide

256. @Entity
     @Cache(...)
     class Produto {
     @Id
     private Long id;
     private String nome;
     }
     #2 configuramos as entidades
     

     View Slide

257. db
     T = Tacq + Treq + Texec + Tres + Tidle
     apresentação
     negócio
     persistência
     

     View Slide

258. a consulta mais rápida é
     aquela que nem chega no banco
     de dados
     

     View Slide

259. db
     apresentação
     negócio
     persistência
     

     View Slide

260. db
     apresentação
     negócio
     persistência
     

     View Slide

261. db
     negócio
     persistência
     apresentação
     

     View Slide

262. “There are only two hard things in
     Computer Science: cache invalidation
     and naming things.”
     — Phil Karlton
     

     View Slide

263. navegador
     servidor db
     requisição
     resposta
     Performance Consistência
     

     View Slide

264. E se houver um
     processamento PESADO?
     

     View Slide

265. @Controller
     public class PedidoController {
     @Autowired
     public PedidoService service;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     service.finaliza(pedido); // demorado...
     }
     }
     

     View Slide

266. @Controller
     public class PedidoController {
     @Autowired
     public PedidoService service;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     service.finaliza(pedido); // demorado...
     }
     }
     

     View Slide

267. @Service
     public class PedidoService {
     public void finaliza(Pedido pedido) {
     // efetua pagamento
     // dá baixa no estoque
     // atualiza pedido
     // envia email de confirmação
     }
     }
     

     View Slide

268. navegador
     servidor db
     

     View Slide

269. navegador
     servidor db
     

     View Slide

270. navegador
     servidor db
     

     View Slide

271. se a execução é custosa então
     ela é um possível gargalo…
     

     View Slide

272. Assincronicidade
     (processa mais tarde)
     

     View Slide

273. @Service
     public class PedidoService {
     public void finaliza(Pedido pedido) {
     // efetua pagamento
     // dá baixa no estoque
     // atualiza pedido
     // envia email de confirmação
     }
     }
     

     View Slide

274. @Service
     public class PedidoService {
     @Async
     public void finaliza(Pedido pedido) {
     // efetua pagamento
     // dá baixa no estoque
     // atualiza pedido
     // envia email de confirmação
     }
     }
     

     View Slide

275. Spring usa um
     pool de threads
     

     View Slide

276. @Controller
     public class PedidoController {
     @Autowired
     public PedidoService service;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     service.finaliza(pedido);
     }
     }
     

     View Slide

277. @Controller
     public class PedidoController {
     @Autowired
     public PedidoService service;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     service.finaliza(pedido);
     }
     } IMEDIATO!
     

     View Slide

278. …e se além de
     custosa ela também
     for em grande
     quantidade?
     

     View Slide

279. poderíamos usar
     uma fila…
     

     View Slide

280. navegador
     servidor db
     

     View Slide

281. navegador
     servidor db
     X
     

     View Slide

282. navegador
     servidor db
     fila
     

     View Slide

283. navegador
     servidor db
     fila
     

     View Slide

284. navegador
     servidor db
     fila
     

     View Slide

285. navegador
     servidor db
     fila
     

     View Slide

286. navegador
     servidor db
     fila
     

     View Slide

287. @Controller
     public class PedidoController {
     @Autowired
     public PedidoService service;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     service.finaliza(pedido);
     }
     }
     

     View Slide

288. @Controller
     public class PedidoController {
     @Autowired
     public PedidoService service;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     service.finaliza(pedido);
     }
     }
     

     View Slide

289. @Controller
     public class PedidoController {
     @Autowired
     public JmsTemplate fila;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     fila.convertAndSend("fila.pedidos", pedido);
     }
     }
     

     View Slide

290. e em algum momento um
     processo consumiria a
     fila…
     

     View Slide

291. navegador
     servidor db
     fila
     

     View Slide

292. navegador
     servidor db
     fila
     consumidor
     

     View Slide

293. servidor db
     fila
     consumidor
     navegador
     

     View Slide

294. servidor db
     fila
     consumidor
     navegador
     

     View Slide

295. servidor db
     fila
     consumidor
     navegador
     

     View Slide

296. @Service
     public class PedidoService {
     @Async
     public void finaliza(Pedido pedido) {
     // efetua pagamento
     // dá baixa no estoque
     // atualiza pedido
     // envia email de confirmação
     }
     }
     

     View Slide

297. @Service
     public class PedidoService {
     @Async
     public void finaliza(Pedido pedido) {
     // efetua pagamento
     // dá baixa no estoque
     // atualiza pedido
     // envia email de confirmação
     }
     }
     

     View Slide

298. @Service
     public class PedidoService {
     @JmsListener(destination="fila.pedidos")
     public void finaliza(Pedido pedido) {
     // efetua pagamento
     // dá baixa no estoque
     // atualiza pedido
     // envia email de confirmação
     }
     }
     

     View Slide

299. no fim nossa requisição
     continuaria respondendo
     imediatamente
     

     View Slide

300. @Controller
     public class PedidoController {
     @Autowired
     public JmsTemplate fila;
     @PostMapping(path="/vendas/finaliza", ...)
     public void finalizaPedido(Pedido pedido) {
     // faz alguma validação de dados
     fila.convertAndSend("fila.pedidos", pedido);
     }
     }
     IMEDIATO!
     

     View Slide

301. Wow!!
     

     View Slide

302. 1) tunamos a JVM;
     2) tunanamos a camada de
     persistência;
     3) adicionamos caching;
     4) adicionamos processamento
     assincrono;
     

     View Slide

303. 1) tunamos a JVM;
     2) tunamos a camada de
     persistência;
     3) adicionamos caching;
     4) adicionamos processamento
     assincrono;
     

     View Slide

304. 1) tunamos a JVM;
     2) tunamos a camada de
     persistência;
     3) adicionamos caching;
     4) adicionamos processamento
     assincrono;
     

     View Slide

305. 1) tunamos a JVM;
     2) tunamos a camada de
     persistência;
     3) adicionamos caching;
     4) adicionamos
     processamento assincrono;
     

     View Slide

306. Sistema
     não aguenta?
     

     View Slide

307. Passo 2
     (MELHORANDO A MÁQUINA)
     

     View Slide

308. navegador
     servidor db
     requisição
     resposta
     

     View Slide

309. navegador
     servidor db
     requisição
     resposta
     

     View Slide

310. cpu
     memoria
     

     View Slide

311. View Slide

312. View Slide

313. X
     

     View Slide

314. View Slide

315. View Slide

316. View Slide

317. x 6
     x 6
     

     View Slide

318. Mais
     requisições?
     

     View Slide

319. View Slide

320. View Slide

321. View Slide

322. Escalabilidade Vertical
     (scale up)
     

     View Slide

323. View Slide

324. View Slide

325. View Slide

326. View Slide

327. View Slide

328. View Slide

329. View Slide

330. X
     

     View Slide

331. Sistema
     não aguenta?
     

     View Slide

332. Passo 3
     (ADICIONANDO MAIS MÁQUINAS)
     

     View Slide

333. navegador
     servidor db
     requisição
     resposta
     

     View Slide

334. navegador
     servidor db
     requisição
     resposta
     

     View Slide

335. View Slide

336. View Slide

337. =
     

     View Slide

338. View Slide

339. View Slide

340. View Slide

341. ip?
     

     View Slide

342. View Slide

343. View Slide

344. View Slide

345. 200 reqs
     

     View Slide

346. 200 reqs
     100 reqs
     100 reqs
     

     View Slide

347. Balanceador
     de Carga
     

     View Slide

348. Balanceador
     de Carga
     

     View Slide

349. Balanceador
     de Carga
     

     View Slide

350. View Slide

351. Mais
     requisições?
     

     View Slide

352. View Slide

353. View Slide

354. View Slide

355. View Slide

356. Cluster
     

     View Slide

357. View Slide

358. View Slide

359. Escalabilidade Horizontal
     (scale out)
     

     View Slide

360. Apesar de mais
     barata…
     

     View Slide

361. View Slide

362. (1a requisição)
     

     View Slide

363. (1a requisição)
     

     View Slide

364. Sessão
     

     View Slide

365. (2a requisição)
     qual?
     

     View Slide

366. (2a requisição)
     

     View Slide

367. (2a requisição)
     

     View Slide

368. Sticky Session
     

     View Slide

369. —
     

     View Slide

370. Mas e se…
     

     View Slide

371. View Slide

372. View Slide

373. View Slide

374. View Slide

375. View Slide

376. View Slide

377. View Slide

378. View Slide

379. View Slide

380. ?
     

     View Slide

381. ?
     

     View Slide

382. Falta
     Redundância
     

     View Slide

383. Passo 4
     (REPLICANDO ESTADO)
     

     View Slide

384. View Slide

385. (1a requisição)
     

     View Slide

386. (1a requisição)
     

     View Slide

387. (2a requisição)
     

     View Slide

388. (2a requisição)
     qual?
     

     View Slide

389. (2a requisição)
     

     View Slide

390. (2a requisição)
     

     View Slide

391. View Slide

392. Session
     Replication
     

     View Slide

393. View Slide

394. View Slide

395. View Slide

396. View Slide

397. Replica Estado
     

     View Slide

398. View Slide

399. Alta Disponibilidade
     (high availability)
     

     View Slide

400. Mais
     requisições?
     

     View Slide

401. View Slide

402. View Slide

403. View Slide

404. View Slide

405. Se tenho mais
     máquinas…
     

     View Slide

406. View Slide

407. View Slide

408. View Slide

409. View Slide

410. Replicar sessão é
     CARO
     

     View Slide

411. Passo 5
     (REMOVENDO ESTADO)
     

     View Slide

412. View Slide

413. View Slide

414. View Slide

415. View Slide

416. X X X X X
     

     View Slide

417. View Slide

418. ONDE?
     

     View Slide

419. View Slide

420. View Slide

421. View Slide

422. View Slide

423. View Slide

424. Cache Distribuído
     

     View Slide

425. Cache Distribuído
     

     View Slide

426. Cache Distribuído
     

     View Slide

427. View Slide

428. STATELESS
     (shared nothing architecture)
     

     View Slide

429. View Slide

430. View Slide

431. View Slide

432. Mais
     requisições?
     

     View Slide

433. View Slide

434. 256GB
     

     View Slide

435. 256GB 256GB
     

     View Slide

436. Recapitulando…
     

     View Slide

437. tunando sua aplicação
     

     View Slide

438. tunando sua aplicação
     melhorando sua máquina
     

     View Slide

439. tunando sua aplicação
     adicionando máquinas
     melhorando sua máquina
     

     View Slide

440. tunando sua aplicação
     replicando estado
     adicionando máquinas
     melhorando sua máquina
     

     View Slide

441. tunando sua aplicação
     replicando estado
     adicionando máquinas
     melhorando sua máquina
     removendo estado
     

     View Slide

442. Todas
     plataformas
     

     View Slide

443. View Slide

444. CACHE
     

     View Slide

445. CACHE
     PROCESSAMENTO
     ASSINCRONO
     

     View Slide

446. CACHE
     BALANCEAMENTO
     DE CARGA
     PROCESSAMENTO
     ASSINCRONO
     

     View Slide

447. Não escala
     ainda…
     

     View Slide

448. View Slide

449. View Slide

450. e só então…
     

     View Slide

451. View Slide

452. OBRIGADO!
     

     View Slide

453. @rponte
     Rafael Ponte
     

     View Slide