50 tons de cache – estratégias de cache do HTTP ao memecached

Transcript

1. 50 TONS DE CACHE ESTRATÉGIAS DE CACHE DO HTTP AO MEMECACHED
2. navegador nginx puma rack rails controller objects custo internet
3. custo
4. MAS PRA QUÊ? •Quanto mais perto do navegador a resposta estiver, melhor; •Geralmente armazenar é mais barato do que construir; •A internet é IO bound Porque É Necessário Fazer Cache Das Respostas?
5. Http Cache navegador rails
6. O QUE É? •Controlado utilizando cabeçalhos do HTTP •Navegador mantém, localmente, cópias do conteúdo •Mecanismos para invalidação •Padrão •Simples
7. BASEADO EM TEMPO •O servidor sempre envia a data da última modificação •O browser mantém uma cópia local •Para cada requisição feita para o servidor, o browser informa a data da cópia local •Se o servidor não possuir uma versão mais recente, retorna 304 (not modified) Quando Os Recursos São Simples. Sem Aninhamento Ou Agregações;
8. BASEADA EM CONTEÚDO •Servidor sempre gera um hash para o conteúdo •O browser mantém uma cópia local e o hash •Para cada requisição feita para o servidor, o browser informa o hash da cópia local •Se o servidor não possuir um hash diferente do conteúdo, retorna not modified (304) Quando Os Recursos São Mais Complexos; Aninhamento E Agregação;
9. COMO FAZ?
 – BASEADO EM TEMPO
10. • Controller para gráficos • Muitos dados no DB CONEXTO: CONTROLLER 1 class ChartsController < ApplicationController 2 def index 3 @data = DataPoint.all 4 end 5 end
11. • jbuilder • Poderia ser um representer • Array de arrays • Muitos dados no JSON CONTEXTO: VIEW 1 json.array! @data do |point| 2 json.array! [point.date, point.value] 3 end
12. • jbuilder • Poderia ser um representer • Array de arrays • Muitos dados no JSON CONTEXTO: JSON 1 $ curl localhost:9292/charts | json_pp 5 [ 6 [ 7 "2016-03-09T04:00:00.000Z", 8 0.950324529182683 9 ], 10 [ 11 "2016-03-09T04:00:30.000Z", 12 0.933245508699859 13 ], 14 [ 15 "2016-03-09T04:01:00.000Z", 16 0.0724712770762144 17 ], 18 [ 19 "2016-03-09T04:01:30.000Z", 20 0.558231590926938 21 ],
15. • Condicional (3) • Última modificação (3) • Consulta no banco (4) CONTROLLER 1 class ChartsController < ApplicationController 2 def index 3 if stale?(last_modified: last, etag: nil) 4 @data = DataPoint.all 5 end 6 end 7 8 def last 9 Time.new(2016, 02, 10, 11, 22) 10 end 11 end
16. REQUISIÇÃO 1 $ curl localhost:9292/charts -vv -o /dev/null 2 > GET /charts HTTP/1.1 3 > Host: localhost:9292 4 > User-Agent: curl/7.43.0 5 > Accept: */*
17. • Status 200 (7) • Resposta com conteúdo • Last-Modified (11) • Browser guarda a data e o conteúdo RESPOSTA 7 < HTTP/1.1 200 OK 8 < X-Frame-Options: SAMEORIGIN 9 < X-XSS-Protection: 1; mode=block 10 < X-Content-Type-Options: nosniff 11 < Last-Modified: Wed, 10 Feb 2016 14:22:00 GMT 12 < Content-Type: application/json; charset=utf-8
18. • If-Modified-Since (20) • Data da última cópia local PRÓXIMAS REQUISIÇÕES 20 $ curl localhost:9292/charts \ -H 'If-Modified-Since: Thu, 10 Mar 2016 14:22:00 21 > GET /charts HTTP/1.1 22 > Host: localhost:9292 23 > User-Agent: curl/7.43.0 24 > Accept: */* 25 > If-Modified-Since: Thu, 10 Mar 2016 14:22:00 GMT
19. • 304 – not modified (27) • Sem conteúdo RESPOSTA VAZIA 27 < HTTP/1.1 304 Not Modified 31 < Last-Modified: Wed, 10 Feb 2016 14:22:00 GMT
20. • SELECT e View na primeira requisição • Sem SELECT na segunda • Sem view na segunda • 123x mais rápido! O QUE ISSO SIGNIFICA? 19 Started GET "/charts" for 127.0.0.1 at 2016-03-10 11:24:41 -0300 20 Processing by ChartsController#index as */* 21 DataPoint Load (18.6ms) SELECT "data_points".* FROM "data_points" 22 Rendered charts/index.json.jbuilder (234.3ms) 23 Completed 200 OK in 247ms (Views: 224.8ms | ActiveRecord: 19.1ms) 44 Started GET "/charts" for 127.0.0.1 at 2016-03-10 11:25:28 -0300 45 Processing by ChartsController#index as */* 46 Completed 304 Not Modified in 2ms (ActiveRecord: 0.0ms)
21. COMO FAZ?
 – BASEADO NO CONTEÚDO
23. • Controller para gráficos • Muitos dados no DB CONTROLLER 1 class ChartsController < ApplicationController 2 def index 3 @data = DataPoint.all 4 end 5 end
24. • Condicional (3) • Hash gerado a partir do etag (3) • É menos custoso contar do que pegar os registros CONTROLLER 1 class ChartsController < ApplicationController 2 def index 3 if stale?(last: nil, etag: DataPoint.count) 4 @data = DataPoint.all 5 end 6 end 7 end
25. REQUISIÇÃO 1 $ curl localhost:9292/charts -vv -o /dev/null 2 > GET /charts HTTP/1.1 3 > Host: localhost:9292 4 > User-Agent: curl/7.43.0 5 > Accept: */*
26. • MD5 do valor passado para o argumento etag (71) • Resposta com conteúdo • Browser guarda conteúdo e etag RESPOSTA 67 < HTTP/1.1 200 OK 71 < ETag: "d83b123020456902d309159915cf2cad"
27. • If-None-Match (88) • Navegador envia identificador da cópia local PRÓXIMAS REQUISIÇÕES 88 $ curl localhost:9292/charts -vv -o /dev/null
 -H 'If-None-Match: d83b123020456902d309159915cf2cad' 89 > GET /charts HTTP/1.1 90 > Host: localhost:9292 91 > User-Agent: curl/7.43.0 92 > Accept: */* 93 > If-None-Match: d83b123020456902d309159915cf2cad
28. • Caso o identificador enviado seja diferente do gerado pelo rails • 304 – not modified (27) • Sem conteúdo RESPOSTA VAZIA 95 < HTTP/1.1 304 Not Modified 99 < ETag: "d83b123020456902d309159915cf2cad"
29. • 2 SELECTS e View na primeira requisição • 1 SELECT na segunda • Sem view na segunda • 46x mais rápido! O QUE ISSO SIGNIFICA? 79 Started GET "/charts" for 127.0.0.1 at 2016-03-10 11:36:28 -0300 80 Processing by ChartsController#index as */* 81 (0.2ms) SELECT COUNT(*) FROM "data_points" 83 DataPoint Load (17.5ms) SELECT "data_points".* FROM "data_points" 84 Rendered charts/index.json.jbuilder (289.8ms) 85 Completed 200 OK in 303ms (Views: 277.9ms | ActiveRecord: 17.7ms) 104 Started GET "/charts" for 127.0.0.1 at 2016-03-10 11:36:30 -0300 105 Processing by ChartsController#index as */* 106 (0.2ms) SELECT COUNT(*) FROM "data_points" 108 Completed 304 Not Modified in 6ms (ActiveRecord: 0.2ms)
30. Cache De Aplicação rails objects
31. There are only two hard things in Computer Science: cache invalidation and naming things. Phil Karlton
32. CACHE DE APLICAÇÃO •Roda na aplicação (duh!) •Normalmente uma aplicação de cache externa (memcached, por exemplo)
33. CACHE DE APLICAÇÃO •Desvantagens • Mais lento • Mais complexo de manter •Vantagens • Maior controle • Pode fornecer dados privados
34. TERMOS UTILIZADOS •Hit • Quando o dado requisitado está presente •Miss • Quando o dado requisitado não está presente • Em um miss, a aplicação pega o dado da fonte mais lenta e guarda no cache.
35. CACHE DE APICAÇÃO
 – ARQUITETURA
37. cache BD App
38. EXEMPLO DE QUERY
39. cache BD App miss!
40. cache BD App consulta do inferno 2000 ms Resultado fica salvo!
41. PRÓXIMA CONSULTA
42. Assumindo Que O Cache Não Expirou Entre A Ultima Consulta E Agora cache BD App hit! 2 ms
43. FALANDO EM EXPIRAR… •Simplesmente invalidar o cache com o tempo •Utilizar o cache_key do ActiveRecord •Invalidar o cache manualmente em certos pontos da aplicação Temos 3 Opções:
44. EXPIRANDO COM O TEMPO •Vantagens • Simples • Plug&play - Ótima ferramenta para apagar incêndios •Desvantagens • Pode não ser adequado • Causa picos de lentidão quando o cache expira • Usuário vai “sentir" o cache miss
45. WARMUP TO SAVE THE DAY Se Antes Do Cache, Existisse Um Job Que Atualizasse O Mesmo Com Os Dados Novos ?
46. EXEMPLO TRUSTVOX
47. UTILIZANDO O CACHE_KEY Nada Mais Nada Menos Que O Nome Do Modelo Com O Timestamp Do Updated_At
49. UTILIZANDO O CACHE_KEY •Vantagens • “Não precisa” se preocupar em expirar o cache • Se adequa a situações que o cache por tempo não funciona •Desvantagens • Preso a um modelo • Consome mais memória do cache*
50. • Expirar com o tempo é uma medida para diminuir o consumo de memória EXEMPLO TRUSTVOX
51. EXPIRANDO MANUALMENTE
53. AS VEZES NÃO TEMOS ESCOLHA •Vantagens • Controle TOTAL sobre quando o cache expira • Engloba os casos que o cache de tempo e o cache_key não cobre •Desvantagens • É preciso invalidar o cache para toda mudança de dado que influencie o mesmo • Na maioria das arquiteturas se torna uma tarefa bastante complexa • > Débito técnico :-(
54. EXEMPLO TRUSTVOX
55. EXEMPLO TRUSTVOX
56. PRÓXIMOS PASSOS… •É uma péssima idéia ficar adicionando lógica de expirar cache nos form objects • Especialmente quando o cache é expirado por efeitos colaterais •Como melhorar isso ? Desacoplando Os Expires Do Form
57. CALLBACKS?
58. EXPIRAR NO CONTROLLER?
59. NOVA ARQUITETURA •Mensagens são postadas e entidades consumem essas mensagens • Diminui dependencias • Escalável •Como tudo em programação, pode virar um clusterfuck Mais Orientada A Eventos E Mensagens
60. OBRIGADO! guilherme@geteloquent.com