yüksek trafikli sistemlerde caching emre yılmaz – labsessions, şubat 2014 

cache invalidation "There are only two hard things in Computer Science: cache invalidation and naming things." -- Phil Karlton 

genel caching deseni 

Dog piling 

Dog piling  Binlerce, onbinlerce request boş bir cache key'ine istek yapar.  Cache'e koyulacak data hesaplanana kadar (key'in içi doldurulana kadar) tüm requestler aynı datayı hesaplama işine girer.  Veritabanının canı çıktı :( 

Dog piling - çözüm  -olabildiğince- timeout kullanmayın. Böyle bir lüksünüz yoksa 1 ay, 3 ay gibi uzun süreler belirleyin.  Delete operasyonu ikinci bir emre kadar yasak.  Invalidasyon – güncel olmayan data- için UPDATE operasyonlarını kullanın. 

Dog piling – kodun yeni hali 

Problem #2: hatalı URL'ler  Ashton Kutcher, projenizi beğendi, sosyal medyadan linkledi. Linklerken sıkıntı yaşandı, miyonlar 404 veren bir sayfanıza geliyor.  Her istek için key kontrolü yapmak yerine 1 istekten sonra hatayı cache'leyip veritabanına gidiş-geliş'i ikinci istekten sonra durdurmak mümkün. 

Problem #2: hatalı URL'ler - çözüm 

iyileştirme – binlerce key olunca ne olacak?  Fonksiyon, blok içi key tanımlamaları codebase büyüdükçe hataya sebebiyet verecek.  Aksi halde ekibe sonradan katılan geliştiricinin hali: 

key tanımlamaları 

son durum 

Memoization & in process caching Aynı süreç ya da aynı obje içerisinde aynı hesaplamayı birden fazla kere yapmaya gerek yok. 

•Consistent-hashing  Birden fazla sunucuya etkili veri dağıtımı (istemci tarafında sharding.)  Sunucu ekleme/çıkarma durumlarında minimum invalidasyon.  github.com/emre/redis-router (libketama)  https://github.com/disqus/nydus  github.com/twitter/twemproxy 

Consistent hashing 

Basit güvenlik  Memcache, redis gibi aletlerin portları dışarıya kapatılmalı. 

Upstream & publishing caching  Varnish gibi araçlarla direkt çıktı cache'leme  Harmanlanmış HTML'in cache'lenmesi. (django cache middleware) Iyi yanları: - uygulama kodunda değişikliğe gerek yok. Sıkıntıları: - her yerde kullanılabilir değil. 

seperation of concerns  Cache ile ilgili kodlarınız genel kullanımın aksine model.save() ya da model.update() metodlarında olmamalı. Django için sinyaller güzel bir kullanım yeri. Cache katmanı ile asıl veritabanınıyla ilgili kodlar ayrı yerlerde olmalı. 

teşekkürler, iletişim: [email protected] twitter.com/emre_yilmaz