Eventual simplicity - Csibi András (Scarab Research)

Milyen evolúciós lépésekben jutottunk el a Google Datastore-tól a MongoDB-n át a LevelDB használatáig? Tanulságok egy skálázható kiszolgáló infrastruktúra építéséről. Kulcsszavak: shared nothing architecture, extremely eventual consistency, log structured merge trees.

Transcript

1. Eventual Simplicity Csibi András Scarab Research
3. Scarab Cloud - SaaS Scarab Cloud adatgyűjtés ajánlások
4. Scarab Cloud
5. Scarab Cloud - szempontok Scarab Cloud adatgyűjtés ajánlások • nagy rendelkezésre állás • gyorsaság • skálázhatóság • alacsony ops overhead
6. Scarab Cloud = Recommender + Analysis recommender analysis logok modell adatgyűjtés online offline ajánlások
7. Perzisztencia modell DB log DB recommender analysis logok modell adatgyűjtés ajánlások
8. To the Cloud! • Platform-as-a-Service • Dev without Ops • Nagy rendelkezésre állás • Automatikus skálázódás • Google Datastore
9. Scarab Recommender 1.0 GAE app cache Datastore Memcached GAE app cache ...
10. Scarab Recommender 1.0 GAE app cache Datastore Memcached GAE app cache ... < µs ~2ms ~20ms
11. Google Datastore Problémák • latency: ~100 ms / lekérdezés • írás: ~100 ms • olvasás: ~20 ms • nincs bulk írás
12. Google Datastore Tanulságok • éljenek a cache-ek! • lokális readek • az operatív DB (modellek) elfér egy gépen • eventual consistency OK • async loggolás jó ötlet
14. Amazon EC2 + MongoDB
15. • sémamentes (dokumentum-orientált) • replikáció, nagy rendelkezésre állás ◦ master-master replikáció MongoDB
16. jetty mongo jetty mongo Elastic Load Balancer master-master replikáció Scarab Recommender 2.0 ... recommender1 recommender2
17. recommender2 recommender1 jetty mongo jetty mongo Elastic Load Balancer master-master replikáció Scarab Recommender 2.0 ...
18. recommender2 recommender1 jetty mongo jetty mongo Elastic Load Balancer Scarab Recommender 2.5 ...
19. recommender2 recommender1 jetty mongo jetty mongo Elastic Load Balancer Scarab Recommender 2.5 ... analysis
21. recommender2 recommender1 jetty mongo jetty mongo Elastic Load Balancer Scarab Recommender 2.5 ... latency: ~5-10 ms 99th percentile: ~25 ms
22. MongoDB - Problémák • 1 write lock • kompaktálás (hetente 1 óra) • inkonzisztens latency
23. LevelDB • beágyazott adatbázis-könyvtár • teljesen fapados • log structured merge tree • automatikusan kompaktál
24. jetty leveldb Elastic Load Balancer Scarab Recommender 3.0 jetty leveldb recommender2 recommender1 ...
25. recommender1 recommender2 jetty leveldb Elastic Load Balancer Scarab Recommender 3.0 jetty leveldb ... latency: ~0.5-1 ms 99th percentile: ~2.5 ms
26. Eventual Simplicity 1.0 2.0 3.0 DB GAE datastore MongoDB LevelDB App-DB táv Elosztott Egy gépen Beágyazott Latency 100ms 10ms 1ms Strukturáltság strukturált strukturált byte[]
27. Teljesítmény • <1 ms latency • 500 QPS max terhelés • 22 millió request naponta • 1 db 2 core-os virtualizált gépen • 99.99% rendelkezésre állás • válasz előállítása ~= válasz gzippelése
28. Eventual Simplicity • Cache-ek - minél nagyobb, minél közelebb • Consistency vs. Availability • Az egyszerűség időbe telik • Merj kicserélni központi komponenseket
29. Kérdések?