Skaliranje distribuiranih aplikacija uz pomoć AMQP-a

Transcript

1. 1.

   Skaliranje  distribuiranih  aplikacija   uz  pomoć  AMQP-­‐a     Goran

   Jurić Webcamp, Zagreb, 2013.  
2. 2.

   Problem   •  razmjena podataka između različitih sustava i platformi

   •  deseci tisuća poruka / sekundi •  asinkrono (fire & forget)  
3. 3.

   Riješenje?   •  SOAP, REST ? – Ne postoji nativni queing

   mehanizam – Zahtijeva poslužitelj na svakoj strani koja prima poruke – Tko odlučuje gdje pojedina poruka mora završiti? – blocking – Što s djelomično isporučenim porukama?
4. 4.

   Alternative   •  Push vs pull •  Job queueovi (dostupnost

   klijenata, nedostatak naprednih mogućnosti) – Gearman – Resque – Celery – ...  
5. 5.

   AMQP   •  Advanced  Message  Queuing  Protocol •  Protokol za

   razmjenu i queueing poruka •  Otvoren standard •  OASIS (v1.0)
6. 6.

   Tko koristi AMQP   •  Njemačka burza •  JPMorgan • 

   NASA •  RedHat •  VMWare •  Mozilla •  AT&T •  NASA •  Openstack •  Google
7. 7.

   Software   •  Serveri – SwiftMQ – Apache QPID – Apache ActiveMQ – RabbitMQ

    
8. 8.

   RabbitMQ   •  Erlang aplikacija •  Klijenti dostupni u svim

   poznatijim programskim jezicima •  Web GUI plugin  
9. 9.

   Nomenklatura   •  Poruka •  Producer •  Consumer •  Broker

   (AMQP server)
10. 10.

    Arhitektura  

11. 11.

    Arhitektura   •  Connection (TCP) – Jedna konekcija prema brokeru • 

    Channel – Više kanala prema Exchange-u
12. 12.

    Broker   •  Exchange – Mjesto dostave poruka – Svaka poruka ima

    routing ključ •  Bindings – Povezuju Echange i Qeue preko binding ključa •  Queue – Odredište poruka – Consumer subscribe  
13. 13.

    Exchange types   •  Direct •  Default •  Fanout • 

    Topic •  Header
14. 14.

    Direct Exchange   •  Svaka poruka ima routing ključ • 

    Queue X se binda na exchange koristeći ključ K •  Poruka se dostavlja u Queue X ukoliko je dostavljena na zadani exchange i ima routing ključ K  
15. 15.

    Default Exchange   •  Default exchange nema ime •  Svaki

    kreirani queue je bindan na defaultni exchange preko imena queuea
16. 16.

    Fanout Exchange   •  Poruka se dostavlja u svaki bindani

    queue •  Ignorira se routing ključ •  Idealno za broadcast  
17. 17.

    Topic Exchange   •  Dostavlja poruku u jedan ili više

    queuova u ovisnosti o routing ključu •  Binding ključ – * jedna riječ – # nula ili više riječi – Bez * i # kao Direct exchange  
18. 18.

    Topic Exchange  

19. 19.

    RPC   •  reploy_to header •  Client – Privremeni, anonimni i

    ekskluzivni queue – Bez exchangea – Routing ključ = ime queue
20. 20.

    RPC  

21. 21.

    Durability   •  Exchange durability •  Queue durability •  Message

    persistence  
22. 22.

    Oprez!   •  Uvijek declareati exchange i queue prije slanja

    ili primanja poruka •  Persistentcija poruka – Klasična – Transakcijska !!! – Publisher confirm  
23. 23.

    Priprema  

24. 24.

    Publisher  

25. 25.

    Consumer  

26. 26.

    Enkodiranje poruka   •  binary blob •  serijalizacija •  JSON

    •  MsgPack •  XML •  Protocol Buffers  
27. 27.

    Ostalo   •  Virtual hosts •  Visualiser plugin •  HTTP

    API •  HA clustering •  Flow control – Per connection – Memory – Disk  
28. 28.

    Web GUI  

29. 29.

    Alternativa AMQP-u   •  ZeroMQ – Low level alternativa – Web scale

    (50-100x brži) – TCP sockets na steroidima
30. 30.

    Osobna iskustva   •  185 poslužitelja •  ~ milijardu poruka

    u zadnjih 10 mjeseci •  0 crashes •  0 downtime •  0 lost messages
31. 31.

    Kontakt   •  goran@ingop.hr •  @goran_juric