La montée en charge

Retour d'expérience sur les modifications d'architecture et de code nécessaire à la montée en charge de notre application PHP, via l'utilisation de containers dockers.

Transcript

1. DE 200K REQUÊTES PAR JOUR À 200K REQUÊTES PAR MINUTE LA MONTÉE EN CHARGE
2. QUI SOMMES NOUS ? Janvier 2015 Outil d’analyse des 
 adblockers 3 développeurs @adback_co https://www.adback.co
3. QUI SOMMES NOUS ?
4. QUI SOMMES NOUS ?
5. NOTRE FONCTIONNEMENT
6. LE DÉPART
7. LE DÉPART ▸ Projet monobloc ▸ Symfony 2 ▸ 3 serveurs chez OVH ▸ MariaDB ▸ File d’attente Redis ▸ Workers CLI ▸ Développé par un seul développeur
8. LE DÉPART ▸ Scaling difficile ▸ Maintenance fastidieuse ▸ Limitation des capacités d’intégration de nouveaux sites ▸ Ban par les firewall OVH pour… flooding
9. LE DÉPART ‣ Infrastructure de départ
10. L’URGENCE
11. L’URGENCE Pas de refactoring Migration en urgence Au plus vite Avec un nouvel hébergeur Mêmes technologies Nouveaux sites attendus 2 semaines max Amazon Web Services
12. Procédure: 1. Déplacement des bases de données sur AWS 2. Fonctionnement hybride temporaire OVH / AWS 3. Déplacement du projet sur AWS L’URGENCE
13. L’URGENCE Résultat: 1. Déplacement des bases de données sur AWS ✅ 2. Fonctionnement hybride temporaire OVH / AWS ❌ 3. Déplacement du projet sur AWS ❌ Lenteur des accès à Redis…
14. SÉPARATION DES PROJETS
15. SÉPARATION DES PROJETS Identification des différentes fonctions : ‣ Envoi des tags / Réception des données (Satellites) ‣ Enrichissement des données reçues (Workers) ‣ Agrégation des statistiques (Workers Cache) ‣ Interface de lecture des résultats (Backoffice)
16. SÉPARATION DES PROJETS Procédure: 1. Séparation du projet en différents services (forks) 2. Épuration du code des forks 3. Tous les projets (hors backoffice) sur AWS 4. Load balancing avec Elastic Beanstalk
17. SÉPARATION DES PROJETS Résultat: 1. Séparation du projet en différents services (forks) ✅ 2. Épuration du code des forks ✅ 3. Tous les projets (hors backoffice) sur AWS ✅ 4. Load balancing avec Elastic Beanstalk ✅
18. ELASTIC BEANSTALK ‣ Déploiement / dimensionnements d’applications ‣ Compatible Apache, Nginx, PHP, Python… ‣ Et Docker !
19. ‣ Config Docker similaire ‣ Plusieurs containers par instance EC2 ‣ Configuration via un fichier Dockerrun.aws.json ELASTIC BEANSTALK ET DOCKER
20. ELASTIC BEANSTALK ET DOCKER ‣ Multiples environnements ‣ Utilisation possible en local / dev !
21. NOUVEAUX PROBLÈMES
22. NOUVEAUX PROBLÈMES ‣ Mauvaises IPs en sortie de Load Balancer ‣ Limitations de la base MariaDB à 1000 inserts / sec
23. ‣ Mauvaises IPs en sortie de Load Balancer NOUVEAUX PROBLÈMES
24. NOUVEAUX PROBLÈMES ‣ Limitations de la base MariaDB à 1000 inserts / sec ‣ Séparation: 1. Données principales (MariaDB) 2. Données enrichies temporaires (Aurora) 3. Stockage définitif (Redshift) ‣ Aurora à Redshift via export CSV (Embulk)
25. ‣ Résultats de la séparation NOUVEAUX PROBLÈMES
26. INFRASTRUCTURE FINALE
27. OPTIMISATIONS
28. OPTIMISATIONS 1. Utilisation de l’AOP (Aspect Oriented Programmation): 2. Passage à PHP 7.0 3. Opcache 4. Suppression du Yaml
29. ‣ Pointcut : ‣ Interceptor : UTILISATION DE L’AOP
30. 33% de gain UTILISATION DE L’AOP
31. PASSAGE À PHP 7.0
32. 45% de gain PASSAGE À PHP 7.0
33. ACTIVATION DE L’OPCACHE SUR LES SATELLITES Etat de départ
34. 90% de gain ACTIVATION DE L’OPCACHE SUR LES SATELLITES
35. SUPPRESSION DU YAML DES PARAMÈTRES
36. SUPPRESSION DU YAML DES PARAMÈTRES 30% de gain supplémentaire
37. ET ENSUITE ?
38. ET ENSUITE ? ‣ Permettre une infrastructure séparée pour certains clients ‣ Automatiser l’upgrade des bases de données ‣ Fournir des analyses en temps réel plutôt que le lendemain
39. EN CONCLUSION
40. CE QUI NOUS A AIDÉ ‣ Culture DevOps ‣ Code / Infrastructure ‣ Automatisation ‣ Partage de la connaissance ‣ Mesures
41. ‣ Surveillance des processus CE QUI NOUS A AIDÉ
42. CE QUI NOUS A AIDÉ ‣ Le télétravail ‣ Tout partager sur Slack : les réflexions comme les décisions ‣ Documenter notre code : intégrer rapidement de nouveaux membres à l’équipe ‣ Esprit agile : cérémonies, daily stand up, rotation des tâches
43. ‣ Séparer l’implémentation de l’utilisation ‣ Bibliothèques communes ‣ Open-source si possible ‣ Ne pas privilégier l’optimisation CE QUI NOUS A AIDÉ
44. MERCI ! N’HÉSITEZ PAS SI VOUS AVEZ DES QUESTIONS