Industrialisation et automatisation chez M6Web Lille

Petit tour d'horizon des différents outils et workflows utilisés et des actions menées depuis 1 an chez M6 Web Lille pour faciliter le quotidien des développeurs (mais pas que).

Transcript

1. Industrialisation des développements Be lazy, automate. Pierre Marichez Renaud Bougré
2. Nos sites Nos services
3. Constat 2015 ◎ Organisation trop compartimentée ◦ Organisation verticale ◦ SPOF ◎ Pas de process ◦ Mise en production risquée ◦ Outil de gestion de projet non performant ◦ Correction des bugs en production ◦ Pas de workflow de développement ◎ Mal outillés ◦ Pas d’alerting en place ◦ Aucun monitoring
4. Écosystème 2015 Projets Radins Radins bon plan Météo Météo mobile Radins mobile Fourchette Croqkilos Devs capable de déployer 2 3 2 0 2 1 3 Techno php maison SF2 php maison bis jquery mobile Angular 1 / ionic drupal 7 php 5.6 SF2 Env de dev distant vagrant distant distant distant vagrant Livraison delivery git pull capistrano + intervention manuelle git pull git pull git pull git pull capistrano Livraison prod rsync capistrano git pull git pull git pull drush rsync capistrano
5. Écosystème 2016 Projets Radins Radins bon plan Météo Météo mobile Fourchette Croqkilos Radins batch Devs capable de déployer Toute l’équipe Techno php maison SF2 php maison bis jquery mobile drupal 7 php 7 SF2 SF3 php7 Env de dev Docker Env de test Gitlab-ci Livraison staging Jenkins Livraison delivery Livraison prod
6. Comment c’est-y qu’on a fait ? ◎ Uniformisation des environnements de dev ◎ Formalisation des étapes de vies des US/Bug ◎ Définition d’un workflow de dev ◎ Intégration continue ◎ Déploiement ◎ Automatisation ◎ Monitoring / Alerting
7. Uniformisation des environnements de dev Passage à docker : ◎ Une baleine ◎ Le standard émergeant ◎ Plus d’environnements de dev distants ◎ Flexibilité et sécurité en se passant des VM ◎ Performance en local ◎ Rationalisation des projets
8. Cycle de vie d’une User Story US_1234 → SEO - création arborescence TargetProcess 3 5 8 → SEO - création arborescence 8pt - Renaud Sprint Code... branch feature/US_1234-SEO-arborescence push build Déploiement Validation Scrum Master Validation Product Owner Mise en production --------------- --------------- --------------- --------------- --------------- # Slack
9. Workflow de développement - Feature git clone git@gitlab.m6 : radins.git feature/US_346-cashback Code Tests unitaires Tests fonctionnels Git pull rebase origin develop Git push Code review Merge sur develop • Q/A (sniff, etc…) • Tests unitaires • Tests fonctionnels Build gitlab-ci Création merge request auto Déploiement automatique sur staging
10. GitLab-ci : pourquoi faire ? Après un push, déclenchement de pipelines : ◎ Contrôles qualité ◎ Tests ◎ Création de MR auto
11. Job KO Vue projet Job OK
12. Vue job
14. image: bobey/docker-gitlab-ci-runner-php5.6 stages: - qa - build - test - deploy services: - mysql - redis variables: SYMFONY_ENV: "test" MYSQL_ALLOW_EMPTY_PASSWORD: "yes" sniff_code: image: m6web/php56 stage: qa [...] test-php56-phpunit: image: m6web/php56 stage: test [...] test-php56-behat: image: m6web/php56-apache-symfony stage: test [...] merge_auto: stage: deploy [...] GitLab-ci ◎ Créer le(s) runner(s) (executor : docker) ◎ Configurer .gitlab-ci.yml ◎ image docker de base ◎ N stages redéfinissables ◎ services : images pour les services de base ◎ variables d’environnement partagées entre tous les containers ◎ N “jobs” par stage pas de persistance de données entre les jobs $ sudo gitlab-ci-multi-runner register
15. ◎ filtres “only” / “except”, “when” (“on_failure”, “on_success”) ◎ “before_script” (commun aux jobs) ◎ cache ◎ artefacts ◎ syntaxe avancée YAML ◎ jobs “cachés” pour factoriser la conf merge_auto: stage: deploy when: on_success only: - /^feature\/.*$/ - /^hotfix\/.*$/ script: - curl http://XXXXXXXX cache: key: "$CI_BUILD_REF_NAME/$CI_BUILD_STAGE" untracked: true paths: - vendor/ test-php56-behat: stage: test image: m6web/php56-apache-symfony services: *full_stack_services artifacts: paths: - app/logs/ script: - *composer_script - ... .composer: script: - &composer_script | composer config -g github-oauth.github.com $GITHUB_TOKEN -q composer self-update -q composer install --no-interaction -q GitLab-ci
16. Variables d’environnement … ◎ … propres au build en cours ◎ … définies par projet cache: key: "$CI_BUILD_REF_NAME/$CI_BUILD_STAGE" untracked: true paths: - vendor/ .composer: script: - &composer_script | composer config -g github-oauth.github.com $GITHUB_TOKEN -q composer self-update -q composer install --no-interaction -q GitLab-ci
17. GitLab-ci … et plus encore ◎ Environnements pour les déploiements ◎ Repository docker privé ◎ Résolution des conflits ◎ … des nouveautés très fréquentes !
18. Déploiement et environnements ◎ Pipeline OK => déploiement env. à la volée par US ◎ Merge sur develop => déploiement auto en staging ◎ Tag sur delivery ◎ Tag sur prod ◎ Capistrano sur staging, delivery, prod
19. Déploiement US_1234 → SEO - création arborescence TargetProcess Déploiement en PRODUCTION --------------- --------------- --------------- --------------- --------------- # Slack Build OK Création merge request auto Création espace de recettage à la volée Validation par l’équipe Validation par le métier Merge sur develop Déploiement en STAGING Validation par le métier Création TAG sur develop Déploiement en DELIVERY N Features
20. Le métier La technique (*visuel non contractuel)
21. Utilisation de Jenkins (pour de vrai) Sonar Jenkins Sentry Grafana Slack Target Process Mail release note Change Log Capistrano Dashboard métier
22. Monitoring ◎ ElasticSearch et Packetbeat pour le trafic, les codes HTTP et temps de réponse. ◎ Grafana et statsd pour les applications. ◎ Sonar pour la qualité du code ◎ Outil interne pour le suivi de la pub
23. Alerting ◎ Sentry pour les erreurs applicatives (serveur et javascript) avec alerting par mails ou notifs via slack ou création US dans TargetProcess. ◎ Alerting humain via les écrans de monitoring dans le bureau. ◎ Directement par l’hébergeur
24. Boîte à outils ◎ Slack ◎ versions.oxygem.it ◎ versions.radins.com ◎ User script versions ◎ TargetProcess ◎ Jenkins ◎ Grafana ◎ Ad Charts ◎ Kibana ◎ Sonar ◎ Sentry
25. Slack
26. Bash script
27. Dashboard métier
28. User script
29. TargetProcess .... au début
30. TargetProcess .... aujourd’hui
31. Jenkins
32. Grafana
33. Statsd m6web/statsd-bundle - Activation du bundle - Un peu de conf - Listener global - Évènement => action sur métrique Ex : évènement de création d’un bon plan : $this->eventDispatcher ->dispatch('deal.creation.succeeded' , new Event()); Configuration évènements => actions sur métriques (app/config/config.yml) : m6_statsd: # ... clients: default: events: deal.creation.succeeded: increment: %statsd_env%.backend.event.dealfeed-client.deal.creation.succeeded # ... api.call: timing: %statsd_env%.backend.event.dealfeed-client.api.call.<method>.<endpoint>
34. Kibana
35. Sonar
36. Sentry
37. Sentry côté code require_once '/path/to/Raven/library/Raven/Autoloader.php' ; Raven_Autoloader ::register(); $client = new Raven_Client('https://*****@sentry.io/12345' ); PHP standard : $ composer require sentry/sentry Symfony : $ composer require sentry/sentry-symfony sentry: dsn: "https://*****@sentry.io/12345" + Activer le bundle dans le AppKernel + app/config/config.yml :
38. Ad charts
39. J’adore quand un plan se déroule sans accroc ◎ Docker Toolbox ◎ Docker + windows = Joie ◎ Docker for mac (beta) : plus d’IP pour les containers ◎ Communication dockers (ex. client / API) ◎ Timeout gitlab-ci ◎ Capistrano (FPM + symlink) ◎ Full disk jenkins (ou gitlab) ◎ Faux positifs gitlab-ci ◎ Lenteur pour créer un environnement à la volée ◎ Dépassement de quota dans sentry ◎ Monitoring qui freeze ◎ Encore trop de manuel pendant les déploiements
40. Liens utiles ◎ Doc runners gitlab-ci http://docs.gitlab.com/ce/ci/runners/README.html ◎ Doc fichier de conf gitlab-ci http://docs.gitlab.com/ce/ci/yaml/README.html ◎ Lancer un build gitlab-ci en local https://gitlab.com/gitlab-org/gitlab-ci-multi-runner ◎ Client Sentry PHP https://docs.sentry.io/clients/php/ ◎ PacketBeat https://www.elastic.co/fr/products/beats/packetbeat ◎ Github https://github.com/M6Web ◎ Docker hub M6 https://hub.docker.com/r/m6web/ ◎ Licornes http://www.cornify.com/ www.odiso.com www.mindbaz.com tech.m6web.fr
41. Merci ! DES QUESTIONS ?