Как мы делаем раскладку Календаря@Mail.Ru

Владимир Рудных

Буквально на днях мы запустили Календарь Mail.Ru, написанный на Python. На встрече я расскажу, как мы организовали раскладку проекта на Django в бой, какой путь проходит код от коммита в git до появления его на боевых серверах, как мы отслеживаем результаты нашей работы и понимаем, что раскладка прошла успешно.

Transcript

1. Как мы делаем раскладку Календаря Владимир Рудных
2. Moscow Django MeetUp №7 Обо мне • тимлид Календаря Mail.Ru • pythonista • бывший перловик • ленивый программист
3. Moscow Django MeetUp №7 Календарь Mail.Ru • calendar.mail.ru • написан на Python • Django framework • PostgreSQL • Rich Internet Application • RESTful API • шаблонизация на клиенте (Fest)
4. Moscow Django MeetUp №7 calendar.mail.ru
5. Moscow Django MeetUp №7 Разработка в Mail.Ru Тестовое окружение Production Офисная сеть (разработчики)
6. Moscow Django MeetUp №7 как? Раскладка проекта серверы серверы репозиторий git много серверов
7. Moscow Django MeetUp №7 Ахаха, мы же не перловики! Раскладка проекта серверы серверы репозиторий git много серверов "rsync" ?
8. Moscow Django MeetUp №7 Раскладка проекта
9. Moscow Django MeetUp №7 Вся мощь Python с нами! Раскладка проекта
10. Moscow Django MeetUp №7 • setuptools • distribute • easy_install • pip Раскладка проекта
11. Moscow Django MeetUp №7 Раскладка проекта • python setup.py install • pip install package • pip install -r requirements.txt
12. Moscow Django MeetUp №7 NO WAY! Раскладка проекта
13. Moscow Django MeetUp №7 Загаживать систему пакетами? Что делать с зависимостями? Как отслеживать их версии? Раскладка проекта
14. Moscow Django MeetUp №7 А если нужна другая версия Python? А что делать, если нужно откатиться? Что делать с зависимостями при откате? Раскладка проекта
15. Moscow Django MeetUp №7 АД Раскладка проекта
16. Moscow Django MeetUp №7 Вспоминаем про virtualenv Раскладка проекта
17. Moscow Django MeetUp №7 Vitrualenv • весь проект в одном месте • со всеми зависимостями • любые версии Python и модулей • не засоряет систему
18. Moscow Django MeetUp №7 Но как раскладывать? Makefile? Fabric? RPM*! Раскладка проекта * RPM, DEB или любой другой формат пакетов
19. Moscow Django MeetUp №7 RPM • весь проект со всеми зависимостями • в одном пакете • накатить/откатить - без проблем • версионность пакетов • версионность отдельных модулей • не засоряет систему • админы умеют (привет, CPAN!)
20. Moscow Django MeetUp №7 Как собирать? Jenkins CI RPM
21. Moscow Django MeetUp №7 сборка RPM • пишем fabfile для запуска сборки • пишем SPEC-файл для RPM • заводим задачу в Jenkins CI • ... • пушим ветку в git, получаем RPM: - git master -> RPM stable - git prerelease -> RPM testing
22. Moscow Django MeetUp №7 Jenkins CI Задачи в Jenkins: • development - все ветки • prerelease - ветка prerelease • release - ветка master
23. Moscow Django MeetUp №7 плюшки Jenkins • автоматическая сборка RPM • continuous integration • тесты • lint • coverage • change log • мгновенная обратная связь
24. Moscow Django MeetUp №7 Jenkins CI
25. Moscow Django MeetUp №7 Jenkins CI: report
26. Moscow Django MeetUp №7 Jenkins jobs dev prerelease release pylint ✔ flake8 ✔ ✔ coverage ✔ ✔ tests ✔ ✔ ✔ RPM ✔ ✔
27. Moscow Django MeetUp №7 Разложили, что дальше? Как узнать, что всё хорошо? Нужен мониторинг! Раскладка проекта
28. Moscow Django MeetUp №7 Мониторинг • метрики в Graphite (+Statsd) • ошибки в Sentry • дежурные администраторы • обращения пользователей в службу поддержки
29. Moscow Django MeetUp №7 Что будем мониторить? Да всё будем мониторить! Graphite
30. Moscow Django MeetUp №7 Graphite • количество запросов • тип запросов • время выполнения • время ожидания • таймауты • количество ошибок • выкладки и рестарты
31. Moscow Django MeetUp №7 Где будем мониторить? Да везде будем мониторить! Graphite
32. Moscow Django MeetUp №7 Graphite • клиент (браузер) • сервер (cpu, memory, hardware) • nginx • uwsgi • приложение • БД • обвязка (очереди, рассыльщики)
33. Moscow Django MeetUp №7 Разложились. Есть ошибки. Что делать? Раскладка проекта
34. Moscow Django MeetUp №7 Просить админов погрепать логи? Раскладка проекта
35. Moscow Django MeetUp №7 Раскладка проекта
36. Moscow Django MeetUp №7 Sentry! Раскладка проекта
37. Moscow Django MeetUp №7 Получаем все ошибки Frontend + Backend в удобном виде. Realtime! Sentry
38. Moscow Django MeetUp №7 Sentry • url ошибки • данные запроса (request) • полный stacktrace ошибки • версии модулей • информация о пользователе (email, браузер, ОС) Для каждой ошибки!
39. Moscow Django MeetUp №7 За исключением приватных данных пользователя =) “password”: “********” Sentry
40. Moscow Django MeetUp №7 Sentry
41. Moscow Django MeetUp №7 Sentry
42. Moscow Django MeetUp №7 Но как избежать ошибок? Раскладка проекта
43. Moscow Django MeetUp №7 Тестирование + Code review Раскладка проекта
44. Moscow Django MeetUp №7 Тестирование • nose • factory_boy • mock • Selenium (coming soon...)
45. Moscow Django MeetUp №7 Тестирование • модульное • функциональное • регрессионное • альфа (тестировщики) • бета (пользователи)
46. Moscow Django MeetUp №7 Phabricator Code review
47. Moscow Django MeetUp №7 Code review • подписка на коммиты (с фильтрами) • аудит и рецензирование коммитов • просмотр кода и diff’ов
48. Moscow Django MeetUp №7 Подведём итоги
49. Moscow Django MeetUp №7 Best practice • пишем на Python • используем virtualenv • менеджеры пакетов ОС (RPM) • автоматизируем процесс (Jenkins) • мониторим всё и вся • тесты, тесты, тесты! • обратная совместимость кода • code review, code style + lint
50. Moscow Django MeetUp №7 Ссылки • Virtualenv: virtualenv.org • Jenkins: jenkins-ci.org • Graphite: graphite.wikidot.com • Statsd: github.com/etsy/statsd • Sentry: getsentry.com • Phabricator: phabricator.org
51. Moscow Django MeetUp №7 Контакты •Владимир Рудных • rudnyh@corp.mail.ru • github.com/dreadatour • dreadatour.habrahabr.ru