uWSGI в помощь метрикам

Наиль Хунафин (Яндекс) @ Moscow Python Meetup 66
"uWSGI — это многофункциональный сервер веб-приложений, а каждое современное приложение сопровождается метриками. Мы посмотрим, как возможности uWSGI способны помочь нам в сборе метрик".

Видео: http://www.moscowpython.ru/meetup/66/uwsgi-for-metrics/

Transcript

2. uWSGI в помощь метрикам Наиль Хунафин, разработчик в Яндекс.Коннекте
3. О докладе 73 › о метриках › подходы к получению метрик › uWSGI + метрики › оптимизация
4. Пару слов о метриках
5. Пару слов о метриках 75 Человек пароход Приложение
6. Польза метрик 76 › динамика системы › выход за нормальные значения › аномальное поведение › оповещение
7. Показатели 77 › счетчик › единичное значение › гистограмма
8. Примеры метрик для WEB-приложения 78 › количество запросов по ендпоинту API › время запроса в смежный сервис › коды ответов смежных сервисов › кэш hit/miss › распределение времен ответа API › время запроса в базу
9. Сбор метрик
10. Push 710
11. Pull 711
12. Логи 712
13. Наша инфраструктура 713 › своя система сбора метрик › стандартизованный ответ для pull ручки › внутренне облако › инеграция метрик и облака
14. Наша инфраструктура 714 › пример ответа для pull схемы
15. › оперативность › зависимости › универсальность Критерии сравнения 715
16. Сравнение 716 оперативность зависимости универсальность push pull logs
17. Далее про Pull 717 › в памяти › в стороннем хранилище
18. Варианты 718 локально в памяти › только если 1 процесс разделяемое хранилище › redis › memcached › DB › file
19. uWSGI 719 uWSGI — веб-сервер и сервер веб-приложений, реализованный для запуска приложений Python через протокол WSGI. WSGI - стандарт взаимодействия между Python-программой, выполняющейся на стороне сервера, и самим веб-сервером (PEP 333).
20. Яндекс.Танк 720 Инструмент для проведения нагрузочного тестирования. › использует высокопроизводительный асинхронный генератор › может генерировать десятки тысяч HTTP-запросов в секунду › встроенный мониторинг ресурсов тестируемого сервера › расширяется внешними модулями
21. Эксперименты 721
22. 722 Без метрик
23. Без метрик 723
24. 724 База данных (PostgreSQL + удаленно)
25. База данных (PostgreSQL + удаленно) 725
26. 726 Redis (локально + socket)
27. Redis (локально + socket) 727
28. uWSGI 728 комбайн › mule › caching framework › cron › metrics subsystem › alerting › и т.д.
29. uWSGI 729 metrics subsystem › metric_get(name) › metric_set(name, value) › metric_inc(name[, delta]) › metric_dec(name[, delta]) › metric_mul(name[, delta]) › metric_div(name[, delta])
30. uWSGI 730 metrics subsystem › metric_get(name) › metric_set(name, value) › metric_inc(name[, delta]) › metric_dec(name[, delta]) › metric_mul(name[, delta]) › metric_div(name[, delta]) › metric_all_metrics()
31. uWSGI 731 cache subsystem › cache_inc(key[,amount=1,expires,cache]) › cache_dec(key[,amount=1,expires,cache]) › cache_keys([cache]) › cache_get(key[,cache]) › cache_set(key,value[,expires,cache])
32. uWSGI 732 cache subsystem › быстрый › потокобезопасный › ключ-значение
33. uWSGI cache 733 › длина ключа (2048 байт) › количество элементов (65 536 элементов) › ttl (0)
34. 734 uWSGI cache
35. 735 uWSGI cache
36. 736 Без метрик vs uWSGI uWSGI Без метрик
37. Выбор 737 Скорость Зависимость RPS % database ~16 2.6 redis ~110 18 uWSGI ~580 95 ~610 (100%) rps без метрик
38. Наша реализация
39. 739 Код
40. 740 Код
41. 741 Код
42. Наши графики 742 99 перцентиль времени доступа к кэшу
43. Наши графики 743 Количество запросов внешнего сервиса в наше API (Календарь)
44. Оптимизация
45. Что же было не так 745 › росло число метрик › падение производительности › стали упираться в подсчет метрик
46. Первая реализация 746
47. Что сделали 747 › увидели что основное время тратим на pickle › отказались от pickle › провели новые замеры › стало быстрее
48. Вторая реализация 748
49. К чему это вот всё 749 › собирайте метрики › сравнивайте варианты › профилирование это хорошо
50. Ссылки 750 Яндекс.Танк https://github.com/yandex/yandex-tank Профилировщик https://github.com/benfred/py-spy Про uWSGI https://events.yandex.ru/lib/talks/7550/
51. Спасибо Наиль Хунафин Разработчик khunafin@yandex-team.ru @khunafin