Moscow Python Meetup №89 Алексей Жиряков (онлайн-кинотеатр KION, TechLead Backend команды витрины). Доверяй, но проверяй: как KION обрабатывает свыше 400М продуктовых событий в сутки.

В KION в сутки поступает свыше 400 миллионов продуктовых событий (помимо технических). На основе этих событий продуктовые вертикали строят аналитику, следят за продуктом, принимают бизнес решения. Качество поступаемых данных критично важно. В докладе расскажу про весь pipeline событий, как мы их готовим для аналитиков и продактов.

Transcript

1. Доверяй, но проверяй Или как мы в KION готовим продуктовые события
2. О себе Алексей Жиряков Руководитель направления бекенд команды витрины в KION Знаю что такое контроль хвостовой рекурсии Больше 10 лет в медиа ИТ Люблю Python и комедии В качестве хобби написал распределенную поисковую систему
3. О чем поговорим Полный путь событий Приемник Уровни Data Quality Проверка при релизе Мониторинг ошибок
4. 6000+ RPS 400M+ событий в сутки Что мы имеем 6+ продуктовых вертикалей
5. Что такое продуктовое событие? User
6. Как выглядит событие
7. Какие бывают события и зачем они нужны? Продуктовые Персональная витрина А/B эксперименты Технические Скорость Память Улучшаем продукт
8. Почему Data Quality важно?
9. Свой приемник – зачем?
10. Свой приемник – зачем? Нет лимитов
11. Свой приемник – зачем? Нет лимитов Реальное время
12. Свой приемник – зачем? Нет лимитов Реальное время Вариативность
13. Архитектура своего приемника Client request Get/Post Http server приемник Consumer 1 … Consumer N Consumers Kafka Clickhouse GUI Redash/Superset/SQL Product manger 1 Product manger N User Topic parsed events Topic raw events
14. Сравнение реализации на Python и Go Python 3.11 Go 1.21.0 VS
15. Сравнение приемника на Python и Go Golang 1.20 confluent-kafka-go v1.8.2 ask=0 Locust 2.15.1 Python 3.11 FastAPI 0.103.2 aiokafka = 0.8.1 ask=0
16. Плюсы решений Скорость разработки
17. Плюсы решений Скорость разработки Легкость
18. Плюсы решений Скорость разработки Легкость Swagger FastAPI
19. Плюсы решений Скорость разработки Легкость Swagger FastAPI Скилы
20. Плюсы решений Скорость разработки Легкость Swagger FastAPI Скилы Ресурсы
21. Плюсы решений Скорость разработки Легкость Swagger FastAPI Скилы Ресурсы Скорость (2-2,5 раза)
22. Уровни Data Quality Как мы обеспечиваем Data Quality In schema Физический уровень Event валидация Out schema Контроль поступления данных Логический уровень Apache airflow Контроль отклонений
23. Уровень In schema Как мы обеспечиваем Data Quality
24. Уровень Event валидация Как мы обеспечиваем Data Quality
25. Пример валидатора In схемы Как мы обеспечиваем Data Quality
26. Как мы описываем Event валидацию Как мы обеспечиваем Data Quality Описываем валидацию полей Составляем валидатор событий + контекстно зависимая валидация
27. Мониторинг-Алертинг Дедуплицирование Отстрел раз в сутки Consumer Event валидатор In memory дедупликатор Redis TTL время до 0 часов Telegram
28. Проверка при релизе
30. Вопросы? @AlexeyZhi