Geo по IP без усилителей вкуса и консервантов

О себе Алексей Жиряков Руководитель направления бэкенд команды витрины в KION Знаю, что такое контроль хвостовой рекурсии Больше 10 лет в медиа ИТ Люблю Python и комедии В качестве хобби написал распределённую поисковую систему

О чем поговорим Наша проблема Сравнение БД Поиск адреса по диапазонам Что выбрали Обогащение Geo по Ip

Наша проблема: Geo обогащение 6000 RPS продуктовых событие 600 RPS витрин Х RPS запросов смежных подразделений

Геолокация для витрин «Прилипала» — промо- баннер Показ прилипалы в зависимости от витрины, АЗ/неАЗ, для абонентов МТС или для всех

Геолокация для витрин Баннеры для определённых городов или регионов

Геолокация для продуктовых метрик “109.252.214.31”

Почему не взяли готовое? Высокие нагрузки Внутренний контур

Какие технологии используем Много маленьких запросов Минимальное время ответа Кеширование на стороне API

Какие технологии используем Много маленьких запросов Минимальное время ответа Кеширование на стороне API

Проблемы определения Geo по IP “109.252.215.131” Поиск по вхождению в подсети “109.252.215.128/26” 109.252.215.128 - 109.252.215.191 “109.252.215.0/24” 109.252.215.0 - 109.252.215.255 geoname_id: “524901” geoname_id: “524512” Networks

Проблемы определения Geo по IP “109.252.215.131” Поиск по вхождению в подсети “109.252.215.128/26” “109.252.215.0/24” 109.252.215.0 - 109.252.215.255 geoname_id: “524901” geoname_id: “524512” 109.252.215.128 - 109.252.215.191 Networks

Геолокация для продуктовых метрик Модуль ipaddress Парсинг в классы IPv4Network, IPv6Network IPv4 адреса переводим в int через класс IPv4Address

Геолокация для продуктовых метрик “109.252.215.128/26” geo_ip: [ 1845286784, 1845286784 ] Networks В базе подсетей лежат диапазоны IP адресов в int

Геолокация для продуктовых метрик “109.252.215.131” Поиск по вхождению в подсети id: “524901” city_name: “Moscow” . . . “109.252.215.128/26” geoname_id: “524901” Networks Cities

Архитектура базы данных Networks Cities Countries Диапазоны IP адресов в виде int geoname_id - ID города network - подсеть (строка) Данные по городам Данные по региону (область, страна) Код города + код страны Данные по странам Название и код страны Подключается опционально 600mb 840mb index 8+млн ключей 10mb 2mb index 150к ключей 30kb 20kb index 250+ ключей

Кеш ответов Асинхронный кеш aLRU Одно устройство пользователя — один IP 1–5% попаданий в кеш Ограничение по памяти кеша User MongoDB aLRU cache Есть в кеше? Client IP Нет Да

Своё решение Исходные данные в CSV Geo2IP база Конвертируем в более удобный вид

Свое решение Первая итерация содержала промежуточный маппинг Три запроса вместо двух После рефакторинга - 2 запроса

Своё решение Первая итерация содержала промежуточный маппинг Три запроса вместо двух После рефакторинга — 2 запроса Подсеть Маппинг Город Подсеть Город

Своё решение Оптимизация запроса в MongoDB

Нагрузочное тестирование До 800 rps на под В среднем 20мс на запрос

Сравнение с реализацией на PosgreSQL 2 таблицы Тип данных inet для хранения подсетей “109.252.215.131” id: “524901” city_name: “Moscow” . . . “109.252.215.128/26” geoname_id: “524901” Networks Cities Индекс gist (network inet_ops)

Индекс btree Сравнение с реализацией на PostgreSQL Индекс gist (network inet_ops)

Сравнение с реализацией на PosgreSQL DDL таблиц

Сравнение с реализацией на PosgreSQL 150rps на под В среднем 50мс на запрос Тестировалась с модулем asyncpg

Сравнение с реализацией на PosgreSQL Быстрее Поддержка IPv6 Удобные запросы Проще масштабировать Проще Удобнее в работе из Python

Вопросы? @AlexeyZhi