Сергей Кузнецов – «Эксперименты с нейросетями в рекомендациях»

Transcript

1. Ozon Tech 2023 Эксперименты с нейросетями в рекомендациях Кузнецов Сергей, руководитель группы разработки «Нейросетевые технологии»
2. Рекомендации на Ozon 2 Пользователь Товары- кандидаты Logger Catboost Фичи • Набор полок • Ответ за десятки мс • Потенциально десятки тысяч RPS
3. Рекомендации на Ozon 3 • Набор полок • Ответ за десятки мс • Потенциально десятки тысяч RPS Пользователь Товары- кандидаты Logger Catboost Фичи Go wrapper for triton
4. DEEPFM 4 Фичи Эмбеддинги FM DNN + + + Конверсия в покупку
5. Время инференса 90q 5 600 ms 400 ms 50 ms PyTorch ONNX OpenVino
6. Нюанс с OpenVino 6 Какой ваш главный талант? Я очень быстро считаю. Ну, сколько будет 758 умножить на 652? 30622. Но это же неправильно! Зато очень быстро.
7. Не совсем DEEPFM 7 Фичи товара n Фичи товара 1 Фичи пользователя FM & DNN Конверсия в покупку
8. Не совсем DEEPFM 8 Фичи товара n Фичи товара 1 Фичи пользователя FM & DNN Мультитаргет & ранжирующий лосс
9. Не совсем DEEPFM 9 Фичи товара n Фичи товара 1 Фичи пользователя FM & DNN Клик Покупка Корзина Мультитаргет & ранжирующий лосс
10. Bert4rec 10 https:/ /dl.acm.org/doi/10.1145/3357384.3357895
11. Последовательности 11
12. Последовательности 12 • Инициализация весов • Увеличение истории • Дополнительные данные по товарам • Единый эмбеддинг товара • Мультитаргет
13. Общие моменты 13 • Улучшения могут быть и часто бывают не аддитивны • Сетки в рекомендациях — не панацея и требуется время, чтобы они хорошо заработали • Подход к фича-инженирингу для сеток и бустингов отличается • Инфференс на cpu вполне реален при RPS в несколько тысяч при времени ответа в ~ 70 ms на q 90, но есть нюанс
14. sykuznetsov@ozon.ru Спасибо за внимание Кузнецов Сергей, руководитель группы разработки «Нейросетевые технологии»