Интеллектуальный помощник оператора службы поддержки

Презентация с хакатона Цифровой прорыв RuTube

Transcript

1. Интеллектуальный помощник оператора службы поддержки Zufallswald von Entscheidungsbäume RUTUBE
2. Проблемы Ошибаются Дорого Медленно
3. Схема Генерация Сформулировать ответ Решение Быстро показать ответ специалисту Запрос Найти подходящую части документации
4. Технология Generate Mistral Nemo, Ollama G-Eval Endpoint ТГ бот, API … Retrieve Synth data Chroma_DB Multilingval-e5-large NDCG Recall
5. LLM Дообучение эмбеддера Query-rewriter Фильтрация документов Пробовали
6. Точки роста Расширить синтетические данные Масштабирование Multivector retrieval
7. • Анастасия Юдина LLM, капитан, @hug_asya02 • Александр Евдокимов LLM, @snakerzr • Алексей Бондаренко Backend, @yabondaleksey • Ольга Иванова DL, @oakarabut • Михаил Васильев Backend, DL, @LaHundo Команда