How to develop an ML-project

У вас космически классная идея нового сервиса на минус 1 миллион долларов, которая должна во всю использовать машинное обучение да нейросети? Отлично! Срочно бежим расписывать фичи, планировать спринты и писать код. Но, внезапно, все фичи похожи на какие-то гипотезы, да на чтение статей или на нечто в стиле «понять как это работает и попробовать повторить». Прошел уже месяц, а на демо вы можете только сказать, что прочитали 50 классных статей на http://arxiv.org? Кстати, готовые библиотеки не работают, написаны на c++ и для запуска требуют компьютер автора. Что же делать и когда что-то пошло не так? Это ведь обычная разработка. Wait, oh shi~.
На докладе разберем, как происходила разработка ML проекта. Проекта, где нельзя сразу сесть и начать кодить, запиливая фичи. Каким образом вести работу в таком Research&Development проекте мы и узнаем на докладе.

Transcript

1. Как вести ML-проект Илья Сиганов командир машинного отделения 7bits
2. Реалистичная смена прически 2
6. 2 студента 1 ментор 3 месяца стажировки
10. Фаза 1. Поиск себя • На каждую статью - задача в gitlab • Все материалы в raindrop с тегами • На интересные статьи пишем конспект • Ищем всё про прически ◦ 3D модели ◦ Сегментация причесок ◦ Моделирование причесок ◦ Интерполяция прически - GAN модели
12. Фаза 1. Поиск себя. Результат • На демо - результаты обзора статей • Что делать - не ясно • Писать конспекты - долго и зачем? если очередная статья всё меняет • Писать ежедневные отчеты - очень полезно
13. Фаза 2. Поиск осязаемого • Нужны не статьи, а КОД, который работает • Нужны предобученные модели • Анализ подобных приложений (FaceApp, MRRMRR….) • Поиск датасетов Нужно делать интерполяцию причесок!
15. Фаза 3. Аниме • Учимся запускать GAN модели • Синтезируем аниме, фасады зданий • ОНО РАБОТАЕТ! • непонятно как… • скрейпинг датасетов аниме
18. Фаза 4. Эми Смарт
19. Уже конец июля! • Ради дозы дофамина выпустили стикеры • Почему-то решили генерировать лица (wat?) • вера в магический ConVAEGAN
23. Бонус - это понимание • Как работает auto encoder • Как работает VAE • Что такое GAN • Изучали Conditional VAEGAN
24. Фаза 5. Синтез (PGGAN)
25. Фаза 5. Синтез (PGGAN)
26. Фаза 5. Синтез
27. Фаза 6. Гениальная идея Реконструкция Кодера под латентное представление существующего Декодера(PGGAN)
28. Идея: VAE + GAN
29. Ожидания
30. Надо обучить Кодер!
31. Реальность (на самом деле нет)
32. Реальность
33. Суровая реальность
34. Пугающая суровая реальность
35. Кодовая фраза: ЛАТЕНТНЫЙ ДЕД
36. Фаза 6. Отчаяние
37. Осталось 3 недели
38. Фаза 7. Разворот • Зачем синтезировать прически? • Зачем синтезировать лица? • Зачем делать интерполяцию волос? • Зачем искать латентное представление фото?
39. Может быть??
40. Фаза 7. Разворот • Скрейпим google images по 28 категориям • Простой face-detection и face-crop • Простой face-swap по лендмаркам • Face-segmentation • Background-segmentation • Упаковываем вк бота • ????
41. Выкатываемся в продакшен за 20 дней!
42. Фаза 8. Восхождение • 60 бета-тестеров в вк • стенд на HappyDev-lite • Куча смешных результатов • Людям почему-то нравится
48. Фаза 9. Улучшение Следующий релиз в начале ноября • полное 3D-копирование лица • точная сегментация волос • меньше искажений
49. Выводы • Лучше проще, но сразу • Лучше улучшать плохое, чем делать сразу круто • Делать стикерпаки, вести ML Glitch Art полезно • Писать отчеты каждый день - очень важно • Делать недельные планы - очень полезно • Не затягивать research фазу, лучше дробить разработкой • GPU не нужны, если нет идей • Складировать все ссылки - полезно • Общаться с другими людьми, кто не в теме - очень полезно! • Студентам надо давать более четкие задачи
50. Крутые методы • Ежедневные подробные отчёты по почте • Складирование ссылок с тегами • Недельный план ресерча на доске • Недельные логи по результатам работы • Искать на гитхабе • Скотч, пластыри и в продакшен.
51. Контакты Илья Сиганов Командир Машинного Отделения 7bits ilya.siganov@7bits.it @senior_sigan много где vk.com/hairstyleapp