Как начать экспериментировать с машинным обучением в Go

Transcript

1. Как начать экспериментировать с машинным обучением в Go Алексей Павлюков
2. Проекты над которыми работаю • Извлечение структурированной и не очень информации из документов • Более 100000 PDF документов • 1,4 ТБ данных в формате PDF • Обработка и хранение медицинских данных • Файлы от 1ГБ
3. Краткое введение в машинное обучение f( ) = зеленый гофер f( ) = гора f( , ) =
4. Краткое введение в машинное обучение = (∑ ℎ(∑ (… , , ) , . ))
5. Что сейчас умеют машины • Понять что на изображении • Выделить объекты на изображении • Генерировать: фото, голос, текст, музыку • Перенос стилей: мимика, речь • Понять какой город на фотке
6. style2paints *CC-BY-NC-SA-4.0 (c) Various artist of style2paints team, 2018. This image is OK for ACM/IEEE fair use. https://github.com/lllyasviel/style2paints https://www.youtube.com/watch?v=B6WEky9nY7Q
7. PySC2 - StarCraft II Learning Environment • https://github.com/deepmind/pysc2 • https://www.youtube.com/watch?v=WEOzide5XFc
8. В чем сложность • Объемы данных • ImageNet 14 миллионов изображений (не считая преобразований) • Огромное количество параметров • ResNet – классификация изображений (224x224 пикселя), слоёв: • 18 – 1.8 G-FLOPS (27% error rate) • 34 – 3.6 G-FLOPS (22% error rate) • 101 – 7.6 G-FLOPS (20% error rate)
9. Популярные фреймворки
10. Что есть в Go • Golearn – github.com/sjwhitworth/golearn • не умеет работать с GPU • нейронные сети начальный уровень • Goronia - github.com/gorgonia/gorgonia • Есть поддержка CUDA • Странная лицензия • Gosl - github.com/cpmech/gosl • Большая библиотека базовых алгоритмов • Нейронные сети в планах • GoNum - github.com/gonum/gonum • Численные вычисления
11. Что есть в Go - CGO • GoCV – github.com/hybridgroup/gocv • Обертка над OpenCV • Запуск предобученных нейронных сетей • Поддерживает OpenVINOTM • TensorFlow - github.com/tensorflow/tensorflow • Запуск предобученных нейронных сетей • Обертка над ограниченным C API
12. Ссылки • Ellen Körbes - Learn Neural Networks With Go, Not Math • https://www.youtube.com/watch?v=jb-12DOr5y4 • Machine Learning With Go • https://github.com/PacktPublishing/Machine-Learning-With-Go • Darknet – маленькая C библиотека для ML с поддержкой CUDA • https://pjreddie.com/darknet • Benchmark Analysis of Representative Deep Neural Network Architectures • https://arxiv.org/pdf/1810.00736.pdf • Kaggle – соревнования, данные, примеры кода • https://www.kaggle.com
13. Demo • https://github.com/a5i/try-go-ml
14. Спасибо i@aleksei.co github.com/a5i