Миграция с Docker Swarm на Kubernetes

Денис Катаев, Тинькофф
У нас был поднят свой кластер Docker Swarm. Мы страдали, но пользовались.
Потом собрались командой и решили все-таки перестать страдать и мигрировать в Kubernetes. Для этого надо было переписать все сервисы (около 20) в Swarm, сделав их stateless, чтобы они корректно работали в новом кластере.
Я не расскажу подробно о самом Kubernetes (его нам предоставляет отдельная команда), но расскажу о жизни в Kubernetes для разработчиков.
В завершении описывается мир в который мы пришли с пони и с Кубером.

Transcript

1. Миграция с Миграция с Docker Swarm на Docker Swarm на Kubernetes Kubernetes Денис Катаев 1
2. О себе О себе 2
3. А что за проект? А что за проект? 3 . 1
4. История проекта История проекта Альберт делает типичный ML проект Проект начинает рости очень быстро Альберт постоянно помогает всем подряд 3 . 2
5. Docker Swarm? Docker Swarm? Неизвестно почему был выбран именно он 3 . 3
6. Дано: Дано: 5 виртуальных серверов Банковская NFS шара Банковский PostgreSQL Банковский TeamCity 4 . 1
7. 4 . 2
8. Архитектурные мины Архитектурные мины 5 . 1
9. :latest :latest Только тут оно :test и :prod 5 . 2
10. Простые сервисы Простые сервисы имеют state имеют state Сервису нужна модель с NFS 5 . 3
11. Балансировщика нет Балансировщика нет И большинство проблем из-за этого 6 . 1
12. Homemade Homemade porno porno^W balancer ^W balancer 6 . 2
13. Типичное Типичное расследование расследование 1. Есть путь урла /kek/lol 2. Идешь в одну репку ищешь в nginx location и на какой порт он проксирует 3. Идешь в swarm и смотришь что за сервис за этим портом 4. Гадаешь по image name что это за репозиторий в stash 5. Идешь читаешь код сервиса что понять что происходит 6 . 3
14. Я Я 6 . 4
15. Portainer Portainer Docker swarm GUI на основе docker rest api 7 . 1
16. 7 . 2
17. 7 . 3
18. Результат Результат Надо чистить вилкой: “ docker system prune 7 . 4
19. Страшно медленный Страшно медленный 7 . 5
20. Логи? Логи? 8 . 1
21. Несколько Несколько контейнеров? контейнеров? Получи логи со случайного контейнера! 8 . 2
22. Поведение кластера Поведение кластера Нет логов поведения кластера Replacate: 4 — Runned: 0 Контейнер умер или убит? А почему? Контейнер не стартует Restart: always? А мне пофиг! Почему не запускаются сервисы? 8 . 3
23. Open terminal Open terminal Контейнер живет если закрыть вкладку без disconnect 8 . 4
24. Named volumes Named volumes 8 . 5
25. Выводы Выводы 9
26. Анти CI/CD Анти CI/CD 10 . 1
27. Медленные сборки Медленные сборки Нет кеша сборок т.к собирается на разных машинах кластера teamcity Привет от alpine и python: нет прекомпиленных образов (python wheels) Меняем 1 строку = 15-30 минут сборки ... Fail 10 . 2
28. Прямой push в registry Прямой push в registry Прямо с машины разработчика 10 . 3
29. Вишенка на торте Вишенка на торте Деплой через ssh + git pull + docker stask deply 10 . 4
30. Вторая вишенка Вторая вишенка Deploy через update service + pull image (спасибо :latest) 10 . 5
31. Как это чинить? Как это чинить? 11 . 1
32. Ускоряем сборку Ускоряем сборку 11 . 2
33. Базовый образ Базовый образ По сути это просто cache 11 . 3
34. Нормальные теги Нормальные теги image:{DATE}-{branch}-{git-hash} 11 . 4
35. Нормальный кластер Нормальный кластер 12 . 1
36. Два стула Два стула 1. Банковский rancher v1.4.* 2. Банковский kubernetes 12 . 2
37. 13 . 1
38. Всё готовенькое Всё готовенькое 13 . 2
39. Чем же он так хорош? Чем же он так хорош? И зачем он вам нужен? 13 . 3
40. Предметная область Предметная область Оркестрация разложена на сущности 13 . 4
41. 13 . 5
42. Пример с автобусами Пример с автобусами Что то вроде 3 нормальной формы базы данных 13 . 6
43. Наш зоопарк Наш зоопарк Deployment Service Ingress Весь statefull пометили как legacy 13 . 7
44. Что получили Что получили пустой кластер балансировщики стабильную работу логи о работе кластера (replicaset) ... ждем DevOps'а чтоб настроил деплой из CI 13 . 8
45. Что еще? Что еще? 14 . 1
46. ... spec: containers: - name: front-end image: nginx ports: - containerPort: 80 - name: rss-reader ... 14 . 2
47. Пакетный менеджер Шаблонизатор 14 . 3
48. HELM HELM 14 . 4
49. YAML программист YAML программист 15 . 1
50. {{- range $service := .Values.services }} --- apiVersion: apps/v1 kind: Deployment metadata: name: {{ $service.name }} labels: app: {{ $service.name }} release: {{ $.Release.Name }} spec: replicas: {{ $.Values.service.replicas }} selector: matchLabels: app: {{ $service.name }} release: {{ $.Release.Name }} template: metadata: labels: app: {{ $service.name }} release: {{ $.Release.Name }} spec: containers: - name: {{ $service.name }} image: {{ $service.image | default $.Values.service.image }}:{{ $service. pullPolicy: {{ $.Values.service.pullPolicy }} command: ... 15 . 2
51. Произвольная Произвольная структура структура 15 . 3
52. services: - name: kek port: 5000 args: ['/bin/kek'] - name: dialog-platform port: 5000 args: ['/bin/admin'] service: image: registry.url.ru:5050/some/dialog-platform tag: '2019-08-01-admin-ee7c649' env: - name: KEK_URL value: "http://1.1.1.1:5000/some/shit" - name: LOL_URL value: "http://qwerty.url.ru:7899" - name: KEKLOL_URL value: "https://other.url.ru" - name: LOLKEK_URL value: "http://some-qa.url.ru:8087" secret_env: - name: DB_URL from: db_url 15 . 4
53. Templates Values https://helm.sh/docs/chart_template_guide/ 15 . 5
54. Обновление Обновление сервисов сервисов 15 . 6
55. Где попробывать Где попробывать https://www.katacoda.com/ 16 . 1
56. Что почитать Что почитать https://www.devopsweekly.com/ 16 . 2
57. Заключение Заключение 16 . 3
58. Спасибо Спасибо kataev mr_apt denis.a.kataev@gmail.com https://slides.com/kataev/swarm-or-k8s 16 . 4