Микросервисы, чистый PaaS и конкурс Мисс Россия

Выступление на DevCon, 21 апреля 2017, Москва
https://blog.byndyu.ru/2017/07/microsoft-dev-school-paas.html

Тема перехода на микросервисную архитектуру стала одной из самых горячих на конференциях по архитектуре ПО. Заказчики и разработчики захотели раздробить монолитные приложения на множество маленьких сервисов, чтобы увеличить скорость доставки релизов до пользователей, разделить ответственность команд, уменьшить взаимозависимость бизнес-функций приложения и использовать горизонтальное масштабирование вместо вертикального.

Идея микросервисов звучит красиво, пока вы не создадите десятки и сотни микросервисов. Раньше приложение запускалось на одном мощном сервере и работало на одной СУБД, а теперь надо управлять сотней микросервисов, которые связаны между собой паутиной API вызовов и шин сообщений. Разработка, выпуск релизов, тестирование, соблюдение версионности превратятся в кошмар, если не использовать правильные подходы и инструменты.

В докладе будут показаны инструменты и принципы, которые помогают облегчить создание и управление микросервисной архитектурой. Рассмотрим пример переезда конкурса «Мисс Россия» на Azure, где инфраструктура развернута кликами мышкой на чистом PaaS, а за счет изменения архитектуры сайт выдерживает в 40 раз больше посетителей без увеличения бюджета на серверные мощности.

Transcript

1. Современная архитектура
2. Микросервисы, чистый PaaS и конкурс мисс Россия Александр Бындю CEO, Byndyusoft
3. Цели #msdevcon Микросервисы Инструменты Чистый PaaS Как управлять микросервисной архитектурой На примере конкурса Мисс Россия рассмотрим возможности Azure Зачем бизнесу микросервисы? Типовые проблемы монолита
4. #msdevcon Зачем бизнесу микросервисы Почему начинается переход к микросервисной архитектуре?
5. Цели бизнеса Выбор лучшего решения для бизнес-задачи без компромиссов Нам нужна CRM Покупаем SAP CRM Но мы хотим SalesForce  Надо брать SAP CRM, потому что SAP у нас уже есть, мы знаем, как с ним работать, интеграция проще, обновление проще и в целом SAP CRM неплохая CRM-ка Бизнес: IT: Бизнес: IT: Нам нужна CRM Какая CRM лучше всего решит ваши задачи? SalesForce! Ок, мы интегрируем SalesForce и текущей инфраструктурой на SAP Бизнес: IT: Бизнес: IT:
6. Цели бизнеса Поставка бизнес-ценности как можно быстрее Переходим с SAP CRM на BPM Online Интеграция нового решения займет полгода Почему так долго?  <Объясняют какая паутина взаимосвязей объединяет SAP CRM c остальными приложениями в компании> Бизнес: IT: Бизнес: IT: Переходим с SAP CRM на BPM Online За неделю переключим точки интеграции Что-то еще требуется для запуска? Еще надо перелить данные и дописать бизнес-функции, но это можно делать параллельно с запуском новой CRM Бизнес: IT: Бизнес: IT:
7. Цели бизнеса Дешево масштабировать сервисы, причем только определенные и только когда это нужно Сервис Тарификации к Черной пятнице должен выдерживать нагрузку в 2 раза больше обычной Надо купить в 4 раза больше железа и это даст ускорение на 30% Почему так дорого и совсем не в 2 раза?  Ускорение в 2 раза будет стоить как вся наша компания (прим. — при текущей архитектуре) Бизнес: IT: Бизнес: IT: Сервис Тарификации к Черной пятнице должен выдерживать нагрузку в 2 раза больше обычной Ок, сейчас нажмем пару кнопок и увеличим кол-во экземпляров сервиса, чтобы масштабировать нагрузку. Докупать что-то нужно? Ресурсы в облаке, но только на время нагрузки Бизнес: IT: Бизнес: IT:
8. АйТи берёт бизнес в заложники «Монолитное» решение становится вездесущим и незаменимым для компании. АйТи начинает диктовать бизнесу свои условия в выборе инструментов, сроков и подходов к решению. АйТи начальник
9. «Монолиты» берут компанию в заложники UI Business Logic Database Бизнес-функцию доработали, но она зависит от других, поэтому ждем «большой заливки»  Можно эту бизнес-функцию заменить другим решением, а остальное не трогать? Нет? Скидки Рассылки
10. Бизнесу плохо живется с «монолитами». Чувствуется это только в условиях высокой конкуренции.
11. Microservices, Microservices, Microservices!
12. Microservice = Business capability
13. Монолитом легко управлять, а как справиться с сотней микросервисов? IT-команда
14. Developing Microservices with Aggregates, Chris Richardson
15. «Монолит» простит вас за отсутствие автоматизации и управляемости. Сотня микросервисов за это жёстко накажет.
16. #msdevcon Инструменты для управления микросервисной архитектурой API Gateway, Event bus, Service Discovery, iPaaS, Containers + Orchestration
17. API Gateway http://microservices.io/patterns/apigateway.html Единое место вызова API Умеет: 1. Управление трафиком 2. Авторизация 3. Мониторинг 4. Горизонтальное масштабирование 5. Управления версиями 6. Кэш запросов 7. Трансформация ответов 1
18. Легко заменяем сервисы! Постепенно убираем монолит. Масштабируем нагрузку
19. Event bus Единое место для публикации событий Асинхронное взаимодействие Низкая связность сервисов Горизонтально масштабируется 2
20. Легко заменяем сервисы! Постепенно убираем монолит. Масштабируем нагрузку
21. Service Discovery Подскажет, где запущен «живой» экземпляр требуемого сервиса Умеет: 1. Регистрировать сервисы в своей базе 2. Проверять «жив» ли каждый экземпляр сервиса 3. Балансирование нагрузки между экземплярами одного сервиса http://microservices.io/patterns/server-side-discovery.html 3
22. Легко масштабировать: увеличивать и уменьшать кол-во экземпляров микросервиса http://rabbitstack.github.io/cloud/microservices/from-monolithic-to-cloud-native-architectures/
23. Containers, Orchestration, IaC Изолированная среда для разворачивания микросервиса Умеет: 1. 100% автоматизация 2. Инфраструктура, описанная кодом: сравнение, расшаривание, повторяемость при развертывании 3. Создание нужного окружения за несколько минут 4. Управление сотнями контейнеров на множестве серверов 5. Поддержка в Azure и AWS 6. Serverless
24. Полностью автоматизированные релизы и масштабирование
25. Задачи архитектора:  Добиться низкой связанности микросервисов  Правильно распределить ответственность между микросервисами  Добиться полной автоматизации
26. IT-команда
27. Заработаем 1. Достижение бизнес-целей: ◦ Гибкость в выборе решений ◦ Ускорение поставок новых функций ◦ Гибкое масштабирование сервисов 2. Меньше людей, которые делают ручную работу 3. Меньше железа, которое не приносит деньги
28. Потратим 1. Вложение денег в переход IT-инфраструктура, создание новых сервисов, рефакторинг стартых сервисов 2. Переобучение сотрудников 3. Изменение орг. структуры 4. Дорогие специалисты с новыми знаниями 5. Риск ошибиться в выборе микросервисов
29. Выбор лучшего решения для бизнес-задачи без компромиссов Microservices, Microservices, Microservices! Поставка бизнес- ценности как можно быстрее Дешево масштабировать сервисы
30. #msdevcon Мисс Россия В 40 раз быстрее за те же деньги и покупка мощностей только на время конкурса
31. Конкурс Мисс Россия • Проходит раз в год • Отбор по всей стране • Победительница едет на Мисс Мира
32. 97% трафика 750К голосов
33. Нагрузка 1. Форма голосования и защита от накруток 2. Контент: текст, фото, видео
34. Архитектура «монолита»
35. Проблемы прошлой версии сайта 1. Медленно открывался во время конкурса из-за перегрузки 2. Выдавал 500-ошибку на главной и голосовании при перегрузки любой части системы 3. Только вертикальное масштабирование
36. Используем магию «облаков»! Перенесли виртуалку на Azure… стало хуже
37. Как новой архитектурой достигнуть бизнес-целей 1. Разделим приложение на (микро)ответственности 2. Каждая часть будет идеально исполнять свою роль 3. Каждая часть будет заботиться о своем масштабировании 4. Тотальная автоматизация
39. Графики нагрузочных тестов • Нагружали через сеть с пропускной способностью 1Гбит/с. • После ~5450 RPS видим первые проблемы с ответами сервера. • Время ответа не превышало 1000 мс.
40. .NET Core и Kestrel Kestrel под нагрузкой отвечал кодом 502.3, приложение падало и не оживало до перезапуска. Проблема в версии Kestrel (версия 1.1.0): • https://github.com/aspnet/IISIntegration/issues/323 • https://github.com/aspnet/IISIntegration/issues/311 Проблема ушла после выхода пакета Microsoft.AspNetCore.Server.Kestrel v1.1.1
41. CDN 1. Картинки кэшируются на 7 суток, HTML обновляется 1 раз в час. 2. JavaScrpit и CSS новых версий автоматом попадают в CDN, каждая версия кэшируется отдельно. 3. Включено сжатие. 4. Можно вручную сбросить кэш. 5. Поддерживает только домены 3-го уровня missrussia.ru -> www.missrussia.ru
42. CDN Akamai vs Verizone 1. Akamai усиливает партнерские отношения с Российскик интернет провайдерами. ТТК договорился с Akamai Technologies, Inc. на размещение на новом узле оператора в Москве кеш-серверов CDN-провайдера. (источник: http://www.comnews.ru/node/80287#ixzz4eUkmQKPe) 2. Быстрое развертывание нового endpoint-а: • ~1 минута на Akamai • >90 минут на Verizone
43. WebApp 1. Web и API развернуты в отдельных WebApp 2. Во время конкурса на тарифе S3, после конкурса на тарифе S1 3. При изменении нагрузки: • Scale Up: повышать/понижать мощность сменой тарифа • Scale Out: увеличивать кол-во инстансов
44. SQL Database Что хорошего: 1. Сервис автоматически выполняет резервное копирование каждые 5 минут. 2. Легко масштабировать за пару кликов как вверх так и вниз. 3. Управление через веб-интерфейс. 4. Легко настраиваются различные алерты. До 50 rps с тарифом Standard 0
45. Service Bus vs Queue Storage Требования к очереди: • Обмен сообщениями небольшого размера с коротким временем обработки; • Отсутствие необходимости в транзакциях и поддержки очередности обработки сообщений; • Наличие клиента под .NET Core. Решение проблем с производительностью: • Подняли очереди в том же регионе, что и WebApi; • Увеличили мощность серверов с WebApi; • Зарегистрировали клиент Service Bus как Singleton.
46. WebJob и проверка голосов 1. Горизонтальное масштабирование очередей 2. Горизонтальное масштабирование WebJob 3. Сложные и тяжелые проверки «накруток» масштабировались, не влияя на основной сайт. 4. Выключаются из инфраструктуры (платы) после голосования.
47. Service Fabric vs WebJob WebJob Для написания WebJob можно не использовать специализированные SDK. По сути WebJob — консольное приложение и деплоить его достаточно просто. Service Fabric Для работы через Service Fabric под .NET Core нужно устанавливать SDK из специального репозитория Ubuntu. Это создает проблемы и при деплое и при разработке. https://github.com/Azure/azure-content- ruru/blob/master/articles/service- fabric/service-fabric-create-your-first-linux- application-with-java.md Остальные статьи по этой теме предлагали использовать .NET Framework v4.5.2, что для нас было не приемлемо.
48. Continuous Delivery из коробки 1. При каждом пуше в Git-репозиторий в ветку production начинается деплой новой версии. 2. Web, API и сервисы голосования собираются и разворачиваются независимо. 3. Каждый деплой можно отследить через панель Azure, посмотреть лог процесса и, в случае необходимости, переразвернуть предыдущие версии.
49. Выводы Кэширование позволило 99,7% пользователей получить страницу конкурса Мисс Россия меньше, чем за одну секунду.
50. Выводы Грамотная архитектура позволяет: • Давать больше ресурсов на нагруженные части, меньше на ненагруженные. • Убрать влияние частей системы друг на друга. • Под каждую часть выделяются ресурсы только тогда, когда это требуется.
51. Выводы Стоимость новой инфраструктуры: • Во время голосования равна предыдущей версии (две недели в году). • В другое время в 3 раза дешевле.
52. Выбор лучшего решения для бизнес-задачи без компромиссов Microservices, Microservices, Microservices! Поставка бизнес- ценности как можно быстрее Дешево масштабировать сервисы
53. Полезные ресурсы #msdevcon Подробнее в моих статьях 1. Useful Tools for Managing Complexity of Microservice Architecture 2. Clouds, iPaaS, Citizen Integrator and Why India’s Outsourcing Is Losing Money 3. Стратегия крупного ретейлера по изменению IT-архитектуры и процессов
54. Полезные ресурсы #msdevcon База знаний о микросервисах 1. Microservices Resource Guide Martin Fowler 2. Microservice archite`cture patterns and best practices Chris Richardson
55. Q&A #msdevcon Микросервисы, чистый PaaS и конкурс мисс Россия Александр Бындю ceo@byndyusoft.com http://byndyu.ru
56. Отзывы Помогите нам стать лучше! На вашу почту отправлена индивидуальная ссылка на электронную анкету. Заполните анкету! Нам очень важно ваше мнение. #msdevcon Оставляйте отзывы в социальных сетях. Мы все читаем. Спасибо вам! 