Serverless под капотом

Продукты Function-as-a-Service преподносятся как отличный способ разрабатывать приложения за считанные дни или часы, а затем масштабировать их для миллионов пользователей.

Насколько облачные сервисы сегодняшнего дня близки к этому идеалу? Что мы знаем о внутреннем устройстве реализаций AWS Lambda, Azure Functions или Google Cloud Functions? Полностью ли решена проблема масштабируемости? Что за ГБ-секунды, за которые мы платим?

В этом докладе Михаил расскажет о том, как работают serverless-сервисы, в чём их уникальные преимущества, где кроются подводные камни и почему об этом важно знать.

Transcript

1. Serverless под капотом DOTNEXT ПИТЕР | 16 МАЯ 2019
4. План
5. Облачная Архитектура
8. Характеристики Serverless $
9. Function-as-a-Service
10. Возможные сценарии
11. Распределение нагрузки в пуле ресурсов
12. Распределение нагрузки в пуле ресурсов
13. Распределение нагрузки в пуле ресурсов
14. Распределение нагрузки в пуле ресурсов
15. Распределение нагрузки в пуле ресурсов
16. Распределение нагрузки в пуле ресурсов
17. Распределение нагрузки в пуле ресурсов
18. Сервер, VM, контейнер, процесс, ...
19. Сервер, VM, контейнер, процесс, ... VM VM
20. Сервер, VM, контейнер, процесс, ... VM VM
21. Сервер, VM, контейнер, процесс, ... VM VM
22. Сервер, VM, контейнер, процесс, ... VM VM
23. Ценность для Клиента Использование ресурсов
24. Компромисс
25. Azure Functions 12
26. Наследие App Service
27. Наследие App Service
28. App Service: масштабируемость
29. App Service: масштабируемость
30. Function App Consumption Plan
31. .NET в Azure Functions (in-proc)
32. .NET в Azure Functions (out-of-proc)
33. Уровни изоляции
34. Одновременные выполнения
35. Одновременные выполнения
36. Одновременные выполнения
37. Одновременные выполнения
38. AWS Lambda 22
39. AWS Lambda
40. AWS Lambda
41. AWS Lambda
42. Интеграция с AWS Lambda
43. .NET в AWS Lambda
44. AWS: одновременные выполнения
45. Уровни изоляции
46. Память и CPU
47. AWS: одновременные выполнения
48. AWS: одновременные выполнения
49. AWS: одновременные выполнения
50. • • • • AWS Firecracker
51. Уровни изоляции с Firecracker
52. «Наивная» компоновка функций
53. Cтатистическое мультиплексирование
54. Google Cloud Functions & Cloudflare Workers 31
55. Google Cloud Functions
56. Cloudflare Workers
57. На практике 34
58. Идеальная масштабируемость: Пропускная способность
59. Идеальная масштабируемость: Задержка
60. Холодный Старт 36
61. Пример: Загрузка карты
62. Пример: Загрузка карты
63. Холодный Старт
64. Горячий старт
65. Холодный старт: сравнение
66. Зависимости увеличивают время старта 35 МБ 5 МБ 0 МБ
67. Период без запросов, приводящий к Холодному старту
68. Борьба с холодным стартом: JIT оптимизации
69. Борьба с холодным стартом: Azure [FunctionName("Warmer")] public static void WarmUp( [TimerTrigger("0 */15 * * * *")] TimerInfo timer) { // Пусто }
70. AWS: Прогрев одного обработчика
71. AWS: Прогрев нескольких обработчиков
72. Serverless ETL: Асинхронная обработка данных 42
73. Типичный сценарий
74. Эксперимент с очередями
75. AWS Lambda и 100 тыс. SQS сообщений
76. GCF и 100 тыс. Pub/Sub сообщений
77. Azure Functions и 100 тыс. Storage Queue сообщений
78. Требовательная к CPU нагрузка на AWS Lambda
79. Требовательная к CPU нагрузка на GCF
80. Требовательная к CPU нагрузка на Azure Functions
81. AWS скорость обработки зависит от резевра RAM
82. Serverless HTTP: Обработка трафика а-ля StackOverflow 47
83. Подражаем StackOverflow
84. Запросы/сек во время теста
85. 0 200 400 600 800 1000 1200 МИЛЛИСЕКУНДЫ МИНУТЫ Azure Functions: процентили
86. 0 200 400 600 800 1000 1200 МИЛЛИСЕКУНДЫ МИНУТЫ Azure Functions: процентили
87. Azure Functions: кол-во VM
88. Google Cloud Functions: процентили
89. Google Cloud Functions: процентили
90. 0 2 4 6 8 1 1 Google Cloud Functions: обработчики
91. 0 200 400 600 800 1000 1200 МИЛЛИСЕКУНДЫ МИНУТЫ AWS Lambda: процентили
92. 0 200 400 600 800 1000 1200 МИЛЛИСЕКУНДЫ МИНУТЫ AWS Lambda: процентили
93. AWS Lambda: обработчики
94. Система: взаимодествие с не-serverless компонентами 52
95. Типичное приложение
96. Веб Сервисы
97. Базы Данных
98. Serverless масштабирование
99. Serverless масштабирование
100. AWS: Максимальное количество параллельных выполнений
101. Azure: Максимальное количество VM
102. Повторное использование HTTP соединений private static HttpClient Client = new HttpClient(); [FunctionName("MyFunc")] public static async Task Run([QueueTrigger("q")] string message) { var response = await Client.GetAsync("https://mikhail.io"); // ... the rest goes here }
103. Какие задачи предстоит решить? 56
104. Холодные старты • • • •
105. • • • • Эффективная «упаковка»
106. Обработка Данных • • • •