Александр Шатилов "Тонкости асинхронного программирования в ASP.NET Core"

Transcript

1. Тонкости асинхронного программирования в .net core Плохие и хорошие примеры на практике 1
2. Меня зовут Александр! Я работаю в компании Европлан Fullstack разработчиком. Занимаюсь разработкой на.net более 8 лет. Долгое время разрабатывал решения на winforms/wpf/wcf/aspmvc, в последние годы ушел в веб разработку на angular(react)/.net core/postgre. В свободное время исследую кросплатформеные решения, например за capacitor от команды ionic, пушу на github в opensource для yandex карт. 2
3. async/await • C# 5.0 2012 год • ECMA2017 после 2015 • Swift 4.2. 2018 год. • …… 3
4. Делайте стек вызовов асинхронным public int DoSomethingAsync() { var result = CallAsync().Result; return result + 1; } 4
5. Делайте стек вызовов асинхронным public async Task<int> DoAsync() { var result = await CallAsync(); return result + 1; } 5
6. Async void public IActionResult Post() { OperationAsync(); return Accepted(); } public async void OperationAsync(){ var result = await CallDependencyAsync(); DoSomething(result); } 6
7. Async void public IActionResult Post() { _ = BackgroundOperationAsync(); return Accepted(); } public async Task BackgroundOperationAsync(){ var result = await CallDependencyAsync(); DoSomething(result); } 7
8. Async void для Winforms async void button1_Click(object sender, EventArgs e) { this.button1.Enabled = false; var someTask = Task<int>.Factory.StartNew(() => slowFunc(1, 2)); await someTask; this.label1.Text = "Result: " + someTask.Result.ToString(); this.button1.Enabled = true; } 8
9. Task.FromResult для простых операций public class MyLibrary { public Task<int> AddAsync(int a, int b){ return Task.Run(() => a + b); } } 9
10. Task.FromResult синхронных операций возвращающих Task public class MyLibrary { public Task<int> AddAsync(int a, int b) { return Task.FromResult(a + b); } } 10
11. Избегайте Task.Run для долгих операций private readonly BlockingCollection<Message> _msgQueue; public void StartProcessing() { Task.Run(ProcessQueue); } 11
12. Используете выделенный поток для долгих операций public class QueueProcessor { public void StartProcessing() { var thread = new Thread(ProcessQueue) { IsBackground = true }; thread.Start(); } } 12
13. Task.Run для долгих операций c TaskCreationOptions.LongRunning public void StartProcessing() { Task.Factory.StartNew(ProcessQueue,TaskCreationOptions.LongRunning); } 13
14. Создавайте TaskCompletionSource<T> с TaskCreationOptions.RunContinuationsAsynchronously public Task<int> DoSomethingAsync() { var tcs = new TaskCompletionSource<int>(); var operation = new LegacyAsyncOperation(); operation.Completed += result => { tcs.SetResult(result); }; return tcs.Task; } 14
15. Создавайте TaskCompletionSource<T> с TaskCreationOptions.RunContinuatiuonsAsynchronously public Task<int> DoSomethingAsync(){ tcs = new TaskCompletionSource<int>(TaskCreationOptions...); var operation = new LegacyAsyncOperation(); operation.Completed += result => {tcs.SetResult(result); }; return tcs.Task; } 15
16. 16 TaskCreationOptions.RunContinuationsAsynchronously • Код выполнится в новом потоке • Асинхронно дожидаемся событие • Дожидаемся завершение Task
17. Используйте Dispose CancellationTokenSource с таймаутами Task<Stream> HttpClientAsyncWithCancellationBad(){ var cts = new CancellationTokenSource(TimeSpan.FromSeconds(10)); using (var client = _httpClientFactory.CreateClient()) { var response = await client.GetAsync("http…", cts.Token); return await response.Content.ReadAsStreamAsync(); } } Оказывают нагрузку на очередь таймеров (начнет очищаться после 10 с., плохо при большом кол-ве запросов ) 17
18. Используйте Dispose CancellationTokenSource с таймаутами Task<Stream> HttpClientAsyncWithCancellationGood() { using (var cts = new CancellationTokenSource(TimeSpan.FromSeconds(10))) { using (var client = _httpClientFactory.CreateClient()) { var response = await client.GetAsync("http…", cts.Token); return await response.Content.ReadAsStreamAsync(); } } 18
19. Используйте CancellationToken(s) с APIs принимающими CancellationToken Task<string> DoAsyncThing(CancellationToken cancellationToken = default) { byte[] buffer = new byte[1024]; // We forgot to pass flow cancellationToken to ReadAsync int read = await _stream.ReadAsync(buffer, 0, buffer.Length); return Encoding.UTF8.GetString(buffer, 0, read); } 19
20. Используйте CancellationToken(s) с APIs принимающие CancellationToken Task<string> DoAsyncThing(CancellationToken token = default) { byte[] buffer = new byte[1024]; int r = await _stream.ReadAsync(buffer,0,buffer.Length, token); return Encoding.UTF8.GetString(buffer, 0, read); } 20
21. Всегда вызывайте FlushAsync при StreamWriter(s) при Dispose app.Run(async context => { using (var streamWriter = new StreamWriter(context.Response.Body)) { await streamWriter.WriteAsync("Hello World"); } }); Поскольку данные могут быть помещены в буфер при записи то dispose будет выполняться синхронно, это приведет к блокировке потока и переполнению пула. 21
22. Всегда вызывайте FlushAsync при StreamWriter(s) при Dispose app.Run(async context => { using (var streamWriter = new StreamWriter(context.Response.Body)) { await streamWriter.WriteAsync("Hello World"); // Force an asynchronous flush await streamWriter.FlushAsync(); } }); 22
23. Знайте разницу с await и без public Task<int> DoSomethingAsync() { return CallDependencyAsync(); } Преимущества - асинхронные и синхронные исключения становятся асинхронными - Упрощает отладку, при exception - Исключения автоматически обернуться таском. Минусы - трансформация кода в state machine. 23
24. Знайте разницу с await и без public async Task<int> DoSomethingAsync() { return await CallDependencyAsync(); } Преимущества - асинхронные и синхронные исключения становятся асинхронными - Упрощает отладку, при exception - Исключения автоматически обернуться таском. Минусы - трансформация кода в state machine. 24
25. Знайте разницу с await и без • Оверхед по StateMachine, проброс Task. • Места создания exception в разных местах 25
26. ConcurrentDictionary.GetOrAdd public class PersonController : Controller{ public IActionResult Get(int id){ var person = _cache.GetOrAdd(id, (key) => db.People.FindAsync(key).Result); return Ok(person); } } - ConcurrentDictionary Подходит для кеширования асинхронных операций. getoradd возвращает или добавляет элемент. Для получения значения из неправильно будет написать .Result тк это приведет к истощению пула потоков. - Кешируйте таски, а не результат, там где нужно await и уже получать результат - thread pool starvation. 26
27. ConcurrentDictionary.GetOrAdd public class PersonController : Controller{ private AppDbContext _db; public async Task<IActionResult> Get(int id){ var person = await _cache.GetOrAdd(id, (key) => db.People.FindAsync(key)); return Ok(person); } } - ConcurrentDictionary Подходит для кеширования асинхронных операций. getoradd возвращает или добавляет элемент. Для получения значения из неправильно будет написать .Result тк это приведет к истощению пула потоков. - Кешируйте таски, а не результат, там где нужно await и уже получать результат - thread pool starvation. 27
28. • Структура внутри лочит на время добавления записи лочит на время операции • Таск положить быстрей чем результат 28 ConcurrentDictionary.GetOrAdd
29. Конструкторы синхронны public class Service : IService { private readonly IRemoteConnection _connection; public Service(IRemoteConnectionFactory connectionFactory) { _connection = connectionFactory.ConnectAsync().Result; } } 29
30. Конструкторы синхронны private readonly IRemoteConnection _connection; static async Task<Service> CreateAsync(IRemoteConnectionFactory conFactory) { return new Service(await conFactory.ConnectAsync()); } } 30
31. • Все минусы синхронного кода в конструкторе применимы • Уходим от синхронной асинхронности 31 Конструкторы синхронны
32. ASP.NET Core 32
33. - All IO in ASP.NET Core is asynchronous. 33
34. Избегайте использования синхронных перегрузок public class MyController : Controller { [HttpGet("/pokemon")] public ActionResult<PokemonData> Get() { var json = new StreamReader(Request.Body).ReadToEnd(); return JsonConvert.DeserializeObject<PokemonData>(json); } } 34
35. Использование асинхронных перегрузок чтения / записи. public class MyController : Controller { [HttpGet("/pokemon")] public async Task<ActionResult<PokemonData>> Get() { var json = await new StreamReader(Request.Body).ReadToEndAsync(); return JsonConvert.DeserializeObject<PokemonData>(json); } } 35
36. Использование синхронных перегрузок HttpRequest.ReadAsForm public class MyController : Controller { [HttpGet("/form-body")] public IActionResult Post() { var form = HttpRequest.Form; Process(form["id"], form["name"]); return Accepted(); } } 36
37. HttpRequest.ReadAsFormAsync() public class MyController : Controller { [HttpGet("/form-body")] public async Task<IActionResult> Post() { var form = await HttpRequest.ReadAsFormAsync(); Process(form["id"], form["name"]); return Accepted(); } } 37
38. Не работайте с непотокобезопасным кодом в нескольких потоках, например HttpContext. public async Task<SearchResults> Get(string query) { var query1 = SearchAsync(SearchEngine.Google, query); var query2 = SearchAsync(SearchEngine.Bing, query); var query3 = SearchAsync(SearchEngine.DuckDuckGo, query); await Task.WhenAll(query1, query2, query3); var results1 = query1.Result; return SearchResults.Combine(results1, results2, results3); } SearchAsync() { ... HttpContext.Request.Path;} 38
39. Не работайте с непотокобезопасным кодом в нескольких потоках, например HttpContext. public async Task<SearchResults> Get(string query) { string path = HttpContext.Request.Path; var query1 = SearchAsync(SearchEngine.Google, query, path); var query2 = SearchAsync(SearchEngine.Bing, query, path); await Task.WhenAll(query1, query2); var results1 = query1.Result; var results2 = query2.Result; return SearchResults.Combine(results1, results2, results3); } 39
40. Не используйте HttpContext после завершения запроса public class AsyncVoidController : Controller { [HttpGet("/async")] public async void Get() { await Task.Delay(1000); await Response.WriteAsync("Hello World"); } } 40
41. Не используйте HttpContext после завершения запроса public class AsyncController : Controller { [HttpGet("/async")] public async Task Get() { await Task.Delay(1000); await Response.WriteAsync("Hello World"); } } 41
42. Не захватывайте сервисы в фоновых потоках public IActionResult FireAndForget1([FromServices]PokemonDbContext context) { Task.Run(() => { await Task.Delay(1000); context.Pokemon.Add(new Pokemon()); await context.SaveChangesAsync(); }); } 42
43. public IActionResult FireAndForget3(){ Task.Run(async () =>{ await Task.Delay(1000); using(var ctx = ConnectionFactory.CreateDbContext()) { ctx.Pokemon.Add(new Pokemon()); await ctx.SaveChangesAsync(); } }); return Accepted(); } 43 Не захватывайте сервисы в фоновых потоках
44. 44 Не захватывайте сервисы в фоновых потоках • ObjectDisposedException
45. Не добавляйте headers после запуска HttpResponse app.Use(async (next, context) => { await context.Response.WriteAsync("Hello "); await next(); // This may fail if next() already wrote to the response context.Response.Headers["test"] = "value"; }); 45
46. Не добавляйте headers после запуска HttpResponse app.Use(async (next, context) => { await context.Response.WriteAsync("Hello "); await next(); if (!context.Response.HasStarted) { context.Response.Headers["test"] = "value"; } }); 46
47. Европлан практика async await микросервисы 47
48. 1. Несколько команд работающие над разными частями приложения. 2. Новые члены включаются быстро в работу 3. Просто менять бизнес правила 4. CI CD 5. Новые языки и платформы. Docker Host auth service микросервис каталог авто микросервис заказов e v e n t b u s api Клиенты IOS/Android Angular/React 1 2 48
49. Практика в микросервисах microservice 1 MessageHandler 1 RabbitMQ MessageHandler N microservice N …… r o u t e r подписка на сообщения rabbitmq на базе конфигурации consul проверка доступа и авторизация message microservice message Message Handler 49 R a b b i t H u b
50. async Task<MessageProcessResult> MessageHandler(DeliveredMessage dm) { var topic = dm.GetTopic(); ... try { if (this.handlers.TryGetValue(topic, out var handler) ) { // могло возникнуть синхронное поведение через асинхронное. result = await handler.Execute(dm).ForAwait(); } ….. } ... } 50 async await messageHandler
51. async Task<MessageProcessResult> MessageHandler(DeliveredMessage dm) { var topic = dm.GetTopic(); ... try { if (this.handlers.TryGetValue(topic, out var handler) ) { // ThreadPool Starvation await Task.Run(() => handler.Execute(dm)).ForAwait(); } ….. } ... 51 async await messageHandler
52. async await messageHandler async Task<MessageProcessResult> MessageHandler(DeliveredMessage dm) { var topic = dm.GetTopic(); ... try { if (handler.RunConcurrent) { result = await Task.Run(()=>handler.Execute(dm)).ForAwait(); } else { result = await handler.Execute(dm).ForAwait(); } } ... } 52
53. ConfigureAwait handler.Execute(dm)).ForAwait(); ForAwait(this Task task) => task.ConfigureAwait(false); ▪ Избегаем deadlock в легаси. ▪ Снижаем SynchronizationContext расходы на сохр/восстановление. 53
54. RunConcurrent = true ▪ ThreadPool конечен. Память.Pool starvation ▪ handler в отдельном потоке 54 Минусы
55. 55 • Ставим RunConcurrent = false ▪ Экономим память ▪ Повышение масштабируемости ▪ MessageHandler работает асинхронно ▪ Пишем асинхронный callstack хендлера ▪ Экономим ThreadPool, один поток может обслужить N задач Плюсы
56. Спасибо за внимание! 56