Upgrade to Pro — share decks privately, control downloads, hide ads and more …

【Crystal】Concurrency

 【Crystal】Concurrency

crystal.tokyo #7 での発表資料です。
https://crystal.connpass.com/event/93629/

3d1621a44968b7b2f7cf8907b3a3645b?s=128

at_grandpa

July 18, 2018
Tweet

Transcript

  1. Concurrency 2018.07.18 @at_grandpa Crystal.tokyo #7 in 渋谷

  2. @at_grandpa

  3. 圧倒亭グランパのブログ

  4. Concurrency

  5. ✔ Concurrency の雰囲気を話します ✔ 細かい syntax などはドキュメント参照

  6. None
  7. “as in Go or Clojure” ✔ Go の goroutine/channel とほぼ同じ

    終了!
  8. Concurrency の中身を ちょっと覗いてみましょう

  9. サンプルコード ✔ 並行処理 ✔ 各処理からの値の取得

  10. None
  11. String型のChannelをインスタンス化

  12. 2つのFiberを生成

  13. Channel経由で値を取得

  14. 2018-07-18 08:12:50 +09:00 start 2018-07-18 08:12:50 +09:00 [fiber 1] start

    2018-07-18 08:12:50 +09:00 [fiber 2] start 2018-07-18 08:12:55 +09:00 [top level] value: send from fiber 1 2018-07-18 08:12:55 +09:00 [fiber 1] end 2018-07-18 08:13:00 +09:00 [top level] value: send from fiber 2 2018-07-18 08:13:00 +09:00 end
  15. 2018-07-18 08:12:50 +09:00 start 2018-07-18 08:12:50 +09:00 [fiber 1] start

    2018-07-18 08:12:50 +09:00 [fiber 2] start 2018-07-18 08:12:55 +09:00 [top level] value: send from fiber 1 2018-07-18 08:12:55 +09:00 [fiber 1] end 2018-07-18 08:13:00 +09:00 [top level] value: send from fiber 2 2018-07-18 08:13:00 +09:00 end ・並行に動いている ・値も取れている
  16. どういう仕組みで動いているか

  17. ✔ Fiber
 ✔ Runtime Scheduler
 ✔ Event Loop ✔ Channel


    ✔ IO::Syscall Concurrencyを理解するポイント
  18. Fiber ✔ Process ⊃ Thread ⊃ Fiber
 ✔ 協調マルチタスク
  -

    Fiber自ら、処理を他のFiberに委譲する  - 1つのFiberが固まるとシステム全体が固まる
 ✔ Crystalの処理は全てFiberで行われている
  - 「Main Fiber」でメインの処理を実行している
  19. Runtime Scheduler ✔ Fiberの切り替えを担当
 ✔ クラス変数にFiberのqueueを持っている
  - @@runnables = Deque(Fiber).new


     - 実行可能Fiberのqueue ✔ Scheduler.rescheduleで切り替え
  20. Event Loop ✔ I/O処理の委譲先
 ✔ 委譲している間に別のFiberを実行できる ✔ I/O処理が終了したら委譲元のFiberに移る

  21. Channel ✔ Fiber間のデータのやりとり
 ✔ 送信元Fiberや受信先Fiberを保持  - @senders = Deque(Fiber).new
  -

    @receivers = Deque(Fiber).new ✔ 送受信時にFiberを切り替え
  - Runtime Scheduler を使う
  22. IO::Syscall ✔ 以下でincludeされている
  - Crystal::System::FileDescriptor
  - Socket
 ✔ read/writeでFiber切り替え  -

    Runtime Scheduler を使う ほぼ全てのI/Oを網羅
  23. 実際の動き追う

  24. None
  25. Channelをインスタンス化

  26. ・Fiber1を定義 ・Runtime Scheduler の  実行可能Fiberのqueueに  Fiber1が enqueue される

  27. concurrency.cr ・Fiber1を定義 ・Runtime Scheduler の  実行可能Fiberのqueueに  Fiber1が enqueue される

  28. ・Fiber2を定義 ・Runtime Scheduler の  実行可能Fiberのqueueに  Fiber2が enqueue される

  29. ・実際の処理はここから開始 ・Top Level のコードは  「Main Fiber」で動いている ・Channelの送受信時には  Fiberの切り替えが行われる

  30. ・実際の処理はここから開始 ・Top Level のコードは  「Main Fiber」で動いている ・Channelの送受信時には  Fiberの切り替えが行われる ・Runtime Scheduler

    の  実行可能Fiberのqueue  からshift ・Fiber1に処理が移る
  31. ・Fiber1に処理が移った

  32. ・sleep

  33. concurrency.cr

  34. concurrency.cr fiber.cr

  35. concurrency.cr fiber.cr ・Event Loop に処理を委譲 ・Runtime Scheduler で  queueの次のFiber切り替え

  36. concurrency.cr fiber.cr ・Event Loop に処理を委譲 ・Runtime Scheduler で  queueの次のFiber切り替え ・Fiber2へ移る

  37. ・Fiber2に処理が移った

  38. ・同じくFiber切り替え ・しかし、もう  実行可能Fiberのqueueには  Fiberが存在しない ・I/O処理を待機するしかない

  39. 待機中 . . .

  40. ・Event Loop が sleep 5 の  終了を検知 ・処理中のFiberが他にいないので  Fiber1の処理が再開される

  41. ・Channelに値を送信 ・sendの場合はreceiveを  呼んだFiberに切り替え ・Main Fiber に切り替わる ・このとき、sendしたFiberを  Schedulerのqueueにenqueue

  42. ・Channelに値を送信 ・sendの場合はreceiveを  呼んだFiberに切り替え ・Main Fiber に切り替わる ・このとき、sendしたFiberを  Schedulerのqueueにenqueue

  43. ・受信された値を表示

  44. ・Schedulerの  実行可能Fiberのqueueを元に  Fiberの切り替え ・queueにはsendした際に  enqueueされたFiber1が入っている

  45. ・Schedulerの  実行可能Fiberのqueueを元に  Fiberの切り替え ・queueにはsendした際に  enqueueされたFiber1が入っている ・Fiber1が再開

  46. ・値の表示

  47. ・Fiber1のブロックが終了 ・Fiberの切り替えが発生 ・しかし、Schedulerの  queueには実行可能Fiberが  存在しない

  48. 待機中 . . .

  49. ・Event Loop が sleep 10 の  終了を検知 ・処理中のFiberが他にいないので  Fiber2に処理が戻る

  50. ・Channelに値を送信 ・sendの場合はreceiveを  呼んだFiberに切り替え ・Main Fiber に切り替わる ・このとき、sendしたFiberを  Schedulerのqueueにenqueue

  51. ・Channelに値を送信 ・sendの場合はreceiveを  呼んだFiberに切り替え ・Main Fiber に切り替わる ・このとき、sendしたFiberを  Schedulerのqueueにenqueue

  52. ・受信された値を表示

  53. ・そのまま終了

  54. ・そのまま終了 ・ここは通らない

  55. ・そのまま終了 ・ここは通らない 2018-07-18 08:12:50 +09:00 start 2018-07-18 08:12:50 +09:00 [fiber

    1] start 2018-07-18 08:12:50 +09:00 [fiber 2] start 2018-07-18 08:12:55 +09:00 [top level] value: send from fiber 1 2018-07-18 08:12:55 +09:00 [fiber 1] end 2018-07-18 08:13:00 +09:00 [top level] value: send from fiber 2 2018-07-18 08:13:00 +09:00 end [fiber 2] end は表示されてない
  56. 複雑!

  57. とはいえ ✔ Concurrencyに必要な役者を知る
  - Fiber, Runtime Scheduler, Event loop, Channel


    ✔ Fiberが切り替わるタイミングを知る
  - I/Oの場合
   - 実行可能Fiber-queueからshift
  - receiveの場合
   - 実行可能Fiber-queueからshift
   - sendしたFiberをqueueにenqueue
  - sendの場合
   - receiveしたFiberに切り替え これらを知るだけで、だいぶ変わる
  58. まとめ

  59. ✔ 並行処理 ✔ Concurrencyに必要な役者を知ろう
 ✔ Fiberを切り替えるタイミングを知ろう Concurrency

  60. ✔ 立て続けにsendされたらどうなるの?
  - sendされた値もqueueに保存される
  - receiveを呼ぶ度にqueueからshift ✔ Fiber内でI/O以外の重い処理があったら?  - 委譲できない処理はそのまま処理される


     - その処理が終わるまで他のFiberは実行できない
 ✔ 入れ子spawnとかどうなるんだろう?
  - \(^o^)/ まだまだあるよ
  61. Happy Crystalling ! fin