Spring WebFluxで学ぶReactive Application / Introduction to Reactive

Copyright © Acroquest Technology Co., Ltd. All rights reserved. 1
Spring WebFluxで学ぶ
Reactive Application
Acroquest Technology株式会社
進藤遼

View Slide

自己紹介
• 進藤遼 @shindo_ryo
• Acroquest Technology株式会社
• (元)文系のJavaエンジニア
• ロックマンXのシグマが倒せない

View Slide

目次
1. Reactive とは
2. 背景
3. Spring WebFlux
4. Use Cases

View Slide

Reactive とは
• Non-Blocking
• Event-Driven
• Functional Programming

View Slide

命令型プログラミング
Reactiveプログラミング

View Slide

Reactive とは
• 命令型プログラミング
• 計算の「手続き」を記述する
int a = 3;
int b = 4;
int c = a * b; // 12
a = 5;
上から順番に計算されて、
後からaの値が変わっても
cの値が変わることはない

View Slide

Reactive とは
• Reactiveプログラミング
• データフローに着目したEvent-Drivenなプログラミング
3
4
12
a
b
a * b

View Slide

Reactive とは
5
4
12
a
b
a * b

View Slide

Reactive とは
5
4
20
a
b
a * b

View Slide

Reactive とは
• データを生成するPublisherと
データを受信して処理するConsumer (Subscriber)
との関係を記述する
Publisher
Consumer
(Subscriber)
observe
notify
要するにObserverパターンを強力にしたような感じ（雑）
このEvent-DrivenなプログラミングモデルとNon-Blocking
との相性が良い

View Slide

Blocking API
Non-Blocking API

View Slide

Reactive とは
• Blocking API
Thread 1
Thread 2
Thread 3
Request A Request E
Request B
Request C
Request D
Request F
Thread はレスポンスが終わるまで
次のリクエストを処理しない

View Slide

Reactive とは
• Blocking API
APP DB
Network I/O JDBC
I/O待ちの間、スレッドは何もしていない！
I/O Wait I/O Wait

View Slide

Reactive とは
1. Non-Blocking API
Event Loop
スレッドをブロックしない
イベント(※)に対応したコールバックを
順々に処理していく
※サーバサイドだともっぱら
イベント = (Network) I/O

View Slide

Reactive とは
1. Reactiveのここがすごい！
① 少ないスレッドで多くのリクエストを処理できる
（=> 安定したスループット）
② I/O Wait の多い処理でもスレッドを専有しない
2. Reactiveのここがダメ！
① 設計・実装が難しい
② テストが難しい
③ レスポンスタイム重視の場合はBlocking (ex: Servlet)
のほうが有利な場合も

View Slide

なぜ Reactive が重要なのか？

View Slide

背景
1. マイクロサービス間でのネットワーク通信の増大
2. 低速なネットワークとの通信の増加
3. 大量のトラフィックへの対応

View Slide

背景
Service A
Service B
Service C

View Slide

背景
Service A
Service B
Service C
Service B がスローダウンすると・・・

View Slide

背景
Service A
Service B
Service C
Service A -> Service B の呼び出しのI/O Wait
が増えてService Aのスレッドを専有してしまう
＝障害の伝播

View Slide

背景
2. 低速なネットワークとの通信の増加
モバイルなどの比較的低速なネットワークから
大量のリクエストを受け取る必要

View Slide

背景
3. 大量のトラフィックへの対応
大量のトラフィックをさばくために
スレッドを増やす = スケールアウトで対応
=>お金がかかる！！
・・・・・・・・・
・・・

View Slide

背景
• Non-Blocking にすれば少ないスレッドで
多くのリクエストをさばける
• 必要なスレッドが少なくなればサーバー台数が減る
• サーバ台数が減ればコストが減る
Blocking =

View Slide

Spring WebFlux とは？

View Slide

Spring WebFlux
• Springのエコシステムの上でReactive Application
を開発するためのWebフレームワーク
• @Controllerや@RequestMappingなどの、
WebMVCでおなじみのアノテーションを使う
ことができる
• コアライブラリにReactor (by Pivotal) を採用
※RxJavaもサポート
• ランタイムはNetty, Tomcatなどから選ぶ

View Slide

Spring WebFlux
• pom.xml

org.springframework.boot
spring-boot-starter-webflux

Bootでは spring-boot-starter-webflux
を追加するだけ

View Slide

Spring WebFlux
WebMVCと同じく@Controller,
@RequestMappingを使える
ランタイムは基本的にNetty
(Tomcatを使うとServletの非同期APIを利用)

View Slide

Spring WebFlux
Publisher
Mono Flux
0 .. 1 個の要素を
Publishする
0 .. n 個の要素を
Publishする

View Slide

Spring WebFlux
Mono
• 0 .. 1 個のデータを発行
• ストリーミング感ないけど、結構これだけで頑張れる
Flux
• 0 .. n 個のデータを発行
• List に似ているが List ではない
• List に変換しようとしてよくブロックする

View Slide

Spring WebFlux
• コールバックスタイルで処理をつないでいく
Flux.interval(Duration.ofSeconds(1))
.publishOn(Schedulers.parallel())
.log()
.zipWith(Flux.just(“Taro", “Jiro", “Saburo"), (f1, f2) -> f2)
.map(String::toUpperCase)
.subscribe(name -> System.out.println(name));
1秒間隔
データの生成
最後にsubscribe

View Slide

Spring WebFlux
• Pub/Subモデル（再掲）
Publisher
Consumer
(Subscriber)
observe
notify

View Slide

Spring WebFlux
• 実行モデル
Flux.just(“one”, “two”, “three”)
.map(String::toUpperCase)
.subscribe(System.out::println);
Publisher
Subscriber / Subscription
Subscriber
subscribe
subscribe
onNext
onNext
※色々省略しているので正確でないです

View Slide

Spring WebFlux
• 各処理は同じスレッドとは限らない
Mono.fromCallable(() -> LocalDateTime.now())
.repeat(6)
.parallel(5)
.runOn(Schedulers.parallel())
.subscribe(
dateTime -> System.out.printf("[%s] time -> %s%n",
Thread.currentThread().getName(), dateTime));
[parallel-2] time -> 2018-07-29T19:32:52.850318900
[parallel-3] time -> 2018-07-29T19:32:52.850318900
[parallel-1] time -> 2018-07-29T19:32:52.849319700
[parallel-4] time -> 2018-07-29T19:32:52.850318900
[parallel-1] time -> 2018-07-29T19:32:52.850318900
[parallel-1] time -> 2018-07-29T19:32:52.850318900

View Slide

Spring WebFlux
• Controller
@RestController
public class EchoController {
@PostMapping(path = "/hello")
Flux hello(@RequestBody Flux request) {
return request.map(name -> "Hello, " + name + "!");
}
}
$ curl -XPOST -H "Content-Type: text/plain" localhost:8080/hello -d "shindo"
Hello, shindo!
Flux/Mono を受け取り Flux/Monoを返す

View Slide

Spring WebFlux
• Stream
@GetMapping(path = "/stream")
Flux> stream() {
return Flux.range(1, 5)
.map(i -> Map.of("data", LocalDateTime.now()))
.delayElements(Duration.ofMillis(500L));
}
$ curl -v -XGET localhost:8080/stream
[{"data":"2018-07-30T01:00:10.6239329"},{"data":"2018-07-
30T01:00:10.6259333"},{"data":"2018-07-
30T01:00:10.6259333"},{"data":"2018-07-
30T01:00:10.6259333"},{"data":"2018-07-30T01:00:10.6259333"}]
ストリームになっていない？

View Slide

Spring WebFlux
• Content Negotiation
$ curl -XGET -H "Accept: application/stream+json" localhost:8080/stream
{"data":"2018-07-30T01:00:36.3017757"}
{"data":"2018-07-30T01:00:36.3017757"}
{"data":"2018-07-30T01:00:36.3017757"}
{"data":"2018-07-30T01:00:36.3017757"}
{"data":"2018-07-30T01:00:36.3017757"}
$ curl -XGET -H "Accept: text/event-stream" localhost:8080/stream
data:{"data":"2018-07-30T01:01:09.2095158"}
data:{"data":"2018-07-30T01:01:09.2095158"}
data:{"data":"2018-07-30T01:01:09.2095158"}
data:{"data":"2018-07-30T01:01:09.2095158"}
data:{"data":"2018-07-30T01:01:09.2095158"}

View Slide

Spring WebFlux
• ダメな例①
@RestController
@PostMapping(path = "/hello",
consumes = MediaType.TEXT_PLAIN_VALUE,
produces = MediaType.TEXT_PLAIN_VALUE)
return request.map(name -> "Hello, " + name + "!").subscribe();
}
}
※Controllerの中でsubscribe してはいけない
FW側でsubscribe してレスポンスを返却している。

View Slide

Spring WebFlux
• ダメな例②
@RestController
@PostMapping(path = "/hello",
consumes = MediaType.TEXT_PLAIN_VALUE,
produces = MediaType.TEXT_PLAIN_VALUE)
Thread.sleep(1000L);
return request.map(name -> "Hello, " + name + "!");
}
}
※Blocking 禁止！！
スレッド数が少ないため、ブロックすると全体の性能が極端
に低下する
Flux#delaySubscription(Duration) などを利用する

View Slide

WebClient
• ReactiveなHTTP Client
➢ Non-BlockingかつReactiveなHTTP通信
➢ ラムダ式を使ったFluent API
➢ Mono/Fluxを戻り値に返す
• RestTemplateの代替
➢ WebClient単体で利用可能
➢ 同期的な呼び出しも可能

View Slide

WebClient
• Example
WebClient webClient = WebClient.create("https://api.github.com");
String name = webClient.get()
.uri("/users/{username}", "rshindo")
.retrieve()
.bodyToMono(JsonNode.class)
.map(resp -> resp.findValue("name").asText())
.block();
System.out.println("name = " + name);
block / subscribe されるまでは
HTTPリクエストは実行されない

View Slide

Reactive クライアント
1. Reactive MongoDB
2. Reactive Redis
3. Reactive Cassandra
4. Reactor Kafka

View Slide

RDBへのアクセス？
• ノンブロッキングAPIはサポートされていない
• スレッドプールを別に用意して
非同期呼び出しをしているケースが多い
（Play2など）
• JDBC Next: A New Asynchronous API for
Connecting to a Database
https://www.slideshare.net/ypoirier/jdbc-next-
a-new-asynchronous-api-for-connecting-to-a-
database

View Slide

https://www.slideshare.net/ArisaSasaki/jsug-20185-spring-io-108053900

View Slide

Spring MVC or WebFlux?
• 高スループットを出すならWebFlux
• 実装しやすさはWebMVC
• プログラミングモデルが異なるため、
WebMVC -> WebFlux の書き換えは死ぬ(確信)
• 現時点ではまだ “基本WebMVC” という選択になるが、
そのうち “基本WebFlux” になるかも

View Slide

Use Cases

View Slide

Use Cases
1. N + 1 問題
Q：次の処理のレスポンスタイムは？
商品サービス在庫サービス
Flux Mono
5件の商品
リストを返すパラメータの商品IDを見て
その商品の在庫数を返す
※ただし処理に１秒かかる

View Slide

Use Cases
1. N + 1 問題
正解：
1.232s
リクエストが並列で動いている

View Slide

まとめ
1. Blocking =
2. Reactive でスループット↑↑
3. RDBへのアクセスは現時点では
4. 正直難しいので勉強しよう

View Slide

ご清聴ありがとうございました。
Infrastructures Evolution

View Slide

Spring WebFluxで学ぶReactive Application / Introduction to Reactive

Spring WebFluxで学ぶReactive Application / Introduction to Reactive

Ryo Shindo

More Decks by Ryo Shindo

Featured

Transcript