Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Virtual Threads - 導入の背景と、効果的な使い方 -
Search
Yuichi.Sakuraba
June 04, 2023
Technology
4
3.9k
Virtual Threads - 導入の背景と、効果的な使い方 -
2023.06.04 JJUG CCC セッション資料
Yuichi.Sakuraba
June 04, 2023
Tweet
Share
More Decks by Yuichi.Sakuraba
See All by Yuichi.Sakuraba
で、ValhallaのValue Classってどうなったの?
skrb
2
6.3k
Javaにおける関数型プログラミンへの取り組み
skrb
7
380
今こそ、ラムダ式を考える - なぜあなたはラムダ式を苦手と感じるのか
skrb
6
20k
今こそ、ラムダ式を考える - ラムダ式はどうやって動くのか
skrb
7
11k
Project Amberで変わる Javaのプログラミングスタイル
skrb
3
930
String Templateによる文字列補間
skrb
4
3.4k
Virtual Threadの動作と効果的な使い方
skrb
2
560
JVMLSに参加してきた
skrb
1
2k
Who's Who in Java
skrb
3
20k
Other Decks in Technology
See All in Technology
How is Cilium Tested?
yutarohayakawa
5
310
Kubeshark で Kubernetes の Traffic を眺めてみよう/Let's Look at k8s Traffic with Kubeshark
kota2and3kan
2
300
OpsJAWS32 re:Invent 2024 Ops系アップデートまとめ
takahirohori
0
120
密着! Bedrockerがre:Invent 2024で過ごした5日間を紹介
minorun365
PRO
3
360
B10-ひと目でわかる(といいなぁ)Microsoft Purview
seafay
PRO
0
670
大規模サーバ移行を成功に導くための事前調査フェーズの工夫事例
fukuchiiinu
2
120
My Generation 年配者がこの先生きのこるには (Developers CAREER Boost 2024 Edition)/My Generation How elder engineers can survive
kwappa
3
390
Kubernetesトラフィックルーティング徹底解説/Kubernetes-traffic-deep-dive
oracle4engineer
PRO
5
890
新機能Amazon GuardDuty Extended Threat Detectionはネ申って話
cmusudakeisuke
0
340
Explain EXPLAIN
keiko713
10
2.9k
目玉アップデート!のSageMaker LakehouseとUnified Studioは何たるかを見てみよう!
nayuts
0
140
Postman と API セキュリティ / Postman and API Security
yokawasa
0
110
Featured
See All Featured
Faster Mobile Websites
deanohume
305
30k
Docker and Python
trallard
41
3.1k
Become a Pro
speakerdeck
PRO
25
5k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
356
29k
Six Lessons from altMBA
skipperchong
27
3.5k
The Pragmatic Product Professional
lauravandoore
32
6.3k
A Philosophy of Restraint
colly
203
16k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
48
2.2k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
665
120k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
111
49k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
1
150
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
169
50k
Transcript
Virtual Threads -導入の背景と効果的な使い方 - 櫻庭 祐一 Java in the Box
3 分でわかる Virtual Threads JVM が管理する軽量スレッド Fiber 他言語でいうところの スループット向上が目的 I/Oを多く含むシステムで効果的
応答時間はちょっとだけ悪化 従来のスレッドと使い方は同じ 使用上の注意点はある
導入の背景 Agenda 歴史的経緯とともに 動作原理 なぜスループットが向上するのか 効果的な使い方 ユースケースをもとに
導入の背景 歴史的経緯とともに
2004 2011 2014 2023 1995 Java 5 Java 7 Java
8 Java 21 Java 1.0
2004 2011 2014 2023 1995 Java 5 Java 7 Java
8 Java 21 Java 1.0 Single Core の時代 Thread = OSスレッドのラッパー Threadの切替 : スレッドのコンテキストスイッチ OS Threadオブジェクト生成: 重い & メモリ消費大
OS Thread Java Thread JVM Stack new Thread(new Runnable() {
public void run() { foo(); } }).start(); run() Frame void foo() { bar(); } foo() void bar() { ... } bar()
OS Thread Java Thread JVM Stack new Thread(new Runnable() {
public void run() { foo(); } }).start(); run() Frame void foo() { bar(); } foo() void bar() { ... } bar() run() foo() bar() Operand Stack Local Var.
OS Thread Java Thread JVM Stack run() foo() bar() Operand
Stack Local Var. のコンテキストスイッチ Thread のスレッドの状態 OS オブジェクトの状態 Thread JVM Stack + + の退避・復帰
2004 2011 2014 2023 1995 Java 5 Java 7 Java
8 Java 21 Java 1.0 Single Core の時代 Thread = OSスレッドのラッパー Threadの切替 : スレッドのコンテキストスイッチ OS Threadオブジェクト生成: 重い & メモリ消費大 重い & メモリ消費大 コンテキストスイッチをなるべく発生させない スレッドスケジューリング
2011 2014 2023 Java 7 Java 8 Java 21 Java
1.0 1995 2004 Java 5 Multi Core 黎明期 Concurrency Utilities スレッドとタスクの分離 スレッドプール導入 Executors.newFixedThreadPool 応答時間重視 Executors.newCachedThreadPool スループット重視 リクエスト増大 スループット頭打ち Thread per Request/Task
2011 2014 2023 Java 7 Java 8 Java 21 Java
1.0 1995 2004 Java 5 Multi Core 黎明期 public class ThreadPoolExecutor extends AbstractExecutorService { ... private final class Worker extends AbstractQueuedSynchronizer implements Runnable { Worker(Runnable firstTask) { setState(-1); // inhibit interrupts until runWorker this.firstTask = firstTask; this.thread = getThreadFactory().newThread(this); } ... Apache Tomcat 例
2014 2023 Java 8 Java 21 Java 1.0 1995 2004
Java 5 2011 Java 7 Big Dataの時代 Fork/Join Framework 分割統治法 タスクを細粒度に分割して処理 Work-Stealing タスクスケジューラー スレッドごとにタスクキュー キューが空の時は他のスレッドからタスクを盗む 効率的なタスクスケジューリング
業務タスクの特徴 Comp. I/O C I/O I/O C C 通信、 DBアクセスなど
I/O処理が多い I/O処理は計算処理に対して多大な時間を要する I/Oの待ち時間が長い その中でも I/O待ちの間 CPUが遊んでしまう I/O待ちの間に他の処理を行いたい
2023 Java 21 Java 1.0 1995 2004 Java 5 2011
Java 7 2014 Java 8 Project Lambda ラムダ式の導入 処理を関数として記述 CompletableFuture Reactive Programming 非同期処理を関数で記述 CompletableFuture Reactive Programming ex. Spring WebFlux Oracle Helidon SE 処理を非同期実行することで スループット向上 I/O とはいうものの 従来の逐次的な記述と考え方が異なる ... 例外処理が ... デバッグが ...
Java 1.0 1995 2004 Java 5 2011 Java 7 2014
Java 8 2023 Java 21 従来の逐次的な記述で 例外処理をあつかいやすく デバッグもやりやすいままで スループットを向上させたい Virtual Threads
動作原理 なぜスループットが向上するのか
Virtual Threads Platform Threadとタスクの仲介 Platform Thread タスクからは と区別がつかない Platform Thread
にマウントして実行 Carrier Thread マウントしたスレッドを と呼ぶ 積極的なコンテキストスイッチ 限定継続を導入してコンテキストスイッチの高速化 Work-Stealingによるスレッドスケジューリング 一貫性のあるスタックトレース Carrier Threadが変わってもスタックトレースが切れない
Platform Thread Platform Thread ...... Virtual Thread Task Instantiation
Platform Thread Platform Thread ...... Virtual Thread Task Mount
Platform Thread Platform Thread ...... Virtual Thread Task I/O Wait
Platform Thread Platform Thread ...... Virtual Thread Task Unmount
Platform Thread Platform Thread ...... Virtual Thread Task I/O Interrupt
Platform Thread Platform Thread ...... Virtual Thread Task Mount
Platform Thread Platform Thread ...... Virtual Thread Task I/O待ち時間の活用による大幅なスループット向上 頻繁なコンテキストスイッチによる応答時間の悪化
Platform Thread Platform Thread ...... Virtual Thread Task public int
read(ByteBuffer buf) throws IOException { ... readLock.lock(); try { ... configureSocketNonBlockingIfVirtualThread(); n = IOUtil.read(fd, buf, -1, nd); if (blocking) { while (IOStatus.okayToRetry(n) && isOpen()) { park(Net.POLLIN); n = IOUtil.read(fd, buf, -1, nd); } } ... sun.nio.ch.SocketChannelImpl 例
void park() { ... boolean yielded = false; setState(PARKING); try
{ yielded = yieldContinuation(); } finally { ... } ... } java.lang.VirtualThread private boolean yieldContinuation() { ... unmount(); try { return Continuation.yield(VTHREAD_SCOPE); } finally { mount(); ... } } 限定継続
効果的な使い方 ユースケースをもとに
Virtual Threadsの使い方 ExecutorServiceを介して利用する Executors.newVirtualThreadPerTaskExecutor() Executors.newThreadPerTaskExecutor( Thread.ofVirtual().factory()) or Virtual Threadの直接生成も可能だが、基本はやらない ExecutorServiceを定義する場合だけ
独自の ExecutorServiceはJava 19からAutoClosable
Virtual Threadsの使い方 try (var pool = Executors.newVirtualThreadPerTaskExecutor()) { Runnable task
= ...; pool.submit(task); }
VT 使いたい Y FWを使ってる ? VT使う必要なし WebFluxなどのリアクティブ系 or CompletableFutureゴリゴリ書ける Spring
Boot, Jakarta EE など FWの対応待ち その他 使ってない or
VT使う必要なし or CompletableFutureゴリゴリ書ける Spring Boot, Jakarta EE など FWの対応待ち その他
使ってない or ボトルネックは? データ量 / 計算量 ParallelStream Fork/Join FW Vector API File Memory Map DB 通信 / VirtualThread
スレッドの注意点 Virtual Threads 特に synchronizedをなるべく使わないようにする 1. synchronized = モニタロック リソースへのアクセスを
1 つのスレッドだけに限定 他のスレッドをブロックする ボトルネックになりやすい Virtual Threadでは Carrier Threadをブロックしてしまう
スレッドの注意点 Virtual Threads 特に synchronized を使わないようにするには イミュータブルクラスの活用 record 型の利用 状態が変化しなければ複数スレッドからもアクセス可
処理結果の受け渡しがある場合 Callableを使う どうしてもロックが必要であれば synchronizedではなくReentrantLock クラスを使う java.util.concurrent.locksにロッククラスあり 他にも
スレッドの注意点 Virtual Threads 特に ThreadLocal を使わない 2. ThreadLocal はミュータブル &
ライフタイムが不明確 Virtual Threads ThreadLocalをサポートしているが は スケールしないためボトルネック化 ScopedValueで代用する Java 21 Preview JEP では ただし FWが ThreadLocal を使っている場合 対応してくれるまで待ちましょう
スレッドの注意点 Virtual Threads 特に スレッドを使いまわさない 3. Virtual Threadsは使い捨て ExecutorService スレッドのプールは
にまかせる タスクを記述することに集中しよう クラスの 4. Thread APIをもう 1 度チェック @Deprecated(forRemoval=true)なメソッド stop, suspend, resumeなど
Conclusion Virtual Threadsによりスループットが向上 I/Oの待ち時間を有効活用 Virtual Threadsは従来のスレッドを同じ使い方 使用時の注意点を把握する FWで Virtual Threads
がサポートされるのを楽しみに待つ
Virtual Threads -導入の背景と効果的な使い方 - 櫻庭 祐一 Java in the Box