Webブラウザ上におけるシェリング分居モデルエージェントシミュレーションの並列化・多段階化による高速化

情報処理学会第87回全国大会 6A-04
千葉商科大学 久保裕也
#ipsj

Transcript

1. 1 Webブラウザ上における シェリング分居モデル エージェントシミュレーションの 並列化・多段階化による高速化 久保 裕也 千葉商科大学 国際教養学部 情報処理学会第87回全国大会 6A-04
2. 2 簡単な自己紹介 ➢千葉商科大学 国際教養学部(2025年3月まで) 同大学 総合政策学部(2025年4月から) ➢独立行政法人 日本貿易振興機構 アジア経済研究所 特任研究員を兼務しています ➢空間経済学にもとづくシミュレーションモデルを GPUで計算するシステムなどを開発しています 2
3. 3 目次 ➢研究背景・先行研究 ➢デモンストレーション ➢実装の詳細 ➢実験 ➢考察 ➢まとめ 3
4. 4 研究背景・先行研究 4
5. 5 研究背景・先行研究 ➢高性能なGPUの一般ユーザ環境への普及 ➢Webブラウザ上でプログラムを高速に実行するWasmや GPUを用いた計算を可能とするWebGPUなどのWeb標準化 ➢経済学(経済学の教育)の面からのチャレンジ ➢計算機科学(高性能計算・ソフトウェア工学)の面からの チャレンジ 5
6. 6 Thomas Crombie Schelling 1921-2016 マルチエージェントシミュレーション(MAS)の草分け 2005年ノーベル経済学賞を受賞 Thomas C. Schelling, Photo by New America, CC-BY-2.0
7. 7 「シェリングの分居モデル」 Thomas SCHELLING, 1971, “Dynamic Model of Segregation,” Journal of Mathematical Sociology, Vol.1, No.1, pp.143-186. 「白人と黒人が隣同士で暮らす ことに抵抗がなくとも、 いつの間にか白人が多く居住す る地域と黒人が居住する地域に 分かれてしまう現象」を、簡単 なルールで再現 7 ◯ 肌の色１ ＃ 肌の色２ この研究でのシミュレーションは 計算機を使わずに手作業のみで実施
8. 8 8 教育的アプローチの例 先行研究 独自言語NetLogoを用いた MASの実験・学習環境 Uri Wilensky and The Center for Connected Learning and Computer-Based Modeling “NetLogo” (1999) https://ccl.northwestern.edu/netlogo/
9. 9 9 教育的アプローチの例 先行研究 構造計画研究所： クラウド上でMASを構 築・実行・共有できる プラットフォーム、 Pythonを用いたルール 記述が可能 小川倫，北上靖大，”マルチ エージェント・シミュレーショ ン用ソフトウェアartisoc Cloud の紹介，” オペレーションズ・ リサーチ: 経営の科学，65, pp. 206–211, 2020. https://mas.kke.co.jp/model /schelling/
10. 10 計算機科学的チャレンジの例 (適用事例に「シェリングの分居モデル」を含むもの) ➢高性能計算： CUDA+MPIで、複数CPU・複数GPU環境での並列ハードウェア性能 を最大限に引き出そうとする研究 ➢ Aaby BG, et al. 2010, “Efficient simulation of agent-based models on multi-GPU and multi- core clusters,” Proceedings of the 3rd International ICST Conference on Simulation Tools and Techniques (SIMUTools'10). No. 29, pp.1-10. ➢ソフトウェア工学： 「関心の分離」手法に基づいて、CUDA C++とPythonによる開発 の容易さとGPUによる処理効率の高さを両立させようとする研究 ➢ Richmond, P. et al. 2023, "FLAME GPU 2: A framework for flexible and performant agent based simulation on GPUs," Journal of Software: Practice and Experience, Vol. 53, No. 8, pp. 1629-1737. 10
11. 11 解決するべき課題 ➢「GPUが広く普及し た現状」 において、 MASに関する 「教育現場でのニー ズ」と「研究現場で のニーズ」の隙間が 埋められていない 11 ➢ GPU普及以前に作られたMAS系教材は、 GPU対応が不十分であるため、 大規模なシミュレーションができない ➢ 研究現場で用いられているものは、Web系エ コシステムとは技術体系が異なる ➢ 開発環境を準備する手間が大きい ➢ 開発技術の習得に要する学習曲線が急 ➢ セキュアな実行を前提としていない ➢ 成果物を気軽に配布できない・実行 できない ➢ 高性能なワークステーションだけでなく、 モバイル端末までを含めた幅広いハードウェ アで動作するようなものがない
12. 12 研究の目的 MAS教材の核となる部分を、WebGPUやWasmを用いる ことで、どのような最適化ができるかを明らかにする 12
13. 13 研究を発展させる方向性 ➢WebアプリのUIに組み込めるものとして、ほどほどに 高性能でセキュアに動作するMASを開発し、Webブラ ウザを用いて簡単に利用してもらえるようにしたい ➢MASの研究成果をインタラクティブに体験できるよう なデモンストレーション用のWebアプリを開発しやす くすることで、MASを扱う教材開発の敷居を下げ、利 用の裾野を広げるなどの展開をできるようにしたい 13
14. 14 デモンストレーション ぜひ、お手元で、動かしてみてください 14
15. 15 デモンストレーション ➢Google Chromeなどで の利用を想定しています ➢iOSのSafariでも、設定で WebGPUを有効化してあ れば利用可能です ➢ ポケモンフラッシュ的な 表示内容となりますので、 デモ画面を凝視しないようにし、 気分が悪くなった場合には 目をそらすようにしてください 15 https://kubohiroya.github.io/webgpu-react-bitmap-viewport/examples/index.html#3
16. 16 デモンストレーション 16 https://kubohiroya.github.io/webgpu-react-bitmap-viewport/examples/index.html#3 辺の長さ 人種の数 人種ごとの 構成比 異人種の 隣人を 許容する度 合い
17. 17 GUIで設定可能な項目 ➢2次元のマス目構造の1辺の長さ ➢8(2^3)から4096(2^12)まで ➢人種の数 ➢1〜7 ➢人種ごとのシェア＋空き地の割合 ➢合計1になるように調整 ➢満足・不満足の閾値（8近傍） ➢0.0 (0/8 から 1.0 (8/8) までの値 17
18. 18 18 注目するセルの「近傍」の状況による 「満足」の度合いの計算 1 1 1 1 注目す るセル 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 注目す るセル 1 1 1 1 1 1 1 1 1 1 1 1 8近傍のうち4近傍が同じ色= 4/8 = 0.5 24近傍のうち6近傍が同じ色 = 6/24 = 0.25 8近傍の場合 24近傍の場合 ※分母に空き地を含めるか否かや、セルの場所に応じた重みづけなどによるバリエーションあり
19. 19 19 「不満足エージェントの抽出」 2 3 10 13 14 16 21 22 32 34 36 37 40 44 46 50 54 55 58 空き地のアドレスを抽出、配列化 [2,3,10,13,14,16,21,22,32,34,36,37,40, 44,46,50,54,55,58] 0 1 4 6 9 15 18 20 30 31 35 38 39 41 42 47 53 60 62 不満足エージェントのアドレスを抽出、配列化 [0,1,4,6,9,15,18,20,30,31,35,38,39,41,42,47,53,60,62] 閾値：1/8の場合 周りに 同じ色が 少ない！
20. 20 20 「不満足エージェントの空き地への引越し」 空き地のアドレスを抽出、 配列化 [2,3,10,13,14,16,21,22,32,34,36,3 7,40,44,46,50,54,55,58] 不満足エージェントの アドレスを抽出、配列化 [0,1,4,6,9,15,18,20,30,31, 35,38,39,41,42,47,53,60,62] [ 50, 13, 21, 22, 10, 40, 37, 2, 55, 14, 32, 58, 46, 36, 3, 44, 34, 16, 54] [ 39, 18, 20, 47, 0, 4, 15, 6, 60, 35, 9, 38, 62, 42, 30, 53, 31, 1, 41] 配列をシャッフル 元となる エージェントの配置 引越し完了後の エージェントの配置
21. 21 「シャッフル」に関する内部設定 ➢引越しをするエージェントの順序の決定(シャッフル）は、 ブロックごとに決めるか？全領域で決めるか？ →全領域で行う ➢引越し先候補の空き地の選定（シャッフル）は、 一定距離の近傍・ブロックごとに選ぶか？全領域から選ぶか？ →全領域から選ぶ 21 ※シミュレーションしたい内容や、実装上の制約に応じて、バリエーションあり
22. 22 22 「不満足エージェントの空き地への引越し」 処理の単純化 [ 50, 13, 21, 22, 10, 40, 37, 2, 55, 14, 32, 58, 46, 36, 3, 44, 34, 16, 54] [ 39, 18, 20, 47, 0, 4, 15, 6, 60, 35, 9, 38, 62, 42, 30, 53, 31, 1, 41] 「シャッフル済み空き地アドレス 」 「シャッフル済み不満足エージェントのアドレス」 39 50 50 39 引越し完了
23. 23 実装の詳細 23
24. 24 同じ結果を得られる４種類の実装を Reactコンポーネントとして開発 ➢JavaScript ➢Wasm ➢Wasm: Webブラウザ上でプログラムを 高速に実行するためのバイナリコードの フォーマット、WebAssembly ➢JavaScript + WebGPU ➢WebGPU: WebブラウザでGPUを用いた 計算や描画処理を行う技術 ➢JavaScript + Wasm + WebGPU 24
25. 25 25 実装1: JavaScript 逐次抽出 並列抽出 reduce map 並列抽出 並列抽出 空き地の アドレス のシャッ フル 不満足 エージェ ントの シャッフ ル 不満足 エージェ ントの引 越し 描画 描画フ レームご との処理 を開始 逐次抽出(Wasm) 空き地セ ルの シャッフ ル(Wasm) 不満足 エージェ ントの シャッフ ル(Wasm) 不満足 エージェ ントの引 越し (Wasm) reduce (Wasm) 不満足エージェントの抽出
26. 26 26 実装2: JavaScript+Wasm 逐次抽出 並列抽出 reduce map 並列抽出 並列抽出 空き地の アドレス のシャッ フル 不満足 エージェ ントの シャッフ ル 不満足 エージェ ントの引 越し 描画 描画フ レームご との処理 を開始 逐次抽出(Wasm) 空き地セ ルの シャッフ ル(Wasm) 不満足 エージェ ントの シャッフ ル(Wasm) 不満足 エージェ ントの引 越し (Wasm) reduce (Wasm) 不満足エージェントの抽出
27. 27 27 実装3: JavaScript+WebGPU 逐次抽出 並列抽出 reduce map 並列抽出 並列抽出 空き地の アドレス のシャッ フル 不満足 エージェ ントの シャッフ ル 不満足 エージェ ントの引 越し 描画 描画フ レームご との処理 を開始 逐次抽出(Wasm) 空き地セ ルの シャッフ ル(Wasm) 不満足 エージェ ントの シャッフ ル(Wasm) 不満足 エージェ ントの引 越し (Wasm) reduce (Wasm) 不満足エージェントの抽出
28. 28 28 実装4: JavaScript+Wasm+WebGPU 逐次抽出 並列抽出 reduce map 並列抽出 並列抽出 空き地の アドレス のシャッ フル 不満足 エージェ ントの シャッフ ル 不満足 エージェ ントの引 越し 描画 描画フ レームご との処理 を開始 逐次抽出(Wasm) 空き地セ ルの シャッフ ル(Wasm) 不満足 エージェ ントの シャッフ ル(Wasm) 不満足 エージェ ントの引 越し (Wasm) reduce (Wasm) 不満足エージェントの抽出
29. 29 異なるメモリアーキテクチャを持つデバ イス間での、フレームごとのデータ転送 ➢Wasm実装では： ホスト側(UIスレッド)とデバイス側(Wasm)との入出力は、 共有メモリを通じて実施できる （データ転送の負荷がかからない） ➢WebGPU実装では： ホスト側(UIスレッド)からデバイス側(WebGPU)との入出力は、 GPUバッファへの書き込み・マッピングを通じて実施する （毎フレームで、データ転送の負荷がかかる）
30. 30 64個の スレッドで 分割 64個のワークグループで分割(並列化) 64ワークグループx64スレッドごとのブロック化 （全体が1辺1024セルの場合: 幅18 x 高さ18セルでのブロック化） 8近傍を処理するので 幅1のゴーストゾーン 8近傍を処理するので 幅1のゴーストゾーン 8近傍を処理するので 幅1のゴーストゾーン 8近傍を処理するので 幅1のゴーストゾーン GPUコアからVRAMへのアクセスの回数 を減らすために、（8近傍を処理するの で）3行分のセル内容をリングバッファ でキャッシュする。これにより、VRAM アクセスのレイテンシを約1/9に削減で きる。 ブロックごとに、 引越し希望エージェントを 探し、それらのアドレスを パディングつき配列に 入れて返す ワークグループ 内でのVRAMア クセスのレイテ ンシなどを隠蔽 し、スループッ トを向上を図る。
31. 31 実験 31
32. 32 実行環境 ➢4種の実装を処理速度(Frames Per Second: FPS)の面から評価 ➢MacBook Pro 16インチ2021モデル(M1 Max)、WebブラウザはChrome Version 131を使用して計測 ➢256^2, 512^2, 1024^2のトーラスに、5種類のエージェントをそれぞ れ15%ずつと空き地25%をランダムに配置し、不満足の閾値を0.55とし て、全てのエージェントが満足し分居状態が安定するまでの約1500ス テップを実行 32
33. 33 requestAnimationFrame関数 から実行しているので、 モニタのリフレッシュレート上 限でFPSがサチる (ここでは120Hz上限の環境で 実行した場合を示している） WasmとWebGPUを組み合わせた実装が最速となった JavaScriptによる実装に比べて、 1024^2のサイズでは7.1倍、 2048^2では17.8倍高速化した
34. 34 考察 34
35. 35 ベンチマーク結果からの考察 ➢「不満足エージェントの抽出」など、メモリーインテンシブな処理内容で は、GPUとのメモリ転送によるオーバーヘッドを、GPUでの並列化による 処理時間短縮が上回った ➢メモリ階層構造やアクセスパターンを踏まえてのメモリのブロック化、キャッシュ 機構を自前で最適化した実装をすることなどの工夫が重要 ➢「配列のシャッフル」「配列のランダムな2箇所の値の入れ替え」はGPU での性能向上は困難であるが、Wasmによる高速化は有効である ➢メモリ確保・メモリ転送を不要とする工夫が重要 ➢現在利用可能なJavaScriptエンジンの最適化レベルは非常に高く、同じアルゴリズム のWasm実装に代替しても、性能が改善されない場合が多いことに注意 ➢Wasmにおけるスレッド機能, SIMD拡張命令利用についても、将来的に導入を検討 する余地があるが、SharedArrayBuffer関連での制約があるため、導入できない場 合があることに注意 35
36. 36 ブロック化とキャッシシングによる性能 向上についての考察 ➢1024^2の大きさのトーラスを処理する場合、ブロックの横幅は 1024/64+1x2=18セル ➢1ワークアイテムが関数スコープ内配列でキャッシュするセル の数は、幅18x高さ3 = 54セル ➢WebGPU仕様では関数スコープでの配列の最大長は定義されて いない（動作環境によって異なる） ➢経験則的には、32ビット値の配列ならば65535要素未満までは動作可 能 ➢1ブロックの処理において、リングバッファを作成することに よりキャッシュするセルの最大数は、割り当て可能な関数ス コープ配列長に比べて、十分に小さい＝問題なしと考えられる 36
37. 37 WebGPUを用いた大規模な配列中の 「シャッフル操作(ランダムな2箇所の値の入 れ替え)」の実現性・有用性についての考察 ➢WebGPU仕様による制約 ➢ワークグループを超えてのatomicなメモリ操作ができない ➢64ビット浮動小数点演算に非対応である ➢乱数生成機能がないため、ホスト側で乱数表を生成してデバイス側に 転送する必要がある ➢標記操作の実装は困難であり、性能向上は期待できない、 と考えられる 37
38. 38 まとめ ➢Webブラウザ上でシェリングの分居モデルのシミュレーション を実装する際に、Wasm+WebGPUを用いることで大幅な高速 化を実現できるという実例を示した ➢本研究の知見は、 MASの研究成果をインタラクティブに体験 するためのアプリを、ほどほどに高性能でセキュアで利用しや すいものとして開発する際に応用できる ➢MASを扱う教材開発の敷居を下げ、利用の裾野を広げることが 期待される 38
39. 39 参考文献 ➢Schelling, T., “Dynamic Model of Segregation,” Journal of Mathematical Sociology, Vol.1, No.1, pp.143-186. 1971. ➢Uri Wilensky and The Center for Connected Learning and Computer-Based Modeling: NetLogo, https://ccl.northwestern.edu/netlogo/ (2025年3月14日閲覧） ➢小川倫，北上靖大，”マルチエージェント・シミュレーション用ソフトウェアartisoc Cloudの紹介，” オペレーションズ・リサーチ: 経営の科学，65, pp. 206–211, 2020. ➢Hiroya Kubo: WebGPU Multi-Agent Simulation: Schelling’s model of segregation: https://kubohiroya.github.io/webgpu-react-bitmap-viewport/examples/#3(2025 年3月14日閲覧） ➢Aaby BG, et al., “Efficient simulation of agent-based models on multi-GPU and multi-core clusters,” Proceedings of the 3rd International ICST Conference on Simulation Tools and Techniques (SIMUTools'10). No. 29, pp.1-10. 2010. ➢Richmond, P. et al., "FLAME GPU 2: A framework for flexible and performant agent based simulation on GPUs," Journal of Software: Practice and Experience, Vol. 53, No. 8, pp. 1629-1737. 2023. 39