Share
Embed
22nd ACRi Webinar - ChipTip Technology Eric-san's slide
HFCを実現するFPGAオーケストレーション:Kubernetesによる柔軟なリソース管理と仮想化
Nao Sumikawa
February 08, 2026
Transcript
19 slides
-
Chiptip Technology 自己紹介 福田エリック, Founder & CEO of Chiptip Technology
• 前職:ポスドク@ • データセンターFPGAを使った大規模分散処理の研究 • 研究をベースに2017年にChiptip Technologyを創業 Chiptip Technology, Inc. 設立:2017年 所在地:米国カリフォルニア Chiptip Technology株式会社 設立:2019年 所在地:東京都港区 理念:Bridging the Gap Between Software Agility and Silicon Performance -
Chiptip Technology • ソフトウェアは単一ノードで実行できるアプリケーションの大きさはメモリサイズで決まる ◦ 巨大なメモリサイズがあれば巨大なアプリケーションを単一ノードで実行できる ◦ 実際にメモリサイズはアプリケーションの大きさの制約要因にならないくらい十分にある • FPGAやASICは単一ノードで実行できるアプリケーションの大きさはチップ面積で決まる
◦ 巨大なアプリケーションを単一ノードで実行するのは困難 ◦ 複数のチップを連携させる必要がある • クラウドでは様々なリソースをネットワークで連携することで汎用的な環境にする HFCの必要性 -
Chiptip Technology Galapagos • トロント大学で2014年頃から研究 • ネットワークに直接接続された FPGAを組み合わせて 仮想的に「大きなFPGA」を作る→HFC •
OpenStackでVMを管理 • VMとFPGAをPCIeで接続(OpenCL) • FPGA間の接続はXMLで定義 -
Chiptip Technology Apache Flink + FPGA func_a(var_a).func_b(var_b).func_c(var_c). … A B
C CPU FPGA CPU ノード管理 ノード単体処理 ストリーム処理 ノード間ネットワーク 分離が弱い 課題 CPU前提の設計でパケットを直接 FPGAに送れない • プログラミングパラダイムは不要 • ノード単体処理とノード間ネットワークが分離さ れたフレームワークが必要 -
Chiptip Technology Chiptip分散処理FW User application A Python B HLS C
HDL D Python Operator files Python Job dataflow file A B C D FPGA FPGA FPGA FPGA FPGA JobManager Data center Run Execute A B C D 6 User ノード管理 ノード単体処理 ノード間ネットワーク TaskManager -
Chiptip Technology Kubernetesの台頭 デバイス OS/仮想化 オーケストレーション ノード単体処理 分散処理 • 分散処理FWは売れなかった
• Kubernetes対応を多く聞かれた • VNF + Kubernetes -> CNF ◦ CNFをハードウェア化すればHFCになる CPU Linux/Container Kubernetes Pod Flink -
Chiptip Technology 仮想化 pFPGA vFPGA vFPGA vFPGA vFPGA Hypervisor Shell
Hypervisor Shell: kubeletの役割 • Kubernetesサーバとの通信 • vFPGAの管理 • 物理インターフェースの仮想化 • ユーザアプリケーションのインストール vFPGA vFPGA vFPGA vFPGA ユーザには直接ネットワークに繋がった 複数のFPGAデバイスに見える -
Chiptip Technology • vFPGAにはホストCPUがない • GalapagosではVMからPCIe経由でFPGAを管理していた • Kubernetesでこれをやる場合、PodとFPGAをPCI-passthroughで繋ぐ必要が ある ◦
まだエコシステムが出来上がっていない ▪ Linux, Docker, Kubernetes, PCIe, SR-IOV, FPGAの各レイヤで対応してい る必要がある • リスクが高い ◦ 他の組織の方針や進捗に大きく左右されてしまう ▪ エコシステムが出来上がるまでに何年もかかるし、方針を変えられたら会社 が潰れる ◦ その割にできたときのメリットが小さい • FPGAをCPUから独立したリソースとして管理するのが良い • PCIe周りのエコシステムが成熟してきたら取り込む PCIeを使わない選択 Pod Docker Linux デバイスド ライバ pFPGA vFPGA vFPGA PCIe SR-IOV -
Chiptip Technology オーケストレーション Primitive advanced 物理サーバ Pod ReplicaSet Deployment 物理FPGA
vFPGAPod vFPGAReplicaSet vFPGADeployment Kubernetesが管理する最も基本 的なリソース単位 同じPodを複数生成して冗長性を 提供する ReplicaSetに対してローリング アップデート機能を提供する vFPGAカスタムリソースで最も基 本的なリソース単位 同じvFPGAPodを複数生成して冗 長性を提供する vFPGAReplicaSetに対してローリ ングアップデート機能を提供する Kubernetesリソース vFPGAカスタムリソース 10 -
Chiptip Technology 現状 デバイス OS/仮想化 オーケストレーション ノード単体処理 分散処理 CPU Linux/Container
Kubernetes Pod Flink FPGA Hypervisor Shell/vFPGA Kubernetes vFPGAPod 分散処理FW -
Chiptip Technology 分散処理FW-k8s統合 A B C A B C B
B A C データフローグラフ (ロジカルプラン) 実行プラン (フィジカルプラン) FPGA FPGA CPU vFPGADeployment vFPGADeployment Deployment • 冗長性確保 • 実行中プラン変更可 • 実行中アップデート可 パーサ←今後開発 -
Chiptip Technology マルチテナント機能の活用 A B C FPGA FPGA CPU Container
A B Container A B オペレータBの実装改善 • 余分なリソースに課金しなくて良い • 余分なリソースを他に使える • 冗長化すると違いが顕著になる C C -
Chiptip Technology 動的再配置による最適化 Container A B Container A B Container
AB C C C • リソース量・コストの最適化 • 性能の最適化 Kubernetesで再配置 Vivadoで統合、Kubernetesで再配置 -
Chiptip Technology CI/CDによる開発 Container A B Container A B Container
AB C C C GitHub Actions HDL SW Manifest • 自動テスト・自動デプロイ • 開発サイクルの高速化 -
Chiptip Technology ASICへの移行 Container A B C Container A B
C FPGA ASIC • 効果の高いノードに絞って ASIC化 • 性能向上 • ただしフレキシビリティは低下 FPGA FPGA -
Chiptip Technology ユースケース FPGA FPGA FPGA FPGA FPGA FPGA CPU
FPGA FPGA CPU FPGA FPGA FPGA FPGA 専用エミュレータ (非常に高速, 高価) AWS F1/F2 (低速, 安価) Chiptip (高速, 安価) ハードウェアエミュレーション ネットワークセキュリティ Next Generation Firewall ネットワークトンネル -
Chiptip Technology FHE/FPGAクラウド データセキュリティ: EmotionX • 準同型暗号(FHE) • 計算量が膨大→FPGAで高速化 •
Kubernetesでオーケストレーション • FHEクラウドを立ち上げ予定 • 余剰FPGAリソースをFPGAクラウドとして提供 • FPGAで実証後ASICに移行 ネットワーク直結FPGAクラウドで一緒に新たなチャレ ンジをしましょう! • FPGA/ASIC IPコアのアジャイル開発 • クラウド向けチップ開発 • ハードウェアエミュレータ開発 • サイバーセキュリティ など