21st ACRi Webinar - AMD Presentation Slide (Nao Sumikawa)

21st ACRi Webinar - AMD Presentation Slide

Publish date: Dec 2, 2025
Presenter : Nao Sumikawa (AMD)

Transcript

1. AIを加速するAI Engineの アーキテクチャ解説と活用例 AMD Strategic Account & Embedded, Embedded Sales 住川 直久
2. 2 | Most transformational technology in 50 years AI Healthcare Research Supply Chain Agents Smarter Cities Robotics
3. AI evolution requires heterogenous compute From cloud to edge to endpoint, across CPUs, GPUs, NPUs, DPUs and SoCs Physical AI Generative AI Agentic AI Classic ML
4. 4 | When Robots Become Part of Our Life…
5. 5 | Autonomous Mobile Robots (AMR) Robotic ARM Cobots / Surgical Robots Hospital / Service Robotics Humanoid The Robotics Continuum – World of Physical AI
6. 6 | End-to-end AI solutions AMD Ryzen CPUs AI inference for AI PC AMD Versal AI Edge Series Embedded AI AMD Radeon GPUs AI development workstation and gaming AI AMD Instinct GPUs AI inference and training AMD EPYC CPUs Mix of AI and traditional workloads Growing model size and complexity Inference Inference and training
7. 7 | Compute architectures to address diverse AI requirements Data Center and Supercomputer Console and Endpoint Endpoint and Embedded Data Center and Endpoint HPC and AI training and dense inference Gaming and AI-based content creation Low power, always-on AI inference General processing and AI Inference HBM HBM HBM HBM HBM HBM HBM HBM Infinity Fabric Compute Compute Compute Compute Compute Compute Compute Compute Adaptive Interconnect RAM To DDR, HBM, PL Local Mem. Local Mem. Local Mem. Local Mem. Local Mem. Local Mem. AI Engine AI Engine AI Engine AI Engine AI Engine AI Engine GDDR 6 Interface Infinity Fabric GDDR 6 Interface GDDR 6 Interface GDDR 6 Interface GDDR 6 Interface GDDR 6 Interface RDNA 3 CUs RDNA 3 CUs RDNA 3 CUs RDNA 3 CUs RDNA 3 CUs RDNA 3 CUs 16MB L3 Z4c Z4c Z4c Z4c Z4c Z4c Z4c Z4c 16MB L3 Z4c Z4c Z4c Z4c Z4c Z4c Z4c Z4c From cloud to endpoint to embedded AI Engine Ryzen AI NPU
8. 8 | 8 The Ryzen AI PC Journey is Accelerating Over 250 AI PC Platforms With 2.5x Growth in 1 Year AI Will Transform the PC as We Know It Local Context Makes AI More Personal Models Adapt to Your Micro-Interactions Private Data Access Creates Deeper Insight
9. 9 | AMD Ryzen AI Leads the AI PC Era 50+ TOPS NPU 3rd Gen “Strix Point” 2nd Gen “Hawk Point” 16 TOPS NPU 1st Gen “Phoenix Point” 10 TOPS NPU Q1 2023 Q4 2023 Q2 2024 See endnote GD-243.
10. 第3世代 AMD Ryzen AI 次世代AI PCには 最高のNPU、CPUと GPUアーキテクチャが必要 Next-Gen CPU Up to 12 Cores, 24 Threads Next-Gen NPU 50 TOPS Next-Gen GPU Up to 16 compute units See endnote GD-243 Ryzen AI [Public]
11. 11 | RYZEN AI demo NPU (AI Engine) を活用し、より高速で低電力な AI推論処理を実現 Next-Gen NPU 50 TOPS
12. 12 |
13. 13 | AI Engine(Ryzen AI NPU) とは? 1 GHz VLIW / SIMDベクトルプロセッサ • 空間演算アーキテクチャ（spatial compute architecture） • 多用途：MLやその他の高度なDSPワークロードをサポート • スケーラブルな計算のために、デバイスごとに10枚から100枚の タイル（2Dアレイ） AIエンジンアレイ内の大容量メモリアクセス • デバイス間のデータ移動とDDRの必要性を削減 • 消費電力とレイテンシを最小限に抑える プログラム可能なロジックまたはNoCへの高帯域幅 インターフェース • 柔軟な接続性：PLまたはDDRからNoC経由でデータをストリーミング • 効率的なエンドツーエンドアプリケーションの加速のためのデータフローを 最適化 開発者向けにソフトウェアプログラム可能 • C言語でプログラミング可能、数分でコンパイル • カスタムカーネルから既製のMLフレームワーク/モデルサポートまで、複数の 抽象化レイヤー AI Engine- ML Local Mem. AIE-ML Array Interface (PL & NoC Interface Tiles) AI Engine- ML Local Mem. AI Engine- ML Local Mem. AI Engine- ML Local Mem. AI Engine- ML Local Mem. AI Engine- ML Local Mem. AI Engine- ML Local Mem. AI Engine- ML Local Mem. AI Engine- ML Local Mem. Memory Tile Memory Tile Memory Tile メモリ インタフェース ストリーム インタフェース カスケード インタフェース
14. 14 | AI Software Stack for AMD AI Platforms AI Models and Algorithms Open-source AI Ecosystem Ryzen Embedded Processors AI Inference Computing Platforms FPGAs & Adaptive SoCs Libraries Model Compiler and Tools Runtime API Quantizer Pruning Vitis AI Software Libraries Model Compiler and Tools Runtime API Quantizer Optimizer Ryzen AI Software AMD AI Software
15. 15 | Ryzen Embedded Processors Coming Soon: Unified NPU Compiler for rapid innovation and enablement - 2023 2024 2025 + Versal AI Edge Gen 2 (“Telluride”) Versal AI Edge Gen 1 - MPSoC / Versal AI Core DPU Ryzen 8000 series Ryzen V4000A Adaptive SoCs FPGAs Acquisition Acquisition Unified compiler starting with “Telluride” and V4000A No change in User facing SW products Ryzen processors  RyzenAI FPGA / Adaptive SoC  Vitis AI Roadmap subject to change
16. 16 | 16
17. 開催日程： 2025年12月5日～７日 開催場所： ベルサール秋葉原 賞金： １位 10,000 USD ２位 5,000 USD ３位 3,000 USD （x 5組） 登録はこちら 提供される機材 • Hugging Face LeRobot SO-101ロボティクス・キット • AMD Ryzen AIプロセッサーを搭載したラップトップ • AMD Instinct MI300X GPUを搭載したAMDデベロッパー・クラウド・アクセス • （参加者が解決策に取り組むための会場、お弁当、飲み物） このチャレンジでは、参加者は最大4人のメンバーからなるチームを結成し、 Hugging Face LeRobotを使用してソリューションを構築するよう招待されます。 目標は、技術的証拠、創造性、使いやすさを実証して、現実世界の問題を解決 するのに役立つLeRobotアプリケーションを開発することです。