SambaNova 2025年 7月 製品アップデート・デモ

Transcript

1. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 2025年 7⽉ 製品アップデート‧デモ Principal Solutions Engineer 中野 匡彦
2. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 製品概要
3. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai RDU — ⽣成AIに最適なアーキテクチャ 1.6 TB/s 25.6 TB/s 超⾼速推論のための ⼤容量オンチップ メモリ 超低レイテンシの モデル切り替え 最⼤12兆個の パラメータ RDU ⼤容量 DDR メモリ 24 TB オンチップ SRAM 8.3 GB, PBs per sec] RDU Reconfigurable Dataflow Unit (再構成可能データフローユニット) SN40L16 ラックシステム “SN40L” RDU 1,026億 トランジスタ 1,040 RDUコア 638 TFLOPS (bf16) RDU 広帯域 HBM メモリ [1 TB] 3層データフローメモリ TSMC 5nm テクノロジー x 16
4. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新の製品ラインナップ 最も安全な専有型の企業向け AIプラットフォーム SambaStack 2 ⽣成AI‧AIエージェントのた めのクラウドAPIサービス SambaManaged 3 データセンター向けの⾼効率 推論AIソリューション SambaCloud 1
5. Copyright © 2025 SambaNova Inc. | Confidential & Proprietary | sambanova.ai SambaNovaの新しい製品ストラテジー 製品 プラット フォーム システム SambaCloud 開発者 | エンタープライズ APIs 推論 | BYOC SambaOrchestrator ロードバランサ | モニタリング |モデル管理 基盤モデル Llama | Qwen | DeepSeek | Whisper SambaRack ハードウェア + OS + ネットワーク RDU (AI プロセッサ) SN40L SambaStack ホステッド | オンプレミス SambaManaged マネージド推論クラウド
6. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaNova プラン体系 (再整理) SambaCloud Developer Tier) SambaCloud Enterprise Tier) SambaStack Hosted SambaStack On-prem) SambaManaged 導⼊スケール 個⼈開発者向け 企業 (PoC) / 研究室向け 企業向け データセンター / CSP向け 製品間共通のプラットフォームに基づき、お客様のニーズに併せたシームレスなご提案
7. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaManaged — 迅速に導⼊可能なDC向け製品 https://sambanova.ai/ja/press/sambanova-launches-first-turnkey-ai-inference-solution-for-data-centers-deployable-in-90-days-clone
8. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新モデルの紹介
9. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 新モデル Qwen332B — 最⾼のバランス感と⽇本語体験 • モデルの特徴 ◦ 新しいQwen3系のモデルのうち、汎⽤性の⾼いdenseモデル ◦ 単⼀モデルでnon-reasoning / reasoning タスクを柔軟に実⾏可能 ⇒ 必要時のみ深い思考を有効化し、コスト削減しつつ性能発揮 ◦ 119の⾔語‧⽅⾔に対応：もちろん⽇本語もOK • On SambaNova ◦ 超⾼速：350 token/sec ◦ 経済的なAPI：(input, output) = 0.40, 0.80 USD/百万トークン
10. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai DeepSeek-R10528 — 最上位モデルを超⾼速かつ経済的に利⽤ • モデルの特徴 ◦ OSS最⾼峰のDeepSeek-R1 (671BMoE / reasoningモデル) がバージョンup ◦ 圧倒的性能：O3 / Gemini 2.5 Proと同等性能、HLEベンチスコアが2倍向上 ◦ UX向上：システムプロンプト対応 (<think>タグ不要など)、JSON出⼒ / function-calling対応 • On SambaNova ◦ 超⾼速：200 token/sec ◦ 経済的なAPI：(input, output) = 5.00, 7.00 USD/百万トークン
11. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Whisper-Large-V3 — リアルタイム⾳声⼊⼒の実現 • モデルの特徴 ◦ OpenAIが開発した最⾼峰の⾳声認識 (ASR) および⾳声翻訳モデル ◦ リアルタイムの⾳声ボット構築、ポッドキャストの⽂字起こし、⾳声によるアク セシビリティ向上などを実現 ◦ 50以上の⾔語 (⽇本語含む) に対応 • On SambaNova ◦ 超⾼速：250 sec-audio/sec ◦ 25MBまでの⾳声ファイルアップロード対応
12. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 性能 vs APIコスト — SambaNovaの⾼い競争⼒ • 各社のAPI価格が下がり 始めてきた • SambaNovaのコストポ ジションはいずれのモ デルにおいても依然と して優位 • Qwen-332Bおよび Llama-4Maverickのコ スパは圧倒的に⾼い Gemini 2.5 Pro O3 GPT4.1 DeepSeek-R1 0528 DeepSeek- V30324 Llama-4 Maverick Llama-3.3 70B Qwen332B GPT4o 0 10 20 30 40 50 60 70 80 0 2 4 6 8 10 12 Artificial Analysis Intelligence Index Output Price USD/million-token] ◆ SambaNova ◆ OpenAI ◆ Google
13. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 超⾼速 — あらゆるモデルにおいて 圧倒的な速度での推論 ⾼精度 — ⼤規模商⽤モデル同等の精度 + 量⼦化‧蒸留なし ⾼効率 — 圧倒的なコスパ + 低消費電⼒ 1 2 3 (まとめ) SambaNova 全モデルの共通事項
14. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 開発者体験の向上
15. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaCloud ⽇本語ドキュメント 公開 • 全コンテンツの⽇本語版を⽤意 ◦ APIリファレンス ◦ 外部ツール連携 ◦ リリースノート • 開発者向け情報‧最新情報に⽇本 語でキャッチアップ可能
16. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 外部ツール (ライブラリ / フレームワーク等) 連携の充実化 • OpenAI 互換APIを採⽤しており、連携は⽐較的容易 • さらなる連携性の向上のために、各ツールのプラグ イン / アドオン / マーケットプレイスにSambaNova の拡張機能を提供 • SambaCloud ドキュメントにおいて、様々な外部ツ ールとの連携⽅法を解説 (例) Dify も瞬時に連携可能
17. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai AWS連携機能のリリース • AWS Marketplaceを通じて、SambaCloudの⾼速推論サービ スへのアクセスが可能 • Private Link (閉域網構築) にも対応 • AWS契約を通じた課⾦ • ⚠ 現状 SambaCloud Developer Tier (下位プラン) のみ対応 ⇒レート制限が緩和された上位Tierは弊社担当に要連絡 • 詳細な⼿続きはSambaCloudドキュメントを参照 API コール Private Link
18. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新エージェントデモ
19. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新エージェントApp デモ (Part 1/2) • Agents V2 ◦ https://aiskagents.cloud.snova.ai/ ◦ 前回イベントで紹介した⾼速 Deep Research アプリの進化版 ◦ SambaNovaのあらゆる機能的特徴を組み込み ◦ DeepSeek-R10528 / DeepSeek-V30324 による複雑なタスクの処理 ◦ Llama-4Maverickによる画像認識精度up + Whisperによる⾳声認識精度up ◦ [新機能] コード⽣成/実⾏、PDF/スライド/HTML/CSV 作成に対応
20. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Agents V2 アプリにおけるワークフローの変⾰ 従来型のワークフロー エージェント型ワークフロー タスクに応じたフロー定義 ⽂脈に応じた柔軟性 インサイトとアクションの シームレスな接続
21. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新エージェントApp デモ (Part 2/2) • AgentTube ◦ https://agenttube.cloud.snova.ai/ ◦ YouTube動画を要約するエージェント (Llama-4Maverick) • LiveKit Demo ◦ https://aiskvoicedemo.cloud.snova.ai/ ◦ リアルタイム会話エージェントの実装例 ◦ Whisper + Llama-3.x + LiveKit 連携
22. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai
23. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaCloud いますぐ登録