SambaNova 2025年 10月 製品アップデート・デモ

Transcript

1. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaCloud Tokyo Mingle 4 AI開発者ミートアップ ⽇時：2025年10⽉7⽇（⽕）1830 〜 2030 会場：LIFORK⼤⼿町
2. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaCloud Tokyo Mingle “Mingle”は「⼈と交流する、打ち解けて話す」ことを意味し SambaCloud Tokyo Mingle は AI 開発者の⽅々が ⾃由に交流する場を提供することを⽬指しています
3. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 2025年 10⽉ 製品アップデート‧デモ Principal Solutions Engineer 中野 匡彦
4. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Outline • 製品概要 • 最新情報 ◦ トピック ①：新モデル ◦ トピック ②：SDK ◦ トピック ③：外部連携
5. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 製品概要
6. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai RDU — ⽣成AIに最適なアーキテクチャ 1.6 TB/s 25.6 TB/s 超⾼速推論のための ⼤容量オンチップ メモリ 超低レイテンシの モデル切り替え 最⼤12兆個の パラメータ RDU ⼤容量 DDR メモリ 24 TB オンチップ SRAM 8.3 GB, PBs per sec] RDU Reconfigurable Dataflow Unit (再構成可能データフローユニット) SN40L16 ラックシステム “SN40L” RDU 1,026億 トランジスタ 1,040 RDUコア 638 TFLOPS (bf16) RDU 広帯域 HBM メモリ [1 TB] 3層データフローメモリ TSMC 5nm テクノロジー x 16
7. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai お客様のニーズに応じて、最適なソリューションをご提供 最も安全な専有型の企業向け AIプラットフォーム SambaStack 2 ⽣成AI‧AIエージェントのた めのクラウドAPIサービス SambaManaged 3 データセンター向けの⾼効率 推論AIソリューション SambaCloud 1
8. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai
9. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaCloud (Public) における最新提供モデル⼀覧 モデルプロバイダ モデル名 モデル種別 Meta Llama-3.1-8B-Instruct Llama-3.3-70B-Instruct Llama-4-Maverick-17B-128E-Instruct VLM 東京科学大学 Llama-3.3-Swallow-70B-Instruct-v0.4 日本語特化 DeepSeek DeepSeek-R1-0528 Reasoning DeepSeek-R1-Distill-Llama-70B Reasoning DeepSeek-V3.1 ß New!! [Non-]reasoning DeepSeek-V3.1-Terminus ß New!! [Non-]reasoning DeepSeek-V3-0324 Qwen Qwen3-32B OpenAI gpt-oss-120b ß New!! [Non-]reasoning Whisper-Large-v3 文字起こし ※ 上記以外にも、各お客様との個別の契約内容に基づき、様々なLLMが稼働しています。
10. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新トピック ①
11. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai
12. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 新モデル DeepSeek-V3.1Terminus — Openモデル最⾼峰の知能 • モデルの特徴 ◦ DeepSeek (671B) 系の重み改良版モデル ◦ 単⼀モデルでnon-reasoning / reasoning タスクを柔軟に実⾏可能 ◦ 出⼒の安定性が⼤幅に向上 (e.g. ⾔語が混在しないようになった) ◦ コーディングエージェント / オーケストレーターにオススメ • On SambaNova ◦ 超⾼速：250 token/sec ◦ 経済的な価格：(input, output) = 3.0, 4.5 USD/百万トークン
13. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Openモデルに基づくコーディングエージェントの最適解 (2025年秋) — DeepSeek-V3.1Terminus x Kilo • Kilo Code AI Agent ◦ VS Codeの拡張機能としてインストール可能 ◦ Roo Code / Clineの「良いとこ取り」と評される ◦ ⽇本語対応 • SambaNovaとの連携⽅法 ◦ SambaNovaも統合済み à SambaCloudのAPIキーを設定すればすぐ使⽤可能 ◦ (註) Terminusのみ、「OpenAI Compatible」モデルとして⼿動設定が必要 ▪ 「R1モデルパラメータを有効にする」オプションにチェック
14. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Openモデルに基づくコーディングエージェントの最適解 (2025年秋) — DeepSeek-V3.1Terminus x Kilo ① ② ③ ④ 初期設定⽅法
15. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai
16. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 新モデル gpt-oss-120b — 抜群の安定感､ Openモデルの初⼿選択肢 • モデルの特徴 ◦ 単⼀モデルでnon-reasoning / reasoning タスクを柔軟に実⾏可能 ◦ 安定した⽇本語能⼒ ◦ 指⽰追従性が⾮常に⾼く、エージェント利⽤に最適 • On SambaNova ◦ 超超⾼速：750 token/sec ◦ 超経済的な価格：(input, output) = 0.22, 0.59 USD/百万トークン ◦ ⻑めのコンテキストウィンドウ：128k ⚠ gpt-ossについては、量⼦化モデ ルを消費者向けGPU上で実⾏する記 事が多いですが、SambaNovaを使 えば、オリジナルの精度で遥かに⾼ 速な推論が可能です！
17. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新トピック ②
18. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaNova SDK — よりシンプルでリッチな開発者体験 • SambaNovaの推論‧モデル運⽤をより平易にするための公式開発者向けライブラリ (Python / TypeScript) • OpenAI 互換 API の使いやすさをそのままに、より便利で安全な開発体験を実現 • SambaNova 固有の機能を簡単に利⽤：追加のオプション引数、BYOC (独⾃モデルチ ェックポイント持ち込み) 等 • エコシステム統合を加速：LangChain、W&B、Vercel 等との連携が容易化 from sambanova import SambaNova client = SambaNova() completion = client.chat.completions.create( model="Llama-4-Maverick", messages=[{"role":"user","content":"こんにちは"}] ) // Python $ pip install sambanova // TypeScript $ npm i sambanova
19. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新トピック ③
20. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai
21. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai 最新の⾳声AIサービス Hume AI との戦略的パートナーシップ • 背景：グローバルで、リアルタイムかつ⾃然な⾳声AIの需要が急拡⼤ • Hume AI：感情豊かな⾳声AIモデルの先駆的なスタートアップ • SambaNovaの役割：Hume AIの最新⾳声モデルをSambaCloud上で提供 Hume AIの最新⾳声モデル EVI4 mini (speech2speech) Octave 2 (text2speech) ユーザ Hume AI のWebサービス SambaCloud Input (テキスト/⾳声) Output (合成⾳声)
22. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Hume AIでは､ SambaNovaの⾼速推論技術を活⽤することで 超低レイテンシな次世代⾳声AIサービスを実現
23. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Hume AIのコア技術は、｢話す内容｣ だけでなく ｢どのように話すか｣ を理解する⾳声⾔語モデル (speech-language model) • 特徴 ◦ 感情‧トーン‧イントネーション‧強調をリアルタイムに解析し表現 ◦ リアルタイム翻訳でも感情ニュアンスを維持 ◦ 超低レイテンシ (200ms未満) で⾼品質な⾳声⽣成 ◦ わずか15秒の⾳声サンプルから⾃然なボイスクローンを⽣成 ◦ ⽇本語対応 (!!!) • ユースケース ◦ EVI (speech2speech)：カスタマーサポート、デジタルアシスタント、インタラクティ ブなストーリーテリング、ロボット、ゲーム ◦ Octave (text2speech)：オーディオブック、ポッドキャスト、動画⽣成
24. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai [本⽇のまとめ] SambaCloudで で 新しい⾳声AI体験 DeepSeek-V3.1- Terminus gpt-oss-120b
25. Copyright © 2025 SambaNova Systems Inc. | sambanova.ai Copyright © 2025 SambaNova Systems Inc. | sambanova.ai SambaCloud いますぐ登録