ChromeでローカルLLM

Transcript

1. ryu Chrome で
 ローカルLLM 2026.10.15 Hello LT world『みんなで語る！好きと学びのアウトプット LT Night』 https://findy.connpass.com/event/406556/
2. ChromeでローカルLLM ryu - 26新卒 / プロダクトエンジニア - タイミー / 介護領域の開発
3. ChromeでローカルLLM
4. ChromeでローカルLLM
5. ChromeでローカルLLM これじゃない
6. ChromeでローカルLLM
7. ChromeでローカルLLM デモ https://www.ryu.engineer/playground/gemini-nano
8. ChromeでローカルLLM // 使えるか確認
 const status = await LanguageModel.availability({
 // 渡すもの。text のほか image、audio も可 expectedInputs: [{ type: "text", languages: ["ja"] }], // 返してほしいもの。text のみ expectedOutputs: [{ type: "text", languages: ["ja"] }], })
9. ChromeでローカルLLM const status = await LanguageModel.availability({...}) - unavailable: 使えない
 - downloadable: ダウンロード可能
 - downloading: ダウンロード中
 - available: 使える
10. ChromeでローカルLLM // セッションを作成（必要ならモデルをダウンロード
 const session = await LanguageModel.create({ expectedInputs: [{ type: "text", languages: ["ja"] }], expectedOutputs: [{ type: "text", languages: ["ja"] }], monitor(m) { m.addEventListener("downloadprogress", (e) => { bar.value = e.loaded // 0 から 1 }) }, })
11. ChromeでローカルLLM const session = await LanguageModel.create({...}) // プロンプトを送る。少しずつ出力される
 const stream = session.promptStreaming( “プロンプト” )

 // 出力を表示していく
 for await (const chunk of stream) { out.textContent += chunk }
12. ChromeでローカルLLM const session = await LanguageModel.create({...}) // スキーマ定義
 const schema = { type: "object", properties: { rating: { type: "number" } }, required: ["rating"], } // JSONで返す const json = await session.prompt(“0 から 5 で採点して”, {
 responseConstraint: schema,
 }) const result = JSON.parse(json)
 // result => { rating: 4 }
13. ChromeでローカルLLM 他にもAPIが用意されている

 - Translator: 翻訳
 - Summarizer: 要約
 - LanguageDetector: 言語判断
14. ChromeでローカルLLM // 翻訳
 const translator = await Translator.create({ sourceLanguage: "en", targetLanguage: "ja", }) 
 const result = await translator.translate("Hello")
 // result => “こんにちは”
15. ChromeでローカルLLM // 要約
 const summarizer = await Summarizer.create({ type: "key-points", // 箇条書き。tldr や headline も可 length: "short",
 expectedInputLanguages: ["ja"],
 outputLanguage: "ja", }) 
 const result = await summarizer.summarize(article)
 // article => “ChromeのTranslator APIは、翻訳専用モデルを使って端末内で動く。翻訳処理 のために入力文をサーバーへ送る必要はない。.” // result => “- 翻訳は専用モデルで端末内 - 入力は外に出ない - デスクトップ版だけ”
16. ChromeでローカルLLM // 言語判断
 const languageDetector = await LanguageDetector.create() 
 const [result] = await languageDetector.detect("こんにちは")

 // result.detectedLanguage => "ja"
 // result.confidence => 1
17. ChromeでローカルLLM デモ https://www.ryu.engineer/playground/built-in
18. ChromeでローカルLLM 動く条件

 - 場所: デスクトップのGoogle Chromeのみ
 - OS: Windows 10／11、macOS 13以降、Linux、Chromebook Plus - 空き容量: Chromeプロファイルのあるボリュームに22 GB以上
 - GPU：VRAM 4 GB超／ または CPU：RAM 16 GB以上かつ4コア以上
19. ryu Chrome で
 ローカルLLM 2026.10.15 Hello LT world『みんなで語る！好きと学びのアウトプット LT Night』 https://findy.connpass.com/event/406556/