Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Google I/O 2024 報告LT会(Androidのオンデバイス生成AI)

usuiat
June 14, 2024
460

Google I/O 2024 報告LT会(Androidのオンデバイス生成AI)

サイボウズ社内で実施したGoogle I/O 2024 報告LT会の発表スライドです。
「Android on-device AI under the hood」の内容をまとめました。
https://www.youtube.com/watch?v=nOinQrCvZkM

usuiat

June 14, 2024
Tweet

Transcript

  1. 内容 「Android on-device gen AI」より Androidのオンデバイス⽣成AIの • 現在の状況 • 特徴

    • アーキテクチャ について整理します https://www.youtube.com/watch?v=nOinQrCvZkM
  2. オンデバイス⽣成AIの現在の状況 • SDKはPrivate Preview(⼀般公開されていない) OS Android 14以降 デバイス Google Pixel

    8 Pro / Pixel 8 *1 Samsung S24 アプリ Google Message / Recorder / Gboard Adobe Acrobatなどサードパーティアプリも⼀部対応しているらしい 設定 開発者オプションでAICoreを有効化 *1) 6⽉12⽇以降、Pixel 8でも使えるようになった 利⽤環境 開発環境
  3. オンデバイス⽣成AIの特徴 ⻑所 • センシティブなデータを扱える • 通信環境が悪くても使える • 早い • 安い

    短所 • ⽣成の解像度が低い 得意 • コンテンツの要約 • コンテンツの分類 • コンテンツに対する提案 苦⼿ • ⾃由な会話 • コード⽣成 オンデバイスAIを活⽤するには、ファインチューニングが重要
  4. アーキテクチャ • すべてデバイス内で完結 • アプリはAI Edge SDKを使って AI Coreにアクセス •

    AI Core • Android OSに統合されているService • モデルはGamini Nano • ファインチューニングはLoRA Android Device Android OS AI Core LoRA Gemini Nano Safety features SoC App AI Edge SDK