ブラックフライデーで購入したPixel9で、Gemini Nanoを動かしてみた

Transcript

1. ブラックフライデーで購入したPixel9で、 Gemini Nanoを動かしてみた
2. 自己紹介 名前　：阿部 真之 仕事　：株式会社ゆめみ。サーバーサイド、Androidのリードエンジニア 趣味　：コーヒー、ビール、アニメ、ゲーム、英語、etc… Twitter：@marchin_1989
3. モチベーション • GoogleストアのブラックフライデーでPixel9を購入。 • 10月に、Gemini NanoがAndroidでexperimental accessできるようになっていた。
4. Gemini Nanoとは マルチモーダル（テキスト、画像、音声）で使えるオンデバイスモデル。 端末上で動作するため、以下のメリットがある。 • オフラインでも動作 • 低レイテンシー • 低コスト • プライバシー保護
5. ユースケース モバイルデバイスのリソースはクラウドサーバに比べると限られており、生成AIモデル (Gemini Nano)はオンデバイスに最適化されている。 以下のような限定的なユースケースに適している。 • Rephrasing（言い換え） • Smart reply（スマート返信） • Proofreading（校正） • Summarization（要約）
6. Androidでの実装方法 • AICoreを使用する。 • AI Edge SDKを介してAICoreにアクセスする。推論パラメータ（Temperatureなど） の設定や、Streaming機能あり。 • モデルはAICore側でダウンロード、管理してくれる。 出典：Gemini Nano with the Google AI Edge SDK https://developer.android.com/ai/gemini-nano
7. 注意点 • 現状 experimentalなので、本番適用はできない。 • 対応機種がある。Pixel9以外試していないが、ドキュメント通りだと他対応端末もあ る模様。 • まだText to Textのみで、マルチモーダルの呼び出し方法が提供されていない。（今 後出るかも） • 一番最初のアクセス時に、モデル(約4GB)のダウンロードが始まるので通信量に注 意。
8. 導入手順 詳しくはドキュメント：Get started with Gemini Nano experimental access https://developer.android.com/ai/gemini-nano/experimental • aicore-experimental Google group に参加 • Android AICore testing program にオプトイン 成功するとPlayストアのAICoreの表示が、Betaになる。
9. 呼び出し例 ※model.generateContent()はsuspend関数
10. デモ
11. デモ 英文を入力して、校正してくれるアプリ。 https://github.com/marchin1989/GeminiNanoSample
12. デモ動画
13. 校正用のプロンプト プロンプトは以下。 I want you to act as an English proofreader. I will provide you with texts to review for any spelling, grammar, or punctuation errors. Please provide only the corrected version of the text, without any additional explanations or comments. The previous version of text: $input The corrected version of the text:
14. 校正例
15. まとめ - アプリの一部機能として適しているタスクがあれば、アプリに組み込めそう。 - Rephrasing: 言い換え - Smart reply: スマート返信 - Proofreading: 校正 - Summarization: 要約 - Experimentalなので、まだ本番適用できないが、今後に期待できそう。
16. 参考文献 • Android Developers. "Gemini Nano (Experimental)." ◦ https://developer.android.com/ai/gemini-nano/experimental （アクセス日: 2024年12月12日） • Android Developers Blog. "Gemini Nano Experimental Access Available on Android." ◦ https://android-developers.googleblog.com/2024/10/gemini-nano-experimental-access-availabl e-on-android.html （アクセス日: 2024年12月12日） • DeepMind. "Gemini Nano." ◦ https://deepmind.google/technologies/gemini/nano/（アクセス日: 2024年12月12日）
17. Thank you for listening!