Slide 1

Slide 1 text

ブラックフライデーで購入したPixel9で、 Gemini Nanoを動かしてみた

Slide 2

Slide 2 text

自己紹介 名前 :阿部 真之 仕事 :株式会社ゆめみ。サーバーサイド、Androidのリードエンジニア 趣味 :コーヒー、ビール、アニメ、ゲーム、英語、etc… Twitter:@marchin_1989

Slide 3

Slide 3 text

モチベーション ● GoogleストアのブラックフライデーでPixel9を購入。 ● 10月に、Gemini NanoがAndroidでexperimental accessできるようになっていた。

Slide 4

Slide 4 text

Gemini Nanoとは マルチモーダル(テキスト、画像、音声)で使えるオンデバイスモデル。 端末上で動作するため、以下のメリットがある。 ● オフラインでも動作 ● 低レイテンシー ● 低コスト ● プライバシー保護

Slide 5

Slide 5 text

ユースケース モバイルデバイスのリソースはクラウドサーバに比べると限られており、生成AIモデル (Gemini Nano)はオンデバイスに最適化されている。 以下のような限定的なユースケースに適している。 ● Rephrasing(言い換え) ● Smart reply(スマート返信) ● Proofreading(校正) ● Summarization(要約)

Slide 6

Slide 6 text

Androidでの実装方法 ● AICoreを使用する。 ● AI Edge SDKを介してAICoreにアクセスする。推論パラメータ(Temperatureなど) の設定や、Streaming機能あり。 ● モデルはAICore側でダウンロード、管理してくれる。 出典:Gemini Nano with the Google AI Edge SDK https://developer.android.com/ai/gemini-nano

Slide 7

Slide 7 text

注意点 ● 現状 experimentalなので、本番適用はできない。 ● 対応機種がある。Pixel9以外試していないが、ドキュメント通りだと他対応端末もあ る模様。 ● まだText to Textのみで、マルチモーダルの呼び出し方法が提供されていない。(今 後出るかも) ● 一番最初のアクセス時に、モデル(約4GB)のダウンロードが始まるので通信量に注 意。

Slide 8

Slide 8 text

導入手順 詳しくはドキュメント:Get started with Gemini Nano experimental access https://developer.android.com/ai/gemini-nano/experimental ● aicore-experimental Google group に参加 ● Android AICore testing program にオプトイン 成功するとPlayストアのAICoreの表示が、Betaになる。

Slide 9

Slide 9 text

呼び出し例 ※model.generateContent()はsuspend関数

Slide 10

Slide 10 text

デモ

Slide 11

Slide 11 text

デモ 英文を入力して、校正してくれるアプリ。 https://github.com/marchin1989/GeminiNanoSample

Slide 12

Slide 12 text

デモ動画

Slide 13

Slide 13 text

校正用のプロンプト プロンプトは以下。 I want you to act as an English proofreader. I will provide you with texts to review for any spelling, grammar, or punctuation errors. Please provide only the corrected version of the text, without any additional explanations or comments. The previous version of text: $input The corrected version of the text:

Slide 14

Slide 14 text

校正例

Slide 15

Slide 15 text

まとめ - アプリの一部機能として適しているタスクがあれば、アプリに組み込めそう。 - Rephrasing: 言い換え - Smart reply: スマート返信 - Proofreading: 校正 - Summarization: 要約 - Experimentalなので、まだ本番適用できないが、今後に期待できそう。

Slide 16

Slide 16 text

参考文献 ● Android Developers. "Gemini Nano (Experimental)." ○ https://developer.android.com/ai/gemini-nano/experimental (アクセス日: 2024年12月12日) ● Android Developers Blog. "Gemini Nano Experimental Access Available on Android." ○ https://android-developers.googleblog.com/2024/10/gemini-nano-experimental-access-availabl e-on-android.html (アクセス日: 2024年12月12日) ● DeepMind. "Gemini Nano." ○ https://deepmind.google/technologies/gemini/nano/(アクセス日: 2024年12月12日)

Slide 17

Slide 17 text

Thank you for listening!