Create Your Own AI with Dify×Gemma3

2025年11月15日開催の「 GCPUG Shiga #4」の LT資料です.
Rasberry Pi 5上に, DifyxGemma3で「自分だけのAI」作成にトライした内容を記載しています.

Transcript

1. GCPUG SHIGA #4 LT Dify×Gemma3で作る 「自分だけのAI」 2025.11.15 Code for YAMATOKORIYAMA Moonlight 明日香
2. 自己紹介 Facebook moonlight.aska Twitter @moonlight_aska Blog みらいテックラボ http://mirai-tec.hatenablog.com NARA ➢ 名前：鶴田 彰 ➢ 仕事：データ分析, AIモデル開発など ➢ 資格：金魚マイスター(大和郡山市認定) ➢ 主なコミュニティ活動： GCPUG NARA Organizer CODE for YAMATOKORIYAMA DCON2026テクニカルアドバイザー :
3. 今日お話しすること DifyツールとGemma3を組み合わせて 「自分だけのAI」を動かしてみた話
4. 「自分だけのAI」の構成 Docker Engine コンテナ Ollama Dify MCPホスト クライアント クライアント MCPサーバ MCPサーバ Gemma3 データベース 外部Aサーバ - 天気 - News - Web検索 - メール - ： Gemini
5. Difyとは Difyは、大規模言語モデル(LLM)を活用したアプリを, プログラミングのスキルがなくても簡単に作成できるツール Dify推しの理由： • ノーコード・ローコードでアプリ作成が可能 • 作成したアプリをAPI呼び出しできる • オープンソースであり, ローカル環境でも動かせる
6. Difyアプリの例 契約書レビューアプリ
7. Gemma3とは Gemma 3は, Googleが開発したオープンAIモデル (Gemini 2.0を基盤として開発されたモデル) Gemma 3の主な特徴 • オープンモデル：商用利用が可能 • マルチモーダル対応：テキストと画像を同時処理→テキスト出力 • 多言語対応：140以上の言語に対応 • 長いコンテキスト処理：最大128Kトークン • 軽量化と効率性：リソースが限られたデバイスでも効率的に動作 など 出典:https://ollama.com/library/gemma3
8. Gemma3のモデルサイズ Name Size Context Input gemma3:27b 17GB 128K Text, Image gemma3:12b 8.1GB 128K Text, Image gemma3:4b 3.3GB 128K Text, Image gemma3:1b 815MB 32K Text gemma3:270m 292MB 32K Text Models 出典:https://ollama.com/library/gemma3
9. MCP(Model Context Protocol) とは MCPとは, LLMと外部のデータソースやツールを接続する ためのオープンなプロトコルのこと. LLM1 LLM2 LLM3 外部ツール+データソース1 外部ツール+データソース2 外部ツール+データソース3 独自のAPI Before MCP LLM1 MCP 外部ツール+データソース1 外部ツール+データソース2 外部ツール+データソース3 独自のAPI After MCP MCPはLLMと外部ツール・データソースとの接続方法を統一することで, AIエージェント開発のハードルを下げてくれる!!
10. AIエージェントアプリ
11. Difyへのモデル追加 ①プラグインのインストール ②モデル情報を記載して追加
12. 例) MCPサーバプログラム from fastmcp import FastMCP # MCPサーバを作成 mcp = FastMCP("Database Server - Prompt Edition") @mcp.tool() def list_tables() -> List[Dict[str, Any]]: """データベース内のすべてのテーブルとスキーマ情報を一覧表示. テーブル構造の把握, データベース全体の理解, クエリ作成の準備に使用. 各テーブルのCREATE文も含むJSON形式で返却. 例: 「どんなテーブルがある?」「データベースの構造を教えて」 """ conn = get_db_connection() cursor = conn.execute(''' SELECT name, sql FROM sqlite_master WHERE type='table' AND name NOT LIKE 'sqlite_%' ORDER BY name ''') tables = [] for row in cursor.fetchall(): tables.append({ "table_name": row["name"], "creation_sql": row["sql"] }) conn.close() return tables ◼@mcp.tool()デコレータを付ける ◼LLMは関数の説明文を読んで, ツールの機能を理解する 引用：MCP入門 – 生成AIアプリ本格開発(技術評論社; 小野哲)
13. MCPサーバ登録 ① ③ ④ ⑤ ②
14. エージェントの設定 ◎ ？ ◼ Gemini 2.5 Flash-Lite ◼ Gemma3:270m Gemma3がエージェンティック戦略のFunctionCallingに未対応のため, ReActで行う必要あり.
15. 例) 金魚売上アプリの動作例
16. 最後に ◼ Paspberry Pi 5に, Difyを使ってAIエージェントを作成 してみた. ◼ MCPサーバと連携することで, 内部/外部の操作と連携が できた. ◼ Gemma3はMCPサーバ連携するためのFunctionCalling には対応していない. PC上に簡単に「自分だけのAI」作れます. 皆さんも「自分だけのAI」を作成してみよう!!
17. Thank You!