OCI上で実現するAIエージェント開発方法の紹介

Transcript

1. OCI上で実現するAIエージェント開発方法の紹介 JPOUG Tech Talk Night #15 Ryota Yoda
2. 依田 涼太 Ryota YODA • 金融系の新規アプリ開発を複数経験 • 現在は米国シリコンバレーで AI等の先端技術調査・研究開発 • Oracle ACE(AI/ML) • AWS Community Builder(AI/ML) AWS Top Engineer @YodeeeTech
3. AI Agentとは 特定の目的を遂行するために、自律的にタスク分解を行い、 外部環境と対話しながら遂行するシステムのこと 参考：Build Agentic AI Solutions with Oracle Cloud Infrastructure’s AI Agent Framework https://www.youtube.com/watch?v=eIkj4H-S_FQ
4. OCI Generative AI Agents Serviceとは • 企業が保有するデータやシステムとLLMを統合し 自律的なAIエージェントを設計・実行するための マネージドサービス • 「エージェントコア」がユーザーの意図を理解し、 計画を立てる • 「ツール」がタスクを実行し、環境とやり取りを する 参考：Build Agentic AI Solutions with Oracle Cloud Infrastructure’s AI Agent Framework https://www.youtube.com/watch?v=eIkj4H-S_FQ さまざまなコンポーネントを調整するエージェントの「頭脳」 エージェントが情報検索、コンテンツ生成、世界との対話に使 用できるインターフェース。 RAGツール SQLツール 関数 API呼び出し 組み込み カスタム
5. 現在4種類のツールコールに対応 OCI Generative AI Agents RAG SQL Custom Tool Agent LLM SQLコマンドの実行 →Oracle Database (Base Database, Autonomous AI Database) ナレッジストアに対するベクトル検索 → Object Storage、Open Search, Oracle DB AI Vector Search カスタムの関数の呼び出し エンドポイントに対するHTTPリクエスト 他のAgentをツールコールとして呼び出し
6. コンソール上で数分でAgentを作成することが可能 Agentの作成画面
7. ツールの作成画面
8. ツール作成例：Oracle Databaseに接続し、テーブルに対して SQL検索を行い、Agentが回答することが可能 SQLツール作成画面 Agentテスト用のチャット画面 テーブルスキーマを設定 DB Connectionを設定
9. OCI Agent Development Kit (ADK)とは • OCI Generative AI Agent Service上にAgentを構築することができる オープンソースのエージェントフレームワーク • 複数ターンにわたる会話、マルチエージェントオーケストレーション（ルー ティングやAgent as a toolなど）、決定論的なワークフローなど高度なエー ジェントパターンを構築できる • ライブラリはPython / Javaで提供 Github: https://github.com/oracle/oci-python-sdk/tree/master/src/oci/addons/adk
10. Agentの実装サンプル ツール関数（天気を取得するサンプル） Agentクライアント初期化：認証タイプやリージョンを指定 （OCI側のAgentエンドポイントと対話し、Agentを管理するためのクラス） Agentの作成：OCI上で作成したAgentのエンドポイントの指定 Agentの振る舞い、ツール関数などを指定 リモート(OCI)上のエージェントと同期 （差分があればリモートを更新） https://docs.oracle.com/en-us/iaas/Content/generative-ai-agents/adk/api-reference/examples/agent- function-tool.htm
11. サンプルエージェントの実行結果 ローカルとリモートのツールを同期 リクエストがリモート上のAgentに送信 Agentから結果を受領 ツールを呼び出すリク エストを受ける ローカルのツールをコール （天気検索） 結果をリモートAgentに 返す リモートから結果が 帰って来る 回答を表示
12. Agentの構成概要 ADK Agent Tool C （天気取得関数） アプリケーション Generative AI Agent Service Agent エンドポイント ツール Tool A Tool B Tool C Memory Guardrail Agent Core Agent初期化時（setup）に ツールをリモートと同期 LLM Lllama3 推論 ツール実行 Tool Cの場合はローカル側で実行 agent.setup() agent.run()
13. MCPサーバにも接続し、ツールとして利用可能 Github: https://github.com/oracle/oci-python-sdk/tree/master/src/oci/addons/adk/mcp MCPサーバ定義ファイル ADK定義ファイル側でMCPサーバを呼び出し(STDINの例)
14. MCPサーバにも接続し、ツールとして利用可能 ADK Agent MCP サーバ Tool A Tool B Tool C STDIO接続 MCPClientStdio() MCP サーバ Streamable HTTP接続 MCPClientStreamableHttp() アプリケーションサーバ Github: https://github.com/oracle/oci-python-sdk/tree/master/src/oci/addons/adk/mcp Tool A Fast MCPなど Fast MCPなど
15. AI Agent Service / ADKのまとめ・所感 • 良かった点 • Oracle DB に接続した SQL ツールや AI Vector Search と連携した RAG を容易に構築 • 既存業務データとシームレスに接続でき、実データを活用した Agent 構築がしやすい • ADK により、カスタム関数やマルチエージェントなど複雑な Agent 構成も実装しやすい • 課題と感じた点 • Agent 内部モデルが Llama3(3.3-70B/3.2-3B)固定で、モデル選択の柔軟性が低い • ADK 利用前にコンソール上でAgent 作成が必要で、開発フローが少し煩雑 • Agent 実行基盤は開発者側でOKE / Functions などにデプロイが必要 • 他クラウドと比較すると、Agent 専用のマネージド実行ランタイムがない • 実行トレース、モニタリング、結果評価などのエージェント運用機能がまだ少ない