Agents for Amazon Bedrockで 何ができるようになるのか 2023/12/4 JAWS-UG横浜 #63 AWS re:Invent 2023 宇宙一早い Recap 依田 涼太

依田 涼太 Ryota YODA • 某SIer所属の金融系アプリエンジニア • テックリードとしてアプリ・インフラ を幅広く担当 • re:Invent 2023は日本から参戦 （ハワイ羨ましすぎた） @YodeeeTech

Amazon Bedrock • 主要な基盤モデルを簡単に利用可能 • 基盤モデルをカスタマイズし、独自の生成AIアプリ ケーションを構築できるマネージドなAIプラット フォームサービス

Agents for Amazon Bedrock https://www.youtube.com/watch?v=PMfn9_nTDbM • プレビュー版公開の状態だったが、今回のre:Inventにて一般提供が開始 • ユーザからの要求に基づいた複雑なビジネスタスクを計画し、実行する自律 エージェントの機能を提供 ※現在対応リージョンは米国東部 (バージニア北部) と米国西部 (オレゴン)のみ

Bedrockを利用した従来のエージェント構成

Kendra Bedrock API データソース 🦜🔗 LangChain エージェント機能を実装した アプリケーション Bedrockを利用した従来のエージェント構成 • RAG構築のためにはKendraやOpenSearchを組み合わせ、ナレッジをクエリする仕組みを作る必要があった • 各種サービスの呼出を自律的に計画・実行するためにLangchain等でエージェントを立てる必要があった OpenSearch Service ナレッジをクエリ 文章理解・生成 特定のタスク実行 構成のポイント RAG(Retrieval-Augmented Generation) • 生成AIモデルが外部データソースを参照することで知識 を拡充し、より正確な回答を生成する仕組み • 回答に自社データを組み込みたい場合などに利用される

Agents for Amazon Bedrockを活用した構成

Lambda Knowlegde Base for Amazon Bedrock 基盤モデル Agents for Amazon Bedrock Agents for Amazon Bedrockを活用した構成 Action Group APIスキーマ ナレッジをクエリ 文章理解・生成 特定のタスク実行 • Agentsがユーザからのリクエストを理解し、具体的なアクションを計画 計画をもとに各種サービスから情報を取得し、より適切な情報をユーザに応答可能 • Knowledge Base for Amazon Bedrockと簡単にシームレスに接続。RAG構築が容易に • Action Groupで特定のタスク実行が可能に 構成のポイント

Lambda Knowlegde Base for Amazon Bedrock 基盤モデル Agents for Amazon Bedrock Agents for Amazon Bedrockを活用した構成 Action Group APIスキーマ ナレッジをクエリ 文章理解・生成 特定のタスク実行 • Agentsが持つベースプロンプトと開発者が設定する指示プロンプト、ユーザからの入力を もとに拡張したプロンプトを生成 Agents for Amazon Bedrockの流れ ベースプロンプト 指示プロンプト ユーザからの入力

Lambda Knowlegde Base for Amazon Bedrock 基盤モデル Agents for Amazon Bedrock Agents for Amazon Bedrockを活用した構成 Action Group APIスキーマ ナレッジをクエリ 文章理解・生成 特定のタスク実行 • 拡張プロンプトを基盤モデルを介して解釈し、計画された次ステップのアクションが 合理的であるかを判断 Agents for Amazon Bedrockの流れ 次アクションの合理性を判断

Lambda Knowlegde Base for Amazon Bedrock 基盤モデル Agents for Amazon Bedrock Agents for Amazon Bedrockを活用した構成 Action Group APIスキーマ ナレッジをクエリ 文章理解・生成 特定のタスク実行 • エージェントはアクション グループを呼び出し、ナレッジ ベースにクエリを実行して 追加の情報を取得 Agents for Amazon Bedrockの流れ

Lambda Knowlegde Base for Amazon Bedrock 基盤モデル Agents for Amazon Bedrock Agents for Amazon Bedrockを活用した構成 Action Group APIスキーマ ナレッジをクエリ 文章理解・生成 特定のタスク実行 • エージェントは、アクショングループとナレッジベースからの要約から、観察結果を生成し、 基盤モデルで解釈される拡張プロンプトをさらに補強する • エージェントはオーケストレーションプロセスを繰り返す必要があるかどうかを判断する Agents for Amazon Bedrockの流れ 観察結果で補強

Lambda Knowlegde Base for Amazon Bedrock 基盤モデル Agents for Amazon Bedrock Agents for Amazon Bedrockを活用した構成 Action Group APIスキーマ ナレッジをクエリ 文章理解・生成 特定のタスク実行 • オーケストレーションプロセスを繰り返した後、最終的な回答文章を作成し、 ユーザに応答する Agents for Amazon Bedrockの流れ 応答

Agentsに組み込み可能なサービスの紹介

Knowlegde Base for Amazon Bedrock S3 Sync Upload データソースに接続し、基盤モデル応答を拡張できるフルマネージドなRAG機能 テキストの チャンク処理 エンべディング Vector Database ex) OpenSearch エンべディング用 基盤モデル Agentsに組み込み可能なサービスの紹介 ※現在対応リージョンは米国東部 (バージニア北部) と米国西部 (オレゴン)のみ 連携可能なデータソースはS3のみ Vector DatabaseとしてOpenSearch 、Pinecone, Redis Enterprise Cloudが利用可能 Agents for Amazon Bedrock

Knowlegde Baseの組み込みは Agents作成コンソール上から事前に作成したものを指定するだけ

Action Group エージェントに実行を支援させたいタスクを定義する タスク実行として現在サポートされているサービスはAWS Lambdaのみ Agentsに組み込み可能なサービスの紹介 Lambda Action Group APIスキーマ Agents for Amazon Bedrock

アクショングループはAgents作成コンソール上で LambdaとAPIスキーマを指定することで設定可能

まとめ • Agents for Amazon BedrockによってRAGやアクションのオーケスト レーションがより容易になった • 今後、直接アクショングループの呼び出しやKnowlegde Baseの接続 データソースが拡充することでより複雑なユースケースを実現できる 可能性がある