Share
Embed
Transcript
45 slides
-
アーキテクチャ選定から実装Tipsまで! AgentCore / Strands AgentsでAIエージェントを実 際に作ってわかったことN選 Hello! AgentCore Lunch オンライン
〜本格アプリ開発ノウハウ編!〜 神野 雄大(Jinno Yudai/@yjinn448208) -
自己紹介 2 簡単な自己紹介をさせていただきます。本日はどうかよろしくお願いいたします。 名前 神野 雄大(Jinno Yudai)/@yjinn448208 最近X始めました! 所属 クラスメソッド株式会社
クラウド事業本部 コンサルティング部 ソリューションアーキテクト • Japan All AWS Top Engineers 2025 • AWS Community Builder (AI Engineering) ◦ 選出されました!嬉しい! 資格 好きな サービス ブログはこのアイ コンで書いていま す! ラ・ムーとチーズ ナンが好きです! • Amazon Bedrock AgentCore -
対象と目的 3 本日はAmazon Bedrock AgentCoreをアプリケーションに組み込もうと思っている方に 対して実際に作った知見を少しでも共有できればと思っております。 対象 対象と目的 • Amazon
Bedrock AgentCoreを触ったことはあるがお試しレベル で、アプリケーションに組み込む際のTipsを知りたい 目的 • Amazon Bedrock AgentCoreやStrands Agentsを使ったアプリケーショ ンの実装Tipsを理解して活用できるようになる -
ナレッジ管理ツールは便利なのですが、適切に運用しようとすると敷居が高い側面があ ります。また溜めたけど活用しきれないみたいなケースがあります。 どんなAIエージェント? 7 ユーザー Notion Obsidian 利用 ナレッジ管理ツール 便利なのはわかるけどどう
使うんだ・・・?組織でも もっと楽に使いたいな タグ付けやフォルダ階層 を設計するのが大変。 サクッと溜まっている ナレッジも調べたいな。 -
Info Organizerは溜めたナレッジをRAGとしても検索可能で、すぐに過去のナレッジを 効果的に検索可能にします。 どんなAIエージェント? 10 ユーザー AgentCore Gatewayの使い 所について教えて 溜めたナレッジから調査して回答するね!
AgentCore GatewayはMCPツールを集約し たいときに〜 -
AIエージェントを使ったアプリケーションを作ろう!ときっかけでモチベーションでア プリを作っているとAgentCoreとStrands Agentsを使ってなんでもAgentにしたくなり ますが、冷静に要件整理をするとAIエージェントにしなくても良いのでは・・・といっ たケースに直面しました。 Tips1:無闇にAIエージェントに飛びつかない ハイテンションのワイ よっしゃ、Strands Agentsと AgentCore活用して便利なAI
エージェント作るで!!! AgentCore Runtime Strands Agents AIエージェント 実際に作ってみる ローテンションのワイ あれ?これAIエージェントでな くても良くない??? -
先ほど紹介したInfo Organizerの例だと要約の処理は最初AIエージェントにしていたの ですが、直列処理で体験が悪いかつ自律的に行動を考える要素がないなと気づきまし た。 Tips1:無闇にAIエージェントに飛びつかない ユーザー このURLを要約 して 記事要約AIエージェント Tool:記事取得
Tool:記事のタグやフォルダ階層を分類 Tool:要約して保存 実行イメージ ローテンションのワイ 決まった処理をしていて自律的 な考える要素はないな・・・ Strands Agents -
そこでStrandsをやめてAIエージェントにはせず、単純にBedrockを並列で実行させる処 理に組み替えました。ただAgentCoreにはそのまま載せています。AgentCore オブザー バービリティからLLMの挙動は見れるので便利ですね。 Tips1:無闇にAIエージェントに飛びつかない ユーザー このURLを要約 して 記事要約処理 記事取得
記事のタグやフォルダ階層を 分類 セクション別の要約処理 セクション別の要約処理 セクション別の要約処理 セクション別に要約処理が可能 になって体験めっちゃ良くなっ た! ワイ 実行イメージ -
Info Organizerでは4つのAgentが登場しますが、それぞれが独立したRuntimeとなって いてオーケストレーションではなくデータ層を通じて薄くつながっています。 Tips2:エージェントの設計単位について考える 記事取得・要約 AIエージェント 記事深掘りAIエージェント フォルダ・タグ分類支援AI エージェント RAG
AIエージェント データ データを介して薄く連携 エージェント同士は直接連携はしない ✖ -
直近のモデルも賢いかつ、自動化や一連のオペレーションが目的なのであれば、ほぼシ ングルエージェントでやりたいことはできて、今回のユースケースでは(あくまで今回 は)あえてエージェント同士をリアルタイムで強調させる必要はないと、感じたためで す。 Tips2:エージェントの設計単位について考える 観点 複数RuntimeでのA2A 独立Runtime 構成の複雑さ オーケストレータ+プロトコル実装が必
要 エージェント単体で完結、シンプル レイテンシ エージェント間の通信往復が発生し遅延 が積み重なる 障害がエージェント単位で局所化 トークン消費 各エージェントが個別にコンテキストを 持つため総トークン量が増大 1エージェントのコンテキストで収まるケースも。 障害の影響範囲 1エージェントの障害が連鎖しうる 障害がエージェント単位で局所化 向いているケース エージェント間のリアルタイム協調が必 須な場面(例: 保険診断で審査・リスク 評価・約款確認の各エージェントが相互 に判断を突き合わせるなど) 1タスク=1エージェントで完結する場面(例: 記事要約、ルー ル設定、RAG検索) -
ポイント:ポイント: 無理にマルチエージェントを意識していないか。 要件によってはAWSではシンプルにシングルエージェント、もしくは1Runtime内で、 Agent As ToolsやSwarmなどの方がまだ収まりが良いかと思う。A2Aはレイテンシ・ トークン消費・障害連鎖のコストを考慮した上でリアルタイム協調が必要なケースに採用 したい。 23 できるだけシンプルに考えたいですね!
本当にエージェント同士が会話する必要がある か?を最初に問いたいところですね。 A2Aって近未来的なロマンはありますが・・・ ワイ -
Direct IngestionはRAGのデータを直接取り込み可能にする機能になります。対象のド キュメントのみを取り込むため、データソース全体と同期が取られることはありませ ん。 Tips3:Knowledege Bases Direct Ingestion 25 ユーザー
1ファイルだけ同期で きる! S3 Knowledge Base OpenSearch ファイルアップロード 対象のファイルだけを指 定してDirect Ingestion 1ファイルのみベクトルに変換 Direct Ingestion 通常の同期 ユーザー 1ファイルだけ同期したい けどデータソース全体のス キャンが走ってしまう Knowledge Base S3 OpenSearch 差分を確認して同期 .metadata.jsonも配置して 指定すれば、メタデータも 同期させる -
InfoOrgainzerでは取り込んだデータをRAGとしてすぐに活用したい要件がありました。 従来のIngestionだと取り込みのたびに全件差分を見て・・・を繰り返すととても現実的 ではなく今回はこのDircet Ingestionを使ってみようと思い採用しました! Tips3:Knowledege Bases Direct Ingestion 26 ユーザー
記事要約処理 ユーザー このURLを要約して このURLを要約して ユーザー このURLを要約して Knowledge Base S3 S3 Vectors 順次対応 ファイルアップロード 順次ベクトルDBに保存 同期 RAG AIエージェント 参照 -
注意としては整合性を意識した方がいい作りになっています。S3保存と、KB反映はそれ ぞれ独立したオペレーションで、KB失敗した状態で同期を取った場合は差分が発生しま す。なのでKB失敗時はロールバックするような作りが良いかもしれないですね。 Tips3:Knowledege Bases Direct Ingestion 27 記事要約処理 Knowledge
Base S3 S3 Vectors ファイルアップロード 同期失敗 ✖ 同期失敗してもファイルは残り続ける。手動で同期をかけた 際に不正なファイルが同期される可能性があるため、ファイ ルも削除するなどの対応が考えられる。 -
皆様はAgentCore Memoryの長期記憶をどのように呼び出していますでしょうか。一番 簡単に実装できるのはStrands AgentsのSession Managerかと思います。 Tips4:AgentCore Memoryの長期記憶の話 30 • MemoryID、SessionID、ActorIDの設
定をしてセッションマネージャーを作成 し、Agentの引数に設定すればMemory と連携可能 -
Memoryをどの単位で設計するかは悩ましいですよね。短期記憶はセッション単位で分 離されるので、極論アプリケーションで1つで良いと思います。ただ長期記憶は注意。短 期記憶から自動抽出される仕組み上、同じメモリリソースを複数エージェントで共有す ると、それぞれの会話由来の記憶が混在します。namespaceを分けても抽出先が分かれ るだけで、2エージェントの短期記憶から抽出され混合されます。 Tips4:AgentCore Memoryの長期記憶の話 33 長期記憶 短期記憶
AIエージェント君A AIエージェント君B 混在して良いか?が設計のポイント。共 有したいなら同一メモリリソース、分離 したいならメモリリソースごと分ける。 どちらの履歴も長期記憶として抽出 AgentCore Memory 長期記憶 短期記憶 AIエージェント君A AIエージェント君B ここのエージェント単位で抽出 AgentCore Memory 長期記憶 短期記憶 AgentCore Memory ここのエージェント単位で抽出 -
Amazon Bedrock Guardrailsをアプリケーションに組み込んでインプット・アウトプッ トをコントロールしたいケースはあると思います。 Tips5:Guardrailsの小ネタ 36 Amazon Bedrock with Guardrails
ユーザー/ アプリケーション !$?!@!@#@@ (不適切なコンテンツ) ガードレールによってブ ロックされました • コンテンツフィルター ◦ ヘイト、侮辱、性的、暴力、不正行為、プロンプトアタック などの有害コンテンツをテキスト・画像の両方で検出・ブ ロック • 拒否トピック ◦ 特定のトピック(話題)を定義してブロック • ワードフィルター ◦ カスタムの単語やフレーズを定義してブロック • 機密情報フィルター ◦ PII(個人識別情報)などの機密情報をブロックまたはマスク • コンテキストグラウンディングチェック ◦ ソース情報に基づかないハルシネーションを検出・フィルタ リング • 自動推論チェック(プレビュー) ◦ 論理ルールに基づいてモデル応答の正確性を検証し、事実誤 認を防止 Guardrailsの主な機能 -
コンテンツフィルターなどの日本語対応はStandard Tierしか対応しておりません。 Standard Tierの場合はクロスリージョン推論が必須になるので注意です。あれ・・・? Gaurdrailsを設定しているのにスルーされている・・・?場合はClassic Tierで意外に 引っかかりやすいポイントなので共有します。 Tips5:Guardrailsの小ネタ 37 Amazon
Bedrock with Guardrails ユーザー/ アプリケーション !$?!@!@#@@ (不適切なコンテンツ) !$?!@!@#@@ (不適切なコンテンツ) え、不適切なコンテンツ が!? Standard Tier & クロスリージョン推論を有効 Amazon Bedrock with Guardrails ユーザー/ アプリケーション !$?!@!@#@@ (不適切なコンテンツ) ガードレールによってブ ロックされました (不適切なコンテンツ) Classic Tier -
もっぱら最近使っているのはStreamdownといったマークダウンライブラリです。AI SDKでも提供されているものですが滑らかで気持ちが良いです。Streamdownは react-markdownのドロップイン代替で、ストリーミング中の未閉じMarkdown(途中 で切れた太字やコードブロック)を自動補完してくれるのが特長です。 Tips6:体験について 40 • Steramdown本体 • @streamdown/code
◦ コードブロック描画用のライブラリ • @streamdown/mermaid ◦ Marmaid描画用のライブラリ -
ポイント: AIエージェントのUI/UXは単純なテキスト生成だけではな い。ストリーミング表示(Streamdown)、ツール実行中のステップ可 視化、 選択式UIなど工夫する余地がたくさんある。触ることが癖になる のを目標とし、要約するのが楽しい!と思わせたい・・・!ただロジッ クの複雑さとのトレードオフなのでどこまでを工夫するかは考える必要 がある。 42 体験やデザインって難しいですよね。できるだけ満足してもらえるように作り
込んでいますが、客観的に判断するのは難しいので色々な人に触ってもらって FBもらうようにしています。またロジックの複雑さとのトレードオフでもあ るので本当に悩ましい・・・ ワイ