AgentCoreの基本機能と実践的なChatBotの構築

PoC止まりが典型のAI Agent(Chat Bot)開発について、
アプリケーション側とインフラ側の２軸からのアプローチをいくつか紹介します。

Transcript

1. ©Fusic Co., Ltd. 0 AWS Bedrock AgentCore に社内文書検索Botを構築する 〜AgentCoreの基本機能と実践的なChatBotの構築〜 2025.10.21 大宮 佑仁 @_Svva110vvtai1_ omiya@fusic.co.jp ~生成AI活用 AI Cording から Agents 実装まで~
2. ©Fusic Co., Ltd. 1 1. はじめに 2. 背景と課題：PoC止まりのAI Agent 開発 3. Amazon Bedrock AgentCore の概要 4. 成果物の紹介：実運用 Fusic マン 5. Amazon Bedrock AgnetCore による運用 6. AI ChatBot の実装ポイント 7. まとめ
3. ©Fusic Co., Ltd. 2 はじめに 1
4. ©Fusic Co., Ltd. 3 自己紹介 大 宮 佑 仁 Y U J I N O M I Y A 株式会社Fusic 前職 ： 陸上自衛隊 システム部隊（運用保守２年） 得意 ： 敬礼 保有資格 ： AWS All Certifications Engineer 2025 情報処理安全確保支援士（合格） LPIC level 2 はじめに
5. ©Fusic Co., Ltd. 4 背景と課題：PoC止まりのAI Agent 開発 ２
6. ©Fusic Co., Ltd. 5 昨今のAI・AI Agents開発の潮流 背景と課題：PoC止まりのAI Agent 開発 UX/運用の問題からPoC段階で止まる典型パターン ・UXが整備されず利用定着しない ・ガードレール・監視体制・コスト制御が未設定 ・セキュリティ・データ保護観点で社内展開が難しい “作ること” より “運用し続けること” が難しい
7. ©Fusic Co., Ltd. 6 昨今のAI・AI Agents開発の潮流 背景と課題：PoC止まりのAI Agent 開発 AI エージェントを ”大規模、迅速、安全” に ”デプロイおよび運用” することは難しい 有望な概念実証 => 数千のユーザーに合わせてスケールしたり、 本番対応のエージェントへと移行するのは難しい ・セッション管理、ID コントロール ・メモリシステム、オブザーバビリティ ・セキュリティとコンプライアンス
8. ©Fusic Co., Ltd. 7 Amazon Bedrock AgentCore の概要 ３
9. ©Fusic Co., Ltd. 8 Amazon Bedrock AgentCore Amazon Bedrock AgentCore 概要 AI エージェントを あらゆる規模で安全にデプロイおよび運用するサービス あらゆるフレームワークやモデル上で動作する AI エージェントを、 安全性・信頼性・ガバナンスを担保しながら、 PoCから本番環境へスケール展開するためのサービス PoC止まり脱却のためのキーになるAI Agentの運用サービス
10. ©Fusic Co., Ltd. 9 Amazon Bedrock AgentCore Amazon Bedrock AgentCore 概要 各機能 ・AgentCore Runtime： エージェントとツールをセキュアにデプロイ・実行するサーバーレス実行環境 ・AgentCore Memory： 短期／長期の対話・文脈記憶を管理し、パーソナライズされた応答を支える記憶基盤 ・AgentCore Identity： ユーザーやエージェントの認証・許可を管理し、安全なリソースアクセスを担保 ・AgentCore Gateway： 既存API／サービスをエージェント用ツールに変換し、シームレスな外部連携を実現 ・AgentCore Observability： メトリクス・ログ・トレースを収集・可視化し、運用と改善を支援する監視機能
11. ©Fusic Co., Ltd. 10 Amazon Bedrock AgentCore Amazon Bedrock AgentCore 概要 各機能（ざっくり説明） ・AgentCore Runtime ：エージェント自体の実行環境 ・AgentCore Memory ：会話内容などを記憶する機能 ・AgentCore Identity ：認証関連の機能 ・AgentCore Gateway ：エージェントから外部リソースへの出口 ・AgentCore Observability：監視機能
12. ©Fusic Co., Ltd. 11 成果物の紹介：実運用 Fusic マン ４
13. ©Fusic Co., Ltd. 12 成果物概要 成果物の紹介：実運用 Fusic マン Confluenceの社内ドキュメントを検索し回答するSlack Bot
14. ©Fusic Co., Ltd. 13 使用した技術 AWS サービスで作成 - App Runner - Amazon Bedrock - Amazon Bedrock AgentCore - Strands Agents - Lambda - ECS Fargate - OSS Atlassian MCP Server 成果物の紹介：実運用 Fusic マン
15. ©Fusic Co., Ltd. 14 構成図 OSS MCP Server Cloud (MCP Client) AgentCore Gateway App Runner AgentCore Runtime Strands Agents Slack App Guardrail 成果物の紹介：実運用 Fusic マン
16. ©Fusic Co., Ltd. 15 Amazon Bedrock AgnetCore による運用 ５
17. ©Fusic Co., Ltd. 16 AgentCore Observability Amazon Bedrock AgnetCore による運用 ※オブザーバビリティとは オブザーバビリティは、従来の監視ツールよりも広い範囲と可視性をもたらし、 状況データや履歴データ、システム相互作用を追加で取り入れることができます。 これにより、監視アラートの根本原因を調査できるほか、 複数のコンポーネントの相互作用によって発生する問題を調査できます。 ＞ https://aws.amazon.com/jp/compare/the-difference-between-monitoring-and-observability/
18. ©Fusic Co., Ltd. 17 AgentCore Observability Amazon Bedrock AgnetCore による運用 ※オブザーバビリティとは オブザーバビリティは、従来の監視ツールよりも広い範囲と可視性をもたらし、 状況データや履歴データ、システム相互作用を追加で取り入れることができます。 これにより、監視アラートの根本原因を調査できるほか、 複数のコンポーネントの相互作用によって発生する問題を調査できます。 ＞ https://aws.amazon.com/jp/compare/the-difference-between-monitoring-and-observability/ 従来のモニタリングが「異常の検知」に重点を置くのに対し、 ログ、メトリクス、トレースといったデータを組み合わせて活用することで、 「何が起きたのか」「なぜ起きたのか」を深く理解し、 異常なシステム影響の根本原因を調査をすることを目的としている。
19. ©Fusic Co., Ltd. 18 AgentCore Observability Amazon Bedrock AgnetCore による運用 メトリクスダッシュボード - Session - Trace - Error - Slottle - Runtime metrics etc..
20. ©Fusic Co., Ltd. 19 AgentCore Observability Amazon Bedrock AgnetCore による運用 メトリクスダッシュボード - Session - Trace ：”Agent の処理を辿る” - Error - Slottle - Runtime metrics etc..
21. ©Fusic Co., Ltd. 20 AgentCore Observability Amazon Bedrock AgnetCore による運用 Trace - 処理時間, メタデータ - イベントごとの入出力を辿る
22. ©Fusic Co., Ltd. 21 AgentCore Observability Amazon Bedrock AgnetCore による運用 Trace - 処理時間, メタデータ - イベントごとの入出力を辿る
23. ©Fusic Co., Ltd. 22 AgentCore Observability Amazon Bedrock AgnetCore による運用 Trace - 処理時間, メタデータ - イベントごとの入出力を辿る ボトルネックの特定・パフォーマンス改善
24. ©Fusic Co., Ltd. 23 AI ChatBot の実装ポイント ５
25. ©Fusic Co., Ltd. 24 実用的なAI ChatBot 構築のためのポイント 1. UX重視設計：Slackインターフェース採用 2. 不正な入力を検知する 3. データとセキュリティ AI ChatBot の実装ポイント
26. ©Fusic Co., Ltd. 25 UX重視設計：Slackインターフェース採用 ・表示されるSlackメッセージには mkdown を適用 ・適切な位置の改行や太字 ・箇条書き形式 ・情報ソースのリンクを提示 AI ChatBot の実装ポイント
27. ©Fusic Co., Ltd. 26 不正な入力を検知する AI ChatBot の実装ポイント ・暴力/ 性的など不適切な内容をAmazon Bedrock Guardrail によって検知 ・ガードレールに引っかかると固定のレスポンスを返却
28. ©Fusic Co., Ltd. 27 不正な入力を検知する AI ChatBot の実装ポイント ・暴力/ 性的など不適切な内容をAmazon Bedrock Guardrail によって検知 ・ガードレールに引っかかると固定のレスポンスを返却 ・ID, Channel, User名, 日時, 入力内容を Slackで通知
29. ©Fusic Co., Ltd. 28 不正な入力を検知する AI ChatBot の実装ポイント ・不正なSlackユーザーからの要求をSlack APIを用いたバリデーションで検知 ・ID, Channel, User名, 日時, 入力内容と 検知理由 を Slackで通知
30. ©Fusic Co., Ltd. 29 データとセキュリティ AI ChatBot の実装ポイント ・外部DB格納が制限される方針 → Atlassian MCP を利用してリクエストの都度検索 ・よくある質問 →ローカルのVector DBに格納・定期更新で安全&高速化
31. ©Fusic Co., Ltd. 30 実用的なAI ChatBot 構築のためのポイント まとめ 1. UX重視設計：Slackインターフェース採用 非エンジニアも含めて、社内みんなが使い慣れたUI Confluence等のWEB検索UIを介さずに利用可能 Markdown対応で自然なスタイリング表示 2. 不正な入力を検知する 管理者通知機能（不正ユーザー及び不正入力検知） 3. データとセキュリティ 外部DB未使用方針 → OSS Atlassian MCPを採用 よくある質問はローカルVector DBに格納で安全&高速化 AI ChatBot の実装ポイント
32. ©Fusic Co., Ltd. 31 まとめ ~生成AI活用 AI Cording から Agents 実装まで~ 背景と課題：PoC止まりのAI Agent 開発 “作ること” より “運用し続けること” が難しい AI エージェントを ”大規模、迅速、安全” に ”デプロイおよび運用” することは難しい
33. ©Fusic Co., Ltd. 32 Amazon Bedrock AgentCore を活用することで、本番に耐えうるAI Agentの運用が可能 １ まとめ ~生成AI活用 AI Cording から Agents 実装まで~
34. ©Fusic Co., Ltd. 33 Amazon Bedrock AgentCore を活用することで、本番に耐えうるAI Agentの運用が可能 Chatbotを継続運用するためには、基盤だけでなくUX/ セキュリティ/ データ運用 も重要 １ ２ まとめ ~生成AI活用 AI Cording から Agents 実装まで~
35. ©Fusic Co., Ltd. 34 Thank You We are Hiring! https://recruit.fusic.co.jp/ ご清聴いただきありがとうございました