5分で体感するhuman-in-the-loop！AIに丸投げはもうやめよう！

https://techgyoza.connpass.com/event/371476/

Transcript

1. Human-in-the-Loopで考える 実践的なAIエージェント 八雲 慎之助/Shinnosuke Yakumo 2025/12/13 TechGYOZA 2025
2. 八雲 慎之助 出身：新潟市 受賞：2025 Japan AWS Jr.Champions コミュニティ：JAWS-UG 新潟支部 運営 好きなサービス：Amazon Neptune, AgentCore 自己紹介 @yakumo_09 @yakumo_0905
3. 詳しくは….
4. 本日お話しすること 1. Human-in-the-Loopとは 2. AWS の Strands SDKを例に考える 3. 実際の活用シーン
5. Strands Agentsとは • AWSが提供する、数行で開始できるオープンソースSDK • 複数のモデルプロバイダーに対応 • エージェントループを採用している • LLM呼び出し→推論→ツール選択→ツール実行→さらに推論
6. 一般的なエージェントループ LLMが全部判断 ツール選定 これよろ おけまる ツール実行 次何するか推論
7. 一般的なエージェントループ LLMが全部判断 ツール選定 これよろ おけまる ツール実行 次何するか推論 望まない操作がされないか？ →大いに可能性はある
8. Human-in-the-Loopとは •AIの処理フローの中に人の判断やFBを挟む • なぜ必要なのか • 安全性の担保 • クリティカルな意思決定の確認 など ex)ユーザーに生成結果を承認してもらうなど
9. Human-in-the-Loopとは • AIの処理フローの中に人の判断やFBを挟む ツールA この処理してもいい？ ええで^^
10. Strands AgentsにおけるHITL ex) ツールの中でinterruptを使用 ‘y’以外は処理を落とす
11. 活用例 • 安全性、コンプラを重視したい • システムに対する読み取りではなく、削除、更新や新 規作成など • 不必要なリソースに対する操作を監視 • MCPや子エージェントなどのツール実行時 • 不要なツールを利用していないか