AIエージェントの コストガバナンスをAWSで実現したい

Transcript

1. #circus_lt AIエージェントの コストガバナンスをAWSで実現したい サーカスLT会 #1 マナティ / Manato Sano
2. 01 自己紹介 名前 マナティ @manaty_prod 社会人歴 2年目 業務 クラウド移行、生成AIのPoC 好きなAWS サービス AgentCore, Lambda, Kiro
3. 02 こんなニュースが話題になりました 今年5月、Uberが2026年通年のAI予算をたった4ヶ月で使い切った 参考：https://fortune.com/2026/05/26/uber-coo-ai-spending-tokens-claude-code/
4. 03 制限のないAIエージェント 原因は、AIエージェントに「何をどこまでやっていいか」の制限がなかった 従来 AIエージェント 課金モデル 単価で確定 トークン消費量 コスト予測 ユーザー数 × 単価で確定 使い方次第で上限なし 同じ人が使っても 毎月同じ請求額 日によって10倍以上の差 人を増やさなければ増えない 並列実行・リトライで 使った分だけ膨らむ スケールの怖さ じゃあ、どうやって制限かける？？
5. 04 AgentCoreのPolicy機能で解決できる！ // 1回あたり$10を超えるアクションを禁止 forbid( principal, action == AgentCore::Action::"create_order", resource == AgentCore::Gateway::"<gateway-arn>" ) when { context.input.cost_usd > 10 }; Gatewayが全ツール呼び出しをチェック Cedar言語で「やっていいこと/ダメなこと」を宣言的に定義 エージェントが「ルールを無視しよう」としても 無視できない仕組み
6. 05 昨日さらにアップデート！！ ！ レート制限をユーザー/グループ単位で設定できるように 参考：https://aws.amazon.com/jp/blogs/machine-learning/ control-agent-behaviors-and-cost-beyond-a-single-action-new-capabilities-in-amazon-bedrock-agentcore/
7. 06 トークン数やリクエスト数に上限を設定できる！ transfer_funds（送金）を 5分以内に3回まで に制限 高額操作の前に人間の承認を必須化 （承認なしでは実行不可） 例えば・・・ エンジニア1人あたり トークン10万/分 まで チーム全体で リクエスト100回/秒 まで 同時セッション 5つ まで 特定ユーザーを rate=0 で即ブロック等
8. 07 まとめ ルールを守るための設計が必要 AgentCore Policyで「何をしていいか」を Cedarで定義して暴走させない Rate Limitsで「どれだけ使っていいか」を ユーザー/グループ単位で設定する
9. THANK YOU ありがとうございました