Amazon Bedrock AgentCoreって 最高なんだよなぁ！

JAWS-UG 茨城 #17 秋の推しAWSサービスLTまつり！で登壇させていただいた際の資料です。

Transcript

1. Amazon Bedrock AgentCoreって 最高なんだよなぁ！ JAWS-UG 茨城 #17 秋の推しAWSサービスLTまつり！ くらっち
2. 自己紹介 普段の業務 Railsアプリのエンジニア / QAエンジニア / AIエンジニア 社内業務アプリ開発 自社プロダクトQA担当 開発部AI推進担当 ちょっとインフラも 趣味 スポーツ 野球, ソフトボール くらっち 23卒 JAWS-UG 東京支部 運営メンバー マラソン ビーチラグビー スキー, スノボ
3. 皆さんAIエージェント構築してますか？
4. Amazon Bedrock AgentCore 使ってますか？
5. 今の時代、 コーディングエージェントにデプロイまで 任せることができてしまうので
6. Amazon Bedrock AgentCore Runtimeへの AIエージェントデプロイって なんとなぁく出来てしまうんですが
7. 「 デ プ ロ イ で き た ！ 」「 動 い た ！ 」 で終わってませんか？
8. 今日はBedrock AgentCore Runtimeの 推しポイントを共有します！
9. Amazon Bedrock AgentCore Runtimeって？ Bedrock AgentCore Runtimeの推しポイント Agenda セッション分離とmicroVMがもたらすのは？ AIエージェント以外もデプロイできる？ 最近Runtime V2ってのが出てきましてね まとめ
10. 01 Amazon Bedrock AgentCore Runtimeって？
11. Amazon Bedrock AgentCore Runtimeって？ Amazon Bedrock AgentCore Runtimeは、 AI エージェントまたはツールをデプロイして実行するための 安全でサーバーレスな専用のホスティング環境を提供するサービスです。 特徴はAIエージェント, MCPサーバーなどを構築しやすい！というところ。 Bedrock AgentCore Runtimeがない場合、こんな問題が浮上します。 「Lambdaにデプロイしたいけど15分の制約が...」 「EC2やECSで構築したいけどコストがなぁ...」 こんな問題を解決するのが、Bedrock AgentCore Runtimeです！
12. 02 Bedrock AgentCore Runtime の推しポイント
13. 推しポイント1:フレームワークに依存しない Strands AgentsというAWS産OSSのAI Agent SDKが存在していますが、 これに依存しているわけではありません。 LangChainやClaude Agent SDK, OpenAI Agents SDKなども Bedrock AgentCore Runtime上で動かすことができます。 こいつら全部動かせます！
14. 推しポイント2: 3種のプロトコルをサポート Bedrock AgentCore Runtimeでは、 「HTTP」「MCP」「A2A」のプロトコルをサポートしています。 AIエージェントだけでなく、MCPサーバーも構築可能です。 推しポイント3: 動いた時間だけ課金 Bedrock AgentCore Runtimeは、処理が動いた時間のみ課金されます。 EC2インスタンスみたいに、ずっとサーバーを稼働させておく必要はあり ません。 に優しいので気軽に試せる！
15. 推しポイント4:各エージェントのセッションが分離 ユーザから呼び出された処理は、セッションごとに分離されたVM上で 動作します。 これにより、他のセッションからの余計なデータ混入を防ぐことができ たり、セッションごとの状態を安全に管理することができます。 ここが一番の 推しポイント！ session_id: 111 session_id: 222 session_id: 333
16. 推しポイント5:大量のペイロードが可能 Bedrock AgentCore Runtimeでは、最大100MBのリクエストを送ること ができます。 Runtime上のAIエージェントに、画像や動画などの大きめのコンテンツな どを送りつけることもできます。
17. 03 セッション分離とmicroVMが もたらすのは？
18. セッション分離とmicroVM 先ほどのスライドで、以下のようなことを実現できるとお伝えしました。
19. 正直、何がありがたいのか イメージつきにくくないですか？
20. 一旦、ECSと比較してみましょう
21. ECS上でAIエージェントを動かす場合 全てのセッションが同一環境の別プロセスで動作することになります。 仮に、この環境で動作するAIエージェントに rm -rf コマンドを実行させること を想像しましょう。 各エージェントのセッションがVM単位で 分離されていない場合、エージェント/アプリ 側でコマンドを排他的に実行するための処理 を用意する必要がある エージェントA エージェントC エージェントB エージェントD このままだと エージェントAが他のエージェントが生成した成果物などを 削除できてしまう可能性がある！
22. Bedrock AgentCore Runtimeは？
23. セッションごとにVMが分離されているので エージェントが rm -rf コマンドを実行したとしても 他のエージェントの成果物が削除されることはない！ session_id: 111 session_id: 222 session_id: 333 あらゆるコマンド実行が各セッション内に対してのみ実行されるので安全！
24. ログやトレースの追跡も結構楽でぇ
25. ECSの場合 セッションごとに出力するロググループやログストリームを分離するためには アプリ側でCloudWatch Agentなどでログを振り分ける処理を用意する必要があ る CloudWatch logsに送信する過程で セッションごとにログを振り分けて 送信する必要がある エージェントA エージェントB エージェントC エージェントD
26. Bedrock AgentCore Runtimeの場合 microVMごとにログストリームが分かれて送信されるようになっている ので、アプリ側での処理が不要！ session_id: 111 最初から分離されている状態で ログストリームが送信されます。 ※ ロググループは同じです session_id: 222 session_id: 333 アプリ側でログをセッションごとに振り分ける という処理を実装する必要がありません！
27. セッションごとにVMが分離されているだけで 余計なロジックを組む必要がない っていうのが伝わりましたかねぇ
28. 04 AIエージェント以外も デプロイできる？
29. できます
30. AgentCore Runtimeがサポートするプロトコル Bedrock AgentCore Runtimeは「HTTP」「MCP」「A2A」をサポート済。 MCPサーバーを構築できるのは当たり前なんですが、 「HTTP」プロトコルを使用して、よくあるAPIのようなアプリケーションを デプロイすることも可能です。 足し算するだけの関数を デプロイするだけ というのも可能 POST /invocations { x: 1, y: 2 } def add() { result: 3 }
31. ただ、エージェント以外をデプロイする理由がない
32. エージェント以外をデプロイする理由がないとな？ Bedrock AgentCore Runtimeへのリクエストって、 「POST /invocations」しか対応していないんですよね... ヘルスチェックは「GET /ping」のみ対応。 エントリーポイントを 「POST /add」のようにすることができない... APIを デプロイするなら AgentCore Runtime 以外を選択！ POST /add { x: 1, y: 2 } def add() { result: 3 } ※ 単一のエントリーポイントで 長時間動かすワーカー処理とかなら 良いかも？
33. 05 最近Runtime V2ってのが 出てきましてね
34. Runtime V2で変わったこと 変わったのは、大きく2つです。 メモリ効率が改善された 復元時にスナップショットから復元されるようになった
35. メモリ効率が改善？ そもそもメモリが何に使われているかというと、 読み込んだテキストやJSON、実行中のコード、LLMへのリクエストや途中 結果、ツール実行中のデータとかを保持しておくのに使用します。 比較するとこんな感じ V1 ピーク時のメモリを常に保持し続ける V2 必要な分を読み込み、不要なメモリは回収する 処理が重いときだけメモリが増え 処理が軽くなったら不要なメモリは回収される！
36. スナップショットから復元されるようになった？ V2では、Runtime環境の作成/更新時にスナップショットが保存されます。 V1ではスナップショットの保存はされていませんでした。 これによって POST /invocations された時に起動する時間が早くなります ただし、スナップショットを作成する分、デプロイに時間がかかります。 V1 デプロイは早いが、毎回の起動は遅い V2 デプロイは遅いが、毎回の起動は早い （高速コールドスタート） デプロイが遅いと言ってもストレス溜まるレベルではないはず！ （エージェントのコンテナイメージのサイズにもよります。）
37. まとめ AI エージェントまたはツールをデプロイして実行するための安全で サーバーレスな専用のホスティング環境を提供するサービス セッションごとに分離されたVM上で動作することでエージェントの 構築がかなり楽に！ログ, トレースの追跡もかなり楽に！ エージェント以外もデプロイできるけど単一のエントリーポイントし か使えない v2へのアプデによってメモリ効率とコールドスタートが改善！
38. 東京支部として宣伝！
39. 10/21（水） 12:00 〜 13:00 ＠オンライン 10/21（水） 19:00 〜 21:00 ＠高輪ゲートウェイ 12/19（土） 12:30 〜 18:00 @麻布台ヒルズ（AWS本社）
40. 以上！