地に足のついた AI エージェント開発の進め方

AWS UNICORN DAY 2025 © 2025, Amazon Web Services, Inc.
or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 地に足のついた AI エージェント開発の進め方 Senior Machine Learning Developer Relations Takahiro Kubo

or its affiliates. All rights reserved. 2 自己紹介アマゾンウェブサービスジャパン合同会社 Machine Learning Developer Relations 久保隆宏 (Takahiro Kubo) 技術監修翻訳 AI/ML についての技術的な解説や AWS のサービスの紹介はもちろん、「機械学習の実プロダクトでの活用」を進めるためのワークショップや情報提供、また AWS のサービス改善に取り組んでいます。単著寄稿

© 2025, Amazon Web Services, Inc. or its affiliates. All
rights reserved. 4 I N T E RNE T E RA MO B I L E E RA S O C IA L E R A A I E R A 過去登場した技術は 10 年以上にわたり発展 Mobile Cloud Social Video eCommerce 3D&I AI Web

or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS UNICORN DAY 2025 Agenda 1. AI エージェント技術の仕組み 2. AI エージェント活用に必要な準備と対策 3. AWS の包括的なオファリング

or its affiliates. All rights reserved. 11 AI エージェントに至る進化の系譜テキスト入力の続きを生成するキーワード: 言語モデル会話形式入力の続きを (外部知識と連携し) 生成するキーワード: ChatGPT (2023) AI アシスタント RAG タスク完了に至る計画を生成するキーワード: Reasoning model (Thinking model) タスク完了に至る計画を実行するキーワード : AI エージェント AI Agent (2025) 画面入力・操作を扱えるようにキーワード: Computer Use 外部連携可能なデータ形式を生成し処理を起動するキーワード: Function Calling Code Interpreter 外部連携技術計画性能向上高精度かつ汎用的な生成

or its affiliates. All rights reserved. 12 AI エージェントの仕組み目的 (ゴールを伝える) AI エージェント環境 ②ツールの利用 ③観測目的結果 ①計画目的とツールを与えるのみでタスクを自律的に完了する技術 ① 完了までの計画を作成 ② 計画を進めるためにツールを利用 JSON 等の構造化データで API 呼出 SQL 等のプログラムにより直接操作 ③ 実行結果を観測し進捗を更新結果を出力

or its affiliates. All rights reserved. 13 AI エージェントと既存技術の違い RPA と異なり、タスク完了までのプロセスは動的に作成する事前定義する固定的なワークフローではない = RPA ? = Chat AI ? = Assistant ? チャット型 AI と異なり、再帰的に行動する逐次指示がなくても、自律的に次のタスクを推定し行動するアシスタント型の AI と異なり、AI 側が作業を主導する与えられたツールにより、人間の作業を代行する

or its affiliates. All rights reserved. 15 生成 AI 活用の基本的な進め方生成 AI を試し知見を共有する Step 1 生成 AI に課題解決を任せ実用性を確認 Step 2 Step 3 生成 AI の実績を広める KPI : PoC 候補アイデア数 KPI : 課題に応じた効果指標 KPI : 導入社数・継続利用月数持続的に行うにはどんな準備が必要 ?

or its affiliates. All rights reserved. 17 先進的企業における「試す」速度 Canva : 画像生成 AI をいち早く活用することを決断。 3 週間以内で 1 億人のユーザーへ画像生成機能を提供。 Bloomberg : 金融に特化した大規模言語モデルの自社構築を決断。生成 AI の構築と活用のノウハウをいち早く学習。 Perplexity : 検索と生成 AI を組み合わせたサービスの市場投入をいち早く決断。2024 年時点で月間約 1,000 万のアクティブユーザーが利用するサービスに。

or its affiliates. All rights reserved. Amazon の生成 AI 活用の速度と進化 Alexa+ で自然な対話とショッピングの実現商品説明文の作成を補助する Enhance My Listing Amazon Ads での商品背景画像生成カスタマーレビューのハイライト要約処方箋記載内容の集約と構造化 AI Agent を用いた代理購買 “Buy For Me” https://www.aboutamazon.com/news/innovation-at-amazon/how-amazon-uses-generative-ai

or its affiliates. All rights reserved. Amazon の配送における生成 AI の活用生成 AI マッピング技術 Wellspring 生成 AI 技術を活用した需要予測ロボットの AI エージェント化 https://www.aboutamazon.com/news/operations/amazon-ai-innovations-delivery-forecasting-robotics 十分情報がない複合施設や新興住宅地の配送効率向上に課題。衛生画像や街路画像、過去の配送データ等を基に生成 AI で精密化。 400 万の便利な駐車場の特定や建物入り口の特定により配送効率化地域や時期による商品需要の変動をより正確に予測する必要がある。生成 AI の中核である基盤モデルの技術を需要予測に応用。セール時の全国予測 10% 改善と共に地域別の人気商品予測精度を 20% 改善。ロボットへの作業指示が複雑で効率的に行える指示が限定的。視覚言語モデル (VLM) を活用し、自然言語での指示を理解・実行できるAIフレームワークの開発。反復作業の効率化や複数指示をこなせる能力の獲得を見込む。

or its affiliates. All rights reserved. Amazon Bedrock : 多用なモデルをワンストップで提供 NOVA JAMBA CLAUDE COMMAND EMBED RERANK LLAMA RAY2 Highly efficient processing & grounded generation for long context lengths Professional-grade images with creative control, deployable at scale Advanced image & language reasoning Specialized expert models for agentic reasoning and multimodal tasks High-quality video generation with natural, coherent motion & ultra-realistic details Software engineering AI for large enterprises STABLE DIFFUSION MISTRAL MIXTRAL PIXTRAL MALIBU POINT Frontier intelligence & industry leading price performance Excels at complex reasoning, code generation, & instruction following Powering efficient, multilingual AI agents with advanced search & retrieval Advanced reasoning models that solve complex problems step-by-step DEEPSEEK-R1 CTRL + F for video data: unlock the full potential of enterprise video assets PALMYRA Purpose-built models for building & scaling AI agents across the enterprise MARENGO PEGASUS (Coming soon) (Coming soon) OpenAI の公開した 20B、120B モデルもサーバーレスで提供

or its affiliates. All rights reserved. 22 フレームワーク非依存のランタイム環境を提供する AgentCore Runtime フレームワークやモデルを変更しても一貫したデプロイ手順と環境を提供 Model Framework Docker file Amazon ECR AgentCore Runtime agentcore configure -e my_agent.py agentcore launch

or its affiliates. All rights reserved. 23 Generative AI Use Cases (GenU) の活用プロンプトの書き方を覚えなくても生成 AI の鉄板ユースケースをすぐに利用できるエンドユーザー向けのアプリケーション。 • 導入実績上場企業や医療機関をはじめとした 2,000 を超えるお客様での利用実績 • セキュリティログイン認証に加え SAML 連携 (Azure AD / Google Workspaces 等) 認証、 IP アドレス制限が可能。送受信されるデータは暗号化され第三者の参照や学習に使用されることはない • AI エージェント連携 2025/8/27 公開の v5 で AgentCore に対応。デプロイした Runtime を GenU から利用可能チャットはもちろん、翻訳、議事録作成、図表作成など頻繁に使う機能をビルトインで提供。 AWS が MIT ライセンスの元 GitHub 上でオープンソースとして開発。ホスティング費用のみで利用可能

or its affiliates. All rights reserved. 24 ブラウザからワンクリックで構築 : AWS Generative AI Solution Box AWS アカウントがあれば 10 分程度で環境構築を完了 ❶ ❷ ❸ AWS アカウントにログイン左記サイトからソリューションを選んでクリック構築の開始・完了はメールで連絡アプリケーションの利用を開始！ • Generative AI Use Cases に加え、 Dify などもワンクリックデプロイ • 開始時にセキュリティやコストに関するオプションを画面で設定可能 • 開始後に本格的に利用する場合、設定を変更し継続利用可能 https://aws-samples.github.io/sample-one-click-generative-ai-solutions/

or its affiliates. All rights reserved. お客様プロフィール “ ビジネスの課題ソリューション導入効果 © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • 新サービス企画業務において、市場調査・分析に 1 時間、企画書作成に 1 時間と計 2 時間の工数は必要 • 市場調査では競合サービスの Web サイトを一つ一つ見る作業を繰り返し行っており、非効率的で業務の生産性が低かった • わずか 3 名で 1 か月間で構築。企画毎に 2 時間ほど取られていた調査分析作業を 98.3% 減の 2 分に短縮することに成功 • 今後はマーケティング業務における生成 AI の適用範囲を広げ、更なる自動化の推進や、構築した仕組みのサービス化を計画中アプリケーション開発 30 年以上の実績を元に、システムの企画・コンサルテーションから構築・運用管理までトータルソリューションを展開。 I N D U S T R Y 情報通信・インターネット C O U N T R Y 日本情報収集・競合調査が単語 1 つの入力であっという間にできるので、企画の素案作成が従来の何十倍も効率的になりました！株式会社シスラボ営業本部ソリューション営業部 1 課課長濱井啓介様株式会社シスラボ: 新サービス企画における市場調査・分析作業を 98.3% 削減 • Web サイトから情報取得を行う AWS Lambda の実装と Amazon Bedrock Agent により、調査トピックを入力するだけで複数サイトの検索を自動化 • Amazon Bedrock で調査した情報を要約、競合比較表に落とす業務を自動化 • AWS WAF による不正アクセス制御と VPC 内の利用に閉じる Amazon Bedrock の採用でセキュリティ面の課題もクリア

or its affiliates. All rights reserved. 28 AI エージェントによる市場調査の例 AI エージェント ※説明のために形式化しているため、実際に事例の中で取られた手法と一致しない点に注意ください ①計画 : 1. 競合他社調査 2. 市場レポート調査 3. 比較表まとめ環境 ②ツールの利用 : Web 検索調査結果ファイル ③観測 : データを取得・競合製品・市場動向など 2 時間から 2 分に短縮 (98.3% 減) ◦◦市場について知りたい

or its affiliates. All rights reserved. 29 持続的な期間においてリスクは高確率で発現するエアカナダ : 2024/2 忌引割引の利用が、事後でも可能と生成 AI チャットボットが誤って回答。払い戻しについて裁判となり、エアカナダが敗訴。裁判所は、「自社サービスの運用をゆだねる以上、出力結果に対し当該企業が責任を負うべき」と判断。チャットボットは事案発生後に停止。マクドナルド : 2024/6 ドライブスルーでの AI 音声注文システムを 2021 年に導入。2023 年に、注文が誤認識される様子が Tiktok で拡散、100 店舗以上に展開していたシステムを撤去することを 2024 年 6 月に決定。 Dynamic Parcel Distribution (DPD) : 2024/1 フランスの配送会社で、AI チャットボットが求める回答をしないことに苛立ったユーザーが、DPD について悪口を言うよう指示したところ、会社批判を行う返信を始めた。その様子がソーシャルメディアで拡散し、チャットボットは一時運用停止となった。

or its affiliates. All rights reserved. 32 AWS とお客様とで責任を持つ範囲を識別し対策 AWS クラウドのセキュリティに対する責任お客様クラウド内のセキュリティに対する責任お客様のデータプラットフォーム、アプリケーション、ID とアクセス管理オペレーティングシステム、ネットワーク、ファイアウォール構成クライアント側のデータ暗号化とデータ整合性認証サーバー側の暗号化 (ファイルシステムやデータ) ネットワークトラフィック保護 (暗号化、整合性、アイデンティティ) ハードウェア/AWSグローバルインフラストラクチャーソフトウェアリージョンアベイラビリティゾーンエッジロケーションコンピュートストレージデータベースネットワーキング

or its affiliates. All rights reserved. 33 AWS として提供するサービスのリスク対策は ? AWS クラウドのセキュリティに対する責任お客様クラウド内のセキュリティに対する責任お客様のデータプラットフォーム、アプリケーション、ID とアクセス管理オペレーティングシステム、ネットワーク、ファイアウォール構成クライアント側のデータ暗号化とデータ整合性認証サーバー側の暗号化 (ファイルシステムやデータ) ネットワークトラフィック保護 (暗号化、整合性、アイデンティティ) ハードウェア/AWSグローバルインフラストラクチャーソフトウェアリージョンアベイラビリティゾーンエッジロケーションコンピュートストレージデータベースネットワーキング

or its affiliates. All rights reserved. 34 主要なクラウドサービスプロバイダーとして初めて AI マネジメントシステムの認証を取得 ISO/IEC 42001 https://aws.amazon.com/jp/blogs/news/aws-achieves-iso-iec-420012023-artificial-intelligence-management-system-accredited-certification/ AI システムにおけるリスク評価し、対応、影響評価を通じ継続的な改善を行うための要求事項を定める。 Amazon Bedrock、Amazon Q Business、Amazon Textract、および Amazon Transcribe で取得。

or its affiliates. All rights reserved. 35 お客様が生成 AI システムのリスクを特定・対策するのにどのようなサービスを活用できるか ? AWS クラウドのセキュリティに対する責任お客様クラウド内のセキュリティに対する責任お客様のデータプラットフォーム、アプリケーション、ID とアクセス管理オペレーティングシステム、ネットワーク、ファイアウォール構成クライアント側のデータ暗号化とデータ整合性認証サーバー側の暗号化 (ファイルシステムやデータ) ネットワークトラフィック保護 (暗号化、整合性、アイデンティティ) ハードウェア/AWSグローバルインフラストラクチャーソフトウェアリージョンアベイラビリティゾーンエッジロケーションコンピュートストレージデータベースネットワーキング

or its affiliates. All rights reserved. 36 リスクの特定支援 : Threat-Composer を提供システムに対する潜在的なリスクを特定し分析する「脅威モデリング」の実行をサポートするツールをオープンソースで共有。 AI アプリケーションのセキュリティリスクをまとめた OWASP Top 10 LLM Applications 2025 にも対応。 https://github.com/awslabs/threat-composer

or its affiliates. All rights reserved. 37 Amazon Bedrock Guardrails によるモデル制御 : リスク発現の抑止とモニタリング Amazon Bedrock Guardrails により、信憑性や有害性などリスクの高い応答を同期・非同期双方でフィルタできる CloudWatch からフィルタされた件数をモニタリングし、個別のリクエストについてトレースを確認できる。 https://qiita.com/icoxfog417/items/4642b2a463074df13b40

or its affiliates. All rights reserved. 39 Amazon Bedrock AgentCore : 中核の実装以外をマネージドサービスにオフロード AI エージェントツールの管理ホスティング環境運用監視ガードレール認証・認可セッション記憶管理ツールの実行環境 AgentCore Runtime AgentCore Observability AgentCore Memory AgentCore Gateway AgentCore Browser AgentCore Code Interpreter AgentCore Identity Amazon Bedrock Guardrails

or its affiliates. All rights reserved. 41 先 10 年のゴールに至るマイルストンを計画する左記は、自動運転のレベルをベースにした「業務の委譲」レベル。 • どんな業務 (環境) で • 何年後に • どの Level まで到達するかをマイルストンとして決める。 Level を上げていくには顧客からの信頼が不可欠。 Level 5 Level 4 Level 3 Level 2 Level 1 AI 主体人間主体タスクの受付から完了まで、 AI が自律的に実行特定条件下において、AI が自律的にタスクを実行緊急・例外時に人間が介入する前提で AI が自律的にタスクを実行人間の業務を、指示に基づき一部「代行」する人間の業務を AI が「支援」する

or its affiliates. All rights reserved. 43 AWS Executive Briefing Center (EBC) お客様の経営層の皆様に対し、クラウド戦略やデータ、 AI/ML の活用といった個別課題について Amazon のカルチャーや進め方、テクノロジーを含めお伝えし、議論する場。本日の説明資料は、EBC の資料の一部を使用しています。 https://aws.amazon.com/jp/executive-insights/ebc-executive-briefing-center/

or its affiliates. All rights reserved. 44 AWS での事例化を通じた社内外での認知向上 AWS のイベントで動画チャンネルで外部広告で https://www.youtube.com/watch?v=RJkDBchnixQ https://www.youtube.com/@JPAmazonWebServices ※ AWS での事例化や、イベントやメディアでの露出は確約されるものではございません

or its affiliates. All rights reserved. 45 ML Enablement Workshop : Amazon 流のプロダクトづくりを実践生成 AI を含めた AI/ML 技術を、プロダクトの成長に繋げられるチームを組成するためのワークショップ。自社はもちろん、顧客との共同開催も推奨。 2024/9/30 発売の「事例でわかるMLOps 機械学習の成果をスケールさせる処方箋」にて詳細掲載

or its affiliates. All rights reserved. 46 銀行からテクノロジー企業まで幅広いお客様が活用 2025/9/1 に最新となる v3 を公開、提供を開始済み。ワークショップ期間中に AI Coding Agent を用いたモックの開発と効果計測・反映までを実践する。 https://github.com/aws-samples/aws-ml-enablement-workshop

or its affiliates. All rights reserved. 47 2 パートのワークショップのイメージ “Making sense of MVP (Minimum Viable Product) – and why I prefer Earliest Testable/Usable/Lovable” より引用通常のワークショップ半日 / 数日かけて順番にワークを進める。成果物はテキストのみ。終了後、見直しや実装が行われることはほぼない、 ML Enablement Workshop 実践編で 4 時間以内に全プロセスを完了。生成 AI を活用し検証可能な Mock を構築。改善編で実測値を基に自律的な改善を開始。

or its affiliates. All rights reserved. 49 AWS と共に長期戦の準備を備えるコンディション (環境) を整えるケガ (リスク) の予防レース全体の計画 Amazon Bedrock: Anthropic, OpenAI を含めたモデルをワンストップで利用。 AgentCore Runtime: 日々進化するモデルとフレームワークに依存しないデプロイ環境で技術的負債の蓄積を防止。 Generative AI Use Cases: セキュリティと UI を具備した Generative AI Use Cases で検証・展開を加速。 ISO/IEC 42001: AI システム開発におけるリスク評価・対策の認証を取得。 AgentCore: 認証認可やスケーラビリティ、監視といった安全性の確保に不可欠な周辺機能をオフロードしコア機能の実装に注力。 Amazon Bedrock Guardrails: モデルへの入出力を検証し、 CloudWatch でリアルタイムで観測可能。 ML Enablement Workshop: Amazon 流のプロダクトづくりを実践するワークショップを通じ、(顧客と共に) 革新的な活用を特定し実装の計画を立てる。事例化: 事例化を通じ、AWS の様々な媒体での露出の機会につなげる ※機会は確約されるものではありません

地に足のついた AI エージェント開発の進め方

地に足のついた AI エージェント開発の進め方

More Decks by Takahiro Kubo

Featured

Transcript