re:Invent 2024 生成AIまとめ

「AWS re:Invent ふりかえり ビジネス活用にむけた最新動向キャッチアップ」での 生成AIに関するセッションの登壇資料です

日時：2024年12月10日（火）13:00～14:30
タイトル：re:Invent 2024 生成AIまとめ
イベント：https://classmethod.jp/seminar/241210-awsreinvent-reflection/

Transcript

1. 2024/12/10 AWS事業本部 筧剛彰 re:Invent 2024 ⽣成AIまとめ
2. ⾃⼰紹介 2 • 2019年 AWS事業本部 ◦ 内製開発 ◦ AWSテクニカルサポート • 2023年 ⽣成AI案件 ◦ ⽣成AIコンサル ◦ ⽣成AIプロダクト開発（AI-Starter） • 2025年 ⽣成AIインテグレーション部 • 部署 ◦ AWS事業本部 • 名前 ◦ 筧 剛彰（Takaaki Kakei） • 勤務地 ◦ ⽇⽐⾕オフィス • ビジネスのためのChatGPT活⽤ガイド ◦ 第4章「企業における⽣成AIの活⽤ス テップ」を担当 ‧AWS Top Engineers 2021-2023 ‧AWS All Certifications Engineers 2022-2023
3. 主要アップデート紹介
4. Amazon Bedrockとは？ 4 AWS上で様々な基盤モデルにアクセスし、⽣成AIアプリを容易に開発‧展開できるサービス | 参考：https://aws.amazon.com/jp/bedrock/
5. 主要アップデートの観点は？ 5 基盤モデル Amazon Bedrockに、 Amazon Novaシリーズ をはじめ、新しい基盤モ デルが追加されました。 オプション機能 Amazon Bedrockに、コ ストやレイテンシ、回答 の最適化、および安全性 確保のためのオプション 強化を実現する機能が追 加されました。 RAG Amazon Bedrock ナレッ ジベースにも、RAG評価 機能や様々なデータソー スのサポートなど、⾜回 りを強化する機能が追加 されました。 Agent Amazon Bedrock エー ジェントに、複雑なマル チステップタスクに対応 できる機能が追加されま した。
6. 基盤モデル系のアップデート 6 • Amazon Nova ◦ Nova Pro、Nova Lite（テキスト⽣成 - マルチモーダル） ◦ Nova Micro（テキスト⽣成） ◦ Nova Reel（動画⽣成） ◦ Nova Canvas（画像⽣成） • Amazon Bedrock Marketplace ◦ 100以上の基盤モデルに簡単にアクセス ◦ 互換性があれば、Bedrockの周辺機能と統合可能 ◦ 国産モデルも公開（Preferred Networks, Stockmark, KARAKURI） 低コスト‧⾼速なAmazon Novaに注⽬。特にマルチモーダル対応のモデルは様々なユースケースでの業務活⽤に期待。
7. オプション機能系のアップデート（1/2） 7 • レイテンシ最適化機能（プレビュー、⾮東京リージョン） ◦ AWSインフラの最適化により、Bedrockの⼀部モデルで応答速度を短縮 • プロンプトキャッシュ機能（プレビュー、⾮東京リージョン） ◦ 頻繁に利⽤されるプロンプトをBedrock側でキャシュ ◦ コストを最⼤90％、レイテンシを最⼤85%削減可能 • プロンプトルーティング機能（プレビュー、⾮東京リージョン） ◦ 同じモデルファミリーのモデルを、プロンプトの複雑性に応じて⾃動ルーティング ◦ 品質とコスト効率の最適化 ◦ 現在は英語のみ対応 コスト、レイテンシ、品質を最適化するオプションが強化。今後AWS経由でモデルを利⽤することの優位性に注⽬。 対応⾔語や対応リージョンには注意。
8. オプション機能系のアップデート（2/2） 8 • 有害コンテンツ検知機能の拡⼤（プレビュー、東京リージョン） ◦ ガードレールに、テキストだけではなく、画像の検知機能が追加 ◦ マルチモーダルなコンテンツにおける安全性確保が容易に • 回答のチェック機能追加（プレビュー、⾮東京リージョン） ◦ ガードレールに出⼒された回答が論理的に正しいかを⾃動で検証する機能が追加 ◦ 誤回答を防ぎ、より正確性の⾼い応答を提供 ◦ 事前設定として、企業のガイドラインや仕様が書かれたドキュメントをアップロード すると⾃動推論ポリシーが作成される ◦ 現在英語のみ対応。利⽤には AWSへの問い合わせが必要。 ガードレールを⽤いた回答チェック機能に注⽬。 ⾃社独⾃のガイドラインなどをアップロードすることで、⾃動推論ポリシーを構築し、誤回答のリスクを低減可能。
9. RAGとは？ 9 外部リソースから情報を検索し、その知識を活⽤してテキストを⽣成する⼿法 | 参考：https://aws.amazon.com/jp/what-is/retrieval-augmented-generation/
10. RAG系のアップデート 10 • データソースの選択肢拡⼤ ◦ 構造化データの取り込み（⼀般提供開始、東京リージョン） ◦ Kendraのインデックス取り込み（プレビュー、⾮東京リージョン） ◦ カスタムデータソース（⼀般提供開始、東京リージョン） • 情報検索精度の改善 ◦ ⾃動クエリフィルタ機能追加（⼀般提供開始、東京リージョン） ◦ GraphRAG対応（プレビュー、⾮東京リージョン） • RAGの評価機能（プレビュー、東京リージョン） • ユーザー体験向上 ◦ 応答のストリーミング出⼒に対応（⼀般提供開始、東京リージョン） Amazon Bedrock ナレッジベースの新機能がRAGの精度改善に必要な泥臭い作業を⽀援。 AWSでRAGを構築する優位性となることに注⽬。
11. Agentとは？ 11 ⾃律的に環境から情報を得て判断‧⾏動し、⽬標達成を⽬指すシステム | 参考：https://aws.amazon.com/jp/what-is/ai-agents/
12. Agent系のアップデート 12 • マルチエージェントのコラボレーション機能 ◦ 複数エージェントの協調機能 ◦ 「監督者」と「協⼒者」を指定 ◦ 複雑なタスクを分担して効率的に処理可能に ◦ ⼀般提供開始、東京リージョン Amazon Bedrock エージェントが機能強化。エージェントは2025年のトレンドになる可能性が⾼く、今後の動向に注⽬。
13. プレビュー機能にトライアルして、 本番活⽤向けた準備を整える 主要アップデートを踏まえた、次のステップは？ 13
14. ビジネス活⽤事例
15. 参考になるビジネス活⽤事例は？ 15 AWS re:Invent 2024 - [NEW LAUNCH] Practical generative AI using Amazon Nova (AIM398-NEW) | https://www.youtube.com/watch?v=EAlOvEszNB8
16. 紹介するビジネスの活⽤事例 16 Prime Video サポート業務 Amazon広告 Amazon Nova Proを活⽤し て、数時間の映画から3分間 のRecap（要約）を作成 1 2 3 Amazon Novaのマルチモー ダル機能を活⽤し、コスト最 適化に関するサポート業務の 効率化（デモ） Amazon Nova Reelを活⽤し て、Amazon広告⽤の動画作 成を効率化
17. Prime Videoの例 17 • Prime Video上の映画のRecapを⽣成 にするのには数週間要していた ◦ 1. 要約⽣成 ◦ 2. ⾳声合成 ◦ 3. 映像モンタージュ • Amazon Nova Proを活⽤して、⻑動画 の要約⽣成を効率化 • わずか数時間で映画クオリティのシー ズン総集編を実現 Amazon Nova Proのマルチモーダルを活⽤して、⻑時間動画の要約⽣成を⼤幅に効率化
18. サポート業務の例 18 • AWSのコスト最適化サポートの⽀援を 題材（デモ） ◦ 1. AWSアーキテクチャ図をアップロード ◦ 2.コスト最適化の推奨事項を質問 ◦ 3. アーキテクチャ図とAWSベストプラクティ スを元に、AIチャットボットが応答 ◦ 4. 推奨事項を元にしたCDKコードや Cloudformationテンプレートを⾃動⽣成 • Amazon Novaのマルチモーダル ‧Agent‧RAGを活⽤してサポート業務 を効率化 AWS上で様々な技術を組み合わせて、より⾼度なサポート業務改善へ
19. Amazon広告の例 19 • ビデオ広告は⾼いエンゲージメントを⽣む が、制作コストが⾼いという課題があった • Amazon Nova Reelを活⽤して、Amazon 広告のビデオ制作コストを削減 • より多くの広告主が⼿軽なコストで制作で きるように • 電通デジタルは、バナーが⼿軽に動画広告 にして、「効果8倍、費⽤7割減」を報告 ◦ https://news.yahoo.co.jp/articles/becc41979a b4a080c0132eeeaad27fd877c8eb36?page=2 テキスト⽣成モデルだけではなく、動画⽣成モデルでも価値創出のフェーズへ
20. マルチモーダルを活⽤した 業務改善や価値創出へ 活⽤事例を踏まえた、次のステップは？ 20
21. 今後のトレンド予測
22. 2025年はAgentが主役か 22 • OpenAIが次の技術的ブレークスルーとしてAgentを重視 ◦ https://www.reddit.com/r/ChatGPT/comments/1ggixzy/ama_with_openais_sam_altman_kevin_weil_srinivas/?rdt=57490 • 各社がAgent機能やフレームワークを提供開始 ◦ Replit Agent（⾃然⾔語の指⽰からWebアプリを⾃動⽣成） ◦ Cursor - Composer Agen（⾃律的なコード⾃動⽣成、ターミナル操作） ◦ Multi-Agent Orchestrator（AWSによるAgentフレームワーク） ◦ Swarm（OpenAIによるAgentフレームワーク） ◦ Claude - Computer Use（AIが直接コンピュータの操作） • re:Invent 2024は思ったよりAgent関連のアップデートがなかった。 2025年にはAgent機能が多数出てくると推測できる。
23. 世に出ているAgentを実際に触れて、 その概要を把握し、 ビジネスへの適⽤可能性を探り始めよう 今後のトレンド予測を踏まえた、次のステップは？ 23
24. まとめ
25. まとめ 25 • Amazon Bedrockは基盤モデルやRAG、Agentを強化し、より盤⽯な サービスを築きつつある。プレビュー機能を試⾏して、本番環境への適 ⽤準備を整えよう。 • マルチモーダル活⽤による業務改善や価値創出が本格化している今、改 めて⽣成AIの可能性を⾒直し、⾃社ビジネスへの応⽤を検討しよう。 • 2025年はAgentが主役となる可能性が⾼い。キャッチアップと検証を繰 り返し、この新たな潮流に乗ろう。
26. 参考）その他アップデート 26 Amazon Q Amazon SageMaker Amazon Connect ⽣成AIを活⽤したエンタープ ライズ向けアシスタント。運 ⽤調査機能やコードに関する ドキュメントの⾃動⽣成機能 が注⽬。 1 2 3 フルマネージドの機械学習 サービス。次世代 SageMaker、SageMaker Unified Studioに注⽬。 クラウドベースのコンタクト センターサービス。⽣成AIに よるセルフサービスに機能の 提供やAIボットの作成簡素化 など