AWS の生成 AI 最前線 : 顧客起点のイノベーション

AWS が生成AIの領域でどのようにサービスを開発しているのか、「生成AIの本番活用」のためにサービスに加えどのようなプログラムを提供しているのか解説した資料です。 AWS が 100 以上のお客様を支援する中で見えてきた 3 つのラーニングにどのように対応しているのか記載しています。

1. 万能なモデルは存在しない
2. モデル単体で課題は解決しない
3. 技術のみで課題は解決しない

AWS の提供している資料 : 生成 AI 事例集
https://aws.amazon.com/jp/local/genai-4-jp/?awsf.filter-name=*all

生成AIプロジェクトの進め方
https://speakerdeck.com/icoxfog417/100-yi-shang-nosheng-cheng-ai-shi-li-nijian-rubizinesuinpakutochuang-chu-nofang-cheng-shi

Transcript

1. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS の生成 AI 最前線 : 顧客起点のイノベーション Takahiro Kubo Machine Learning Developer Relations
2. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon / AWS にとっての “イノベーション” お客様のために、 お客様に代わり発明する 2
3. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 地球上で最もお客様を 大切にする企業であること Amazon’s Mission:
4. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Working Backwards 4 困りごとが解決されて喜ぶお客様の姿から逆算して考える
5. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon のプレスリリースはお客様の具体的な 体験や疑問に回答するよう作られている 5 生成 AI による顧客レビューの要約のプレスリリース • “製品が使いやすいかどうかを知りたい顧客は、 レビューのハイライトの下にあるその製品属性を タップすることで、「使いやすさ」に言及した レビューを簡単に表示できます。” • AI によって生成された新しいレビュー ハイライト は、購入が検証された方からの信頼できるレビュー コーパスのみを使用し、顧客が一目でコミュニティ の意見を簡単に理解できるようにします。 https://www.aboutamazon.com/news/amazon-ai/amazon-improves-customer-reviews-with-generative-ai プレスリリースを書いてから開発する “Working Backwards” を実行
6. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon での生成 AI 活用 Amazon Alexa で 会話に特化した LLM を開発 出品者向けの 商品説明文作成補助 Amazon Ads での 商品背景画像生成 Amazon One で モデル構築に使う学習データの合成 カスタマーレビューの ハイライト要約 処方箋記載内容の 集約と構造化 https://www.aboutamazon.com/news/innovation-at-amazon/how-amazon-uses-generative-ai
7. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Generative AI 7 生成 AI における困りごとは何か ?
9. 2024 年、お客様の生成 AI 本番活用を徹底的に支援。 100 社以上が本番稼働し定量的効果を計測、公開事例化。 6 月に 2 万人以上が参加した AWS Summit 両日のキーノートでチャレンジを果たしたお客様を ロゴウォールの形で掲載。そこから 12 月までの間に事例数は 2 倍長に伸長。
10. 毎年ラスベガスで開催されている re:Invent に、 日本の金融機関として初めて三菱 UFJ 銀行様が登壇 https://www.youtube.com/watch?v=G8b8LrfXSik
11. グローバルに展開するプロダクトの生成 AI 機能の裏に AWS
12. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 key learnings 12
13. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 万能なモデルは存在しない 13 故に選択肢が重要
14. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 14
15. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Nova の提供開始 15 Amazon Nova Micro マルチモーダル・画像生成・動画生成モデル Amazon Nova Pro Amazon Nova Lite Amazon Nova Premier Amazon Nova Canvas Amazon Nova Reel テキストのみに対応、 低コストと低遅延 [一般提供開始] テキスト以外に画像､音声､ 動画対応のマルチモーダル [一般提供開始] テキスト以外に画像､音声､ 動画対応のマルチモーダル [一般提供開始] マルチモーダル､最も複雑 な推論タスクに対応 [2025年提供予定] テキストからスタジオ品質の 画像を生成 [一般提供開始] テキストからスタジオ品質の 動画を生成 [一般提供開始]
16. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Bedrock Marketplace 16
17. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. その結果可能になる実装: Cross Region & Cross Model の冗長性高い推論 詳細 :どんどこい API 利用制限 : 生成 AI の推論を止めないインフラを設計し実装する 17 検証用アカウントで 20 リクエストを同時に API エンドポ イント送信。単一モデルでは 18% しか対応できないとこ ろ 23% を二番手、59% を三番手のモデルがさばくことで 100% リクエストを返せることを確認
18. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Key Learning from Customers : 2 モデル単体で 課題は解決しない 18
19. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成 AI をビジネスで使おうとすると・・・ • 社内データのつなぎこみ • データの機密性確保 • 誤った情報の出力の防止 • 継続的なモデルの挙動の監視 • 悪意ある入力からの保護 19 モデルの精度も重要ではあるが、 システムとしてのオーケストレーションが課題
20. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 20 - Amazon Bedrock ユースケースに応じて選べる豊富な基盤モデルを共通のAPIで提供するフルマネージドサービス 豊富な基盤モデルの品揃え モデルのカスタマイズ Amazon Bedrock の特徴 • Claude v3.5 • Claude v3 • Claude • Claude Instant • Command R+ • Command R • Command • Command Light • Jamba-Instruct • Jurassic-2 Ultra • Jurassic-2 Mid • Titan Text G1 Premier • Titan Text G1 Express • Titan Text G1 Lite • Titan Image Generator G1 v2 • Titan Image Generator G1 • Mixtral 8x7B Instruct • Mistral 7B Instruct • Mistral Large 2 • Mistral Large • Mistral Small • Stable Diffusion 3 Large • Stable Image Ultra • Stable Image Core • Stable Diffusion XL テ キ ス ト 画 像 エ ン ベ デ ィ ン グ • Titan Text Embeddings V2 • Titan Embeddings G1 – Text • Titan Multimodal Embeddings G1 • Embed English • Embed Multilingual 製品ページ: https://aws.amazon.com/bedrock/ モデルのインポート • ファインチューニング • 継続的な事前学習 SageMaker等のツールで カスタマイズしたモデルを インポートし利用可能 モデルの評価 異なる基盤モデルの 定量比較を自動 or 人手で 行い最適なモデル選択を支援 パワフルなビルダー向けツール 選べる推論オプション オンデマンド プロビジョンドスループット バッチ 入出力トークン数や像数に 応じた従量課金での推論 一貫したスループットを 保証する時間課金での推論 大規模プロンプトセットを 非同期一括処理する推論 （オンデマンド比50%料金） エージェント プロンプトマネジメント ナレッジベース プロンプトフロー フルマネージドな RAG機能 指示に従い基盤モデル、 データソース、APIを オーケストレートする 自律エージェント機能 反復的なプロンプト 開発を支援する プロンプト管理機能 End-to-endの ソリューション構築 を支援するワーク フロー機能 責任あるAIを実現するセーフガード • お客様データはプロバイダに共有されず、 ベースモデルの学習にも利用されない • PrivateLinkによる閉域アクセス • IAMによるアクセス制御 • データ・通信の暗号化 • 実行ログ / APIログ • コンプライアンス標準への適合 （ISO / SOC / HIPAA / GDPR 等) • サービスレベルアグリーメント エンタープライズグレードのセキュリティ ガードレール ウォーターマーク検出 • コンテンツフィルター • 拒否トピック • ワードフィルター • 機密情報フィルター • コンテキストグラウンドチェック 電子透かしの検出機能（Titan） 料金: https://aws.amazon.com/bedrock/pricing/ • Llama 3.1 Instruct • Llama 3 Instruct • Llama 2 Chat • Llama 2 NEW NEW NEW NEW NEW 緑=東京リージョン利用可 クロスリージョン推論対応 NEW NEW NEW
21. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 機械学習の統合開発環境である SageMaker が、 データと AI の統合開発環境へ 21
22. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Key Learning from Customers : 3 技術のみで 課題は解決しない 22
23. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成AI「が」活用できないのか、 生成AI 「も」活用できないのか ? 23
24. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 過去の技術的進化を活用できている企業は、 その後の変化も活かせる傾向がある 24 生成 AI の導入 クラウドネイティブ の導入 導入していない 検討中 試行している 導入している 総計 導入していない 94 30 41 25 190 検討中 10 24 29 6 69 試行している 16 8 46 22 92 導入している 15 22 81 89 207 総計 135 84 197 142 558 IPA 「 2023 年度ソフトウェア開発に関するアンケート調査」の結果をクロス集計し作成 クラウドが活用できている企業は生成 AI も 活用できている傾向がある ( その逆も言える )
25. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 100 以上の事例にみる共通点 25 顧客起点文化 頻繁な実験 小規模なチーム ほぼすべての会社が、顧客体験はもちろん社内の 営業やカスタマーサポートの人たちの作業がどれ だけ改善されたのか効果を定量的に計測している。 2~4 名のチーム、最も小さい場合 1 名 ( 第一興商 ) で PoC を実施。エフピコ、丸紅などでは若手で チームを組成し経験を積ませている。 ほぼすべての会社が 1~3 ヵ月で本番稼働。 ISMS 監査に使用している FleGrowth でもプロト タイプは 3 ヵ月で仕上げており、この短さは基本 業界を問わない。 ※当たり前のようだがデータ利活用に取り組む企業の 50% 近くは 成果を測定していない ( DX 白書 2023 より )
26. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 100 以上の事例にみる共通点 : 本番稼働後に定量的な効果が確認できた事例から 有効なユースケースはある程度めどがついている 26 https://speakerdeck.com/icoxfog417/100-yi-shang-nosheng-cheng-ai-shi-li-nijian-rubizinesuinpakutochuang-chu-nofang-cheng-shi
27. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 組織的課題解決の基本方針 : ハイインパクトな ユースケースを組織変革のテコに 簡単に始められる Technology である生成 AI はこれまでの技術に比べ扱いが容易。 成功しやすいハイインパクトなユースケースを選択し、今後の変革を担う小規模か つ頻繁な改善ができるチームに託すことで組織変革を進める。 27 短期間での成功体験 を積ませることで 社内での浸透の弾み をつける Technology Process People 顧客起点文化 小規模な チーム 頻繁な実験
28. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 🤝チームの組成に重点 : ML Enablement Workshop 28 生成 AI を含めた AI/ML 技術を、プロダクトの成長に繋げられるチームを組成する ためのワークショップ。 9/30 発売の 9/30 発売の 「事例でわかるMLOps 機械学習の成果をス ケールさせる処方箋」 にて詳細掲載
29. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 🚀 迅速な本番実装に重点 : AWS の生成 AI 活用開始プログラムの例 30 Amazon の顧客志向に基づき、お客様が生成 AI を活用する際の課題を徹底的に解決 ①有効なユースケース を特定できない ②実装能力・経験に 不安がある ③検証中のコストに 不安がある 2024 年から 5 社に提供、うち 1 社は 3 ヶ月 で公開事例に、続いて 2 社も事例化 Amazon をはじめ EC 領域で生成 AI を活用し効果を出している 企業の事例セッションを開催。事例で活用されたユースケース から、自社の課題に基づき最もインパクトの高いユースケース を選択する「ユースケース確定ワークショップ」を実施。 ユースケースに特化した動かせるデモプログラムを提供。 すぐに効果を試せるだけでなく、自社用途に合わせてカスタマ イズする方法を学ぶ Prototyping Camp を提供。 3 ヵ月以内の本番稼働を条件に AWS のクレジットを提供。 また、プロトタイピングチームによる無償の開発支援を提供。 ※本プログラムは窓口のある常設プログラムではありません。提供状況は AWS 担当にご確認ください
30. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 🍵 顧客起点文化に重点 : Amazon 流のプロダクト作りを伝えるプログラム AWS Executive Insights で Amazon の継続的にイノベーションを起こす手法を発信。 AWS Executive Briefing Center (EBC) を活用し個別課題について具体的に話すこと も可能。 31 https://aws.amazon.com/jp/executive-insights/ebc-executive-briefing-center/ https://aws.amazon.com/jp/executive-insights/
31. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 生成 AI のユースケースがすぐに試せるサンプル を公開 : 導入にかかる時間は 10 分前後 32 https://github.com/aws-samples/bedrock-claude-chat/tree/v1 https://github.com/aws-samples/generative-ai-use-cases-jp Generative AI Use Cases JP Bedrock Claude Chat 上場企業含む千社超が活用
32. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 一歩踏み込んだ業界特化のデモにより高速な プロトタイピングを実現 https://aws.amazon.com/jp/blogs/news/aws-summit- 2024-retail-cpg-ec-genai-bedrock-demo-architecture/ EC 業界向け 製薬業界向け 物流業界向け https://aws.amazon.com/jp/blogs/news/aws- summit-japan-2024-hcls-booth/ https://aws.amazon.com/jp/blogs/news/aws- summit-japan-2024-awsvillage-logistics- industry/ 商品の背景画像生成等 横断的な先行研究の 調査・可視化等 在庫状況に応じた質問 回答等
33. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS がどのような戦略で生成 AI に向きあってい るのか ? 生成 AI の活用に際して直面する技術的・組織的課題を 顧客起点で特定し、ワンストップで提供する ソリューションを提供するる 圧倒的にビジネスに強い生成 AI を体現 34
34. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 35
35. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. 資料集 生成 AI 事例集 36 AWS re:Invent 2025 発表総まとめ Generative AI Use Cases
36. © 2024, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! 37