AWS を使った生成AIの活用

7/8(月) Classmethod Odysssey ONLINE Day1 生成AI編
17:10 - 17:50 / AWS を使った生成AIの活用
https://classmethod.connpass.com/event/322685/

Transcript

1. AWS を使った⽣成AIの活⽤ 2024/7/8 AWS事業本部コンサルティング部 森⽥⼒
2. ⾃⼰紹介 2 クラスメソッド株式会社 AWS事業本部コンサルティング部 ソリューションアーキテクト 森田 力 好きなAWSサービス : Amazon Bedrock, AWS Lambda https://dev.classmethod.jp/author/morita-chikara/
3. 本セッションのトピック 3 扱うこと • AWS における⽣成AIサービスの機能紹介 • ユースケースに応じた⽣成AIサービスの選び⽅ 扱わないこと • ⽣成AIの基礎
4. アジェンダ 4 • AWSおけるに⽣成AIサービスのご紹介 • Amazon Bedrock • Amazon Q • Amazon SageMaker • ユースケースに応じた⽣成AIサービスの選び⽅ • 実際のケースから⽣成AIサービスの選択
5. AWSでの⽣成 AI サービスと⾔えば？ 5
6. AWSでの⽣成 AI サービス 6 Amazon Bedrock Amazon Q Amazon SageMaker
7. Amazon Bedrockとは？ 7
8. Amazon Bedrock 8 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails • ウォーターマーク検出
9. Amazon Bedrock 9 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails • ウォーターマーク検出
10. APIベースで ⽣成AI の利⽤が可能 10 API を使用してモデルへのアクセス
11. APIベースで ⽣成AI の利⽤が可能 11 API を使用してモデルへのアクセス
12. APIベースで ⽣成AI の利⽤が可能 12 API を使用してモデルへのアクセス ⽣成AI の利⽤⽅法は API を呼び出すだけ Converse API を利用すると モデルIDを変更するだけで利用できる https://dev.classmethod.jp/articles/amazon-bedrock-converse-api/
13. Amazon Bedrock 13 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails • ウォーターマーク検出
14. ⽣成AIを利⽤する際に便利な機能 ① 14 Knowledge bases for Amazon Bedrock • Amazon Bedrock におけるフルマネージドなRAG • 埋め込みモデル‧ベクトルデータベースの選択可能 • ⽇本語対応可能 引用 : https://aws.amazon.com/jp/blogs/news/knowledge-bases-for-amazon-bedrock-rag-patent/ https://dev.classmethod.jp/articles/introduction-2024- knowledge-bases-for-amazon-bedrock/
15. ⽣成AIを利⽤する際に便利な機能 ② 15 Agents for Amazon Bedrock • ⽣成 AI から任意の処理を実⾏してくれる機能 • ユーザの⼊⼒に応じて、事前に作成しておいたAWS Lambda が実⾏される • 例 : 今⽇の天気を取得したいときに天気情報のAPIを実⾏する 引用 : https://docs.aws.amazon.com/bedrock/latest/userguide/agents-how.html https://dev.classmethod.jp/articles/introduction-2024-agents-for-amazon-bedrock/
16. Amazon Bedrock 16 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails
17. データセキュリティ‧コンプライアンスに対しての対策 17 Guardrails for Amazon Bedrock • ⽣成 AI へ⼊⼒される情報‧出⼒される情報の制御機能 • 禁⽌したいトピックの定義 • 機密情報のブロック https://dev.classmethod.jp/articles/introduction-2024-guardrails-for-amazon-bedrock/
18. Amazon Qとは？ 18
19. Amazon Q 19 Amazon Q Business Amazon Q Developer
20. Amazon Q Business 20 • エンタープライズ向け ⽣成AI サービス • ⽣成AI アプリケーションに必要なサービスをマネージドに提供 • RAG • ⽣成AIモデル • ID管理 • WEB UI • データセキュリティ‧コンプライアンスに対しての対策 • ガードレール • プラグイン（エージェント機能） • 英語のみ対応 Amazon Q Business https://dev.classmethod.jp/articles/introduction-2024- amazon-q-business/
21. ⽣成AI アプリケーションに必要なサービスをマネージドに提供 21
22. ⽣成AI アプリケーションに必要なサービスをマネージドに提供 22 WEB インタフェース メッセージ送信（ファイルも可） 会話履歴
23. Amazon Q Developer 23 • 開発者向け ⽣成AI サービス • JetBrains • VSCode • Visual Studio • コードの提案‧修正 • Amazon Q と会話を通してコードの提案 • コードスキャンを⾏い、セキュリティの脆弱性検出 • レガシーコードを数分でモダナイズ • Javaの⾔語バージョン更新機能 Amazon Q Developer
24. コードの提案‧修正 24 コメント内容からコードの提案 チャットを通じたコードの修正
25. ⽣成AIを開発に利⽤したいなら 25 • チーム開発に必要な機能の⼀通りを提供するサービス • Amazon Q 統合 • コードの提案‧修正 • ⽣成AIによるIssueの対応 • コード⽣成 Amazon CodeCatalyst
26. ⽣成AIを開発に利⽤したいなら 26 • チーム開発に必要な機能の⼀通りを提供するサービス • Amazon Q 統合 • コードの提案‧修正 • ⽣成AIによるIssueの対応 • コード⽣成 Amazon CodeCatalyst
27. Amazon SageMaker とは？ 27
28. Amazon SageMaker 28 Amazon SageMaker • 機械学習モデルを作成‧動作させるためのマネージドサービス • インフラ • ワークフロー • エンドポイント • 独⾃の⽣成 AI モデルを作成することが可能 • Amazon SageMaker JumpStart
29. Amazon SageMaker JumpStart 29 • 機械学習モデルを素早くデプロイ可能 • 独⾃の学習データを利⽤して Fine Tuning ◦ 基盤モデルからオリジナルモデルを作成
30. ここまでのまとめ 30
31. ここまでのまとめ 31 Amazon Bedrock Amazon Q Amazon SageMaker APIベースでのモデルアクセス ✅ ✅ （標準モデルのみ） ❌ Fine Tuning ✅ （対応モデル少） ❌ ✅ RAG ✅ ✅ ❌ WEB UI ❌ ✅ ❌ 日本語サポート ✅ ❌ ✅ 開発用者向け生成AIツール ❌ ✅ ✅ (Amazon Q統合)
32. ユースケースに応じた⽣成AIサービスの選び⽅ 32
33. 選択チャート 33
34. 選択チャート 34 全てのユースケースに対応した選択チャートではないので あくまでもご参考程度にお願いします！
35. 実践: ケースから⽣成AIサービスの選択 35
36. ケース① 36 ⼀般的な情報や社内のナレッジデータに素早くアクセスして作業効率を上げたい • 社内データへのアクセス • RAG • 社員での利⽤ • ID管理 • WEBアプリとして利⽤したい • WEB UIの有無
37. Amazon Bedrockでのチャットアプリ 37 Generative AI Use Cases JP (略称:GenU) AWSの提供しているサンプル集の1つでサーバレスで構築できる https://github.com/aws-samples/generative-ai-use-cases-jp
38. ケース ② 38 ユーザから⼊⼒された質問を最新の製品情報を使って回答⽂を作成したい • 既存のWEBフォームへの機能追加 • 既存のアプリケーションへの組み込み • 最新情報へのアクセス • RAG
39. ケース ③ 39 • デザイン画像の作成 • ⾃社のデザインっぽい画像を⽣成したい ユーザから⼊⼒されたテキストからデザイン画像の作成
40. まとめ 40
41. まとめ 41 • 本セッションでご紹介した機能はほんの⼀部でしかない • 詳しくはAWSドキュメントを確認することをおすすめ • ⽣成AIをAWSで活⽤するためには、ユースケースに応じた選択が⼤事 • 各サービスごとでできること‧できないことがある 正しくサービスの選択ができると 素早く⽣成AIの活⽤ができるようになる。