AWS を使った生成AIの活用

by Morita

Slide 1

Slide 1 text

AWS を使った⽣成AIの活⽤ 2024/7/8 AWS事業本部コンサルティング部森⽥⼒

Slide 2

Slide 2 text

⾃⼰紹介 2 クラスメソッド株式会社 AWS事業本部コンサルティング部ソリューションアーキテクト森田力好きなAWSサービス : Amazon Bedrock, AWS Lambda https://dev.classmethod.jp/author/morita-chikara/

Slide 3

Slide 3 text

本セッションのトピック 3 扱うこと • AWS における⽣成AIサービスの機能紹介 • ユースケースに応じた⽣成AIサービスの選び⽅扱わないこと • ⽣成AIの基礎

Slide 4

Slide 4 text

アジェンダ 4 • AWSおけるに⽣成AIサービスのご紹介 • Amazon Bedrock • Amazon Q • Amazon SageMaker • ユースケースに応じた⽣成AIサービスの選び⽅ • 実際のケースから⽣成AIサービスの選択

Slide 5

Slide 5 text

AWSでの⽣成 AI サービスと⾔えば？ 5

Slide 6

Slide 6 text

AWSでの⽣成 AI サービス 6 Amazon Bedrock Amazon Q Amazon SageMaker

Slide 7

Slide 7 text

Amazon Bedrockとは？ 7

Slide 8

Slide 8 text

Amazon Bedrock 8 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails • ウォーターマーク検出

Slide 9

Slide 9 text

Amazon Bedrock 9 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails • ウォーターマーク検出

Slide 10

Slide 10 text

APIベースで⽣成AI の利⽤が可能 10 API を使用してモデルへのアクセス

Slide 11

Slide 11 text

APIベースで⽣成AI の利⽤が可能 11 API を使用してモデルへのアクセス

Slide 12

Slide 12 text

APIベースで⽣成AI の利⽤が可能 12 API を使用してモデルへのアクセス⽣成AI の利⽤⽅法は API を呼び出すだけ Converse API を利用するとモデルIDを変更するだけで利用できる https://dev.classmethod.jp/articles/amazon-bedrock-converse-api/

Slide 13

Slide 13 text

Amazon Bedrock 13 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails • ウォーターマーク検出

Slide 14

Slide 14 text

⽣成AIを利⽤する際に便利な機能 ① 14 Knowledge bases for Amazon Bedrock • Amazon Bedrock におけるフルマネージドなRAG • 埋め込みモデル‧ベクトルデータベースの選択可能 • ⽇本語対応可能引用 : https://aws.amazon.com/jp/blogs/news/knowledge-bases-for-amazon-bedrock-rag-patent/ https://dev.classmethod.jp/articles/introduction-2024- knowledge-bases-for-amazon-bedrock/

Slide 15

Slide 15 text

⽣成AIを利⽤する際に便利な機能 ② 15 Agents for Amazon Bedrock • ⽣成 AI から任意の処理を実⾏してくれる機能 • ユーザの⼊⼒に応じて、事前に作成しておいたAWS Lambda が実⾏される • 例 : 今⽇の天気を取得したいときに天気情報のAPIを実⾏する引用 : https://docs.aws.amazon.com/bedrock/latest/userguide/agents-how.html https://dev.classmethod.jp/articles/introduction-2024-agents-for-amazon-bedrock/

Slide 16

Slide 16 text

Amazon Bedrock 16 Amazon Bedrock • APIベースで⽣成AIの利⽤が可能 • ⽣成AIモデルは、複数のプロバイダーから選択可能 • ⽣成AIを利⽤する際に便利な機能 • RAG • Agents など • データセキュリティ‧コンプライアンスに対しての対策 • Guardrails

Slide 17

Slide 17 text

データセキュリティ‧コンプライアンスに対しての対策 17 Guardrails for Amazon Bedrock • ⽣成 AI へ⼊⼒される情報‧出⼒される情報の制御機能 • 禁⽌したいトピックの定義 • 機密情報のブロック https://dev.classmethod.jp/articles/introduction-2024-guardrails-for-amazon-bedrock/

Slide 18

Slide 18 text

Amazon Qとは？ 18

Slide 19

Slide 19 text

Amazon Q 19 Amazon Q Business Amazon Q Developer

Slide 20

Slide 20 text

Amazon Q Business 20 • エンタープライズ向け⽣成AI サービス • ⽣成AI アプリケーションに必要なサービスをマネージドに提供 • RAG • ⽣成AIモデル • ID管理 • WEB UI • データセキュリティ‧コンプライアンスに対しての対策 • ガードレール • プラグイン（エージェント機能） • 英語のみ対応 Amazon Q Business https://dev.classmethod.jp/articles/introduction-2024- amazon-q-business/

Slide 21

Slide 21 text

⽣成AI アプリケーションに必要なサービスをマネージドに提供 21

Slide 22

Slide 22 text

⽣成AI アプリケーションに必要なサービスをマネージドに提供 22 WEB インタフェースメッセージ送信（ファイルも可）会話履歴

Slide 23

Slide 23 text

Amazon Q Developer 23 • 開発者向け⽣成AI サービス • JetBrains • VSCode • Visual Studio • コードの提案‧修正 • Amazon Q と会話を通してコードの提案 • コードスキャンを⾏い、セキュリティの脆弱性検出 • レガシーコードを数分でモダナイズ • Javaの⾔語バージョン更新機能 Amazon Q Developer

Slide 24

Slide 24 text

コードの提案‧修正 24 コメント内容からコードの提案チャットを通じたコードの修正

Slide 25

Slide 25 text

⽣成AIを開発に利⽤したいなら 25 • チーム開発に必要な機能の⼀通りを提供するサービス • Amazon Q 統合 • コードの提案‧修正 • ⽣成AIによるIssueの対応 • コード⽣成 Amazon CodeCatalyst

Slide 26

Slide 26 text

⽣成AIを開発に利⽤したいなら 26 • チーム開発に必要な機能の⼀通りを提供するサービス • Amazon Q 統合 • コードの提案‧修正 • ⽣成AIによるIssueの対応 • コード⽣成 Amazon CodeCatalyst

Slide 27

Slide 27 text

Amazon SageMaker とは？ 27

Slide 28

Slide 28 text

Amazon SageMaker 28 Amazon SageMaker • 機械学習モデルを作成‧動作させるためのマネージドサービス • インフラ • ワークフロー • エンドポイント • 独⾃の⽣成 AI モデルを作成することが可能 • Amazon SageMaker JumpStart

Slide 29

Slide 29 text

Amazon SageMaker JumpStart 29 ● 機械学習モデルを素早くデプロイ可能 ● 独⾃の学習データを利⽤して Fine Tuning ○ 基盤モデルからオリジナルモデルを作成

Slide 30

Slide 30 text

ここまでのまとめ 30

Slide 31

Slide 31 text

ここまでのまとめ 31 Amazon Bedrock Amazon Q Amazon SageMaker APIベースでのモデルアクセス ✅ ✅ （標準モデルのみ） ❌ Fine Tuning ✅ （対応モデル少） ❌ ✅ RAG ✅ ✅ ❌ WEB UI ❌ ✅ ❌ 日本語サポート ✅ ❌ ✅ 開発用者向け生成AIツール ❌ ✅ ✅ (Amazon Q統合)

Slide 32

Slide 32 text

ユースケースに応じた⽣成AIサービスの選び⽅ 32

Slide 33

Slide 33 text

選択チャート 33

Slide 34

Slide 34 text

選択チャート 34 全てのユースケースに対応した選択チャートではないのであくまでもご参考程度にお願いします！

Slide 35

Slide 35 text

実践: ケースから⽣成AIサービスの選択 35

Slide 36

Slide 36 text

ケース① 36 ⼀般的な情報や社内のナレッジデータに素早くアクセスして作業効率を上げたい • 社内データへのアクセス • RAG • 社員での利⽤ • ID管理 • WEBアプリとして利⽤したい • WEB UIの有無

Slide 37

Slide 37 text

Amazon Bedrockでのチャットアプリ 37 Generative AI Use Cases JP (略称:GenU) AWSの提供しているサンプル集の1つでサーバレスで構築できる https://github.com/aws-samples/generative-ai-use-cases-jp

Slide 38

Slide 38 text

ケース ② 38 ユーザから⼊⼒された質問を最新の製品情報を使って回答⽂を作成したい • 既存のWEBフォームへの機能追加 • 既存のアプリケーションへの組み込み • 最新情報へのアクセス • RAG

Slide 39

Slide 39 text

ケース ③ 39 • デザイン画像の作成 • ⾃社のデザインっぽい画像を⽣成したいユーザから⼊⼒されたテキストからデザイン画像の作成

Slide 40

Slide 40 text

まとめ 40

Slide 41

Slide 41 text

まとめ 41 • 本セッションでご紹介した機能はほんの⼀部でしかない • 詳しくはAWSドキュメントを確認することをおすすめ • ⽣成AIをAWSで活⽤するためには、ユースケースに応じた選択が⼤事 • 各サービスごとでできること‧できないことがある正しくサービスの選択ができると素早く⽣成AIの活⽤ができるようになる。

Slide 42

Slide 42 text

No content