「AWSによる独自データ活用の生成AIソリューション」というタイトルでCM re:Growth 2023に登壇しました #AWSreInvent #cmregrowth

by TakaakiKakei

Slide 1

Slide 1 text

AWSによる独⾃データ活⽤の⽣成AIソリューション筧剛彰（Takaaki Kakei） 2023/12/08 1

Slide 2

Slide 2 text

2 自己紹介筧剛彰 Takaaki Kakei ● AWS事業本部 ● 業務改善や生成AIアプリ開発 ● re:Invent2023で初の現地参加

Slide 3

Slide 3 text

3 皆さん、生成AIを業務活用されていますか？

Slide 4

Slide 4 text

4 皆さん、独自データを活用した生成AIを使っていますか？

Slide 5

Slide 5 text

5 このセッションについて re:Invent2023で発表された、独自データ活用の生成AIソリューションを3つ紹介します Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 6

Slide 6 text

6 このセッションのゴール AWSによる独自データ活用の生成AIソリューションついて話せる人になりましょう！

Slide 7

Slide 7 text

7 目次第0部：まずは「独自データを活用した生成AI」について知ろう第1部：Amazon Q編第2部：Amazon Bedrock - Knowledge base編第3部：Amazon Bedrock - Agents編セッションのまとめ

Slide 8

Slide 8 text

8 PART 0 まずは「独自データを活用した生成AI」について知ろう

Slide 9

Slide 9 text

9 生成AIが知らない情報は？

Slide 10

Slide 10 text

10 生成AIが知らない情報最新の情報は知らない

Slide 11

Slide 11 text

11 生成AIが知らない情報企業等の独自データは知らない

Slide 12

Slide 12 text

12 独自データを活用した生成AIを実現するには？

Slide 13

Slide 13 text

13 独自データを活用した生成AIの実現方法 Fine-tuning RAG 大きく分けて2つある

Slide 14

Slide 14 text

14 独自データを活用した生成AIの実現方法 Fine-tuning RAG 既存モデルを独自のデータで追加学習する手法

Slide 15

Slide 15 text

15 独自データを活用した生成AIの実現方法 Fine-tuning RAG 独自のデータソースから情報を検索しそれを元に回答を生成する手法

Slide 16

Slide 16 text

16 RAGのイメージ図

Slide 17

Slide 17 text

17 今回紹介するAWSソリューション Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 18

Slide 18 text

18 今回紹介するAWSソリューションこの3つはRAGのソリューションです Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 19

Slide 19 text

19 PART 1 Amazon Q編

Slide 20

Slide 20 text

20 第一部について第一部では、Amazon Qの概要と RAG機能を紹介します Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 21

Slide 21 text

21 Amazon Qの概要 ● 会話型AIアシスタント ● プレビュー版 ● AWSの様々なサービスで、ユーザーや開発者体験を向上

Slide 22

Slide 22 text

22 Amazon Q (For Business Use) ● Amazon Qの機能の一つ ● RAGアプリケーションを簡単に作れる ● Kendraから情報取得して回答を生成

Slide 23

Slide 23 text

23 Amazon Qを使ったRAG

Slide 24

Slide 24 text

24 Amazon Qの対応するデータソース様々なデータソースに簡単に接続ができる

Slide 25

Slide 25 text

25 関連ブログ https://dev.classmethod.jp/articles/try_amazon_qbusiness_api/

Slide 26

Slide 26 text

26 PART 2 Amazon Bedrock - Knowledge base編

Slide 27

Slide 27 text

27 第二部について第二部では、Amazon Bedrockの概要と Knowledge base機能を利用したRAGを紹介します Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 28

Slide 28 text

28 Amazon Bedrockとは ● Amazonや主要なAIスタートアップ企業が提供する基盤モデルを簡単に利用できるサービス ● Amazon Titan, Anthropic Claude など

Slide 29

Slide 29 text

29 Amazon Bedrock - Knowledge base ● Amazon Bedrockの機能の一つ ● 特定ベクトルデータベースから情報取得して回答

Slide 30

Slide 30 text

30 Amazon Bedrock - Knowledge baseを使ったRAG

Slide 31

Slide 31 text

31 関連ブログ https://dev.classmethod.jp/articles/update-reinvent2023-bedrock-rag/

Slide 32

Slide 32 text

32 PART 3 Amazon Bedrock - Agents編

Slide 33

Slide 33 text

33 第三部について第三部では、Amazon Bedrockの Agents機能を利用したRAGを紹介します Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 34

Slide 34 text

34 Amazon Bedrock - Agents ● Amazon Bedrockの一機能 ● 複数のKnowledge baseと Lambda関数から情報取得して回答 ● Knowledge baseより複雑なタスクの実行が可能

Slide 35

Slide 35 text

35 Amazon Bedrock - Agentsを使ったRAG

Slide 36

Slide 36 text

36 関連ブログ https://dev.classmethod.jp/articles/agents-for-amazon-bedrock-ga/

Slide 37

Slide 37 text

37 セッションのまとめ

Slide 38

Slide 38 text

38 セッションのまとめ今回扱った 3 つのソリューションを振り返ってみましょう

Slide 39

Slide 39 text

39 セッションまとめ AWSによる独自データ活用の生成AIソリューションを3つ紹介しました Amazon Q (For Business Use) Amazon Bedrock Knowledge base Amazon Bedrock Agents

Slide 40

Slide 40 text

40 どのソリューションが一番おすすめ？

Slide 41

Slide 41 text

現時点の私のおすすめ 6 Amazon Q ●データソースの拡張性が⾼い ●コスパがよさそう ●管理が必要なリソースが少ない ※ただし、プレビュー版であることに注意

Slide 42

Slide 42 text

42 皆さん、AWSによる独自データ活用の生成AIソリューションついて理解が深まりましたか？

Slide 43

Slide 43 text

43 さいごに次は実際に試して業務に活用していきましょう！