Slide 1

Slide 1 text

~生成系AI の流行りに乗って~ 2023-12-19 AWS パートナーミートアップ in 大 阪 株式会社ディーネット 寺井 俊喜(テライ トシキ) 1 「SageMaker Canvas」で「Bedrock」の基盤モデルを ファインチューニングして俳句のウマさを競わせてみた

Slide 2

Slide 2 text

自己紹介 2 • 名前 - 寺井 俊喜(テライ トシキ) • 所属 - 株式会社ディーネット(2022/12~) - クラウドビジネス部 アーキテクト課 • 好きなこと - 音楽、猫、お酒、ゲーム、効率化 • 好きなAWSサービス - Amazon EventBridge • SNS/ブログ - Twitter(@TeraiToshiki) - DENET技術ブログ(t.terai) follow me !!

Slide 3

Slide 3 text

目次 3

Slide 4

Slide 4 text

目次 4 1.「SageMaker Canvas」について 2.実際に使ってみた 3.ファインチューニングする 4.結果 5.まとめ

Slide 5

Slide 5 text

そもそも 「Amazon SageMaker」とは? 5

Slide 6

Slide 6 text

Amazon SageMaker について 参考: https://aws.amazon.com/jp/sagemaker/ 6 • フルマネージドな機械学習サービス • 機械学習モデルを簡単に構築、トレーニング、デプロイ

Slide 7

Slide 7 text

Amazon SageMaker について 参考: https://aws.amazon.com/jp/sagemaker/ 7 ① ② ③ ✕ ④ ⑤ ⑥ ⑦ ⑧ ⑨ ⑩ ⑪ ⑫ ⑬ ⑭ ⑮ ⑯ ✕

Slide 8

Slide 8 text

Amazon SageMaker について 8

Slide 9

Slide 9 text

「Amazon SageMaker Canvas」とは 9

Slide 10

Slide 10 text

Amazon SageMaker Canvas について 参考: https://aws.amazon.com/jp/sagemaker/canvas/ 10 • ノーコードで機械学習モデルが作れるサービス • 直感的操作で機械学習モデルの 作成や予測を実現するノーコードツール

Slide 11

Slide 11 text

「Amazon SageMaker Canvas」 実際に使ってみた(サクサクいきます。) 11

Slide 12

Slide 12 text

SageMaker Canvas やってみた – クイックセットアップ 12

Slide 13

Slide 13 text

SageMaker Canvas やってみた – クイックセットアップ 13

Slide 14

Slide 14 text

SageMaker Canvas やってみた – Canvas起動 14

Slide 15

Slide 15 text

SageMaker Canvas やってみた – Canvas起動 15

Slide 16

Slide 16 text

SageMaker Canvas やってみた – Bedrockモデル有効化 16

Slide 17

Slide 17 text

SageMaker Canvas やってみた – モデルの使用 17

Slide 18

Slide 18 text

SageMaker Canvas やってみた – モデルの使用 18

Slide 19

Slide 19 text

SageMaker Canvas やってみた – モデルを複数比較 19

Slide 20

Slide 20 text

SageMaker Canvas やってみた – 俳句作ってもらう 20

Slide 21

Slide 21 text

SageMaker Canvas やってみた – 俳句作ってもらう 21

Slide 22

Slide 22 text

SageMaker Canvas やってみた – 俳句作ってもらう 22

Slide 23

Slide 23 text

SageMaker Canvas やってみた – 俳句作ってもらう 23

Slide 24

Slide 24 text

SageMaker Canvas やってみた – Jurassic-2 Ultraについて 24

Slide 25

Slide 25 text

SageMaker Canvas やってみた – 俳句作ってもらう 25

Slide 26

Slide 26 text

「Amazon SageMaker Canvas」基盤モデルの ファインチューニングやってみた 26

Slide 27

Slide 27 text

ファインチューニング(Fine-tuning)について 引用: https://enterprisezine.jp/article/detail/18011 27 • 「Fine-tuning」 を直訳 → 「微調整」 • 基盤となるモデルを特定のタスクやデータに合わせて 性能を 「微調整」して最適化 するプロセス

Slide 28

Slide 28 text

SageMaker Canvas で Fine-tuning やってみた – Fine-tune model 作成 28

Slide 29

Slide 29 text

SageMaker Canvas で Fine-tuning やってみた – データセットの作成 29

Slide 30

Slide 30 text

SageMaker Canvas で Fine-tuning やってみた – データセットの作成 30

Slide 31

Slide 31 text

SageMaker Canvas で Fine-tuning やってみた – データセットの作成 31

Slide 32

Slide 32 text

SageMaker Canvas で Fine-tuning やってみた – Fine-tune 設定 32

Slide 33

Slide 33 text

SageMaker Canvas で Fine-tuning やってみた – Fine-tune の実行権限 33

Slide 34

Slide 34 text

SageMaker Canvas で Fine-tuning やってみた – Fine-tune の実行権限 34

Slide 35

Slide 35 text

SageMaker Canvas で Fine-tuning やってみた – カスタムモデルの起動 35

Slide 36

Slide 36 text

SageMaker Canvas で Fine-tuning やってみた – カスタムモデルの起動 36

Slide 37

Slide 37 text

SageMaker Canvas で Fine-tuning やってみた – Provisioned Throughput 料金 37

Slide 38

Slide 38 text

SageMaker Canvas で Fine-tuning やってみた – ファインチューニング後のモデル使用 38

Slide 39

Slide 39 text

SageMaker Canvas で Fine-tuning やってみた – 俳句作ってもらう 39

Slide 40

Slide 40 text

まとめ 40

Slide 41

Slide 41 text

まとめ 41 ➢ 直感的に操作できて簡単 • GUIの扱いやすさ • インフラを意識しなくていい • MLの知識がなくてもできた (とはいえもう少し知ってた方がイイ…) ➢ 料金には注意 • SageMaker Canvas: • ワークスペースインスタンス (セッション-時間) の料金:1.9 USD/時間 • Bedrock: • 1 時間あたり 1 モデルユニットの推定価格:20.50USD/時間 ※分単位ではなく時間単位

Slide 42

Slide 42 text

株式会社ディーネット 寺井 俊喜(テライ トシキ) AWSアドバンスト コンサルティングパートナー 42 ご清聴ありがとうございました。