【AWS パートナーミートアップ in 大阪】｢SageMaker Canvas｣で｢Bedrock｣の基盤モデルをファインチューニングして俳句のウマさを競わせてみた_DENET寺井_20231219

｢SageMaker Canvas｣から｢Bedrock｣の基盤モデルをファインチューニングして、俳句のウマさを比較検証して競わせてみたお話

Transcript

1. ~生成系AI の流行りに乗って~ 2023-12-19 AWS パートナーミートアップ in 大 阪 株式会社ディーネット 寺井 俊喜(テライ トシキ) 1 ｢SageMaker Canvas｣で｢Bedrock｣の基盤モデルを ファインチューニングして俳句のウマさを競わせてみた
2. 自己紹介 2 • 名前 - 寺井 俊喜（テライ トシキ） • 所属 - 株式会社ディーネット（2022/12~） - クラウドビジネス部 アーキテクト課 • 好きなこと - 音楽、猫、お酒、ゲーム、効率化 • 好きなAWSサービス - Amazon EventBridge • SNS/ブログ - Twitter（@TeraiToshiki） - DENET技術ブログ（t.terai） follow me !!
3. 目次 3
4. 目次 4 1.｢SageMaker Canvas｣について 2.実際に使ってみた 3.ファインチューニングする 4.結果 5.まとめ
5. そもそも ｢Amazon SageMaker｣とは？ 5
6. Amazon SageMaker について 参考： https://aws.amazon.com/jp/sagemaker/ 6 • フルマネージドな機械学習サービス • 機械学習モデルを簡単に構築、トレーニング、デプロイ
7. Amazon SageMaker について 参考： https://aws.amazon.com/jp/sagemaker/ 7 ① ② ③ ✕ ④ ⑤ ⑥ ⑦ ⑧ ⑨ ⑩ ⑪ ⑫ ⑬ ⑭ ⑮ ⑯ ✕
8. Amazon SageMaker について 8
9. ｢Amazon SageMaker Canvas｣とは 9
10. Amazon SageMaker Canvas について 参考： https://aws.amazon.com/jp/sagemaker/canvas/ 10 • ノーコードで機械学習モデルが作れるサービス • 直感的操作で機械学習モデルの 作成や予測を実現するノーコードツール
11. ｢Amazon SageMaker Canvas｣ 実際に使ってみた（サクサクいきます。） 11
12. SageMaker Canvas やってみた – クイックセットアップ 12
13. SageMaker Canvas やってみた – クイックセットアップ 13
14. SageMaker Canvas やってみた – Canvas起動 14
15. SageMaker Canvas やってみた – Canvas起動 15
16. SageMaker Canvas やってみた – Bedrockモデル有効化 16
17. SageMaker Canvas やってみた – モデルの使用 17
18. SageMaker Canvas やってみた – モデルの使用 18
19. SageMaker Canvas やってみた – モデルを複数比較 19
20. SageMaker Canvas やってみた – 俳句作ってもらう 20
21. SageMaker Canvas やってみた – 俳句作ってもらう 21
22. SageMaker Canvas やってみた – 俳句作ってもらう 22
23. SageMaker Canvas やってみた – 俳句作ってもらう 23
24. SageMaker Canvas やってみた – Jurassic-2 Ultraについて 24
25. SageMaker Canvas やってみた – 俳句作ってもらう 25
26. ｢Amazon SageMaker Canvas｣基盤モデルの ファインチューニングやってみた 26
27. ファインチューニング（Fine-tuning）について 引用： https://enterprisezine.jp/article/detail/18011 27 • 「Fine-tuning」 を直訳 → 「微調整」 • 基盤となるモデルを特定のタスクやデータに合わせて 性能を 「微調整」して最適化 するプロセス
28. SageMaker Canvas で Fine-tuning やってみた – Fine-tune model 作成 28
29. SageMaker Canvas で Fine-tuning やってみた – データセットの作成 29
30. SageMaker Canvas で Fine-tuning やってみた – データセットの作成 30
31. SageMaker Canvas で Fine-tuning やってみた – データセットの作成 31
32. SageMaker Canvas で Fine-tuning やってみた – Fine-tune 設定 32
33. SageMaker Canvas で Fine-tuning やってみた – Fine-tune の実行権限 33
34. SageMaker Canvas で Fine-tuning やってみた – Fine-tune の実行権限 34
35. SageMaker Canvas で Fine-tuning やってみた – カスタムモデルの起動 35
36. SageMaker Canvas で Fine-tuning やってみた – カスタムモデルの起動 36
37. SageMaker Canvas で Fine-tuning やってみた – Provisioned Throughput 料金 37
38. SageMaker Canvas で Fine-tuning やってみた – ファインチューニング後のモデル使用 38
39. SageMaker Canvas で Fine-tuning やってみた – 俳句作ってもらう 39
40. まとめ 40
41. まとめ 41 ➢ 直感的に操作できて簡単 • GUIの扱いやすさ • インフラを意識しなくていい • MLの知識がなくてもできた （とはいえもう少し知ってた方がイイ…） ➢ 料金には注意 • SageMaker Canvas： • ワークスペースインスタンス (セッション-時間) の料金：1.9 USD/時間 • Bedrock： • 1 時間あたり 1 モデルユニットの推定価格：20.50USD/時間 ※分単位ではなく時間単位
42. 株式会社ディーネット 寺井 俊喜(テライ トシキ) AWSアドバンスト コンサルティングパートナー 42 ご清聴ありがとうございました。