Classmethod AI Talks(CATs) #15 司会進行スライド(2025.02.06) / classmethod-ai-talks-aka-cats_moderator-slides_vol15_2025-02-06

Slide 1

Slide 1 text

No content

Slide 2

Slide 2 text

アジェンダ 2 ・オープニング：  　・AWS Generative AI Catch Up Talksとは？  　・タイムテーブル  ・本編：  　・本日の発表メンバーと発表内容(トークテーマ)  ・クロージング：  　・次回予告 

Slide 3

Slide 3 text

オープニング

Slide 4

Slide 4 text

・Classmethod AI Talks(CATs)内のシリーズ企画です。  ・AWSにおける直近の生成AIに関するトピックの中から  　気になるものをメンバーが発表(ピックアップ) し、参加者同士で   　その内容について色々聞いてみたりディスカッションします。  　・トピック：新機能/新サービス/各種ニュースなど  ・スピード感と手軽さを重視し、資料作成は必須としません。  　(既存ドキュメントやブログ等を参照する形でもOK)  ・おおよそ隔週(2週間おき)くらいの開催間隔を想定しています。  ・ディスカッション内容は録画します。  　・画面共有部分を切り出し、参加者の情報に配慮する形で  　　アーカイブ動画として公開する予定です。  AWS Generative AI Catch Up Talksとは？ 4

Slide 5

Slide 5 text

タイムテーブル・17:15 オープニング (約3分)  　・趣旨説明、各種進行に関する説明と設定  ・17:18 本編 (約40分)  　・以下サイクルを当日発表したいメンバー人数分実施  　　・発表したいメンバーによるトピック紹介(5〜10分)  　　・発表されたトピックによるディスカッション(5分)  　※1回あたりのメンバーは2〜4人くらいを想定  ・17:58 クロージング (2分)  　・締めコメント、次回日程の紹介  ・18:00 終了   5

Slide 6

Slide 6 text

本⽇の発表メンバー 6 森田力  クラスメソッド株式会社 AWS事業本部コンサルティング部  https://dev.classmethod.jp/author/morita-chikara/  たかくに  クラスメソッド株式会社 AWS事業本部コンサルティング部  https://dev.classmethod.jp/author/takakuni/   

Slide 7

Slide 7 text

本⽇のお品書き・Luma Ray2 Model(たかくに)  ・Amazon Q Businessファイルアップロード機能の  　画像ファイルサポート(森田力)  ・私が考える DeepSeek 推論サーバーホスティング選手権  　(たかくに、森田力)    7

Slide 8

Slide 8 text

● Luma Ray2 について  ● 私が考える DeepSeek 推論サーバーホスティング選手権  お品書き  8

Slide 9

Slide 9 text

● 動画生成を行うモデル  ● 自然で一貫した動きを持ちつつ、リアルな動画生成を行う  ● 現在はテキストをインプットして動画を生成  ○ （Amazon Bedrockでサポートされるかどうかは別として、）画像や動画のインプットをサポート予定  Luma AI’s Ray2 について   9

Slide 10

Slide 10 text

● オレゴンリージョンで提供  ● 5秒または9秒の動画を生成  ● 解像度は 720p または 540p  ● インプットは英語のみサポート  ○ 最大インプットトークン数は 300 トークンまで  Luma AI’s Ray2 in Amazon Bedrock   10

Slide 11

Slide 11 text

Luma AI’s Ray2 in Amazon Bedrock   11

Slide 12

Slide 12 text

例： 720p で 9 秒の動画を生成 $1.50 * 9 = $13.5 料金周り  12 解像度 1秒あたりの価格 720p, 24 fps $1.50 540p, 24 fps $0.75

Slide 13

Slide 13 text

ブログで紹介   13

Slide 14

Slide 14 text

● Luma Ray2 について  ● 私が考える DeepSeek 推論サーバーホスティング選手権  お品書き  14

Slide 15

Slide 15 text

EKS  私が考える DeepSeek 推論サーバーホスティング選手権   15

Slide 16

Slide 16 text

EKS Auto Mode  私が考える DeepSeek 推論サーバーホスティング選手権   16

Slide 17

Slide 17 text

17 サーバレスで運用楽ちんもいいけど  私が考える DeepSeek 推論サーバーホスティング選手権  

Slide 18

Slide 18 text

運用もロマンですよね  私が考える DeepSeek 推論サーバーホスティング選手権   18

Slide 19

Slide 19 text

と言いつつ、楽はしたい  私が考える DeepSeek 推論サーバーホスティング選手権   19

Slide 20

Slide 20 text

EKS Auto Mode  私が考える DeepSeek 推論サーバーホスティング選手権   20

Slide 21

Slide 21 text

EKS Auto Mode   21

Slide 22

Slide 22 text

EKS Auto Mode   22

Slide 23

Slide 23 text

ブログで紹介   23

Slide 24

Slide 24 text

● Amazon Q Business 画像ファイルアップロードサポート  ● 私が考える DeepSeek 推論サーバーホスティング選手権~AWS マネージドホスト編~    お品書き  24

Slide 25

Slide 25 text

Amazon Q Business 画像ファイルアップロードサポート

Slide 26

Slide 26 text

３行まとめ  ● 画像ファイルを Amazon Q が理解できるようになった  ● Pro サブスクリプションユーザーのみ利用可能  ● ファイル入力制限は3.75 MB  Amazon Q Business 画像ファイルアップロードサポート   26

Slide 27

Slide 27 text

ブログを参考にご紹介 https://dev.classmethod.jp/articles/q-business-insights-images-uploaded-chat/

Slide 28

Slide 28 text

私が考える DeepSeek 推論サーバーホスティング選⼿権

Slide 29

Slide 29 text

AWSマネージド編

Slide 30

Slide 30 text

Amazon Bedrock Marketplace     ● 数クリックでデプロイ可能  ○ https://dev.classmethod.jp/articles/amazon-bedrock-mark etplace-model-deployment/     私が考える DeepSeek 推論サーバーホスティング選手権   ~AWSマネージドホスト編~     30

Slide 31

Slide 31 text

Amazon Bedrock Marketplace   ● Converse APIは未対応  私が考える DeepSeek 推論サーバーホスティング選手権   ~AWSマネージドホスト編~     31 https://docs.aws.amazon.com/bedrock/latest/userguide/bedrock-marketplace-model-reference.html

Slide 32

Slide 32 text

Amazon Bedrock Model Import     ● モデルデータをBedrockにImportする  ○ https://dev.classmethod.jp/articles/try-amazon-bedrock-custo m-model-import/     私が考える DeepSeek 推論サーバーホスティング選手権   ~AWSマネージドホスト編~     32

Slide 33

Slide 33 text

Amazon Bedrock Model Import     ● Converse APIにも対応できる（はず）    ● パラメータごとにCMUは異なる  ○ 70B : 8unit/model  ○ 8B : 2unit/model      私が考える DeepSeek 推論サーバーホスティング選手権   ~AWSマネージドホスト編~     33

Slide 34

Slide 34 text

まとめ

Slide 35

Slide 35 text

クロージング

Slide 36

Slide 36 text

次回予告非エンジニア(営業職)メンバーによる実践事例を  「生成AIを活用して業務改善した話」と称してお送りします。    2025/02/12(水) 19:00 - 20:00 CATs #16   「1000本ノックGPT」で営業トレーニングを省力化＆   メンバーのナレッジを標準化！   https://cats.doorkeeper.jp/events/181503  2025/02/19(水) 19:00 - 20:00 CATs #17   ChatGPTで業務活用データを整備＆AWS生成AI認定試験対策 https://cats.doorkeeper.jp/events/181668    36

Slide 37

Slide 37 text

「AWS Generative AI Catch Up」の今後について・「その時々のフレッシュな&ホットな生成AI関連トピックを  　お届けする」という部分は踏襲しつつ、開催サイクルやイベントスタイル、  　公開方法について見直しを図りたいと思います。  ・方針が再度固まり次第、コミュニティやSNSなどで改めてお知らせ致します。  37 https://cats.doorkeeper.jp/