Slide 1

Slide 1 text

No content

Slide 2

Slide 2 text

アジェンダ 2 ・オープニング:
  ・AWS Generative AI Catch Up Talksとは?
  ・タイムテーブル
 ・本編:
  ・本日の発表メンバーと発表内容(トークテーマ)
 ・クロージング:
  ・次回予告


Slide 3

Slide 3 text

オープニング

Slide 4

Slide 4 text

・Classmethod AI Talks(CATs)内のシリーズ企画です。
 ・AWSにおける直近の生成AIに関するトピック の中から
  気になるものをメンバーが発表(ピックアップ) し、参加者同士で 
  その内容について色々聞いてみたりディスカッション します。
  ・トピック:新機能/新サービス/各種ニュースなど
 ・スピード感と手軽さを重視し、資料作成は必須としません。
  (既存ドキュメントやブログ等を参照する形でもOK)
 ・おおよそ隔週(2週間おき)くらいの開催間隔 を想定しています。
 ・ディスカッション内容は録画します。
  ・画面共有部分を切り出し、参加者の情報に配慮する形で
   アーカイブ動画として公開する予定です。
 ・質問や聞いてみたいことがあれば気軽にチャットでコメントをお願いします! 
  適宜拾っていきます。 
 AWS Generative AI Catch Up Talksとは? 4

Slide 5

Slide 5 text

タイムテーブル ・16:30 オープニング (約3分)
  ・趣旨説明、各種進行に関する説明と設定
 ・16:33 本編 (約80分)
  ・注目トピックの紹介
   ・パネリストメンバーによる内容解説(5〜10分)
   ・内容を踏まえたディスカッション(5分)
   ※これをトピックごとに繰り返し
 ・17:58 クロージング (2分)
  ・締めコメント、次回日程の紹介
 ・18:00 終了 
 5

Slide 6

Slide 6 text

本編

Slide 7

Slide 7 text

本⽇の発表メンバー 7 森田 力
 クラスメソッド株式会社 AWS事業本部 コンサルティング部
 https://dev.classmethod.jp/author/morita-chikara/
 たかくに
 クラスメソッド株式会社 AWS事業本部 コンサルティング部
 https://dev.classmethod.jp/author/takakuni/
 


Slide 8

Slide 8 text

本⽇の発表メンバー(ゲスト) 8 筧 剛彰
 クラスメソッド株式会社 AWS事業本部 オペレーション部
 サービスグロースチーム
 https://dev.classmethod.jp/author/kakei-takaaki/
 nokomoro3 
 クラスメソッド株式会社 データ事業本部 インテグレーション部 機械学習チーム
 https://dev.classmethod.jp/author/shogo-nakamura/
 
 


Slide 9

Slide 9 text

今回は「AWS re:Invent 2024」特集回! 
 9 AWS Black Belt Online Seminar 2024 年 AWS re:Invent 速報 #AWSDevLiveShow #AWSBlackBelt - YouTube https://www.youtube.com/watch?v=XhUemgp7LHo
 予想通り、今年も実に多くの生成AI関連アップデートが公開されました。 
 生成AIを含めた全般の情報については下記AWS公式のBlack Belt動画をご覧ください。 
 本日はこれら一覧の中から、発表メンバー達が気になったトピックについて紹介・解説していきます。 


Slide 10

Slide 10 text

お品書き
 10 ● 森田力
 ○ Amazon SageMaker Unified Studio 
 ○ モデル蒸留
 ○ Prompt Routing & Prompt Caching 
 ● たかくに
 ○ Amazon Bedrock が reranking models をサポート 
 ○ Amazon Kendra に GenAI Index が登場 
 ○ Amazon Bedrock Knowledge Bases が multimodal data を処理可能に 
 ○ Amazon Bedrock Knowledge BasesにRAG評価機能が追加 
 ○ Amazon Bedrock Knowledge Bases でGraphRAGをサポート 
 ● nokomoro3
 ○ Amazon Bedrock Marketplace 
 ○ SageMakerで生成AIの推論向けに高速化・最適化がアップデートされた件 
 ○ 生成AIで動画コンテンツからコンテキストを抽出してマネタイズ 
 ● 筧 剛彰
 ○ Amazon Nova概要
 ○ Amazon Nova テキストモデルの比較 
 ○ Amazon Nova 活用事例 


Slide 11

Slide 11 text

● Amazon SageMaker Unified Studio
 ● モデル蒸留
 ● Prompt Routing & Prompt Caching 森田力が気になったアップデート・トピック


Slide 12

Slide 12 text

12 参考情報: 
 ● Amazon SageMaker Unified Studio の構成や仕組みをまとめてみた #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/sagemaker-unified-studio/ 
 ● Amazon Bedrock Model Distillation(モデル蒸留)※後日ブログ公開予定 https://dev.classmethod.jp/articles/bedrock-model-distillation-basic 
 ● Prompt Routing & Prompt Caching ※後日ブログ公開予定 https://dev.classmethod.jp/articles/bedrock-prompt-routing-basic 
 https://dev.classmethod.jp/articles/bedrock-prompt-caching-basic 


Slide 13

Slide 13 text

● Amazon Bedrock が reranking models をサポート
 ● Amazon Kendra に GenAI Index が登場
 ● Amazon Bedrock Knowledge Bases が multimodal data を処理可能に
 ● Amazon Bedrock Knowledge BasesにRAG評価機能が追加
 ● Amazon Bedrock Knowledge Bases でGraphRAGをサポート
 たかくにが気になったアップデート・トピック


Slide 14

Slide 14 text

Amazon Bedrock が reranking models 
 をサポート 


Slide 15

Slide 15 text

3行まとめ
 
 ● ベクトル検索の結果を再度ユーザーの質問の意図に沿っ ているかランキング付けする技術
 ● 2種類のモデルが Amazon Bedrock に登場
 ● Amazon Bedrock Knowledge bases とも統合
 15 Amazon Bedrock が reranking models をサポート 


Slide 16

Slide 16 text

ブログでご紹介 
 16

Slide 17

Slide 17 text

Amazon Kendra に GenAI Index が登場 


Slide 18

Slide 18 text

3行まとめ
 
 ● Amazon Kendra から新たに GenAI Index が登場
 ● ハイブリッド検索、リランクなど最新技術も搭載済み
 ● お値段も従来より安く提供されている
 18 Amazon Kendra に GenAI Index が登場 


Slide 19

Slide 19 text

ブログでご紹介 
 19

Slide 20

Slide 20 text

Amazon Bedrock Knowledge Bases が multimodal data を処理可能に 


Slide 21

Slide 21 text

3行まとめ
 
 ● Amazon Bedrock Data Automation を利用した新たな解析 オプションが登場
 ● 回答時のソースチャンクにも画像を利用
 ● パブリックプレビューでリリース
 21 Amazon Bedrock Knowledge Bases が multimodal data を処理可能に 


Slide 22

Slide 22 text

ブログでご紹介 
 22

Slide 23

Slide 23 text

Amazon Bedrock Knowledge BasesにRAG評価機 能が登場 


Slide 24

Slide 24 text

3行まとめ
 
 ● Amazon Bedrock Knowledge BasesにRAG評価機能が登 場
 ● 評価結果をグラフで可視化
 ● パブリックプレビューでリリース
 24 Amazon Bedrock Knowledge BasesにRAG評価機能が登場 


Slide 25

Slide 25 text

ブログでご紹介 
 25

Slide 26

Slide 26 text

Amazon Bedrock Knowledge Bases で GraphRAG をサポート 


Slide 27

Slide 27 text

27 3行まとめ
 
 ● Amazon Bedrock Knowledge Bases のベクトルデータベー スに GraphRAG 機能が登場
 ● 各チャンクの関係性を意識した検索結果が見込まれる
 ● パブリックプレビューでリリース
 Amazon Bedrock Knowledge Bases で GraphRAG をサポート 


Slide 28

Slide 28 text

ブログでご紹介 
 28

Slide 29

Slide 29 text

29 参考情報: 
 ● [アップデート] Amazon Bedrock が Rerank API をサポートしました #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/amazon-bedrock-rerank-api-accuracy-rag-applications/
 ● JAWS-UG 横浜の宇宙一早い Recap で Amazon Bedrock knowledge base with an Amazon Kendra GenAI index について話してきた #jawsug #jawsugyokohama #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/jaws-ug-yokohama-fastest-recap-amazon-bedrock-kendra-genai/
 ● Amazon Bedrock knowledge base with an Amazon Kendra GenAI index を試してみる #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/genai-index-amazon-kendra-reinvent2024/
 ● [アップデート] Amazon Bedrock Knowledge bases で Amazon Bedrock Data Automation が使えるようになりました(プレビュー)  #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/amazon-bedrock-knowledge-bases-processes-multimodal-data-reinvent2024/
 ● [新機能] Amazon Bedrock Knowledge BasesにRAG評価機能が追加されました(プレビュー版) #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/amazon-bedrock-knowledge-bases-rag-evaluation-preview/
 ● 【新機能】Amazon Bedrock Knowledge Bases でGraphRAGをサポートするようになりました(Preview) | DevelopersIO https://dev.classmethod.jp/articles/knowledge-bases-graphrag/


Slide 30

Slide 30 text

● Amazon Bedrock Marketplace
 ● SageMakerで生成AIの推論向けに高速化・最適化がアップデートされた件
 ● 生成AIで動画コンテンツからコンテキストを抽出してマネタイズ
 nokomoro3が気になったアップデート・トピック


Slide 31

Slide 31 text

31 参考情報: 
 ● Amazon Bedrock Marketplace 
 ○ AWS re:Invent 2024のAmazon Bedrockのアップデートを機能別にまとめてみた(一部マネコンの図示付き) #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/reinvent2024-updates-summary-bedrock/
 ● SageMakerで生成AIの推論向けに高速化・最適化がアップデートされた件 
 ○ AWS re:Invent 2024のAmazon SageMaker AIのアップデートをまとめてみた #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/reinvent2024-updates-summary-sagemaker-ai/
 ● 生成AIで動画コンテンツからコンテキストを抽出してマネタイズする 
 ○ [レポート] 生成AIで動画コンテンツからコンテキストを抽出してマネタイズする #ADM301 #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/ai-adm301-awsreinvent/


Slide 32

Slide 32 text

● Amazon Nova概要
 ● Amazon Nova テキストモデルの比較
 ● Amazon Nova 活用事例
 筧 剛彰が気になったアップデート・トピック


Slide 33

Slide 33 text

33 参考情報: 
 ● Novaの概要
 ○ [アップデート] Amazon Novaシリーズモデルが登場しました #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/amazon-nova-series-model-announced-aws-reinvent/
 ● テキストモデルの比較 
 ○ Amazon Novaのテキスト生成モデルについて調査してみた #AWSreInvent | DevelopersIO https://dev.classmethod.jp/articles/amazon-nova-text-generation-model-investigation-aws-reinvent/
 ● 活用事例
 ○ re:Invent 2024 生成AIまとめ - Speaker Deck https://speakerdeck.com/takaakikakei/re-invent-2024-sheng-cheng-aimatome?slide=15
 ● サービスカード
 ○ 責任ある AI のツールとリソース – 責任を持って AI を構築する – AWS https://aws.amazon.com/jp/ai/responsible-ai/resources/


Slide 34

Slide 34 text

クロージング

Slide 35

Slide 35 text

次回予告 Classmethod AI Talks(CATs)内の年内開催は今回の
 「AWS Generative AI Catch Up Talks vol.003」(CATsとしては#11)
 で終了となります。過去開催回を含めてご参加頂いた皆様、ありがとうございました!
 
 来年2025年も引き続きこの企画は行っていきます!🎉
 
 <1月の開催予定> ※CATsとしての通し番号は確定次第反映
 ・vol.004 - 2025/01/09(木) 17:15 - 18:00 
 ・vol.005 - 2025/01/23(木) 17:15 - 18:00
 (※開催情報はDoorkeeper及びSNSで適宜お知らせします)
 
 35 (vol.004開催QRコード)