Slide 1

Slide 1 text

No content

Slide 2

Slide 2 text

アジェンダ 2 ・オープニング:
  ・AWS Generative AI Catch Up Talksとは?
  ・タイムテーブル
 ・本編:
  ・本日の発表メンバーと発表内容(トークテーマ)
 ・クロージング:
  ・次回予告


Slide 3

Slide 3 text

オープニング

Slide 4

Slide 4 text

・Classmethod AI Talks(CATs)内のシリーズ企画です。
 ・AWSにおける直近の生成AIに関するトピック の中から
  気になるものをメンバーが発表(ピックアップ) し、参加者同士で 
  その内容について色々聞いてみたりディスカッション します。
  ・トピック:新機能/新サービス/各種ニュースなど
 ・スピード感と手軽さを重視し、資料作成は必須としません。
  (既存ドキュメントやブログ等を参照する形でもOK)
 ・おおよそ隔週(2週間おき)くらいの開催間隔 を想定しています。
 ・ディスカッション内容は録画します。
  ・画面共有部分を切り出し、参加者の情報に配慮する形で
   アーカイブ動画として公開する予定です。
 AWS Generative AI Catch Up Talksとは? 4

Slide 5

Slide 5 text

タイムテーブル ・17:15 オープニング (約3分)
  ・趣旨説明、各種進行に関する説明と設定
 ・17:18 本編 (約40分)
  ・以下サイクルを当日発表したいメンバー人数分実施
   ・発表したいメンバーによるトピック紹介(5〜10分)
   ・発表されたトピックによるディスカッション(5分)
  ※1回あたりのメンバーは2〜4人くらいを想定
 ・17:58 クロージング (2分)
  ・締めコメント、次回日程の紹介
 ・18:00 終了 
 5

Slide 6

Slide 6 text

本編

Slide 7

Slide 7 text

本⽇の発表メンバー 7 森田 力
 クラスメソッド株式会社 AWS事業本部 コンサルティング部
 https://dev.classmethod.jp/author/morita-chikara/
 たかくに
 クラスメソッド株式会社 AWS事業本部 コンサルティング部
 https://dev.classmethod.jp/author/takakuni/
 


Slide 8

Slide 8 text

お品書き
 8 ● Amazon Bedrock プロンプト最適化がプレビュー利用可 能に
 ● Amazon Bedrock Agents 新機能 インラインエージェント について
 ● Amazon Bedrock Knowledge bases の Binary Embedding 対応 


Slide 9

Slide 9 text

Amazon Bedrock プロンプト最適化が 
 プレビュー利用可能に 


Slide 10

Slide 10 text

3行まとめ
 
 ● ユーザが LLM へ入力するプロンプトを最適化してくれる機 能
 ● Playground, Prompt Management で利用可能
 ● プレビューなので1日に10個のプロンプトのみ可能
 10 Amazon Bedrock プロンプト最適化がプレビュー利用可能に 


Slide 11

Slide 11 text

マネジメントコンソールで触ってみる 
 11 https://dev.classmethod.jp/articles/bedrock-prompt-optimization/

Slide 12

Slide 12 text

Amazon Bedrock Agents 新機能 
 インラインエージェントについて 


Slide 13

Slide 13 text

3行まとめ
 
 ● 事前準備なしで Agents 呼び出し
 ● コードインタプリタなど様々な機能に対応
 ● コンソールからは試せない、コードから呼び出し
 Amazon Bedrock Agents インラインエージェントについて 
 13

Slide 14

Slide 14 text

14 https://dev.classmethod.jp/articles/agents-bedrock-inlineagents/

Slide 15

Slide 15 text

コードから呼び出す https://www.youtube.com/watch?v=IEJ2Pt57sII

Slide 16

Slide 16 text

Amazon Bedrock Knowledge bases の 
 Binary Embedding 対応 


Slide 17

Slide 17 text

Amazon Bedrock Knowledge bases Binary Embedding 対応 
 17 3行まとめ
 
 ● ベクトルデータを2進数に変換する Binary Embedding をサ ポート
 ● 2進数に変換することでデータ量の削減、レイテンシーの向 上
 ● OpenSearch Serverless のみ対応


Slide 18

Slide 18 text

float, コサイン類似度 
 18 ● 今までは float (32 bit) でベクトルデータを表現していた
 ● 埋め込んだデータをコサイン類似度を用いて計算


Slide 19

Slide 19 text

binary, ハミング距離 
 19 ● 新たに binary (1bit) の埋め込み形式をサポート
 ○ ストレージコストの減少
 ○ メモリ負荷の軽減(レイテンシーの向上)
 ● 埋め込んだデータはハミング距離を用いて計算


Slide 20

Slide 20 text

https://dev.classmethod.jp/articles/amazon-bedrock-knowledge-bases-support-binary-vector-embeddings/ ブログを見てみる 
 20

Slide 21

Slide 21 text

クロージング

Slide 22

Slide 22 text

次回 vol.003は現状未定。
 AWS re:Invent 2024の内容展開次第で
 もしかしたら開催するかも...?
 (開催の際には別途お知らせ致します!)
 
 次回予告 22