Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrock最新情報 Bedrock Studio、Converse API / Tool ...
Search
moritalous
June 26, 2024
1
370
Bedrock最新情報 Bedrock Studio、Converse API / Tool use | 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント
moritalous
June 26, 2024
Tweet
Share
More Decks by moritalous
See All by moritalous
Contextual Retrievalをやってみた
moritalous
0
170
The Ultimate RAG Showdown
moritalous
0
100
JAWS PANKRATION前哨戦 The Ultimate RAG Showdown
moritalous
0
18
The Ultimate RAG Showdown (Japanese)
moritalous
1
18
Knowledge Bases for Amazon Bedrockの推しポイント
moritalous
3
470
AWSのノーコード・ローコードLLMアプリ開発
moritalous
0
1.7k
Bedrockに触ってみよう - 【#Bedrock開発入門 出版記念】AWSで生成AIアプリ開発をはじめよう!
moritalous
1
1.5k
LINEとSlackとBedrock
moritalous
4
1.7k
Matterport連携手順を解説します
moritalous
0
350
Featured
See All Featured
The Cult of Friendly URLs
andyhume
78
6.2k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
31
2.1k
For a Future-Friendly Web
brad_frost
176
9.5k
Rebuilding a faster, lazier Slack
samanthasiow
79
8.8k
The Power of CSS Pseudo Elements
geoffreycrofte
75
5.5k
Fireside Chat
paigeccino
34
3.2k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
6
540
Become a Pro
speakerdeck
PRO
26
5.1k
Bash Introduction
62gerente
610
210k
Fashionably flexible responsive web design (full day workshop)
malarkey
406
66k
Embracing the Ebb and Flow
colly
84
4.6k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Transcript
Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock
生成AIアプリ開発入門」出版イベント @moritalous
5/7 Amazon Bedrock Studio発表(プレビュー) • Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス • IAM
Identity Centerを使ったSSOに対応 • ナレッジベース、エージェント、ガードレールに対応 • AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ
Amazon Bedrock Studio - ポータル画面
Amazon Bedrock Studio - IAM Identity Centerでログイン
Amazon Bedrock Studio - 初期表示(プレイグラウンド)
Amazon Bedrock Studio - プロジェクト一覧
Amazon Bedrock Studio - プロジェクト詳細(AppとComponentが含まれる)
Amazon Bedrock Studio - ナレッジベースコンポーネントを作成
Amazon Bedrock Studio - ガードレールコンポーネントを作成
Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda(外部API呼び出し処理が実
装済み)が作成される
Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ(Lambda)による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for
Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる
5/30 新しいConverse API登場 • これまではInvokeModel APIでBedrockのモデルを呼び出していた (ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり) • InvokeModel
APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった • Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった • 会話型のメッセージをやり取りする前提でパラメーターが共通化されている
イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通
同じフォーマットでOK モデルIDの変更だけで切り替えられる
InvokeModel APIとの使い分け • 埋め込みや画像生成はこれまで 通りInvoke Model API • モデルに特化したパラメーターを 使用したい場合もInvoke
Model API (Command Rの search_queries_onlyなど) • Converse APIはガードレールに 未対応→6/18に対応
5/30 Tool Useに対応 • Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に(Google Vertex
AIも同時) • Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 • What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能
Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて (こんなツール持ってるので良かった ら使ってください) このツールを使って結果教え て ツール実行 ツールの結 果これです
最終回答
ToolとAgentの違い(Bedrock Claude Night 2のキーノート資料より) • Tool useの構文や構造を隠す 抽象化レイヤー • より速いセットアップ
• JSONをアウトプットする JSONモード • 強制的なツールの使用 (特定のツール 1 つまたは複数のツールの選択) エージェントのメリット Toolのメリット
Converse APIとTool Useの詳細はこちら! Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ
おわり