Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrock最新情報 Bedrock Studio、Converse API / Tool ...
Search
moritalous
June 26, 2024
1
460
Bedrock最新情報 Bedrock Studio、Converse API / Tool use | 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント
moritalous
June 26, 2024
Tweet
Share
More Decks by moritalous
See All by moritalous
なんだか流行ってるらしいMCPを Bedrockで使ってみよ〜
moritalous
0
2k
OSSの実装を参考にBedrockエージェントを作る
moritalous
2
650
Contextual Retrievalをやってみた
moritalous
0
260
The Ultimate RAG Showdown
moritalous
0
160
JAWS PANKRATION前哨戦 The Ultimate RAG Showdown
moritalous
0
31
The Ultimate RAG Showdown (Japanese)
moritalous
1
35
Knowledge Bases for Amazon Bedrockの推しポイント
moritalous
3
690
AWSのノーコード・ローコードLLMアプリ開発
moritalous
0
2k
Bedrockに触ってみよう - 【#Bedrock開発入門 出版記念】AWSで生成AIアプリ開発をはじめよう!
moritalous
1
1.6k
Featured
See All Featured
Rails Girls Zürich Keynote
gr2m
95
14k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
358
30k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
34
6k
GitHub's CSS Performance
jonrohan
1032
460k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
285
14k
Bootstrapping a Software Product
garrettdimon
PRO
307
110k
Large-scale JavaScript Application Architecture
addyosmani
513
110k
Build your cross-platform service in a week with App Engine
jlugia
231
18k
A Modern Web Designer's Workflow
chriscoyier
696
190k
Agile that works and the tools we love
rasmusluckow
330
21k
The Straight Up "How To Draw Better" Workshop
denniskardys
236
140k
Become a Pro
speakerdeck
PRO
29
5.5k
Transcript
Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock
生成AIアプリ開発入門」出版イベント @moritalous
5/7 Amazon Bedrock Studio発表(プレビュー) • Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス • IAM
Identity Centerを使ったSSOに対応 • ナレッジベース、エージェント、ガードレールに対応 • AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ
Amazon Bedrock Studio - ポータル画面
Amazon Bedrock Studio - IAM Identity Centerでログイン
Amazon Bedrock Studio - 初期表示(プレイグラウンド)
Amazon Bedrock Studio - プロジェクト一覧
Amazon Bedrock Studio - プロジェクト詳細(AppとComponentが含まれる)
Amazon Bedrock Studio - ナレッジベースコンポーネントを作成
Amazon Bedrock Studio - ガードレールコンポーネントを作成
Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda(外部API呼び出し処理が実
装済み)が作成される
Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ(Lambda)による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for
Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる
5/30 新しいConverse API登場 • これまではInvokeModel APIでBedrockのモデルを呼び出していた (ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり) • InvokeModel
APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった • Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった • 会話型のメッセージをやり取りする前提でパラメーターが共通化されている
イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通
同じフォーマットでOK モデルIDの変更だけで切り替えられる
InvokeModel APIとの使い分け • 埋め込みや画像生成はこれまで 通りInvoke Model API • モデルに特化したパラメーターを 使用したい場合もInvoke
Model API (Command Rの search_queries_onlyなど) • Converse APIはガードレールに 未対応→6/18に対応
5/30 Tool Useに対応 • Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に(Google Vertex
AIも同時) • Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 • What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能
Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて (こんなツール持ってるので良かった ら使ってください) このツールを使って結果教え て ツール実行 ツールの結 果これです
最終回答
ToolとAgentの違い(Bedrock Claude Night 2のキーノート資料より) • Tool useの構文や構造を隠す 抽象化レイヤー • より速いセットアップ
• JSONをアウトプットする JSONモード • 強制的なツールの使用 (特定のツール 1 つまたは複数のツールの選択) エージェントのメリット Toolのメリット
Converse APIとTool Useの詳細はこちら! Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ
おわり