Slide 1

Slide 1 text

Bedrock最新情報 ・Bedrock Studio ・Converse API / Tool use 書籍「Amazon Bedrock 生成AIアプリ開発入門」出版イベント @moritalous

Slide 2

Slide 2 text

5/7 Amazon Bedrock Studio発表(プレビュー) ● Bedrock Studioは組織内の開発者が生成AIアプリを構築するためのWebイン ターフェイス ● IAM Identity Centerを使ったSSOに対応 ● ナレッジベース、エージェント、ガードレールに対応 ● AWSに詳しくない開発者向けにBedrockの部分だけを切り出して使えるようにし たイメージ

Slide 3

Slide 3 text

Amazon Bedrock Studio - ポータル画面

Slide 4

Slide 4 text

Amazon Bedrock Studio - IAM Identity Centerでログイン

Slide 5

Slide 5 text

Amazon Bedrock Studio - 初期表示(プレイグラウンド)

Slide 6

Slide 6 text

Amazon Bedrock Studio - プロジェクト一覧

Slide 7

Slide 7 text

Amazon Bedrock Studio - プロジェクト詳細(AppとComponentが含まれる)

Slide 8

Slide 8 text

Amazon Bedrock Studio - ナレッジベースコンポーネントを作成

Slide 9

Slide 9 text

Amazon Bedrock Studio - ガードレールコンポーネントを作成

Slide 10

Slide 10 text

Amazon Bedrock Studio - ファンクションコンポーネントを作成 Agents for Amazon Bedrockのアクショングループと 呼び出し先のLambda(外部API呼び出し処理が実 装済み)が作成される

Slide 11

Slide 11 text

Amazon Bedrock Studio - コンポーネントを組み合わせてアプリを作成 アクショングループ(Lambda)による回答 ナレッジベースによる回答 問い合わせ実行時にナレッジベースを Agents for Amazon Bedrockに登録してデプロイするのでちょっ と時間がかかる

Slide 12

Slide 12 text

5/30 新しいConverse API登場 ● これまではInvokeModel APIでBedrockのモデルを呼び出していた (ストリーミングレスポンスに対応した InvokeModelWithResponseStreamもあり) ● InvokeModel APIの場合、使用するモデルごとに専用のBodyパラメーターを指 定する必要があった ● Converse APIはBodyパラメーターが共通化され、異なるモデルに対して同じ呼 び出し方が可能になった ● 会話型のメッセージをやり取りする前提でパラメーターが共通化されている

Slide 13

Slide 13 text

イメージ Claude用フォーマット Command用フォーマット Invoke Model APIはフォーマットがバ ラバラ Converse APIはフォーマットが共 通 同じフォーマットでOK モデルIDの変更だけで切り替えられる

Slide 14

Slide 14 text

InvokeModel APIとの使い分け ● 埋め込みや画像生成はこれまで 通りInvoke Model API ● モデルに特化したパラメーターを 使用したい場合もInvoke Model API (Command Rの search_queries_onlyなど) ● Converse APIはガードレールに 未対応→6/18に対応

Slide 15

Slide 15 text

5/30 Tool Useに対応 ● Anthropic Claude 3のTool Use機能正式リリースと同時にBedrockでも利用可 能に(Google Vertex AIも同時) ● Claude 3 / 3.5だけでなくCohere Command R/R+、Mistral Small/Largeも対応 ● What’s newの発表がConverse APIと同時のためConverse APIの機能拡張の ように見えるが、実はInvoke Model APIでも利用可能

Slide 16

Slide 16 text

Toolの概念図 https://speakerdeck.com/minorun365/anthropickinoto-bedrock-claude-night-2?slide=23 質問に答えて (こんなツール持ってるので良かった ら使ってください) このツールを使って結果教え て ツール実行 ツールの結 果これです 最終回答

Slide 17

Slide 17 text

ToolとAgentの違い(Bedrock Claude Night 2のキーノート資料より) ● Tool useの構文や構造を隠す 抽象化レイヤー ● より速いセットアップ ● JSONをアウトプットする JSONモード ● 強制的なツールの使用 (特定のツール 1 つまたは複数のツールの選択) エージェントのメリット Toolのメリット

Slide 18

Slide 18 text

Converse APIとTool Useの詳細はこちら! Bedrock Claude Night 2に登壇された鯨田さんのLTにまとまってましたのでそちらを ご参照ください https://bit.ly/3zmwoqQ

Slide 19

Slide 19 text

おわり