Slide 1

Slide 1 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Bedrock 2025 年の熱いアップデート紹介 Takahiro Kubo Machine Learning Developer Relations

Slide 2

Slide 2 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 自己紹介 2 アマゾン ウェブ サービス ジャパン合同会社 Machine Learning Developer Relations 久保隆宏 (Takahiro Kubo) 技術監修 翻訳 AI/ML についての技術的な解説や AWS のサービスの紹介はもちろん、 「機械学習の実プロダクトでの活用」 を進めるためのワークショップや情報 提供、また AWS のサービス改善に 取り組んでいます。 単著 寄稿

Slide 3

Slide 3 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API

Slide 4

Slide 4 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 4 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API

Slide 5

Slide 5 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Reasoning の性能 (数学の問題回答 性能が貢献?)、Coding の性能が +10~20pt 向上 • Extended Thinking Mode を選択す ることで、通常のレスポンス (text) の前に、thinking による内部思考を 行い回答する • Max tokens は 200k で変わらないが、 64k まで出力できるように (128k ま での出力はまだβ提供中 ) Anthropic Claude 3.7 の性能と性質 5

Slide 6

Slide 6 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Sample Request 6 aws bedrock-runtime invoke-model ¥ --model-id us.anthropic.claude-3-7-sonnet-20250219-v1:0 ¥ --region us-east-1 ¥ --body '{ "anthropic_version": "bedrock-2023-05-31", "max_tokens": 10000, "thinking": { "type": "enabled", "budget_tokens": 8000 }, "messages": [ { "role": "user", "content": "東京から赤羽までの途中駅を題材に1000文字程度の小説を書いてください" } ], "temperature": 1.0 }' ¥ --cli-binary-format raw-in-base64-out ¥ output.json

Slide 7

Slide 7 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Sample Response 7

Slide 8

Slide 8 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 8 • thinking について - token は、通常の output token として課金 / Quota の対象となる - thinking に費やす token の目安は budget_tokens で指定する 最低 1024 は必要。複雑なタスクは 16,000 など大きめの予算から様子を見る - 逆に、1024 token 以内の指示で十分なら使う必要がない。On にするときは、 prompt で「最初に、次に~」といった細かい手順の指定はしないよう注意 - thinking の内容が Claude 内部の safety systems のチェックにかかった場合、 内容は暗号化され redacted_thinking となる - signature のフィールドは thinking が Claude により生成されたことを検証する Claude 3.7 の細かい Tips https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-anthropic-claude-37.html

Slide 9

Slide 9 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • 価格が同じなので、単純な置き換えとして使用できる • 今まで精度が出なかったタスクについて、Extended Thinking Mode で試して見 る。この時、人間が作りこんだ手順は一旦忘れ Claude にゆだねることが必要 Anthropic Claude 3.7 の使いどころ 9

Slide 10

Slide 10 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Cross Region (apac) での提供になっているので、推論時国外に出る可能性があり ます • レイテンシの面ではアドバンテージがありつつも、国内に閉じる要件に対応でき ない問題は認識しております 余談 : Amazon Nova も来た!が・・・ 10

Slide 11

Slide 11 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 11 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API

Slide 12

Slide 12 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Anthropic Claude 3.7 with Amazon Q 12 https://aws.amazon.com/jp/blogs/news/anthropics-claude-3-7-sonnet-the-first-hybrid-reasoning-model-is-now-available-in-amazon-bedrock/

Slide 13

Slide 13 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Anthropic Claude 3.7 with Amazon Q 13 https://aws.amazon.com/jp/about-aws/whats-new/2025/03/amazon-q-developer-cli-agent-command-line/

Slide 14

Slide 14 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. “us-east-1で課金が生じているサービスを 表にして教えてください” 14 Amazon Q Developer は統合開発環境、 AWS Console 、CloudShell では日本語 が通らないが、latest の CLI では日本 語が通ることを確認 ※公式でのサポートは言及されていま せんのでご注意ください!

Slide 15

Slide 15 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Mac : Amazon Q.dmp をダウンロードして設定 • Linux (GUI) : AppImage をダウンロードして設定 - FUSE がない場合、 sudo apt install libfuse2 • Ubuntu/Debian/Windows WSL - deb package をダウンロードし sudo apt install -y ./amazon-q.deb “q” のコマンドが使えるようになったら、 q doctor を使用することで環境エラー を確認、修正できる Install Amazon Q Developer for command line 15 https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/command-line-installing.html

Slide 16

Slide 16 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Mac / Linux (AppImage) - q uninstall • Ubuntu/Debian/Windows WSL - sudo apt purge amazon-q Uninstall 16 https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/command-line-installing.html

Slide 17

Slide 17 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • q chat でいろいろ質問できる - カレントディレクトリや現在のシェルの状況、環境変数などはコンテキストと して持っている。 - Cline のように、ファイルの作成やコマンドの実行を許可することで Action も 任せることができる How to use 17 https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/command-line-chat.html

Slide 18

Slide 18 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. I would like to create the page to introduce Amazon Bedrock to developers. I will write the page by React and host this file to S3 and distribute by CloudFront. Could you please write file and CDK script to deploy to the AWS? 18

Slide 19

Slide 19 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 1~2 時間後 (ほぼ npm install と cdk deploy の時間) 19

Slide 20

Slide 20 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • かなりいろいろできるので可能性を引き出そう!! Let’s chat! 20

Slide 21

Slide 21 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 21 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API

Slide 22

Slide 22 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • Session を作成し、一定長のやり取り (ユーザーとの対話やエージェントの実行な ど) で管理すべき状態を保持できるようになった • Amazon DynamoDB などの外部データベースを使用することなく、リクエスト間 で保持したいデータを維持できるようになった • LangGraph では BedrockSessionSaver より langgraph_checkpoint_aws.saver を インポートすることで利用できる どんな機能 ? 22

Slide 23

Slide 23 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. やってみた 23 • Session_saver を呼び出して StateGraph 作成時にセット • 以後、invoke されたグラフ内で State を更新 (この時、Session Management API に保存される) ※このコードも Amazon Q Developer CLI に書いてもらい、一発で動きました https://docs.aws.amazon.com/bedrock/latest/userguide/sessions-opensource-library.html

Slide 24

Slide 24 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. • LangGraph を使用していればかなり簡単にセッションデータを管理できる (ただ、 切断した場合などのことは要考慮) • 今まで、AWS リソースの用意が面倒だなと感じられていることがあればぜひ使っ てみたください! Let’s Conversation! 24

Slide 25

Slide 25 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved.

Slide 26

Slide 26 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 26 Thank you for your feedback!! 前回 Bedrock Night のレポートへの 反響 : • This is really cool - thanks for sharing! • I‘m very interested in LT4: Agent Ops through Bedrock Agents Response Analysis . (この方は翻訳 してスライド読んでました) • thank you for sharing!

Slide 27

Slide 27 text

© 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 27 Thank you for your feedback!! イベントをきっかけに頂いた不具合の対応 「Amazon Bedrock Knowledge Bases で、利用可能なはずの Titan Embedding v2 を使うことが出来ない」 • 報告して現在対応いただいています!(↓のように共有してくれと回答いただいた のでそのまま共有します) “The service team is aware of and actively working on the fix for the console bug where Titan Text Embeddings V2 is unavailable as an option for Knowledge Base creation in AP-northeast-1 region. In the meantime, the customer can still use the CLI/SDK to create a KB with Titan Text Embeddings V2.”