Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Amazon Bedrock 2025 年の熱いアップデート (2025/3 時点)

Amazon Bedrock 2025 年の熱いアップデート (2025/3 時点)

2025 年 3 月までの、Amazon Bedrock に関係する熱いアップデート 3 点を紹介します!

* Claude 3.7 🤝 Amazon Bedrock
* Claude 3.7 🤝 Amazon Q Developer
* Amazon Bedrock Session Management API

発表イベント
https://jawsug.connpass.com/event/345497/

Takahiro Kubo

March 10, 2025
Tweet

More Decks by Takahiro Kubo

Other Decks in Technology

Transcript

  1. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Bedrock 2025 年の熱いアップデート紹介 Takahiro Kubo Machine Learning Developer Relations
  2. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. 自己紹介 2 アマゾン ウェブ サービス ジャパン合同会社 Machine Learning Developer Relations 久保隆宏 (Takahiro Kubo) 技術監修 翻訳 AI/ML についての技術的な解説や AWS のサービスの紹介はもちろん、 「機械学習の実プロダクトでの活用」 を進めるためのワークショップや情報 提供、また AWS のサービス改善に 取り組んでいます。 単著 寄稿
  3. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API
  4. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 4 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API
  5. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • Reasoning の性能 (数学の問題回答 性能が貢献?)、Coding の性能が +10~20pt 向上 • Extended Thinking Mode を選択す ることで、通常のレスポンス (text) の前に、thinking による内部思考を 行い回答する • Max tokens は 200k で変わらないが、 64k まで出力できるように (128k ま での出力はまだβ提供中 ) Anthropic Claude 3.7 の性能と性質 5
  6. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. Sample Request 6 aws bedrock-runtime invoke-model ¥ --model-id us.anthropic.claude-3-7-sonnet-20250219-v1:0 ¥ --region us-east-1 ¥ --body '{ "anthropic_version": "bedrock-2023-05-31", "max_tokens": 10000, "thinking": { "type": "enabled", "budget_tokens": 8000 }, "messages": [ { "role": "user", "content": "東京から赤羽までの途中駅を題材に1000文字程度の小説を書いてください" } ], "temperature": 1.0 }' ¥ --cli-binary-format raw-in-base64-out ¥ output.json
  7. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. 8 • thinking について - token は、通常の output token として課金 / Quota の対象となる - thinking に費やす token の目安は budget_tokens で指定する 最低 1024 は必要。複雑なタスクは 16,000 など大きめの予算から様子を見る - 逆に、1024 token 以内の指示で十分なら使う必要がない。On にするときは、 prompt で「最初に、次に~」といった細かい手順の指定はしないよう注意 - thinking の内容が Claude 内部の safety systems のチェックにかかった場合、 内容は暗号化され redacted_thinking となる - signature のフィールドは thinking が Claude により生成されたことを検証する Claude 3.7 の細かい Tips https://docs.aws.amazon.com/bedrock/latest/userguide/model-parameters-anthropic-claude-37.html
  8. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • 価格が同じなので、単純な置き換えとして使用できる • 今まで精度が出なかったタスクについて、Extended Thinking Mode で試して見 る。この時、人間が作りこんだ手順は一旦忘れ Claude にゆだねることが必要 Anthropic Claude 3.7 の使いどころ 9
  9. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • Cross Region (apac) での提供になっているので、推論時国外に出る可能性があり ます • レイテンシの面ではアドバンテージがありつつも、国内に閉じる要件に対応でき ない問題は認識しております 余談 : Amazon Nova も来た!が・・・ 10
  10. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 11 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API
  11. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. Anthropic Claude 3.7 with Amazon Q 12 https://aws.amazon.com/jp/blogs/news/anthropics-claude-3-7-sonnet-the-first-hybrid-reasoning-model-is-now-available-in-amazon-bedrock/
  12. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. Anthropic Claude 3.7 with Amazon Q 13 https://aws.amazon.com/jp/about-aws/whats-new/2025/03/amazon-q-developer-cli-agent-command-line/
  13. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. “us-east-1で課金が生じているサービスを 表にして教えてください” 14 Amazon Q Developer は統合開発環境、 AWS Console 、CloudShell では日本語 が通らないが、latest の CLI では日本 語が通ることを確認 ※公式でのサポートは言及されていま せんのでご注意ください!
  14. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • Mac : Amazon Q.dmp をダウンロードして設定 • Linux (GUI) : AppImage をダウンロードして設定 - FUSE がない場合、 sudo apt install libfuse2 • Ubuntu/Debian/Windows WSL - deb package をダウンロードし sudo apt install -y ./amazon-q.deb “q” のコマンドが使えるようになったら、 q doctor を使用することで環境エラー を確認、修正できる Install Amazon Q Developer for command line 15 https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/command-line-installing.html
  15. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • Mac / Linux (AppImage) - q uninstall • Ubuntu/Debian/Windows WSL - sudo apt purge amazon-q Uninstall 16 https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/command-line-installing.html
  16. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • q chat でいろいろ質問できる - カレントディレクトリや現在のシェルの状況、環境変数などはコンテキストと して持っている。 - Cline のように、ファイルの作成やコマンドの実行を許可することで Action も 任せることができる How to use 17 https://docs.aws.amazon.com/amazonq/latest/qdeveloper-ug/command-line-chat.html
  17. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. I would like to create the page to introduce Amazon Bedrock to developers. I will write the page by React and host this file to S3 and distribute by CloudFront. Could you please write file and CDK script to deploy to the AWS? 18
  18. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. 1~2 時間後 (ほぼ npm install と cdk deploy の時間) 19
  19. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • かなりいろいろできるので可能性を引き出そう!! Let’s chat! 20
  20. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 21 Agenda 1. Claude 3.7 🤝 Amazon Bedrock 2. Claude 3.7 🤝 Amazon Q Developer 3. Amazon Bedrock Session Management API
  21. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • Session を作成し、一定長のやり取り (ユーザーとの対話やエージェントの実行な ど) で管理すべき状態を保持できるようになった • Amazon DynamoDB などの外部データベースを使用することなく、リクエスト間 で保持したいデータを維持できるようになった • LangGraph では BedrockSessionSaver より langgraph_checkpoint_aws.saver を インポートすることで利用できる どんな機能 ? 22
  22. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. やってみた 23 • Session_saver を呼び出して StateGraph 作成時にセット • 以後、invoke されたグラフ内で State を更新 (この時、Session Management API に保存される) ※このコードも Amazon Q Developer CLI に書いてもらい、一発で動きました https://docs.aws.amazon.com/bedrock/latest/userguide/sessions-opensource-library.html
  23. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. • LangGraph を使用していればかなり簡単にセッションデータを管理できる (ただ、 切断した場合などのことは要考慮) • 今まで、AWS リソースの用意が面倒だなと感じられていることがあればぜひ使っ てみたください! Let’s Conversation! 24
  24. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. Thank you! © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved.
  25. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. 26 Thank you for your feedback!! 前回 Bedrock Night のレポートへの 反響 : • This is really cool - thanks for sharing! • I‘m very interested in LT4: Agent Ops through Bedrock Agents Response Analysis . (この方は翻訳 してスライド読んでました) • thank you for sharing!
  26. © 2025, Amazon Web Services, Inc. or its affiliates. All

    rights reserved. 27 Thank you for your feedback!! イベントをきっかけに頂いた不具合の対応 「Amazon Bedrock Knowledge Bases で、利用可能なはずの Titan Embedding v2 を使うことが出来ない」 • 報告して現在対応いただいています!(↓のように共有してくれと回答いただいた のでそのまま共有します) “The service team is aware of and actively working on the fix for the console bug where Titan Text Embeddings V2 is unavailable as an option for Knowledge Base creation in AP-northeast-1 region. In the meantime, the customer can still use the CLI/SDK to create a KB with Titan Text Embeddings V2.”