個人的 2025年1Q Amazon Bedrockニュース

Transcript

1. 個人的 2025年1Q Amazon Bedrockニュース 2025年3月26日 株式会社スカイアーチネットワークス ITサービス本部 システムアーキテクト部 辻川 弘規 つながりテック #2 AWSトークで締めくくる年度末LT大会
2. ©Copyright 2024 SKYARCH, an IBM Company 2 Agenda 1. 自己紹介 2. re:Invent 2024 〜 現在までのUpdate 3. Amazon Bedrockが大阪リージョンに登場！ 4. Claude 3 Sonnetが一部リージョンでレガシー 5. Claude 3.7 SonnetがNow on Sale！ 6. Amazon Q Developer CLIエージェント半端ないって 7. まとめ
3. ©Copyright 2024 SKYARCH, an IBM Company 自己紹介 3
4. ©Copyright 2024 SKYARCH, an IBM Company 4 自己紹介（お仕事） 　所属：ITサービス本部　システムアーキテクト部　デベロップメント課 　お仕事：インフラ設計/構築、アプリ設計/開発、PJマネジメント 　資格：2023,2024 Japan AWS All Certifications Engineers 　　　　　　　　 　 2024 Japan AWS Top Engineers 　好きなAWSサービス：AWS CDK、AWS Lambda、Amazon Bedrock 　大学時代：宇宙線からのニュートリノを追っかける日々 　趣味：読書、映画鑑賞、競馬鑑賞 辻川 弘規 （つじかわ ひろき） @teriyakisu
5. ©Copyright 2024 SKYARCH, an IBM Company 5 自己紹介（趣味） 先日、自宅本棚の棚卸し 約1,300冊 楽天本棚アプリ最高！
6. ©Copyright 2024 SKYARCH, an IBM Company re:Invent 2024 〜 現在までのUpdate 6
7. ©Copyright 2024 SKYARCH, an IBM Company 7 re:Invent 2024 〜 現在までのUpdate re:Invent 2024直後のUpdate 個人的には一番試してみたい機能 まだ限定プレビュー状態 Amazon Novaシリーズの登場！ BDAやグラフRAGの登場
8. ©Copyright 2024 SKYARCH, an IBM Company 8 re:Invent 2024から4ヶ月間でのUpdate（辻川調べ） RAGやその他機能にてGA（一般公開） RAGやその他機能にてGA（一般公開） Claude 3.7 Sonnetの登場 東京リージョンにてNovaが利用可能 DeepSeek-R1モデルの登場 re:Invent 2024 〜 現在までのUpdate
9. ©Copyright 2024 SKYARCH, an IBM Company Amazon Bedrockが大阪リージョンに登場！ 9
10. ©Copyright 2024 SKYARCH, an IBM Company 10 Amazon Bedrockが大阪リージョンに登場！ ブログ書いたお 利用可能な基盤モデル（LLM）は？ 2025/3時点では、Claude 3.5 Sonnet v2 / Titan Text Embeddings V2 -> Claude 3.5 Sonnet v2はクロスリージョン推論のみ対応
11. ©Copyright 2024 SKYARCH, an IBM Company 11 Amazon Bedrockが大阪リージョンに登場！ クロスリージョン推論 とは？ Blackbeltより引用 https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2024_Amazon-Bedrock-Model-Inference-b_0909_v1.pdf
12. ©Copyright 2024 SKYARCH, an IBM Company 12 Amazon Bedrockが大阪リージョンに登場！ ブログ書いたお てことは、東京/大阪の国内リージョンの分散が可能！？ 国内でなく、アジアリージョン全体でLLM呼び出しがルーティングされる。 -> 大阪リージョンで呼び出しても、海外リージョンのLLMが呼び出される可能性あり。
13. ©Copyright 2024 SKYARCH, an IBM Company 13 Amazon Bedrockが大阪リージョンに登場！ ブログ書いたお LLM呼び出しログを確認してみる CloudWatch Logsから確認してみるとシドニーリージョンのLLMが呼び出される
14. ©Copyright 2024 SKYARCH, an IBM Company 14 Amazon Bedrockが大阪リージョンに登場！ ブログ書いたお アジアリージョン全体のLLMモデルを整理 Claude 3.5 Sonnet v2のオンデマンド推論はシドニーリージョンのみ。 実態はシドニーにしかないため、常にシドニーのみにルーティング？（詳しい方教えてください）
15. ©Copyright 2024 SKYARCH, an IBM Company Claude 3 Sonnetが一部リージョンでレガシー 15
16. ©Copyright 2024 SKYARCH, an IBM Company 16 Claude 3 Sonnetが一部リージョンでレガシー なんと複数リージョンでClaude 3 Sonnetがレガシーに！ 東京リージョンは まだアクティブ
17. ©Copyright 2024 SKYARCH, an IBM Company 17 Claude 3 Sonnetが一部リージョンでレガシー LLMのライフサイクルについておさらい Blackbeltより引用 https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2024_Amazon-Bedrock-Model-Inference-a_0909_v1.pdf
18. ©Copyright 2024 SKYARCH, an IBM Company 18 Claude 3 Sonnetが一部リージョンでレガシー EOLの6ヶ月前にメールにて通知されてました 7/21以降 オレゴンリージョンなどで Claude 3 Sonnetを 利用するとエラーとなります！
19. ©Copyright 2024 SKYARCH, an IBM Company Claude 3.7 SonnetがNow on Sale！ 19
20. ©Copyright 2024 SKYARCH, an IBM Company 20 Claude 3.7 SonnetがNow on Sale！ 初のハイブリッド推論モデル！お値段 なんとClaude 3.5シリーズ据え置き価格！ 【標準モード】 Claude 3.5 Sonnet の改良版 【拡張思考モード】 問題を詳細に分析し、解決策を計画し 複数の視点を検討してから回答を提供 コード生成や図解生成などで驚きの実力発揮！
21. ©Copyright 2024 SKYARCH, an IBM Company 21 Claude 3.7 SonnetがNow on Sale！ SKYChatにも早速LLM追加対応！ draw.ioにて図解を貼り付けられるように XML形式で出力とプロンプト指示！
22. ©Copyright 2024 SKYARCH, an IBM Company 22 Claude 3.7 SonnetがNow on Sale！ 図解作成イメージはこんな感じ
23. ©Copyright 2024 SKYARCH, an IBM Company 23 Claude 3.7 SonnetがNow on Sale！ ソースコード修正もお手のもの 推論タイプを出力するように変更 オンデマンド/クロスリージョン推論 など 既存のソースコードをプロンプトに含め ソースコード修正依頼を投げると 後方互換性を持つ形で修正までしてくれる！
24. ©Copyright 2024 SKYARCH, an IBM Company Amazon Q Developer CLIエージェント半端ないって 24
25. ©Copyright 2024 SKYARCH, an IBM Company 25 Amazon Q Developer CLIエージェント半端ないって Amazon Q Develoer for CLIが進化！詳細はブログ読んでください！ ブログ書いたお Ver 1.7.0より利用可能！
26. ©Copyright 2024 SKYARCH, an IBM Company 26 Amazon Q Developer CLIエージェント半端ないって どんなことができるの？ -> AWS環境の情報取得（例：S3バケット一覧） ブログ書いたお VS Code内Amazon Q プラグイン ・日本語 非対応 ・英語で質問しても 　CLI/SDKでの取得方法のみ提示 Amazon Q Developer for CLI ・日本語 対応 ・AWSプロファイル情報より 　対象AWSアカウントを参照し 　S3バケット一覧の値を取得可能
27. ©Copyright 2024 SKYARCH, an IBM Company 27 Amazon Q Developer CLIエージェント半端ないって どんなことができるの？ -> CDKのコードを1から生成 ブログ書いたお
28. ©Copyright 2024 SKYARCH, an IBM Company 28 Amazon Q Developer CLIエージェント半端ないって どんなことができるの？ -> リファクタリングだってへっちゃらさ ブログ書いたお
29. ©Copyright 2024 SKYARCH, an IBM Company まとめ 29
30. ©Copyright 2024 SKYARCH, an IBM Company 30 まとめ（個人的感想） 1. Preview -> たった4ヶ月で半分近くがGA！ 2. Bedrockのアップデート多いのでキャッチアップ大変、But 楽しい！ 3. Amazon Nova Premierが待ち遠しい！ 4. プロンプトキャッシュを早く利用したい！ 5. 国内リージョン内でのクロスリージョン推論を希望！ 6. Amazon Q DeveloperのProアカウントに移行せねば！
31. ©Copyright 2024 SKYARCH, an IBM Company 31