Amazon Bedrockのバッチ推論が強化された件について

2025 Japan AWS Jr. Champions アップデート情報共有コミュニティ勉強会 2025/08/28実施分

Transcript

1. Amazon Bedrockのバッチ推論が 強化された件について SCSK株式会社　佐藤優音 2025.08.28 [ NEWS ]
2. [ Introduction ] 佐藤 優音 Sato Yuto 　　　製造事業グループ 　　　ソリューション第一事業本部 　　　コンサルティング第三部第三課 所属 　　　吹奏楽(打楽器・ドラム)、 　　　コーヒー、AWS BuildrCards 趣味 　　　OracleのSaaSERPパッケージの導入 業務
3. [ Introduction ] 夏休みの宿題、 計画的にできるタイプでしたか？
4. [ Introduction ] 今日は「まとめて一気に！」が 好きな皆さんに朗報です。
5. VoCの分析 週1回、その週に投稿された 全レビューをバッチ処理に かけ、製品ごとの評判レポート を自動生成するしたい データ入力の自動化 スキャン画像やPDFファイルか ら、特定の情報を抽出し、会計 システムに登録できる形式 （JSONなど）に変換 商品説明の作成 新商品を追加する際、商品 リストのCSVファイルを投入 して、一括で商品説明文を作成 Batch Inferenceとは？
6. 　　待ち時間が長い… 　　一つ一つお願いするのが面倒… 　　何より…料金が気になる！ Batch Inferenceとは？ 従来の方法では…
7. Amazon Bedrock Batch Inference Batch Inferenceとは？
8. 01 非同期実行 APIをコールしてジョブを作成→即座にジョブIDが返却 処理はバックグラウンドで実行される！→待ちなしでOK 02 スループット最適化 AWSが裏側でコンピューティングリソースのスケーリングや リクエストのキューイングを管理→効率◎ 03 データ入出力の疎結合 データソースと出力先としてAmazon S3を利用 →推論処理と前後のデータ処理パイプラインを完全に分離 04 ステート管理 各ジョブに InProgress, Completed, Failed などのステータス →AWSコンソールやCLI/SDKを通じて追跡可 Batch Inferenceとは？
9. Batch Inferenceとは？ 入力用Ｓ３ 出力用Ｓ３ Amazon Bedrock Batch Inference
10. 新たなモデルが追加！ こんなところが強化された！ Anthropic Claude Sonnet 4 OpenAI GPT-OSS モデル
11. 高度な読解力と論理的思考 マルチリンガル性能 コスト面での負担× オーバースペックの可能性 Anthropic Claude Sonnet 4 一言でいえば、 「品質重視のバッチ処理」 。 契約書や論文のように、アウトプットの 正確性や論理性がビジネス上の価値に 直結するような、難易度の高いタスクを大 量に処理したい場合にぴったり！ これまで人手でのレビューが必須だった り、高コストな同期APIを何度も呼び出し たりしていたワークフローを、バッチ処理 に置き換えることで大幅に効率化！ メ リ ッ ト ・ デ メ リ ッ ト
12. 圧倒的なコスト効率 基本的な処理には十分な汎用性能 複雑なタスクへの対応力 品質のばらつき OpenAI GPT-OSS モデル 一言でいえば、 「量とコスト効率重視の バッチ処理」 。その驚異的なコストパフォ ーマンスでこれまで費用対効果の観点から 諦めていたような、 「とにかく数が多い」 タスクに適用可能。 多少の精度よりも、まずは大規模なデータ を捌ききることが優先されるデータクレン ジングや、単純なタグ付けといった用途で 真価を発揮。 メ リ ッ ト ・ デ メ リ ッ ト
13. 新たなモデルが追加！ こんなところが強化された！ Anthropic Claude Sonnet 4 OpenAI GPT-OSS モデル
14. 新たなモデルが追加！ こんなところが強化された！ Anthropic Claude Sonnet 4 OpenAI GPT-OSS モデル
15. [ まとめ ] Amazon Bedrockのバッチ推論が、 新しい強力なモデルに対応して、 より安く (オンデマンドの半額) より賢く (最新モデルで) より簡単 (任せて待つだけ) になりました！
16. [ THANK YOU! ]