Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Bedrockでのプロンプト管理戦略
Search
Shota Totsuka
March 25, 2025
3
150
Bedrockでのプロンプト管理戦略
Shota Totsuka
March 25, 2025
Tweet
Share
More Decks by Shota Totsuka
See All by Shota Totsuka
HITL実装によるマルチエージェント組織の設計パターン
totsukash
0
4
Claude Codeの知らない知識に立ち向かう
totsukash
1
320
Claude Codeの知らない知識、ADK, A2Aを用いた プロダクト開発をClaude Codeで行う
totsukash
0
360
Claude Code で Vibe Coding
totsukash
1
9
MCP, A2Aをプロダクトに組み込んで 開発している話
totsukash
1
10
Mastra活用|Text-to-SQLの実装と応用
totsukash
1
160
Amazon SageMaker AIでモデル開発からデプロイまで試す
totsukash
2
51
Amazon CodeGuruをGitHubと統合して アプリケーションの品質管理を楽にする
totsukash
0
17
AWS Glueで始めるETLパイプライン
totsukash
0
30
Featured
See All Featured
Docker and Python
trallard
46
3.6k
Building Better People: How to give real-time feedback that sticks.
wjessup
369
20k
jQuery: Nuts, Bolts and Bling
dougneiner
65
7.9k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
9
990
BBQ
matthewcrist
89
9.8k
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
Optimizing for Happiness
mojombo
379
70k
Optimising Largest Contentful Paint
csswizardry
37
3.5k
The Power of CSS Pseudo Elements
geoffreycrofte
79
6k
Thoughts on Productivity
jonyablonski
70
4.9k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
657
61k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
667
130k
Transcript
Bedrockでのプロンプト管理戦略 AWS活用 AI/ML/LLM #7 機械学習/大規模言語モデルの実装と運用 株式会社BLUEISH Software Engineer 戸塚 翔太
@totsumaru_dot
自己紹介 株式会社BLUEISH AI Lead Engineer @totsumaru_dot 戸塚 翔太 普段はLLMアプリケーションの開発をしていまP
現在は法人向けAIエージェントプラットフォーム「BLUEISH Agents」 の開発を担当しています
AWS認定(今年1月から開始)
イベントを多数開催しています!
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
Bedrockのプロンプト管理 Bedrockのプロンプト管理とは? i Bedrock上でプロンプトを保存しておき、 推論時はその変数だけを指定すればよb i 1つのプロンプトに対して複数のバージョン (バリアント)を定義できC i 変更差分が分かC
i バージョン同士で比較できC i temperatureなどの値も管理できる
Bedrockのプロンプト管理 構成 h ドラフトを編集し、編集が完了し たら「バージョン」としてデプロ イすD h ARNを指定して各バージョンのプ ロンプトを使用できD h
デプロイ後の削除は可能だが、変 更は不可(別バージョンとしてデ プロイする必要あり)
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
使ってみる! プロンプトを作成 % 「プロンプトを作成」ボタンからプロンプト作成画面へ遷移
使ってみる! プロンプトビルダーで編集 # 編集はドラフトで行B # 「プロンプトビルダーで編集」か らドラフトの編集が可能
使ってみる! システム / アシスタント / ユーザー プロンプトの設定 t システムプロンプト(1つ: Optionali
t ユーザーメッセージ(複数可: 少なくとも1つ定義i t アシスタントメッセージ(複数可: Optional) 変数は5つまで設定可能。
使ってみる! モデル・パラメーターを設定 D モデルを選択し、パラメータを設9 D temperatur4 D top-) D response
lengt D stop sequences
使ってみる! 追加設定 " モデル独自の設定項目をJSON形式 で設定可2 " ツールの設定も可能
使ってみる! テストの実行 3 テスト変数を設定 → テストウィンドウ で検証が可8 3 ダッシュボード上で検証可能
使ってみる! 保存・バージョンの作成 F 下書きのまま保存 → 「ドラフトを保存% F 本番として保存 → 「バージョンを作成」
使ってみる! バリアントの比較
使ってみる! 登録したプロンプトで推論を実行 (Converse APIで実装8 S プロンプトの変数を設定するだ5 S プロンプト本文はBedrock管' S その他パラメータもBedrock管理
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
運用のしやすさ・他の手段 運用のしやすさ 0 LLMの主な用途がチャットの場合はすごく有S 0 ソースコードがスッキリする / コードと別管理となるメリッX 0 画像,
ツールを多用する場合は複雑化する懸念あり(ただし、エージェントでの管理もある) 他の手段 0 Git / GitHu 0 LangSmith / Langfuse → 評価とともに管理
01 Bedrockのプロンプト管理 02 使ってみる! 03 運用のしやすさ、他の手段 04 所感・まとめ アジェンダ
所感・まとめ プロンプトテンプレート, モデル, パラメータを合わせて管理できるため、コードがスッキリすF バージョン毎の比較はあるものの、実務では常に最新バージョンが有用となる可能性が高いた め、変更差分管理としての用途になりそX (差分管理だけならGit管理で行う方が楽な気もする..."
ダッシュボードで検証が容易にできるため、変更 → 検証の速度向上に繋がF Bedrock x チャット の用途であれば有用
Thank you!