Bedrockでガードレールのフィルターを理解する

Transcript

2. 自己紹介 ©Blueish 2024. All rights reserved. 戸塚 翔太｜BLUEISH Shota Totsuka ・LLMアプリ開発者（Go/Python …etc） ・生成AI, 機械学習 ・趣味: スキー/スノボ, 最近はDifyにContribute ・静岡県（浜松）に住んでます 　近くの方がいれば、一緒に勉強会しましょう！ Xアカウント @totsukash
3. 自己紹介 ©Blueish 2024. All rights reserved. AWS認定（1月から開始）
4. 01 ガードレールとは？ 02 料金・仕組み 03 フィルターの種類 04 デプロイ 目次 ©Blueish 2024. All rights reserved. 05 まとめ
5. 01 ガードレールとは？ ©Blueish 2024. All rights reserved.
6. ©Blueish 2024. All rights reserved. ガードレールとは？ - LLM Applicationにて、LLMへの入力やLLMからの出力の内容を保護する仕組み - システム側が許容していない入力を弾く - システム側が許容していない出力をユーザーに返さない ガードレール
7. ガードレールとは？ Amazon Bedrock Guardrails
8. ガードレールとは？ 日本語の対応
9. 02 料金・仕組み ©Blueish 2024. All rights reserved.
10. 料金・仕組み 仕組み
11. 仕組み・料金 料金
12. 仕組み・料金 料金
13. 03 フィルターの種類 ©Blueish 2024. All rights reserved.
14. フィルターの種類 コンテンツフィルター - Hate（ヘイト、憎悪） - Insults（侮辱） - Sexual（性的） - Violence（暴力） - Misconduct（不正行為） - Prompt Attack（プロンプト攻撃） - ジェイルブレイク: 有害なコンテンツを生成させる - プロンプトインジェクション: プロンプトを上書きさせる
15. フィルターの種類
16. フィルターの種類
17. フィルターの種類 拒否されたトピック - 望ましくない拒否トピックを指定できる（最大30個） - 200文字でトピックの定義を説明 & 最大5つのサンプルフレーズ - 例 - 投資アドバイスに関する内容 - 仮想通貨に関する内容 - …etc
18. フィルターの種類
19. フィルターの種類 機密情報フィルター - 個人情報、機密情報をブロック / マスク できる - 住所,名前,email,クレジットカード,講座,IPアドレス …etc - マスクの場合は [NAME-1], [EMAIL-1] などに置き換えられる - 正規表現での指定も可能
20. フィルターの種類
21. フィルターの種類
22. フィルターの種類 単語フィルター - 入力プロンプトやモデル応答内の単語やフレーズ (完全一致) をブロックする - 単語やフレーズ（最大3語）を10,000語まで指定可能 - S3に.txt/.csvをアップロードして登録することも可能
23. フィルターの種類
24. フィルターの種類 コンテキスト グラウンディングチェック - 参照ソースとユーザークエリが提供された場合に、モデル応答の幻覚を検出して フィルタリング - RAG, 要約など参考にすべきソースが入っている場合に使用 - 処理される各チャンクの関連性をチェック - 各モデル応答のグラウンディングと関連性に対応する信頼スコアが生成される - 閾値を用いてフィルタリング
25. フィルターの種類
26. フィルターの種類 画像コンテンツフィルター
27. 04 デプロイ・検証 ©Blueish 2024. All rights reserved.
28. デプロイ・検証 デプロイ（バージョン管理）
29. デプロイ・検証 テスト
30. ご清聴ありがとうございました。 ©Blueish 2024. All rights reserved.