神アプデ？Amazon Comprehendで 生成系AIの毒性検出に挑戦！

Transcript

1. 神アプデ？ Amazon Comprehendで ⽣成系AIの毒性検出に挑戦！ AWS-UG東京 ランチタイムLT会 #5 荒牧慧（Champ）
2. ⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 • デモ • まとめと今後の展望
3. ⾃⼰紹介 • 名前： 荒牧慧（Champ） @MckeeChamp • 好きなAWSサービス： Cloudforma4on Bedrock • 資格：
4. ⽣成系AIアプリの悩み
5. 基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある
6. 不適切な情報が⽣成された時に 備える必要がある！
7. 画像はAmazon Rekognitionがある
8. テキスト毒性検出の マネージドサービスはないのか・・・
9. Amazon Comprehendに追加されました！
10. Amazon Comprehendの 毒性検出とは？
11. Amazon Comprehendの毒性検出とは？ OK NG
12. 試してみた
13. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3 4 構成図
14. AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app <Prompt> をトリガーにLambdaへリクエスト
15. AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで 推論を実⾏
16. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを Amazon Comprehendでチェック
17. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
18. AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
19. AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon Comprehendのチェックの結果 • OK： Bedrock⽣成テキストをSlackに投稿 • NG：毒性が検知された旨を投稿
20. デモ
21. AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ
22. ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。
23. デモ
24. まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能
25. ご清聴、 ありがとうございました☺