Slide 1
Slide 1 text
神アプデ？
Amazon Comprehendで
⽣成系AIの毒性検出に挑戦！
AWS-UG東京 ランチタイムLT会 #5
荒牧慧（Champ）
Slide 2
Slide 2 text
⽬次
• ⾃⼰紹介
• ⽣成系AIアプリのよくある悩み
• 毒性検出機能とは
• 構成図
• デモ
• まとめと今後の展望
Slide 3
Slide 3 text
⾃⼰紹介
• 名前：
荒牧慧（Champ）
@MckeeChamp
• 好きなAWSサービス：
Cloudforma4on
Bedrock
• 資格：
Slide 4
Slide 4 text
⽣成系AIアプリの悩み
Slide 5
Slide 5 text
基盤モデルにガードレールは組み込まれているが、
不適切な情報が⽣成される可能性はある
Slide 6
Slide 6 text
不適切な情報が⽣成された時に
備える必要がある！
Slide 7
Slide 7 text
画像はAmazon Rekognitionがある
Slide 8
Slide 8 text
テキスト毒性検出の
マネージドサービスはないのか・・・
Slide 9
Slide 9 text
Amazon Comprehendに追加されました！
Slide 10
Slide 10 text
Amazon Comprehendの
毒性検出とは？
Slide 11
Slide 11 text
Amazon Comprehendの毒性検出とは？
OK NG
Slide 12
Slide 12 text
試してみた
Slide 13
Slide 13 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
1
2
3
4
構成図
Slide 14
Slide 14 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
1
構成図
@app
をトリガーにLambdaへリクエスト
Slide 15
Slide 15 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
2
構成図
Slackから送信されたPromptで
推論を実⾏
Slide 16
Slide 16 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
3
構成図
Bedrock⽣成テキストを
Amazon Comprehendでチェック
Slide 17
Slide 17 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
3
構成図
Slide 18
Slide 18 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
3
構成図
Slide 19
Slide 19 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
4
構成図
Amazon Comprehendのチェックの結果
• OK： Bedrock⽣成テキストをSlackに投稿
• NG：毒性が検知された旨を投稿
Slide 20
Slide 20 text
デモ
Slide 21
Slide 21 text
AWS Cloud
Claude 2
Lambda
Amazon
Comprehend
スキップ
Slide 22
Slide 22 text
ごめんなさい
Bedrockのガードレールが強くて、
Bedrockに不適切なテキストを⽣成させること
ができませんでした。。。
Slide 23
Slide 23 text
デモ
Slide 24
Slide 24 text
まとめ
Amazon Comprehendを使うことで
⽣成系AIアプリに必要なガードレールを簡単に実現可能
Slide 25
Slide 25 text
ご清聴、
ありがとうございました☺