Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Search
Champ
November 21, 2023
Technology
0
280
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Champ
November 21, 2023
Tweet
Share
More Decks by Champ
See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
champ
1
390
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
champ
0
55
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
champ
0
130
Amazon Qの全体像を掴んでみよう!
champ
0
46
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
champ
0
410
Other Decks in Technology
See All in Technology
フォーイット_エンジニア向け会社紹介資料_Forit_Company_Profile.pdf
forit_tech
1
1.7k
Охота на косуль у древних
ashapiro
0
120
実は強い 非ViTな画像認識モデル
tattaka
3
1.4k
入門 PEAK Threat Hunting @SECCON
odorusatoshi
0
180
Pwned Labsのすゝめ
ken5scal
2
560
LINEギフトにおけるバックエンド開発
lycorptech_jp
PRO
0
410
OPENLOGI Company Profile
hr01
0
60k
AI Agent時代なのでAWSのLLMs.txtが欲しい!
watany
3
360
アジャイルな開発チームでテスト戦略の話は誰がする? / Who Talks About Test Strategy?
ak1210
1
810
Ruby on Railsで持続可能な開発を行うために取り組んでいること
am1157154
3
160
[OpsJAWS Meetup33 AIOps] Amazon Bedrockガードレールで守る安全なAI運用
akiratameto
1
130
2025/3/1 公共交通オープンデータデイ2025
morohoshi
0
110
Featured
See All Featured
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
227
22k
[RailsConf 2023] Rails as a piece of cake
palkan
53
5.3k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
11
1.3k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7.1k
Documentation Writing (for coders)
carmenintech
68
4.6k
Fireside Chat
paigeccino
35
3.2k
RailsConf 2023
tenderlove
29
1k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
160
15k
Building Flexible Design Systems
yeseniaperezcruz
328
38k
4 Signs Your Business is Dying
shpigford
183
22k
Music & Morning Musume
bryan
46
6.4k
Transcript
神アプデ? Amazon Comprehendで ⽣成系AIの毒性検出に挑戦! AWS-UG東京 ランチタイムLT会 #5 荒牧慧(Champ)
⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •
デモ • まとめと今後の展望
⾃⼰紹介 • 名前: 荒牧慧(Champ) @MckeeChamp • 好きなAWSサービス: Cloudforma4on Bedrock •
資格:
⽣成系AIアプリの悩み
基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある
不適切な情報が⽣成された時に 備える必要がある!
画像はAmazon Rekognitionがある
テキスト毒性検出の マネージドサービスはないのか・・・
Amazon Comprehendに追加されました!
Amazon Comprehendの 毒性検出とは?
Amazon Comprehendの毒性検出とは? OK NG
試してみた
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3
4 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app
<Prompt> をトリガーにLambdaへリクエスト
AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで
推論を実⾏
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを
Amazon Comprehendでチェック
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon
Comprehendのチェックの結果 • OK: Bedrock⽣成テキストをSlackに投稿 • NG:毒性が検知された旨を投稿
デモ
AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ
ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。
デモ
まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能
ご清聴、 ありがとうございました☺