Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Search
Champ
November 21, 2023
Technology
0
220
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Champ
November 21, 2023
Tweet
Share
More Decks by Champ
See All by Champ
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
champ
0
75
Amazon Qの全体像を掴んでみよう!
champ
0
23
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
champ
0
360
Other Decks in Technology
See All in Technology
Eventual Detection Engineering
ken5scal
0
450
脆弱星に導かれて
nishimunea
1
1.5k
バックログを導入し やっぱやめた話
ota42y
0
170
[RSJ24] Object Segmentation from Open-Vocabulary Manipulation Instructions Based on Optimal Transport Polygon Matching with Foundation Models
keio_smilab
PRO
0
120
ログラスが面白いと思う理由をマネージャーがエモく語ってみる / 20240829 vs LT
yoshikiiida
1
520
RAGHack: Building RAG apps in Python
pamelafox
0
110
すぐに始めるAWSコスト削減。短期でできる改善策と長期的な運用負荷軽減への取り組み方を解説
ncdc
1
310
contenteditableと向き合う
kikuchikakeru
2
160
実践的なバグバウンティ入門
scgajge12
4
2.2k
Practical GenAI with Go - Elastic and Golang Sydney
adriancole
0
130
株式会社M2X エンジニアチーム紹介資料
m2xsoftware
0
330
LLMに日本語テキストを学習させる意義
ksaito
13
3.5k
Featured
See All Featured
Debugging Ruby Performance
tmm1
72
12k
Why Our Code Smells
bkeepers
PRO
333
56k
The Invisible Side of Design
smashingmag
295
50k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
41
6.4k
A Philosophy of Restraint
colly
202
16k
Creatively Recalculating Your Daily Design Routine
revolveconf
215
12k
Testing 201, or: Great Expectations
jmmastey
35
6.9k
Designing with Data
zakiwarfel
98
5k
For a Future-Friendly Web
brad_frost
173
9.3k
No one is an island. Learnings from fostering a developers community.
thoeni
18
2.9k
Embracing the Ebb and Flow
colly
83
4.4k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
34
1.9k
Transcript
神アプデ? Amazon Comprehendで ⽣成系AIの毒性検出に挑戦! AWS-UG東京 ランチタイムLT会 #5 荒牧慧(Champ)
⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •
デモ • まとめと今後の展望
⾃⼰紹介 • 名前: 荒牧慧(Champ) @MckeeChamp • 好きなAWSサービス: Cloudforma4on Bedrock •
資格:
⽣成系AIアプリの悩み
基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある
不適切な情報が⽣成された時に 備える必要がある!
画像はAmazon Rekognitionがある
テキスト毒性検出の マネージドサービスはないのか・・・
Amazon Comprehendに追加されました!
Amazon Comprehendの 毒性検出とは?
Amazon Comprehendの毒性検出とは? OK NG
試してみた
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3
4 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app
<Prompt> をトリガーにLambdaへリクエスト
AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで
推論を実⾏
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを
Amazon Comprehendでチェック
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon
Comprehendのチェックの結果 • OK: Bedrock⽣成テキストをSlackに投稿 • NG:毒性が検知された旨を投稿
デモ
AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ
ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。
デモ
まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能
ご清聴、 ありがとうございました☺