Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Search
Champ
November 21, 2023
Technology
0
320
神アプデ?Amazon Comprehendで 生成系AIの毒性検出に挑戦!
Champ
November 21, 2023
Tweet
Share
More Decks by Champ
See All by Champ
【re:Invent 2024 アプデ】 Prompt Routing の紹介
champ
1
450
Amazon BedrockでClaude 3.5 Sonnet v2のComputer useを試す
champ
0
89
【Bedrock×Athena】生成系AIでSlackデータの分析に挑戦
champ
0
160
Amazon Qの全体像を掴んでみよう!
champ
0
55
Bedrockで挑戦! 生成系AIで Slackコミュニケーションの活性化!
champ
0
430
Other Decks in Technology
See All in Technology
マルチモーダル基盤モデルに基づく動画と音の解析技術
lycorptech_jp
PRO
2
270
Microsoft Learn MCP/Fabric データエージェント/Fabric MCP/Copilot Studio-簡単・便利なAIエージェント作ってみた -"Building Simple and Powerful AI Agents with Microsoft Learn MCP, Fabric Data Agent, Fabric MCP, and Copilot Studio"-
reireireijinjin6
1
160
TypeScript 上達の道
ysknsid25
23
4.8k
新規事業におけるAIリサーチの活用例
ranxxx
0
170
Jitera Company Deck / JP
jitera
0
270
【CEDEC2025】LLMを活用したゲーム開発支援と、生成AIの利活用を進める組織的な取り組み
cygames
PRO
1
1.7k
PdM業務における使い分け
shinshiro
0
680
Wasmで社内ツールを作って配布しよう
askua
0
150
解消したはずが…技術と人間のエラーが交錯する恐怖体験
lamaglama39
0
140
P2P ではじめる WebRTC のつまづきどころ
tnoho
1
270
DatabricksのOLTPデータベース『Lakebase』に詳しくなろう!
inoutk
0
160
claude codeでPrompt Engineering
iori0311
0
530
Featured
See All Featured
The Cult of Friendly URLs
andyhume
79
6.5k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
181
54k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
2.9k
Embracing the Ebb and Flow
colly
86
4.8k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
31
1.3k
Mobile First: as difficult as doing things right
swwweet
223
9.7k
GitHub's CSS Performance
jonrohan
1031
460k
Art, The Web, and Tiny UX
lynnandtonic
301
21k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
VelocityConf: Rendering Performance Case Studies
addyosmani
332
24k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
50
5.5k
Transcript
神アプデ? Amazon Comprehendで ⽣成系AIの毒性検出に挑戦! AWS-UG東京 ランチタイムLT会 #5 荒牧慧(Champ)
⽬次 • ⾃⼰紹介 • ⽣成系AIアプリのよくある悩み • 毒性検出機能とは • 構成図 •
デモ • まとめと今後の展望
⾃⼰紹介 • 名前: 荒牧慧(Champ) @MckeeChamp • 好きなAWSサービス: Cloudforma4on Bedrock •
資格:
⽣成系AIアプリの悩み
基盤モデルにガードレールは組み込まれているが、 不適切な情報が⽣成される可能性はある
不適切な情報が⽣成された時に 備える必要がある!
画像はAmazon Rekognitionがある
テキスト毒性検出の マネージドサービスはないのか・・・
Amazon Comprehendに追加されました!
Amazon Comprehendの 毒性検出とは?
Amazon Comprehendの毒性検出とは? OK NG
試してみた
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 2 3
4 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 1 構成図 @app
<Prompt> をトリガーにLambdaへリクエスト
AWS Cloud Claude 2 Lambda Amazon Comprehend 2 構成図 Slackから送信されたPromptで
推論を実⾏
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図 Bedrock⽣成テキストを
Amazon Comprehendでチェック
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 3 構成図
AWS Cloud Claude 2 Lambda Amazon Comprehend 4 構成図 Amazon
Comprehendのチェックの結果 • OK: Bedrock⽣成テキストをSlackに投稿 • NG:毒性が検知された旨を投稿
デモ
AWS Cloud Claude 2 Lambda Amazon Comprehend スキップ
ごめんなさい Bedrockのガードレールが強くて、 Bedrockに不適切なテキストを⽣成させること ができませんでした。。。
デモ
まとめ Amazon Comprehendを使うことで ⽣成系AIアプリに必要なガードレールを簡単に実現可能
ご清聴、 ありがとうございました☺