Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Amazon Rekognitionのカスタムモデルで独自のモデレーションモデルをトレーニングする
Search
Nayuta S.
November 13, 2024
Technology
0
290
Amazon Rekognitionのカスタムモデルで独自のモデレーションモデルをトレーニングする
まるクラ勉強会 ONLINE #3で発表した資料になります。
https://classmethod.connpass.com/event/333509/
Nayuta S.
November 13, 2024
Tweet
Share
More Decks by Nayuta S.
See All by Nayuta S.
Snowflakeの生成AI機能を活用したデータ分析アプリの作成 〜Cortex AnalystとCortex Searchの活用とStreamlitアプリでの利用〜
nayuts
1
890
FastMCPでSQLをチェックしてくれるMCPサーバーを自作してCursorから動かしてみた
nayuts
1
500
Amazon Athenaから利用時のGlueのIcebergテーブルのメンテナンスについて
nayuts
0
470
目玉アップデート!のSageMaker LakehouseとUnified Studioは何たるかを見てみよう!
nayuts
0
1.1k
Google CloudのLLM活用の選択肢を広げるVertex AIのパートナーモデル
nayuts
0
530
データ品質管理の第一歩
nayuts
1
1.1k
簡単に始めるSnowflakeの機械学習
nayuts
1
1.7k
AthenaとStep Functionsで簡単ETLオーケストレーション #midosuji_tech
nayuts
1
1.3k
Vertex AIとBigQueryでつくる簡単ベクトル検索&テキスト分析システム
nayuts
0
1.3k
Other Decks in Technology
See All in Technology
ガバメントクラウドの概要と自治体事例(名古屋市)
techniczna
3
240
RDS の負荷が高い場合に AWS で取りうる具体策 N 連発/a-series-of-specific-countermeasures-available-on-aws-when-rds-is-under-high-load
emiki
7
4.3k
ビズリーチ求職者検索におけるPLMとLLMの活用 / Search Engineering MEET UP_2-1
visional_engineering_and_design
1
170
AI Agent Dojo #2 watsonx Orchestrateフローの作成
oniak3ibm
PRO
0
130
Introdução a Service Mesh usando o Istio
aeciopires
1
230
Copilot Studio ハンズオン - 生成オーケストレーションモード
tomoyasasakimskk
0
150
FinOps について (ちょっと) 本気出して考えてみた
skmkzyk
0
170
Data Hubグループ 紹介資料
sansan33
PRO
0
2.2k
AIエージェント入門 〜基礎からMCP・A2Aまで〜
shukob
0
110
私のMCPの使い方
tsubakimoto_s
0
110
いまからでも遅くない!SSL/TLS証明書超入門(It's not too late to start! SSL/TLS Certificates: The Absolute Beginner's Guide)
norimuraz
0
280
組織改革から開発効率向上まで! - 成功事例から見えたAI活用のポイント - / 20251016 Tetsuharu Kokaki
shift_evolve
PRO
1
170
Featured
See All Featured
Being A Developer After 40
akosma
91
590k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.2k
jQuery: Nuts, Bolts and Bling
dougneiner
65
7.9k
Visualization
eitanlees
149
16k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
34
2.5k
Producing Creativity
orderedlist
PRO
347
40k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
10
880
Practical Orchestrator
shlominoach
190
11k
Designing Experiences People Love
moore
142
24k
Agile that works and the tools we love
rasmusluckow
331
21k
The Straight Up "How To Draw Better" Workshop
denniskardys
238
140k
Intergalactic Javascript Robots from Outer Space
tanoku
273
27k
Transcript
2024/11/13 データ事業本部 鈴木那由太 まるクラ勉強会 O N L IN E #3
A m a z on R ekog nitionのカスタムモデルで 独自のモデレーションモデルをトレーニングする
目次 2 • コンテンツモデレーションについて • A m az on R
e kog nitionについて • R e kog nitionのカスタムモデレーションの紹介
自己紹介 3 名前:鈴木 那由太(スズキ ナユタ) 所属:クラスメソッド株式会社 データ事業本部 インテグレーション部 機械学習チーム 現在の業務:
機械学習用途のデータ分析基盤構築 機械学習システム構築 X:@nayuyu_ns Osaka
コンテンツモデレーションについて
コンテンツモデレーションについて 5 • ユーザーがコンテンツを作成できるウェブサイトで、無関係・わいせつ・違法・有害・侮辱的な投稿を検出する プロセス • 問題のあるコンテンツに対して削除または警告ラベルを適用し、ユーザーが自分でコンテンツをブロックおよび フィルタリングできるようにすることが目的 • 例:動画配信サービスで再生開始時に警告ラベルが出る
AWSでコンテンツモデレーションをするには 6 必ずしもAmazon Rekognitionのコンテンツモデレーションを使う必要はない • 規制したいシチュエーションの画像・動画 • Rekognitionのコンテンツモデレーションで対応可能 • キャラクターやロゴなど著作権侵害の検出
• 特定の対象であればRekognitionのカスタムラベルで対応可能 • マルチモーダルなLLM • 不適切なテキスト • Amazon Comprehend toxicity detectionによる分析(英語のみ) • Amazon Translate Masking profane機能による、翻訳対象中の不適切な単語のマスク • LLMによる判定 Amazon Web Services ブログ『Amazon Rekognition のカスタムモデレーションを利用して独自のモデルで不適切なコンテンツを検出』を参考 • https://aws.amazon.com/jp/blogs/news/amazon-rekognition-のカスタムモデレーションを利用して独自の/
LLMによる画像のモデレーションの検証 7 最近ではマルチモーダルなLLMが登場しており、テキストだけでなく画像などに対しても抽象的な モデレーションができつつある。 ただし、ハルシネーションや再現性の課題はある。 Developers IOブログ『生成AI(Claude 3.5 Sonnet)を使って、画像のモデレーションが可能かどうかを検証してみた』を参考 •
https://dev.classmethod.jp/articles/character-spot-the-difference/ Amazon BedrockからClaude 3.5 Sonnetを利用した例:
Amazon Rekognitionについて
Amazon Rekognitionについて 9 • 画像認識・動画処理向けのAWSのマネージドサービス • 多岐にわたる分析ができる • 顔画像のマッチング •
顔画像の検索 • ラベル検出 • モデレーション(有害性の検出) • 顔の検出と分析 • 画像中のテキスト検出 • 有名人の認識 • 個人用防護具 (PPE) 検出 • 画像のプロパティ分析
Amazon Rekognitionのコンテンツモデレーション 10 • 画像・動画を入力に、警告ラベルをつけてくれる機能 • 現在は、第3レベルカテゴリ粒度で34種 • どちらかというと商品画像などに適しているような所感 <検出の例>
<ラベルのカテゴリの例> • アルコール(L1 – トップレベルカテゴリ) • アルコールの使用(L2 – 第2レベルカテゴリ) • 飲酒(L3 – 第3レベルカテゴリ) • アルコール飲料(L2) ※いらすとやより
Amazon Rekognitionのカスタムモデレーション 11 • “アダプター”を訓練することにより、デフォルトのコンテンツモデレーション機能をカスタマイズできる • 新たな不適切なラベルを追加するのではなく、既存のラベルに割り当てられない画像を、 既存ラベルに判定できるようにする機能 ※Amazon Rekognitionのコンソールより
カスタムモデレーションのご紹介
問題設定 13 自社のECサイトで、高級ワインの取引が行われており、配送時に破損するなどトラブルが多発している。 そもそも酒類の取引は認めておらず、アルコールに関するアイキャッチを設定できないように コンテンツモデレーション機能でブロックしているが、高級ワインを表す画像としてレーズンの画像が 使われるケースがあり、知らないうちに販売が続いていた。 レーズンの画像もアルコールとしてラベル付けしたい。 <問題の画像のサンプル>
画像の用意 14 偽陰性サンプル(50枚) • トレーニング: • 最低 50 個の偽陰性サンプル、または 20
個の偽陽性サンプル • 正しい予測が出る画像 • テスト: • 最低 20 個のサンプル 正しい予測が出る画像(10枚) 正しい予測が出る画像(10枚)
ラベル付け 15 • Amazon Rekognitionのプロジェクト画面上からできる • 陰性のサンプルにはSafeを付ける • 陽性のサンプルには該当するラベルを付ける <ラベル付けの例>
トレーニング 16 • ラベル付け後に、プロジェクト画面からアダプターのトレーニングを実行できる • 通常は30分〜2時間
アダプターの評価 17 • しきい値を変えることで、テスト用のプロジェクト内のサンプルに対してパフォーマンス評価ができる • モデレーション実行時はアダプターとしきい値を指定して実行する
まとめ 18 • Amazon Rekognitionのカスタムモデレーションを使うことで、デフォルトでは判定されない画像に対しても、 ラベルカテゴリを割り当てることができる • ラベル付けなど一連の作業はコンソールより実施できる • 画像や動画に対してモデレーション用のラベルを割り当てる機能のため、特定のオブジェクトの検出はカスタムラベル、
より抽象的な指示はマルチモーダルLLMと、用途に応じたサービスを利用した方がより良い場合がある
None