コンテンツモデレーションにおける適切な監査範囲の考察

by gree_tech

Slide 1

Slide 1 text

コンテンツモデレーションにおける適切な監査範囲の定め方株式会社WFS モデレーションデザイナー石井晃紀

Slide 2

Slide 2 text

石井晃紀 BPOベンダーでのモデレーション業務を経て、2023年にグリー株式会社（現：グリーホールディングス株式会社）へ入社グリーグループが提供しているSNSサービスのモデレーション業務に従事監査基準の策定や品質管理を担当株式会社WFS モデレーションデザイナー 2

Slide 3

Slide 3 text

目次・アジェンダ ● モデレーション業務とは ● 監査範囲について考えることになったきっかけ ● どのように監査範囲を定めるのか ● 適切な監査範囲を定めることで得られる効果 ● まとめ 3

Slide 4

Slide 4 text

モデレーション業務とは 4

Slide 5

Slide 5 text

モデレーション業務とは 5 　　テキスト　　画像・動画　　配信・音声 ✓　投稿のチェック ✓　違反投稿の削除 ✓　違反アカウントの削除インターネット上に投稿されたコンテンツをチェックし、利用規約に違反している投稿の削除やアカウント削除等の対応を行う業務

Slide 6

Slide 6 text

モデレーション業務とは 6 モデレーションの種類事前監査通報監査事後監査ユーザー投稿サービス反映モデレーションユーザー投稿モデレーションサービス反映ユーザー通報サービス反映モデレーション

Slide 7

Slide 7 text

モデレーション業務とは 7 モデレーションの種類事前監査通報監査事後監査ユーザー投稿サービス反映モデレーションユーザー投稿モデレーションサービス反映ユーザー通報サービス反映モデレーション

Slide 8

Slide 8 text

モデレーション業務とは 8 モデレーションの役割ユーザーの保護　ユーザーを有害なコンテンツから保護し、　安全かつ快適な利用環境を提供企業の信用性向上　提供しているサービスの健全性担保コンプライアンスの遵守　法律で禁止されているコンテンツの排除

Slide 9

Slide 9 text

モデレーション業務とは 9 モデレーションに必要な要素迅速かつ適切な判断適切な監査範囲

Slide 10

Slide 10 text

監査範囲について考えることになったきっかけ 10

Slide 11

Slide 11 text

11 監査範囲について考えることになったきっかけ効率化によるコスト削減

Slide 12

Slide 12 text

監査範囲 12 コスト削減に影響するモデレーション要素対処の種類対象コンテンツ判断基準監査範囲について考えることになったきっかけ

Slide 13

Slide 13 text

13 コスト削減に影響するモデレーション要素監査範囲対処の種類判断基準対象コンテンツ監査範囲について考えることになったきっかけ

Slide 14

Slide 14 text

14 監査範囲監査範囲を適切なボリュームに抑えることで、コストの抑制が可能監査範囲について考えることになったきっかけ

Slide 15

Slide 15 text

どのように監査範囲を定めるのか 15

Slide 16

Slide 16 text

どのように監査範囲を定めるのか 16 監査範囲を定める4つの観点違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置

Slide 17

Slide 17 text

17 監査範囲を定める4つの観点違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置どのように監査範囲を定めるのか

Slide 18

Slide 18 text

18 違反投稿の存在位置どのように監査範囲を定めるのか会話の流れ

Slide 19

Slide 19 text

19 違反投稿の存在位置監査対象投稿から近い違反投稿の出現率監査対象投稿から遠い監査対象投稿が違反投稿だった場合に、関連する違反投稿の存在位置監査対象投稿との距離（何件離れているか）どのように監査範囲を定めるのか

Slide 20

Slide 20 text

20 違反投稿の存在位置違反投稿の出現率監査対象投稿から最低限140件は確認したほうがよいどのように監査範囲を定めるのか監査対象投稿が違反投稿だった場合に、関連する違反投稿の存在位置監査対象投稿から近い監査対象投稿から遠い監査対象投稿との距離（何件離れているか）

Slide 21

Slide 21 text

21 違反理由毎に調べることによって、より詳細な監査範囲を設計できる 67.1% どのように監査範囲を定めるのか：補足違反投稿の出現率監査対象投稿から近い監査対象投稿から遠い監査対象投稿との距離（何件離れているか）

Slide 22

Slide 22 text

22 違反理由毎に調べることによって、より詳細な監査範囲を設計できる 67.1% どのように監査範囲を定めるのか：補足違反投稿の出現率　　違反理由「出会い」　：100件　　違反理由「誹謗中傷」：200件　　違反理由「性的内容」：150件監査対象投稿から近い監査対象投稿から遠い監査対象投稿との距離（何件離れているか）

Slide 23

Slide 23 text

23 違反投稿の存在位置監査対象投稿が違反であった際の関連する違反投稿の存在位置を調べることで、　　　　　　　　　「監査範囲の目安」を特定できるさらに深堀りするならば、違反理由毎に調べることによって、　　「違反理由毎の監査範囲の目安」を特定できるどのように監査範囲を定めるのか

Slide 24

Slide 24 text

24 違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置どのように監査範囲を定めるのか監査範囲を定める4つの観点

Slide 25

Slide 25 text

25 違反の常習性どのように監査範囲を定めるのかチェック対象投稿が違反だった場合に、同様の違反投稿を行っている場所の数 ※場所とは：他の投稿コンテンツや、異なるユーザーへの投稿を指す違反投稿違反投稿違反投稿？

Slide 26

Slide 26 text

26 違反の常習性出会い性的内容誹謗中傷どのように監査範囲を定めるのかチェック対象投稿が違反だった場合に、同様の違反投稿を行っている場所の数 ※場所とは：他の投稿コンテンツや、異なるユーザーへの投稿を指す

Slide 27

Slide 27 text

27 違反の常習性出会い性的内容誹謗中傷どのように監査範囲を定めるのかチェック対象投稿が違反だった場合に、同様の違反投稿を行っている場所の数 ※場所とは：他の投稿コンテンツや、異なるユーザーへの投稿を指す出会い関連の投稿を検知した場合は、投稿者が行っている他の場所での投稿もチェックしたほうがよい

Slide 28

Slide 28 text

28 違反の常習性「違反理由毎に他の場所での違反状況（常習性）」を調べることで、「チェック対象が存在しない場所での監査範囲」を検討できるどのように監査範囲を定めるのか

Slide 29

Slide 29 text

29 違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置どのように監査範囲を定めるのか監査範囲を定める4つの観点

Slide 30

Slide 30 text

30 コンテンツの特性プロフィールプロフィール情報を一体のものとして作り上げているユーザーが多いニックネーム、自己紹介文、アイコン画像、アバター、顔写真・・等、あわせてチェックすることでユーザーの投稿意図が把握できる DM 参加者が少ないコンテンツのため、会話の流れが分かりやすいただし、親密なユーザー同士が会話している場合は、監査範囲が広くなることもあるコミュニティスレッドコミュニティは、タイトルや説明文をチェックし、どのような場なのかを理解したうえで判断するスレッドは、特定の投稿に対する返信のため、親投稿をあわせてチェックすることで会話を理解しやすいコンテンツの特性にあわせた監査範囲を定める必要があるどのように監査範囲を定めるのか

Slide 31

Slide 31 text

31 違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置どのように監査範囲を定めるのか監査範囲を定める4つの観点

Slide 32

Slide 32 text

32 リスクの度合い人命に関わる内容　自殺や殺人、テロ予告重大な犯罪に繋がる内容　詐欺や薬物売買の勧誘青少年の保護に関わる内容　児童ポルノ、売春の誘いかけどのように監査範囲を定めるのか違反投稿のリスク度合いによって監査範囲を広げる必要がある

Slide 33

Slide 33 text

どのように監査範囲を定めるのか 33 違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置監査範囲を定める4つの観点

Slide 34

Slide 34 text

どのように監査範囲を定めるのか 34 不適切投稿の常習性コンテンツの特性リスクの度合い不適切投稿の存在位置監査範囲を定める4つの観点適切な監査範囲はサービスによって異なる提供している価値 / ユーザー層 / 文化 / コンテンツ / リスク

Slide 35

Slide 35 text

適切な監査範囲を定めることで得られる効果 35

Slide 36

Slide 36 text

適切な監査範囲を定めることで得られる効果 36 発言意図の正確な理解　ある程度の会話の流れを読み込まないと　適切な判断はできないコスト抑制　品質面では全投稿チェックが良い　ただし莫大なコストが発生する迅速な対応　工数が削減され、　違反投稿を早期に検知可能になる

Slide 37

Slide 37 text

適切な監査範囲を定めることで得られる効果 37 適切な監査範囲を定めたことにより、　違反投稿検知数を維持しつつ 20％のコスト削減　　　　　　　　　　　　　　　　　　　　　　に成功

Slide 38

Slide 38 text

まとめ 38

Slide 39

Slide 39 text

まとめ 39 違反の常習性コンテンツの特性リスクの度合い違反投稿の存在位置どのように監査範囲を定めるのか　　✓ 監査範囲を特定できる　　✓ 違反理由ごとの　　　監査範囲を特定できる　　✓ 他の場所での投稿を　　　チェックすべきか検討できる　　✓ コンテンツごとの　　　監査範囲を特定できる　　✓ 違反投稿の内容に応じた　　　監査範囲を特定できるサービスごとに適切な監査範囲が存在する

Slide 40

Slide 40 text

まとめ 40 適切な監査範囲を定めることで得られる効果発言意図を正確に読み取るため　ある程度の会話の流れを読み込まないと　適切な判断はできないコスト抑制のため　品質面では全投稿監査が良い　ただし莫大なコストが発生する迅速な対応のため　監査工数が削減され、　違反投稿を早期に検知可能になる

Slide 41

Slide 41 text

さいごに 41 是非、情報交換・連携しながらインターネットの健全性を守っていきたい