AI事業者ガイドラインから読み解く、企業が意識すべきAI活用のポイント

Classmethod Odyssey (https://classmethod.jp/m/odyssey/) 登壇時の資料です。

Transcript

1. AI事業者ガイドラインから読み解く、 企業が意識すべきAI活⽤のポイント 2024/7/11 情報システムグループ 危機管理室 江⼝佳記
2. Xへの投稿の際は、 ハッシュタグ #cm_odyssey でお願いいたします。 2 お願い
3. アジェンダ • AI事業者ガイドラインの概要 • AIサービスの企業での活⽤ • クラスメソッドでの取り組み 3
4. 自己紹介 江口 佳記 クラスメソッド株式会社 危機管理室 室長 CISO 4
5. 昨年、社内向けAIガイドラインを策定 • 社内においてAIサービスを利⽤ する際のガイドライン • 2023年3⽉策定 • ブログでも共有 （右下QRコードからアクセス可能） 5
6. 社内ガイドラインは策定したが • 社内のAI利⽤ガイドラインを策定しても、 「こうした使い⽅はOKか」という相談は尽 きない • 顧客へのAIサービス⾃体の提供、⾃社サー ビスでのAI活⽤、社内での業務利⽤など、AI 活⽤の想定シーンも増えてきている 6
7. 7 よりAIの活⽤を進めたいが、何を許容し 何を懸念するべきか、取り組みについて のリファレンスがほしい
8. 8 DL⽤ページへのリンク： ということで
9. AI事業者ガイドラインの概要 9
10. AI事業者ガイドラインとは • 2024年4⽉に総務省‧経産省が第1.0版を公開 • 既存のガイドラインを統合‧アップデート • 企業での利⽤を「開発者」「提供者」「利⽤ 者」の3ケースで考え、それぞれの考慮事項‧ 共通で取り組むべき事項を整理 10
11. 参考：各主体とその役割 11 主体 役割 AI開発者 （AI Developer） AIシステムを開発する事業者 ・AIモデル・アルゴリズムの開発 ・データ収集、前処理 ・AIシステムの構築 AI提供者 （AI Provider） AIシステムを組み込んだサービスを提供する事業者 ・AIシステムの検証、他システムとの連携の実装 ・AIシステム・サービスの提供・運用 AI利用者 (AI Business User) 事業活動においてAIシステム/AIサービスを利用する事業者 ・AI提供者が意図する適正な利用 ・AIシステムの運用 ・業務外利用者に対する影響の考慮 ※同じ企業が複数の主体を兼ねる場合もある （提供者かつ利⽤者など）
12. このガイドラインを読むことの意味 • 国が事業者へどのようにAIを活⽤してほし いのか、の期待がわかる • 原則の考え⽅がわかる • 開発‧提供‧利⽤の各ケースで何を考慮す べきかが網羅的にわかる 12
13. 注意点 • AIサービスの具体的な活⽤⽅法にフォーカ スした資料ではありません • AIサービスの利⽤をどう統制するか、とい うガバナンスの視点が中⼼の資料です 13
14. NEW!! 7/5に経産省から「コンテンツ制作のためのAI利活⽤ガイ ドブック」がリリースされました • 「コンテンツ制作」にフォーカスしていますが、AI利活⽤の具体例が紹介されたガイドブックです • 同時にリリースされた「 コンテンツ産業における先端的技術活⽤に関する調査 事業報告書」も有⽤な 情報が詰め込まれていてオススメです！ • AI利活⽤の事例を知りたい⽅はぜひ確認してみてください 14
15. 原則の話 15
16. ⼈間中⼼のAI社会原則 16 • 2019年3⽉に国が策定した原則 • AIを活⽤する社会の在り⽅の原則を提⽰し たもの • 次スライドで紹介する3つの価値を理念と して尊重する
17. 基本理念の3つの価値 • ⼈間の尊厳が尊重される社会（Dignity） • 多様な背景を持つ⼈々が多様な幸せを追求 できる社会（Diversity and Inclusion） • 持続可能な社会（Sustainability） 17
18. 噛み砕いて⾔うと • ⼈間の尊厳が尊重される ➢ ⼈間 > AI、あくまでAIは道具 • 多様な背景を持つ⼈々が多様な幸せを追求できる ➢ AIが多様な価値観を妨げない、むしろ発展させ ていくべき • 持続可能 ➢ 環境問題へ配慮する、AIをそのために活⽤する 18
19. あくまで⼈間が中⼼ AIは⼈間を⽀えるもの 19
20. 取り組みの指針 20
21. 共通指針 • AI開発者、AI提供者、AI利⽤者それぞれが共通 で取り組むべき指針 • 以下のカテゴリで構成されている 21 ⼈間中⼼ 安全性 公平性 プライバシー 保護 セキュリティ確 保 透明性 アカウンタビリ ティ 教育‧ リテラシー 公正競争確保 イノベーション ▪：各主体が連携し、バリューチェーン全体で取り組むべき事項 ▪：社会と連携して取り組むことが期待される事項
22. ⼈間中⼼‧安全性‧公平性 ⼈間中⼼の原則に基づいて、AIが⼈間の尊厳を尊重し、危 害を加えたり不公正な出⼒をしないよう配慮する • 個⼈の⾃律を尊重し、AIに⼈間の意思決定や感情を不当 に操作させない（⼈間中⼼） • 権利侵害が発⽣しないようコントロールする（安全性） • AIに単独で判断させず、適切なタイミングで⼈間の判断 を介在させる（公平性） 22
23. 透明性‧アカウンタビリティ システムの透明性を確保し、ステークホル ダーに対して合理的な範囲で情報を提供する • ログの記録‧保存など、検証可能性の確保（透明性） • 「共通の指針」の対応状況の説明（アカウンタビリティ） 23
24. 教育‧リテラシー 主体内の AI に関わる⼈員に対して、AI の知識‧リテ ラシー‧倫理感など必要な教育を⾏う。社外のステー クホルダーに対しても教育を⾏うことが期待される • AIリテラシーの確保 • 教育‧リスキリング • ステークホルダーへのフォローアップ 24
25. その他の項⽬ 25 カテゴリ 概要 具体的な項目（抜粋） プライバシー保護 ステークホルダーのプライバシーが尊重・保護され るよう対応を取る ・個人情報保護法にもとづいた対応の 確保 ・国際的な個人データ保護の原則およ び基準の参照 セキュリティ確保 不正操作によって AI の振る舞いに意図せぬ変更 又は停止が生じることのないように、セキュリティを 確保する ・AIシステム・サービスに影響するセ キュリティ対策 ・最新動向への留意 公正競争確保 AI をめぐる公正な競争環境の維持に努める - イノベーション 社会全体のイノベーションの促進に貢献する ・オープンイノベーション等の推進 ・相互接続性・運用製への留意 ・適切な情報提供
26. 共通指針のざっくりまとめ • AIの出⼒が不正確‧不公正な出⼒ではないか、適切に⼈ 間が介在して対処する • セキュリティ確保やプライバシー保護に加え、AIシステ ム全体での透明性‧アカウンタビリティを確保する • 各ステークホルダーへAIリテラシーを向上する教育を⾏ う • AIにより社会やイノベーションに貢献する 26
27. AI開発者向けの指針 • データ前処理‧学習時 ◦ 適切なデータ利⽤、データに含まれるバイアスへの配慮 • AI開発時 ◦ ⼈間の⽣命‧⾝体‧財産、精神および環境に配慮した開発 ◦ リスクを抑えるガードレールの設置 ◦ 開発時からのセキュリティ対策（セキュリティ‧バイ‧デザイン） etc • AI開発後 ◦ 攻撃⼿法等の最新動向への留意 ◦ ステークホルダーへの情報提供 ◦ 開発関連状況の⽂章化 etc 27
28. AI提供者向けの指針 • システム実装時 ◦ 適正利⽤に資する提供 ◦ プライバシー保護、セキュリティ対策の仕組みの導⼊ ◦ システムアーキテクチャの⽂書化 • システム‧サービス提供後 ◦ 適正利⽤の検証、プライバシー侵害への対策 ◦ 脆弱性への対応 ◦ ステークホルダーへの情報提供 ◦ サービス規約等の⽂書化 etc 28
29. AI利⽤者向けの指針 • 安全を考慮した適正利⽤ • ⼊⼒データ‧プロンプトに含まれるバイアスへの配慮 • 個⼈情報の不適切⼊⼒、プライバシー侵害への対策 • セキュリティ対策の実施 • ステークホルダーへの情報提供 • AI提供者からの⽂書の保管‧活⽤、サービス規約の遵守 29
30. アプローチ検討⽤ツール • AI事業者ガイドラインの別添資料として、「具体的なアプローチ検討のための ワークシート」が提供されている（Excel形式） • ワークシートに記⼊することで、指針にどう取り組むかを検討できる ◦ 記載事項がすべて必須なわけではなく、カスタマイズして活⽤することが 前提 30
31. AIサービスの企業での活⽤ 31
32. • AIサービスのメリット（便益）を理解する • AIサービスのリスクも把握する • リスクを分析したうえで、AIサービスをど う利⽤するか、ガイドラインの指針を参照 しつつ検討する • AIガバナンスを構築していくことが理想 32
33. 企業活動におけるAIによる便益の例 「AI事業者ガイドライン（第1.0版）別添資料より抜粋（図7） 33
34. AI利⽤のリスク • 不正確な情報の出⼒ • 機密情報の流出 • 不適切な個⼈情報の取り扱い • フェイクニュース等への悪⽤ etc 34
35. “リスクを恐れるあまり、「リスクがゼロになるま でAIを活⽤しないこと」⼜は「完全なセーフガー ドを引く」ということを通じて各主体が動くこと ができなくなることも⼀種のリスクである” ※「AI事業者ガイドライン（第1.0版）別添資料より抜粋 35
36. クラスメソッドでの取り組み 36
37. AI倫理ポリシーの策定 • 社内AI利⽤ガイドラインの上位⽂書として 策定 • ガイドライン「共通の指針」の各項⽬を意 識し⽂⾯を考案 • コーポレートサイトにて公開済み 37
38. https://classmethod.jp/ai-policy/ 38
39. （作成時の草案） 39
40. リスク分析 利⽤するAIサービスについてリスクアセスメント項⽬を定 義、分析を実施 40
41. ガイドラインの⾒直し • 標準で利⽤を許容するAIサービスについてのガイドラインを新たに策定 • ⼊⼒データ⾃体の制限より、「避けてほしいこと」を主に記述 • 内容にはAI事業者ガイドラインで触れられている事項を反映 41
42. アプローチ検討ワークシートの作成 • 現在作業中 • なかなか各項⽬について具体的なアプローチを記述するのは難しい ◦ プライバシーとモニタリングのバランスなど、悩ましい部分もある ◦ 記⼊し終えたら知⾒を共有したい 42
43. AIガバナンスの構築 • AI倫理ポリシー‧利⽤ガイドラインなど、パー ツは出来ている • 前掲のワークシートが完成すると、AIガバナン スで⽬指すべきゴールが出来てくる想定 • 運⽤しモニタリングするサイクルへの落とし込 みに今後取り組んでいく 43
44. AI事業者ガイドラインを読んでの⾃分のなかでの変化 • AI事業者ガイドラインに⽬を通すことで、どんなことを原 則として考えるべきか、何を優先して対応すべきかの「基 準」がはっきりした • 社内でAIの運⽤について相談された場合でも、AI事業者ガ イドラインを意識することで判断がしやすくなった ◦ 「AI事業者ガイドラインにはこう書いてある」というと 相⼿も納得しやすい 44
45. まとめ 45
46. • 政府による「AI事業者ガイドライン」により、企業がAI に取り組むべき国の期待‧指針が理解できる • ガイドラインは、AIはあくまで⼈間に寄り添う存在であ り、⼈間が適切に介在し活⽤していくべきものであるこ とを⽰している • 企業ではこの指針をもとにAI活⽤を検討し、AI利⽤のポ リシー‧ガバナンスを検討してみるのが良い 46
47. ご清聴 ありがとうございました！ 47