AI事業者ガイドラインから読み解く、企業が意識すべきAI活用のポイント

by Yoshiki Eguchi

Slide 1

Slide 1 text

AI事業者ガイドラインから読み解く、企業が意識すべきAI活⽤のポイント 2024/7/11 情報システムグループ危機管理室江⼝佳記

Slide 2

Slide 2 text

Xへの投稿の際は、ハッシュタグ #cm_odyssey でお願いいたします。 2 お願い

Slide 3

Slide 3 text

アジェンダ ● AI事業者ガイドラインの概要 ● AIサービスの企業での活⽤ ● クラスメソッドでの取り組み 3

Slide 4

Slide 4 text

自己紹介江口佳記クラスメソッド株式会社危機管理室室長 CISO 4

Slide 5

Slide 5 text

昨年、社内向けAIガイドラインを策定 ● 社内においてAIサービスを利⽤する際のガイドライン ● 2023年3⽉策定 ● ブログでも共有（右下QRコードからアクセス可能） 5

Slide 6

Slide 6 text

社内ガイドラインは策定したが ● 社内のAI利⽤ガイドラインを策定しても、「こうした使い⽅はOKか」という相談は尽きない ● 顧客へのAIサービス⾃体の提供、⾃社サービスでのAI活⽤、社内での業務利⽤など、AI 活⽤の想定シーンも増えてきている 6

Slide 7

Slide 7 text

7 よりAIの活⽤を進めたいが、何を許容し何を懸念するべきか、取り組みについてのリファレンスがほしい

Slide 8

Slide 8 text

8 DL⽤ページへのリンク：ということで

Slide 9

Slide 9 text

AI事業者ガイドラインの概要 9

Slide 10

Slide 10 text

AI事業者ガイドラインとは ● 2024年4⽉に総務省‧経産省が第1.0版を公開 ● 既存のガイドラインを統合‧アップデート ● 企業での利⽤を「開発者」「提供者」「利⽤者」の3ケースで考え、それぞれの考慮事項‧ 共通で取り組むべき事項を整理 10

Slide 11

Slide 11 text

参考：各主体とその役割 11 主体役割 AI開発者（AI Developer） AIシステムを開発する事業者・AIモデル・アルゴリズムの開発・データ収集、前処理・AIシステムの構築 AI提供者（AI Provider） AIシステムを組み込んだサービスを提供する事業者・AIシステムの検証、他システムとの連携の実装・AIシステム・サービスの提供・運用 AI利用者 (AI Business User) 事業活動においてAIシステム/AIサービスを利用する事業者・AI提供者が意図する適正な利用・AIシステムの運用・業務外利用者に対する影響の考慮 ※同じ企業が複数の主体を兼ねる場合もある（提供者かつ利⽤者など）

Slide 12

Slide 12 text

このガイドラインを読むことの意味 ● 国が事業者へどのようにAIを活⽤してほしいのか、の期待がわかる ● 原則の考え⽅がわかる ● 開発‧提供‧利⽤の各ケースで何を考慮すべきかが網羅的にわかる 12

Slide 13

Slide 13 text

注意点 ● AIサービスの具体的な活⽤⽅法にフォーカスした資料ではありません ● AIサービスの利⽤をどう統制するか、というガバナンスの視点が中⼼の資料です 13

Slide 14

Slide 14 text

NEW!! 7/5に経産省から「コンテンツ制作のためのAI利活⽤ガイドブック」がリリースされました ● 「コンテンツ制作」にフォーカスしていますが、AI利活⽤の具体例が紹介されたガイドブックです ● 同時にリリースされた「コンテンツ産業における先端的技術活⽤に関する調査事業報告書」も有⽤な情報が詰め込まれていてオススメです！ ● AI利活⽤の事例を知りたい⽅はぜひ確認してみてください 14

Slide 15

Slide 15 text

原則の話 15

Slide 16

Slide 16 text

⼈間中⼼のAI社会原則 16 ● 2019年3⽉に国が策定した原則 ● AIを活⽤する社会の在り⽅の原則を提⽰したもの ● 次スライドで紹介する3つの価値を理念として尊重する

Slide 17

Slide 17 text

基本理念の3つの価値 ● ⼈間の尊厳が尊重される社会（Dignity） ● 多様な背景を持つ⼈々が多様な幸せを追求できる社会（Diversity and Inclusion） ● 持続可能な社会（Sustainability） 17

Slide 18

Slide 18 text

噛み砕いて⾔うと ● ⼈間の尊厳が尊重される ➢ ⼈間 > AI、あくまでAIは道具 ● 多様な背景を持つ⼈々が多様な幸せを追求できる ➢ AIが多様な価値観を妨げない、むしろ発展させていくべき ● 持続可能 ➢ 環境問題へ配慮する、AIをそのために活⽤する 18

Slide 19

Slide 19 text

あくまで⼈間が中⼼ AIは⼈間を⽀えるもの 19

Slide 20

Slide 20 text

取り組みの指針 20

Slide 21

Slide 21 text

共通指針 ● AI開発者、AI提供者、AI利⽤者それぞれが共通で取り組むべき指針 ● 以下のカテゴリで構成されている 21 ⼈間中⼼安全性公平性プライバシー保護セキュリティ確保透明性アカウンタビリティ教育‧ リテラシー公正競争確保イノベーション ■：各主体が連携し、バリューチェーン全体で取り組むべき事項 ■：社会と連携して取り組むことが期待される事項

Slide 22

Slide 22 text

⼈間中⼼‧安全性‧公平性⼈間中⼼の原則に基づいて、AIが⼈間の尊厳を尊重し、危害を加えたり不公正な出⼒をしないよう配慮する ● 個⼈の⾃律を尊重し、AIに⼈間の意思決定や感情を不当に操作させない（⼈間中⼼） ● 権利侵害が発⽣しないようコントロールする（安全性） ● AIに単独で判断させず、適切なタイミングで⼈間の判断を介在させる（公平性） 22

Slide 23

Slide 23 text

透明性‧アカウンタビリティシステムの透明性を確保し、ステークホルダーに対して合理的な範囲で情報を提供する ● ログの記録‧保存など、検証可能性の確保（透明性） ● 「共通の指針」の対応状況の説明（アカウンタビリティ） 23

Slide 24

Slide 24 text

教育‧リテラシー主体内の AI に関わる⼈員に対して、AI の知識‧リテラシー‧倫理感など必要な教育を⾏う。社外のステークホルダーに対しても教育を⾏うことが期待される ● AIリテラシーの確保 ● 教育‧リスキリング ● ステークホルダーへのフォローアップ 24

Slide 25

Slide 25 text

その他の項⽬ 25 カテゴリ概要具体的な項目（抜粋）プライバシー保護ステークホルダーのプライバシーが尊重・保護されるよう対応を取る・個人情報保護法にもとづいた対応の確保・国際的な個人データ保護の原則および基準の参照セキュリティ確保不正操作によって AI の振る舞いに意図せぬ変更又は停止が生じることのないように、セキュリティを確保する・AIシステム・サービスに影響するセキュリティ対策・最新動向への留意公正競争確保 AI をめぐる公正な競争環境の維持に努める - イノベーション社会全体のイノベーションの促進に貢献する・オープンイノベーション等の推進・相互接続性・運用製への留意・適切な情報提供

Slide 26

Slide 26 text

共通指針のざっくりまとめ ● AIの出⼒が不正確‧不公正な出⼒ではないか、適切に⼈間が介在して対処する ● セキュリティ確保やプライバシー保護に加え、AIシステム全体での透明性‧アカウンタビリティを確保する ● 各ステークホルダーへAIリテラシーを向上する教育を⾏う ● AIにより社会やイノベーションに貢献する 26

Slide 27

Slide 27 text

AI開発者向けの指針 ● データ前処理‧学習時 ○ 適切なデータ利⽤、データに含まれるバイアスへの配慮 ● AI開発時 ○ ⼈間の⽣命‧⾝体‧財産、精神および環境に配慮した開発 ○ リスクを抑えるガードレールの設置 ○ 開発時からのセキュリティ対策（セキュリティ‧バイ‧デザイン） etc ● AI開発後 ○ 攻撃⼿法等の最新動向への留意 ○ ステークホルダーへの情報提供 ○ 開発関連状況の⽂章化 etc 27

Slide 28

Slide 28 text

AI提供者向けの指針 ● システム実装時 ○ 適正利⽤に資する提供 ○ プライバシー保護、セキュリティ対策の仕組みの導⼊ ○ システムアーキテクチャの⽂書化 ● システム‧サービス提供後 ○ 適正利⽤の検証、プライバシー侵害への対策 ○ 脆弱性への対応 ○ ステークホルダーへの情報提供 ○ サービス規約等の⽂書化 etc 28

Slide 29

Slide 29 text

AI利⽤者向けの指針 ● 安全を考慮した適正利⽤ ● ⼊⼒データ‧プロンプトに含まれるバイアスへの配慮 ● 個⼈情報の不適切⼊⼒、プライバシー侵害への対策 ● セキュリティ対策の実施 ● ステークホルダーへの情報提供 ● AI提供者からの⽂書の保管‧活⽤、サービス規約の遵守 29

Slide 30

Slide 30 text

アプローチ検討⽤ツール ● AI事業者ガイドラインの別添資料として、「具体的なアプローチ検討のためのワークシート」が提供されている（Excel形式） ● ワークシートに記⼊することで、指針にどう取り組むかを検討できる ○ 記載事項がすべて必須なわけではなく、カスタマイズして活⽤することが前提 30

Slide 31

Slide 31 text

AIサービスの企業での活⽤ 31

Slide 32

Slide 32 text

● AIサービスのメリット（便益）を理解する ● AIサービスのリスクも把握する ● リスクを分析したうえで、AIサービスをどう利⽤するか、ガイドラインの指針を参照しつつ検討する ● AIガバナンスを構築していくことが理想 32

Slide 33

Slide 33 text

企業活動におけるAIによる便益の例「AI事業者ガイドライン（第1.0版）別添資料より抜粋（図7） 33

Slide 34

Slide 34 text

AI利⽤のリスク ● 不正確な情報の出⼒ ● 機密情報の流出 ● 不適切な個⼈情報の取り扱い ● フェイクニュース等への悪⽤ etc 34

Slide 35

Slide 35 text

“リスクを恐れるあまり、「リスクがゼロになるまでAIを活⽤しないこと」⼜は「完全なセーフガードを引く」ということを通じて各主体が動くことができなくなることも⼀種のリスクである” ※「AI事業者ガイドライン（第1.0版）別添資料より抜粋 35

Slide 36

Slide 36 text

クラスメソッドでの取り組み 36

Slide 37

Slide 37 text

AI倫理ポリシーの策定 ● 社内AI利⽤ガイドラインの上位⽂書として策定 ● ガイドライン「共通の指針」の各項⽬を意識し⽂⾯を考案 ● コーポレートサイトにて公開済み 37

Slide 38

Slide 38 text

https://classmethod.jp/ai-policy/ 38

Slide 39

Slide 39 text

（作成時の草案） 39

Slide 40

Slide 40 text

リスク分析利⽤するAIサービスについてリスクアセスメント項⽬を定義、分析を実施 40

Slide 41

Slide 41 text

ガイドラインの⾒直し ● 標準で利⽤を許容するAIサービスについてのガイドラインを新たに策定 ● ⼊⼒データ⾃体の制限より、「避けてほしいこと」を主に記述 ● 内容にはAI事業者ガイドラインで触れられている事項を反映 41

Slide 42

Slide 42 text

アプローチ検討ワークシートの作成 ● 現在作業中 ● なかなか各項⽬について具体的なアプローチを記述するのは難しい ○ プライバシーとモニタリングのバランスなど、悩ましい部分もある ○ 記⼊し終えたら知⾒を共有したい 42

Slide 43

Slide 43 text

AIガバナンスの構築 ● AI倫理ポリシー‧利⽤ガイドラインなど、パーツは出来ている ● 前掲のワークシートが完成すると、AIガバナンスで⽬指すべきゴールが出来てくる想定 ● 運⽤しモニタリングするサイクルへの落とし込みに今後取り組んでいく 43

Slide 44

Slide 44 text

AI事業者ガイドラインを読んでの⾃分のなかでの変化 ● AI事業者ガイドラインに⽬を通すことで、どんなことを原則として考えるべきか、何を優先して対応すべきかの「基準」がはっきりした ● 社内でAIの運⽤について相談された場合でも、AI事業者ガイドラインを意識することで判断がしやすくなった ○ 「AI事業者ガイドラインにはこう書いてある」というと相⼿も納得しやすい 44

Slide 45

Slide 45 text

まとめ 45

Slide 46

Slide 46 text

● 政府による「AI事業者ガイドライン」により、企業がAI に取り組むべき国の期待‧指針が理解できる ● ガイドラインは、AIはあくまで⼈間に寄り添う存在であり、⼈間が適切に介在し活⽤していくべきものであることを⽰している ● 企業ではこの指針をもとにAI活⽤を検討し、AI利⽤のポリシー‧ガバナンスを検討してみるのが良い 46