Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
AI事業者ガイドラインから読み解く、企業が意識すべきAI活用のポイント
Search
Yoshiki Eguchi
July 11, 2024
Technology
0
390
AI事業者ガイドラインから読み解く、企業が意識すべきAI活用のポイント
Classmethod Odyssey (
https://classmethod.jp/m/odyssey/
) 登壇時の資料です。
Yoshiki Eguchi
July 11, 2024
Tweet
Share
More Decks by Yoshiki Eguchi
See All by Yoshiki Eguchi
AIサービス利用ガイドライン策定のすすめ
yoshikieguchi
0
1.1k
社内でChatGPTを利用するためのガイドラインを整備した話
yoshikieguchi
1
2.2k
ビジネスライティング講座
yoshikieguchi
1
12k
Splunk Appのつくりかた / How to create Splunk App
yoshikieguchi
0
2.1k
Other Decks in Technology
See All in Technology
Eventual Detection Engineering
ken5scal
0
250
医療アプリ開発の最前線 - 安全性と生産性の両立への挑戦 -
medley
0
400
X-Correlation Injections (or How to break server-side contexts)
fransrosen
0
340
目標設定と習慣化で今よりも一歩生産性を上げる
sansantech
PRO
6
2.2k
Bidirectional Quadratic Voting Leveraging Issue-Based Matching
kentaro
2
170
エンジニアリングマネージャーが紐解く、事業視点から組織文化まで、包括的アプローチの探求 / READYFOR
9ma3r
13
2.1k
エンジニア向け会社紹介資料
caddi_eng
15
250k
Dojo 20240830 COBOL to Java on Z
ichikawayasuhisa
0
240
セキュリティ監視の内製化 効率とリスク
mixi_engineers
PRO
2
170
サイボウズ 開発本部採用ピッチ / Cybozu Engineer Recruit
cybozuinsideout
PRO
9
41k
Oracle Cloud Infrastructure:2024年8月度サービス・アップデート
oracle4engineer
PRO
0
280
2024年版 運用者たちのLLM
nwiizo
2
190
Featured
See All Featured
Done Done
chrislema
180
16k
A Tale of Four Properties
chriscoyier
155
22k
Rails Girls Zürich Keynote
gr2m
93
13k
Design by the Numbers
sachag
277
19k
KATA
mclloyd
27
13k
How to train your dragon (web standard)
notwaldorf
85
5.6k
Building Applications with DynamoDB
mza
89
5.9k
The MySQL Ecosystem @ GitHub 2015
samlambert
250
12k
Principles of Awesome APIs and How to Build Them.
keavy
125
16k
Producing Creativity
orderedlist
PRO
340
39k
Atom: Resistance is Futile
akmur
261
25k
4 Signs Your Business is Dying
shpigford
179
21k
Transcript
AI事業者ガイドラインから読み解く、 企業が意識すべきAI活⽤のポイント 2024/7/11 情報システムグループ 危機管理室 江⼝佳記
Xへの投稿の際は、 ハッシュタグ #cm_odyssey でお願いいたします。 2 お願い
アジェンダ • AI事業者ガイドラインの概要 • AIサービスの企業での活⽤ • クラスメソッドでの取り組み 3
自己紹介 江口 佳記 クラスメソッド株式会社 危機管理室 室長 CISO 4
昨年、社内向けAIガイドラインを策定 • 社内においてAIサービスを利⽤ する際のガイドライン • 2023年3⽉策定 • ブログでも共有 (右下QRコードからアクセス可能) 5
社内ガイドラインは策定したが • 社内のAI利⽤ガイドラインを策定しても、 「こうした使い⽅はOKか」という相談は尽 きない • 顧客へのAIサービス⾃体の提供、⾃社サー ビスでのAI活⽤、社内での業務利⽤など、AI 活⽤の想定シーンも増えてきている 6
7 よりAIの活⽤を進めたいが、何を許容し 何を懸念するべきか、取り組みについて のリファレンスがほしい
8 DL⽤ページへのリンク: ということで
AI事業者ガイドラインの概要 9
AI事業者ガイドラインとは • 2024年4⽉に総務省‧経産省が第1.0版を公開 • 既存のガイドラインを統合‧アップデート • 企業での利⽤を「開発者」「提供者」「利⽤ 者」の3ケースで考え、それぞれの考慮事項‧ 共通で取り組むべき事項を整理 10
参考:各主体とその役割 11 主体 役割 AI開発者 (AI Developer) AIシステムを開発する事業者 ・AIモデル・アルゴリズムの開発 ・データ収集、前処理
・AIシステムの構築 AI提供者 (AI Provider) AIシステムを組み込んだサービスを提供する事業者 ・AIシステムの検証、他システムとの連携の実装 ・AIシステム・サービスの提供・運用 AI利用者 (AI Business User) 事業活動においてAIシステム/AIサービスを利用する事業者 ・AI提供者が意図する適正な利用 ・AIシステムの運用 ・業務外利用者に対する影響の考慮 ※同じ企業が複数の主体を兼ねる場合もある (提供者かつ利⽤者など)
このガイドラインを読むことの意味 • 国が事業者へどのようにAIを活⽤してほし いのか、の期待がわかる • 原則の考え⽅がわかる • 開発‧提供‧利⽤の各ケースで何を考慮す べきかが網羅的にわかる 12
注意点 • AIサービスの具体的な活⽤⽅法にフォーカ スした資料ではありません • AIサービスの利⽤をどう統制するか、とい うガバナンスの視点が中⼼の資料です 13
NEW!! 7/5に経産省から「コンテンツ制作のためのAI利活⽤ガイ ドブック」がリリースされました • 「コンテンツ制作」にフォーカスしていますが、AI利活⽤の具体例が紹介されたガイドブックです • 同時にリリースされた「 コンテンツ産業における先端的技術活⽤に関する調査 事業報告書」も有⽤な 情報が詰め込まれていてオススメです!
• AI利活⽤の事例を知りたい⽅はぜひ確認してみてください 14
原則の話 15
⼈間中⼼のAI社会原則 16 • 2019年3⽉に国が策定した原則 • AIを活⽤する社会の在り⽅の原則を提⽰し たもの • 次スライドで紹介する3つの価値を理念と して尊重する
基本理念の3つの価値 • ⼈間の尊厳が尊重される社会(Dignity) • 多様な背景を持つ⼈々が多様な幸せを追求 できる社会(Diversity and Inclusion) • 持続可能な社会(Sustainability)
17
噛み砕いて⾔うと • ⼈間の尊厳が尊重される ➢ ⼈間 > AI、あくまでAIは道具 • 多様な背景を持つ⼈々が多様な幸せを追求できる ➢
AIが多様な価値観を妨げない、むしろ発展させ ていくべき • 持続可能 ➢ 環境問題へ配慮する、AIをそのために活⽤する 18
あくまで⼈間が中⼼ AIは⼈間を⽀えるもの 19
取り組みの指針 20
共通指針 • AI開発者、AI提供者、AI利⽤者それぞれが共通 で取り組むべき指針 • 以下のカテゴリで構成されている 21 ⼈間中⼼ 安全性 公平性
プライバシー 保護 セキュリティ確 保 透明性 アカウンタビリ ティ 教育‧ リテラシー 公正競争確保 イノベーション ▪:各主体が連携し、バリューチェーン全体で取り組むべき事項 ▪:社会と連携して取り組むことが期待される事項
⼈間中⼼‧安全性‧公平性 ⼈間中⼼の原則に基づいて、AIが⼈間の尊厳を尊重し、危 害を加えたり不公正な出⼒をしないよう配慮する • 個⼈の⾃律を尊重し、AIに⼈間の意思決定や感情を不当 に操作させない(⼈間中⼼) • 権利侵害が発⽣しないようコントロールする(安全性) • AIに単独で判断させず、適切なタイミングで⼈間の判断
を介在させる(公平性) 22
透明性‧アカウンタビリティ システムの透明性を確保し、ステークホル ダーに対して合理的な範囲で情報を提供する • ログの記録‧保存など、検証可能性の確保(透明性) • 「共通の指針」の対応状況の説明(アカウンタビリティ) 23
教育‧リテラシー 主体内の AI に関わる⼈員に対して、AI の知識‧リテ ラシー‧倫理感など必要な教育を⾏う。社外のステー クホルダーに対しても教育を⾏うことが期待される • AIリテラシーの確保 •
教育‧リスキリング • ステークホルダーへのフォローアップ 24
その他の項⽬ 25 カテゴリ 概要 具体的な項目(抜粋) プライバシー保護 ステークホルダーのプライバシーが尊重・保護され るよう対応を取る ・個人情報保護法にもとづいた対応の 確保
・国際的な個人データ保護の原則およ び基準の参照 セキュリティ確保 不正操作によって AI の振る舞いに意図せぬ変更 又は停止が生じることのないように、セキュリティを 確保する ・AIシステム・サービスに影響するセ キュリティ対策 ・最新動向への留意 公正競争確保 AI をめぐる公正な競争環境の維持に努める - イノベーション 社会全体のイノベーションの促進に貢献する ・オープンイノベーション等の推進 ・相互接続性・運用製への留意 ・適切な情報提供
共通指針のざっくりまとめ • AIの出⼒が不正確‧不公正な出⼒ではないか、適切に⼈ 間が介在して対処する • セキュリティ確保やプライバシー保護に加え、AIシステ ム全体での透明性‧アカウンタビリティを確保する • 各ステークホルダーへAIリテラシーを向上する教育を⾏ う
• AIにより社会やイノベーションに貢献する 26
AI開発者向けの指針 • データ前処理‧学習時 ◦ 適切なデータ利⽤、データに含まれるバイアスへの配慮 • AI開発時 ◦ ⼈間の⽣命‧⾝体‧財産、精神および環境に配慮した開発 ◦
リスクを抑えるガードレールの設置 ◦ 開発時からのセキュリティ対策(セキュリティ‧バイ‧デザイン) etc • AI開発後 ◦ 攻撃⼿法等の最新動向への留意 ◦ ステークホルダーへの情報提供 ◦ 開発関連状況の⽂章化 etc 27
AI提供者向けの指針 • システム実装時 ◦ 適正利⽤に資する提供 ◦ プライバシー保護、セキュリティ対策の仕組みの導⼊ ◦ システムアーキテクチャの⽂書化 •
システム‧サービス提供後 ◦ 適正利⽤の検証、プライバシー侵害への対策 ◦ 脆弱性への対応 ◦ ステークホルダーへの情報提供 ◦ サービス規約等の⽂書化 etc 28
AI利⽤者向けの指針 • 安全を考慮した適正利⽤ • ⼊⼒データ‧プロンプトに含まれるバイアスへの配慮 • 個⼈情報の不適切⼊⼒、プライバシー侵害への対策 • セキュリティ対策の実施 •
ステークホルダーへの情報提供 • AI提供者からの⽂書の保管‧活⽤、サービス規約の遵守 29
アプローチ検討⽤ツール • AI事業者ガイドラインの別添資料として、「具体的なアプローチ検討のための ワークシート」が提供されている(Excel形式) • ワークシートに記⼊することで、指針にどう取り組むかを検討できる ◦ 記載事項がすべて必須なわけではなく、カスタマイズして活⽤することが 前提 30
AIサービスの企業での活⽤ 31
• AIサービスのメリット(便益)を理解する • AIサービスのリスクも把握する • リスクを分析したうえで、AIサービスをど う利⽤するか、ガイドラインの指針を参照 しつつ検討する • AIガバナンスを構築していくことが理想
32
企業活動におけるAIによる便益の例 「AI事業者ガイドライン(第1.0版)別添資料より抜粋(図7) 33
AI利⽤のリスク • 不正確な情報の出⼒ • 機密情報の流出 • 不適切な個⼈情報の取り扱い • フェイクニュース等への悪⽤ etc
34
“リスクを恐れるあまり、「リスクがゼロになるま でAIを活⽤しないこと」⼜は「完全なセーフガー ドを引く」ということを通じて各主体が動くこと ができなくなることも⼀種のリスクである” ※「AI事業者ガイドライン(第1.0版)別添資料より抜粋 35
クラスメソッドでの取り組み 36
AI倫理ポリシーの策定 • 社内AI利⽤ガイドラインの上位⽂書として 策定 • ガイドライン「共通の指針」の各項⽬を意 識し⽂⾯を考案 • コーポレートサイトにて公開済み 37
https://classmethod.jp/ai-policy/ 38
(作成時の草案) 39
リスク分析 利⽤するAIサービスについてリスクアセスメント項⽬を定 義、分析を実施 40
ガイドラインの⾒直し • 標準で利⽤を許容するAIサービスについてのガイドラインを新たに策定 • ⼊⼒データ⾃体の制限より、「避けてほしいこと」を主に記述 • 内容にはAI事業者ガイドラインで触れられている事項を反映 41
アプローチ検討ワークシートの作成 • 現在作業中 • なかなか各項⽬について具体的なアプローチを記述するのは難しい ◦ プライバシーとモニタリングのバランスなど、悩ましい部分もある ◦ 記⼊し終えたら知⾒を共有したい 42
AIガバナンスの構築 • AI倫理ポリシー‧利⽤ガイドラインなど、パー ツは出来ている • 前掲のワークシートが完成すると、AIガバナン スで⽬指すべきゴールが出来てくる想定 • 運⽤しモニタリングするサイクルへの落とし込 みに今後取り組んでいく
43
AI事業者ガイドラインを読んでの⾃分のなかでの変化 • AI事業者ガイドラインに⽬を通すことで、どんなことを原 則として考えるべきか、何を優先して対応すべきかの「基 準」がはっきりした • 社内でAIの運⽤について相談された場合でも、AI事業者ガ イドラインを意識することで判断がしやすくなった ◦ 「AI事業者ガイドラインにはこう書いてある」というと
相⼿も納得しやすい 44
まとめ 45
• 政府による「AI事業者ガイドライン」により、企業がAI に取り組むべき国の期待‧指針が理解できる • ガイドラインは、AIはあくまで⼈間に寄り添う存在であ り、⼈間が適切に介在し活⽤していくべきものであるこ とを⽰している • 企業ではこの指針をもとにAI活⽤を検討し、AI利⽤のポ リシー‧ガバナンスを検討してみるのが良い
46
ご清聴 ありがとうございました! 47
None
None