AIガバナンス

Transcript

1. AI ガバナンス 黒岩 想平 2026/06/30
2. この発表の構成 1. AIの定義とAIガバナンスの必要性 2. AIガバナンスの⽬的 AIの定義と、なぜAIガバナンスが必要なのか、その背 AIガバナンスが⽬指す「リスクの受容」と「価値の最 景にある技術的‧社会的リスクについて解説しま ⼤化」というコアな⽬的について定義します。 す。 3. AIガバナンスで何をするのか 4. AIガバナンスの進め⽅ 法律とAI倫理の⼆階建てモデルを⽤いて、実践すべき 実際の事例やAI倫理原則を参照しながら、リスクベー ガバナンスの構造を理解します。 スアプローチを⽤いた具体的な対応⽅法を検討しま す。
3. AI の定義とガバナンスの必要性 AI の定義 生成AIに代表される、ディープラーニングを使って入力データを統計的に分析し、それに基づき新たな結果を出力することで、人 間の知能に類似した振る舞いをするシステム 対⽐：「ルールベースシステム」は事前に定義されたルールに従い動くシステム。 なぜAIガバナンスが必要なのか？ 技術的リスク 社会的リスク 予測やプロセスの説明が難しい（ブラックボックス化） プライバシー侵害、プロファイリングによる不当な評価 膨⼤な学習データやパラメーターによる相関関係は説明で 意図しない情報操作、排除や社会の分断につながる恐れ きても、因果関係は説明できない 出⼒結果に虚偽情報やバイアスが含まれることがある
4. AIガバナンスの⽬的 " AIによるリスクを社会的に受容可能なレベルに 維持しつつ、 AIの利活⽤で得られる価値を最⼤化すること。 "
5. AIガバナンスの考え⽅ AIガバナンスは、法律とAI倫理の2階建てで捉える必要があります。 AI倫理（倫理的妥当性） ２階 絶対的な「正解」を決められない領域。社会的な受容 性や道徳的な観点から、妥当性を判断し対応し続ける 必要がある。 法律（合法性） １階 明確なルールがあり、「正解（合法）」を決めること ができる基盤。
6. 法律と倫理の違い 法律が『守るべき最低限のルール』であるのに対し、倫理は『社会から求められる期待と責任』を⽰し ています。 項⽬ 法律 倫理 定義 その国の国⺠が守らなければならない決まり ⾏動の規範としての道徳観や善悪の基準 （社会規範） 明⽂化 あり（裁判等で⽩黒がつく） ⼀部あり（関係性や⽂脈によって変化する） あり（刑罰、損害賠償など強制⼒を持つ） なし（法的な制裁はないが、深刻な社会的批判 ‧レピュテーション低下を招く） 違反した場合の制裁
7. AI倫理で何を守るべきか（AI倫理原則） 各国の政府や⺠間団体が独⾃にAI倫理原則を公表し、守るべき指針を⽰しています。 ⽇本 • ⼈間中⼼のAI社会原 • AI利活⽤ガイドライン EU • アメリカ Ethics Guidelines forTrustworthy AI • Asilomar AI Principles （アシロマAI原則） （信頼できるAIのため の倫理ガイドライン） 主要なAI倫理原則で共通して取り上げられる9つの要素 ⼈間の尊重 ⼈間の判断の関与‧制御可能性 公平性 多様性‧包摂性の確保 安全性‧セキュリティ 説明可能性 サステナビリティ プライバシーの尊重 透明性
8. AI倫理が問題になった事例 AI倫理の⽋如が深刻な社会的影響をもたらした3つの代表的な事例を、4つの観点から整理します。 事例名 概要 原因 顛末 その後の対策 ケンブリッジ‧ アナリティカ事件 (2018) 不正取得したSNSの個⼈データを ⽤いてユーザーをプロファイリン グし、標的型の政治広告で世論を 誘導した。 プラットフォームのずさんなデー タ管理と、本⼈の明確な同意を得 ないままの政治的利⽤。 世界的な批判を浴び、巨額の制裁 ⾦が科され、同社は最終的に経営 破綻‧解散へ追い込まれた。 GDPR（EU⼀般データ保護規 則）の施⾏や、SNS各社による 外部アプリへのデータ共有制限 強化。 アップルカード事件 (2019) AI与信審査アルゴリズムが、同⼀ 条件の夫婦間であっても、⼥性に 対して極端に低い限度額を設定し た。 学習データに潜む社会的バイアス が反映され、かつ審査判定のブ ラックボックス化により偏りを検 証できなかった。 性差別的なバイアスとして炎上 し、⾦融当局による調査開始など の社会的ペナルティを受けた。 アルゴリズムの公平性検証の義 務化、及びモデルのブラック ボックス解消に向けた説明責任 への注⼒。 Suica履歴データ 販 売事件 (2013) JRが⼗分な告知をせずSuicaユー ザーの乗降やチャージ履歴データ などを匿名加⼯し他社へ販売し た。 法律上は直接的な違反にならなく とも、不特定多数の「追跡可能で あること」へのプライバシー侵害 の懸念を⾒落とした。 批判の殺到によりデータの社外提 供を中断。社会的信⽤の⼀時的な 失墜を招いた。 オプトアウト（データ提供停 ⽌）⼿続きの簡素化‧明確化 と、法律改正（匿名加⼯情報制 度）への進展。
9. AI倫理への対応（リスクベースアプローチ） AI倫理原則をベースに、想定されるリスクの⼤きさ（影響度）に応じて、技術的‧⾮技術的な両⾯からバラ ンスよく対応を取ることが重要です。 影響度 想定される事象（リスクケース） 技術的対応 ⾮技術的対応 ⾼ (High) ⽣命‧⾝体への危害、重⼤な⼈権侵害や差別、社会 インフラの停⽌ • バイアス検知‧軽減ツールの導⼊ • ⾼度な匿名化‧暗号化技術の適⽤ • フェイルセーフ‧緊急停⽌（キルスイッ チ）機構の実装 • 第三者委員会による厳格な倫理審査 • 利⽤禁⽌、またはサービスの⼀時停⽌ • 法務‧コンプライアンス部⾨による事前の 徹底的なリスク評価 • ⼈間による監視介⼊ (Human-in-the-loop) の必須化 • 出⼒結果の信頼度‧不確実性スコアの提 ⽰ • ユーザーへの詳細な説明と同意取得プロセ ス • 不服申し⽴て、および⼈的レビューへの移 ⾏ルートの設置 • 標準的なアクセス制御 • 出⼒結果の定常的なログ監視と精度確認 • 社内ガイドラインの遵守 • 「AIによって⽣成された」旨の明記（透明性 の確保） • ユーザーからのフィードバック受付窓⼝の 設置 【例】⾃動運転AI、医療診断アルゴリズム、採⽤‧ 与信における深刻なアルゴリズムバイアスなど 中 (Medium) 特定個⼈の不利益、企業の深刻なレピュテーション 低下、機密情報の漏洩リスク 【例】カスタマーサポート⽤チャットボットの不適 切発⾔、社内データを⽤いた回答⽣成での権限超過 など 低 (Low) 業務効率の⼀時的な低下、限定的な誤情報出⼒、 ユーザーの軽微な不満 【例】社内向け議事録要約AI、⼀般的なスパムメー ルフィルタリングなど
10. まとめ 1. リスクと価値の両⽴ 2. 法律と倫理の2階建て 3. リスクベースの対応 AIガバナンスはAI開発を阻害す 明確な正解がある「法律の遵守 各国のガイドライン等のAI倫理 るものではありません。社会に （1階）」にとどまらず、⽂脈に 原則を指針としつつ、システム 受容されるレベルにリスクをコ 依存する「倫理的妥当性（2 の⽤途や影響度に応じて、技術 ントロールし、AIの真の価値と 階）」を問い続ける構造が必要 的アプローチと⾮技術的アプ 恩恵を最⼤化するための不可⽋ です。法律だけではカバーでき ローチ（体制構築など）を組み なプロセスです。 ない社会的影響に配慮します。 合わせて対応します。
11. 今後学習を続けていきたいこと AIに関する法整備の動向 責任の所在に関する議論 AIの進化スピードに対し、各国の法整備も急速に AI利活⽤によって損害や損失が⽣じた際、「開発 進んでいるため、AI規制法（EU AI Act等）や、著 者」「提供者」「利⽤者」の誰が、どのように責 作権法、個⼈情報保護法など、関連する法律の最 任を取るべきなのか、また「AI⾃⾝が責任を取る 新のアップデートを継続的にキャッチアップして ことはできるのか」という法哲学的な議論につい いきたい。 ても理解を深めていきたい。
12. 参考⽂献 • • • • • • • ⽻深宏樹『AIガバナンス⼊⾨』2023年、ハヤカワ新書 栗原聡『AIの倫理』2026年、⾓川新書 福岡真之介『AI‧データ倫理』2022年、弘⽂堂 佐久間弘明『「AIリスク」の解剖』2026年、中央経済社 M.クーケルバーク（著）直江清隆（翻訳）『AIの倫理学』2023年、丸善出版 リード‧ブラックマン（著）⼩林啓倫（翻訳）『AIの倫理リスクをどうとらえるか』2023年、⽩揚社 ⽇本IBM AI倫理リーム『AIリスク教本』2023年、⽇経BP