AI Driven AI Governance

AI Driven AI Governance
at Google I/O Extended Tokyo

Transcript

1. I/O Extended Tokyo 2026 AI Driven AI Governance AI Driven AI Governance ~ Mythos 時代に耐えうるための戦術 2026/07/11 KDDIアイレット株式会社
2. Who am I • 氏名：廣山　豊　@pict3desu • 所属：KDDIアイレット株式会社 セキュリティ事業部 部長 兼 内部統制推進室 室長 兼 AIDDセキュリティ室 室長 • 役割：情報セキュリティ管理責任者 兼 AI管理責任者 兼 品質管理責任者 • Google Cloud Partner Top Engineer - 2021 ~ <初回から継続中> Google Developer Expert (cloud) - 2022~2025 Jagu’e’r Commitee member AWS, Google Cloud, Azure, 情報処理安全確保支援士、 その他多数の認定資格を保有
3. はじめに 3 AIの危険に、 AIで作ったツールで、 AIを統制する。
4. Mythos 時代の到来 4 攻撃は、もう「機械速度」になった 数千件 の0dayを自律発見 99% が未パッチのまま Claude Mythos Preview（2026/4・Anthropic）。出典: Cloud Security Alliance / Barracuda ほか
5. 防御の転換 5 ならば、防御も AIで戦う 人手の防御 週〜月単位・追いつかない AIエージェント 分〜時間・機械速度で追従 「fight AI with AI」 ― ですが、問題はこの先にあります。
6. どっちが有利？ 6 攻撃も防御も、同じ AIを使う ― 有利なのはどっち？ 攻撃側 外部から・手がかりは断片的 防御側 内部から・自分の陣地を知る ? 鍵は「どちらがコンテクストを持つか」
7. 防御優位説 7 コンテクストが AI の能力を引き出す 外部の攻撃者 公開情報・推測 手がかりは断片的 内部の防御側 システム構成・依存関係 AIBOM 台帳 権限・ API キー ログ・監査証跡 変更履歴 ≪ 内部の防御側が圧倒的にコンテクストを持つ ― これが「防御優位説」
8. 見えていない盲点 8 その AI、出所を確認しましたか？ 防御や開発のために、出所不明のツールが雑多に増殖していく
9. 新しい侵入口の正体 9 プロンプト インジェクション 説明文に仕込まれた指示 ツール ポイズニング 説明と実装の不一致 API Key の 権限昇格 confused deputy 防御のために開けた扉が、攻撃者の入口になる。
10. やるべきこと = AIガバナンスの地図 10 棚卸し スキャン 影響評価 承認 この4ステップは、実は国際規格 ISO/IEC 42001 が要求する統制そのもの
11. 主役: AIBOM Manager 11 引き込んだ AIを台帳化し、 AIで統制する内製ツール AIサービス ChatGPT / Claude 等 MCP サーバー GitHub / npm / PyPI Skill エージェントスキル 台帳化 → スキャン → 影響評価 → 承認 を一気通貫
13. AIサービスの 6軸AI影響評価 13 安全性 セキュリティ 説明可能性 プライバシー 公平性 透明性 6軸でリスクを定量化 → レーダーチャート化 → 承認 ▶ ここからライブデモ（発生確率 × 影響度を各 0〜3で評価）
16. MCP / Skill 自動スキャン 16 取り込み AIが 2段階スキャン HIGHは 自動却下 さらに API Key 認証のリスク を強調（広い権限 × 長命） ▶ ここからライブデモ（静的解析＝インジェクション /ポイズニング検出 ＋ ふるまい解析）
20. AI Driven AI Governance 20 AIで 作る AIで 動く AIで 統制する このツール自体が、 AIで作られ・ AIで動く。 AIで、AIを統制する ― それが AI Driven AI Governance
21. 持ち帰り 21 月曜の朝から、できること ① 棚卸し 繋いだMCP/Skill/AIを把握 ② 信頼せずに 検証する 出所・権限・挙動を疑う ③ 地図はISO42001 自動化はこう作れる
22. クロージング 22 攻撃もAI、防御もAI、 その防御も、 AIで。
23. 出典・参考 23 ・ Claude Mythos / autonomous offensive threshold — Cloud Security Alliance ・ Microsoft multi-agent AI tops Anthropic's Mythos — GeekWire (2026) ・ The Mythos Hype Index — Barracuda (2026/5) ・ ISO/IEC 42001:2023 — AI Management System (AIMS) ・ OWASP Agentic AI / Top 10 for LLM Applications