生成 AI 実践ガイド (概略版) AIガバナンス編

AIGA StandUp 登壇時の資料です

Transcript

1. 生成 AI 実践ガイド（概略版） Asei Sugiyama
2. 自己紹介 杉山 阿聖 (@K_Ryuichirou) Lead Researcher @ Citadel AI Google Developer Expert @ Cloud AI MLSE 主査 機械学習図鑑 共著 事例でわかる MLOps 共著
3. TOC 背景 <- プロジェクト概要 生成 AI 実践ガイドと企業事例集 最後に
4. 背景 2023 年 G7 広島サミット AI 事業者ガイドライン 生成 AI 品質マネジメントガイドライン 人工知能関連技術の研究開発及び活用の推進に関する法律 (AI法) AIセーフティ強化に関する研究開発
5. 2023 年 G7 広島サミット 世界的な AI に関する興味 関心の高まり AI の安全性の議論の国際 的な取り組みが開始 広島 AI プロセス 【公式】G7広島サミット2023 https://www.mofa.go.jp/mofaj/gaiko/summit/hiroshima23/
6. AI 事業者ガイドライン v1.0: 2024/04/19 v1.1: 2025/03/28 v1.2: 2026/03/31 リビングドキュメントとして更新 予定 AI事業者ガイドライン検討会 | デジタル基盤センター | IPA 独立行政法人 情報処理推進機構 https://www.ipa.go.jp/disc/committee/expert-group-on-aigfb.html
7. 生成 AI 品質マネジメント ガイドライン 2025/05/26 生成 AI を使ったアプリケーション (基盤モデル利用システム) の品質 マネジメント・リスクマネジメン トについて述べたガイドライン 生成AI品質マネジメントガイドライン - 成果公開 | デジタルアーキテクチャ研究センター | 産総研 https://www.digiarc.aist.go.jp/publication/aiqm/genaiqm-guidelines-v1.html
8. 人工知能関連技術の研究開発及び活用の推進に関する 法律（ＡＩ法） 2025/09/01 全面施行 人工知能関連技術の研究開発及び活用の推進に関する法律（ＡＩ法） - 科学技術・イノベーション - 内閣府 https://www8.cao.go.jp/cstp/ai/ai_act/ai_act.html)
9. AIセーフティ強化に関する 研究開発 2025年4月開始 NEDO「AIセーフティ強化に関する研究開発」の採択について - Citadel AI https://citadel-ai.com/ja/news/2025/04/30/nedo/
10. TOC 背景 プロジェクト概要 <- 生成 AI 実践ガイドと企業事例集概要 最後に
11. プロジェクト概要 当初の狙い ヒアリング 当初の狙いとのギャップ 発見 生成 AI 実践ガイドと企業事例集 結果
12. 当初の狙い 各種ガイド・ガイドラインを各企業は気にしているだろう 生成 AI を活用する企業は AI セーフティに気を使っているはず さまざまな企業にヒアリングし、共通して行われている AI セーフテ ィの観点をまとめる その観点で評価するための指標・ベンチマークを作成して公開する と多くの企業が使うだろう それを各種ガイドラインに反映し国際標準化、認証制度の設立を目 指す
13. ヒアリング 生成 AI を活用する企業 (20 社超) にヒアリング 生成 AI 実践ガイドと企業事例集 - Citadel AI https://citadel- ai.com/ja/news/2026/04/03/gen-ai-practical-guide/
14. 当初の狙いとのギャップ どこの企業もベンチマークは使ってない 対策すべきリスクはバラバラで、共通点はほぼない 各企業は AI セーフティを確立してから本番導入するのではなく、利 用を拡大しながら段階的に AI セーフティを確立している
15. 発見 開発手法はアジャイルに基づく継続的改善 AI セーフティもアジャイルに基づく学習と改善 AI ガバナンスは「AI を活用しないリスク」への対応 アジャイルな AI セーフティを行っていると、国際標準 (ISO/IEC 42001) に基づく認証が取得できる
16. 生成 AI 実践ガイドと 企業事例集 DevOps の継続的改善をベ ースとするアプローチ DevOps と AI セーフテ ィ・AI ガバナンスを統合 良い使い方を追求するこ とがセーフティやガバナン スの達成につながる NEDO事業「AIの安全性確保に関する研究開発・検証等の推進事業／AIセー フティ強化に関する研究開発」の成果報告について - Citadel AI https://citadel-ai.com/ja/news/2026/04/03/nedo-citadel-ai-2025/
17. TOC 背景 プロジェクト概要 生成 AI 実践ガイドと企業事例集概要 <- まとめ
18. 生成 AI 実践ガイドと企業事例集概要 GenAIOps 全体像 技術 プロセス 組織 想定する使い方
19. GenAIOps DevOps を生成 AI 向けに 拡張 AI セーフティ、AI ガバナ ンスを包含 アジャイルにそのサービ スの提供する価値、対応 すべきリスクに向き合う ことがすべて 生成 AI 実践ガイドと企業事例集 - Citadel AI https://citadel- ai.com/ja/news/2026/04/03/gen-ai-practical-guide/
20. 全体像 技術・プロセス・組織 で、生成 AI に関する取り 組みを整理 事例でわかる MLOps の経 験を活かした 事例でわかるMLOps 　機械学習の成果をスケールさせる処方箋 | 書籍情報 | 株式会社 講談社サイエンティフィク https://www.kspub.co.jp/book/detail/5369562.html
21. 技術 情報システムとしての AI エージェント Human-in-the-loop <- ガードレール AI エージェントのテスト モニタリング 技術選定
22. 事例: PharmaX (YOJO) ユーザーが OTC 薬を購入 できるオンライン薬局 問い合わせをルールと LLM で分類 エージェントで対応不可 能な場合、薬剤師にフォ ールバック AIエージェントの継続的改善のためオブザーバビリティ https://speakerdeck.com/pharma_x_tech/aiezientonoji-sok-de-gai-shan- notameobuzababiritei
23. プロセス AI エージェントの開発フェーズ 継続的な評価による継続的な改善 リスクマネジメント サービスリリース後の迅速なフィードバックループ、モニタリング
24. リスクマネジメント 既存のリスクマネジメントが AI セーフティにおいても重要 1. AI エージェントのユースケースを列挙 2. ユースケースごとにリスクアセスメント (特定、分析、評価) 3. リスクへの対応方法 (回避、低減、移転、受容) を決定 4. 安全だと判断できるユースケースに限ってサービスを提供 5. サービスの利用状況をモニタリング
25. リスク回避の例: Ubie 業務効率化を支援する生 成AIサービスを病院向け に提供 インフォームド・コンセ ント記録の作成や退院サ マリ等の作成を支援する 機能があるが、診療目的 での利用は禁止 Ubie株式会社_会社紹介資料 - Speaker Deck https://speakerdeck.com/ubie/ubie-hui-she-an-nei-202211
26. リスク低減の例: すかいらーく グループ アレルギーに関する質問への 誤答、存在しないメニューを 回答というリスクを特定 アレルギーに関する質問には 絶対に回答しないように事前 に徹底的に検証を行うことで 対策 すかいらーくグループが生成 AI で新たな顧客体験を提供、Azure OpenAI Service を 活用することで来店客とのていねいな会話を実現 | Microsoft Customer Stories https://www.microsoft.com/ja-jp/customers/story/22991-skylark-group-azure
27. リスク移転の例: LINE ヤフー 技術的対策の実装に加え、サ ービス利用に関する免責事項 を明示 利用者との責任範囲を透明化 し、適切なリスク分担を図っ ている 責任あるAIへの取り組み｜LINEヤフー株式会社 https://www.lycorp.co.jp/ja/sustainability/esg/social/responsible-ai/
28. リスク受容の例: KDDI 「AI を活用しないことによる 機会損失」自体を重大なリス クと認識 関連する公的なガイドライン 等を参考に一定のリスクを受 容 モニタリングなど対策も合わ せて実施 KDDI 新卒採用の一部コース（パーソナル事業本部）にVARIETASの「AI面接官」を 導入 | 株式会社VARIETASのプレスリリース https://prtimes.jp/main/html/rd/p/000000031.000079152.html
29. リスクマネジメントに関する原則 次の原則を導入し、リスクマネジメントとアジャイルを両立させる ユースケースを事前に特定し、ワークフローを細分化することで、 リスクの低いユースケースに限定してAIエージェントを導入する 初期はリスクの低いユースケースに限定し、徐々にAIエージェント の対応可能な範囲を広げていく 顧客との積極的なコミュニケーションを通じて、リスクの発見やユ ーザーリテラシーの向上を図る
30. 組織 組織体制 ガイドラインの整備 統合的な AI 相談窓口 AI 活用支援 教育 ISO 42001 による認証 トップのコミット
31. 組織体制: LINE ヤフー 責任あるAIへの取組み｜LINEヤフー株式会社 https://www.lycorp.co.jp/ja/sustainability/esg/social/responsible-ai/
32. PFN 規定・ガイドライン体系 階層的なドキュメントを用 意し、段階的に個々のプロ ジェクトにあわせて具体化 最終的には「プロジェクト 開発方針」を個々のプロジ ェクトで策定 Preferred Networksにおける大規模言語モデル開発と活用での AI安全性の考え 方 https://www.digiarc.aist.go.jp/event/4th_grand_canvas/pdf/20250304-4th- grand-canvas-03-ohno.pdf
33. 統合的なAI相談窓口: セガ CEDEC 2025 講演資料よ り引用 (pp.17, p.19) AI ガバナンス担当チーム は、組織の中でもっとも 活用事例に詳しいチーム どんな問い合わせにも答 えることで信頼を勝ち取 る 安心安全に生成AIを使おう！社内で運用中の生成AIのガバナンスをご紹介 https://cedil.cesa.or.jp/cedil_sessions/view/3147
34. 活用支援 AI ガバナンス担当の持つ 専門知識は、組織内の別 チームは持っていない チームトポロジーの「イ ネイブリングチーム」 短期間の密なコラボレー ションで組織内のチーム が AI 活用できるよう支援 マシュー・スケルトン, マニュエル・パイス 著 原田　騎郎, 永瀬　美穂, 吉羽　 龍太郎 訳「チームトポロジー」日本能率協会マネジメントセンター 2021年
35. 教育: LINEヤフー 生成AIの利用に伴うリスクを把握するため、全従業員に研修を実施 社内のAIアシスタントを使うためには必ず受講しなければならない
36. ISO 42001 による認証 KDDI アイレットの事例 どの部門がどのような業 務で AI を使うのかを定義 すべての業務を認証範囲 に含めることを避け、段 階的に拡大 既存の ISMS の枠組みを AI に拡大 アイレット、AI マネジメントシステムの国際規格「ISO/IEC 42001」を取得 | AI とクラウド活用のシステム・アプリ開発なら KDDIアイレット株式会社 （iret） https://www.iret.co.jp/news/20251022.html
37. トップのコミット: メルカリ CHRO, CAIO, CTO を兼任 2段階で進める AI-Native HR 構 想 1. 日常業務・日々のオペレーシ ョンに AI を徹底的に組み込ん で時間を生み出す 2. HR から AI-Native な組織の Vision を示しそれを実行して いく リスペクトと変革の両立——新CHRO @kimuras が描く、AI-Nativeな組織づくり | mercan (メルカン) https://careers.mercari.com/mercan/articles/60398/
38. TOC 背景 プロジェクト概要 生成 AI 実践ガイドと企業事例集概要 最後に <-
39. プロジェクトの成果 公開したガイドについて直接感想をいただいた 産総研やプロジェクトの関係者に実践的な取り組み方を共有、AI セ ーフティや AI ガバナンスにおける「AI を育てていく」アプローチ が浸透しつつある 中間報告の内容を実践したとのご報告も
40. 生産性のパラドックス 88%がAIを利用しているものの、 全社的なスケーリング段階にある のは約3割に留まる 実質的な収益効果を得ている「ハ イパフォーマー」は全体の6% ハイパフォーマーはAIによるビジ ネスの抜本的変革を他社の3.6倍強 く志向している The state of AI in early 2025 - McKinsey https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
41. まとめ 「AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフ ティ強化に関する研究開発」に取り組んだ 20社を超える、さまざまな業界、規模の企業の AI 活用事例を集約 成果を「生成 AI 活用ガイドと企業事例集」として公表 DevOps と AI セーフティ・AI ガバナンスを GenAIOps として統合 依然として「生産性のパラドックス」という課題がある