因果AIへの招待

第117回（2025年度第3回）産研テクノサロン 「企業DXを加速する因果AIの最前線」
https://www.sanken.osaka-u.ac.jp/labs/air/techno_salon/2025FY.html#technosalon_r7_3

Transcript

1. 因果AIへの招待 清水 昌平 大阪大学 産業科学研究所 第117回（2025年度第3回）産研テクノサロン 「企業DXを加速する因果AIの最前線」
2. AI for Scienceは盛り上がっている ◼求められる背景 • 科学の複雑化 • 高次元化 • データ急増 • “人間”だけ では扱いきれない 複雑さと規模 ◼Scienceだけでなく 産業でも 2 https://www.mext.go.jp/content/20250826-ope_dev02-000044427_8.pdf
3. AI for Scienceが描く研究サイクル ◼そのサイクルに因果推論も必要では？ • 仮説形成: 因果仮説も ◼「相関+想像力」より 「因果推論」に基づく 実験・調査計画 3
4. 統計的因果推論と“今の”AI ◼統計的因果推論 • データから因果関係を調べる • チョコ消費量を増やすと ノーベル賞の数は増える？ ◼深層学習・機械学習 • (相関に基づく)予測 • チョコ消費量がこのくらいなら ノーベル賞の数はどのくらい？ ◼答えるべき問いが異なる 4 Messerli, (2012), New England Journal of Medicine ノ ー ベ ル 賞 受 賞 者 の 数 相関係数: 0.79 チョコレート消費量
5. 相関があるからといって 因果があるとは限らない ◼複数の因果関係が同じ相関関係を与える 5 チョコ 賞 ? チョコ 賞 or チョコ 賞 or GDP 相関係数 0.79 P値 < 0.0001 賞 未観測共通原因 ギャップ
6. 因果の理解はAIのさらなる発展に必要 ◼Savage (2023) 「Why artificial intelligence needs to understand consequences」, Nature • 予測だけでなく制御をするには 「何が原因で何が起きるか」を理解することが不可欠 ◼識者の発言として紹介 • Judea Pearl (2011 チューリング賞) • 科学とは、世界に介入してその反応を見ることだ (MS Research Summit 2021) • Yoshua Bengio (2018 チューリング賞) • 因果モデルを持てばAIは環境変化やレア事象に強く、 人間のように想像し後悔できる 6
7. 予測して制御する手がかりを得る ◼相関: 健康診断から将来の病気を予測 ◼因果: 体重を減らした場合にどう変わるかを知りたい • 体重だけ違う値を入力したらいいのか？ No! • 体重を変えたらコレステロールや血圧なども変わる: 因果！ 7 LDL ෣ 病気 血圧 . . . 現在のAIの予測モデル 体重 LDL ෣ 病気 血圧 . . . 体重 変化を調べるなら因果も考慮
8. AIの説明性・公平性と反実仮想 ◼AIの予測を因果的に説明 • 例: 年収が100万円で、(AIによる)ローンの審査にAさんは落ちたが(事実)、も しもAさんの年収が500万円だったとしたら審査に通る確率は？(反事仮想) ◼企業の信用格付けデータ (Takahashi+2024) 8 信用 格付け 資本金 資本金 因果的重要性
9. 生成AI × 因果推論 ◼Causal parrots (Zečević+2023) : オウム返し ◼LLMで背景知識を収集・データから因果推論 (Takayama+2025) リークのない (LLMが知らない) 健康診断データで評価 データが少ないと失敗 9 背景知識なし LLMによる背景知識あり
10. 統計的因果推論は現在のAIを補完 ◼現在のAIは予測タスクで大成功 • 深層学習・機械学習 • 大規模言語モデル (LLM) ◼予測に加えて、制御を目指すなら因果を知る必要あり ◼因果AI: 統計的因果推論および現在のAIとの融合 • Science for AI: 因果推論できるAIへ 10
11. 統計的因果推論は、いつ必要？ ◼例: コロナワクチンの効果の評価 ◼ランダム化実験 ワクチン かかる割合 かかる割合 なし 違いは、ワクチンの有無のみ ≠? ランダムに 分ける などなど たくさん 11
12. ランダム化実験は万能ではない ◼実験環境と実際に使用される状況は異なる • 少数の集団 • 一定程度健康な人 • 最適な予防接種スケジュールが守られてるとは限らない • ワクチンを取り扱う物流 • ワクチンの大規模展開では再現できない可能性あり ◼一般に、しばしば実施困難 (倫理的・コスト的に) 12
13. ランダム化実験しない時に起きる問題 ◼「持病の有無に着目してワクチンを打つか決めている」とする かかる割合 かかる割合 なし などなど たくさん ≠? 持病あり多め 少なめ ワクチンの有無以外にも持病の有無が違う: 理由を絞れない ワクチン かかる 持病 共通原因 ワクチン 13
14. ランダム化実験しない時の対処法 ◼持病(共通原因)の有無で分ける(層別/調整) などなど たくさん ≠? みな持病あり みな持病ありなので違いは、ワクチンの有無のみ 共通原因 ワクチン かかる割合 かかる割合 なし ワクチン かかる 持病 14
15. コロナワクチンのリアルワールドでの評価 ◼2回目の接種から7日目以降のワクチン有効性 (Dagan+2021) • イスラエル最大の医療機関 • ランダム化実験では95％，この研究では94％ ◼共通原因 • 年齢、性別、セクター、居住地域、過去5年間のインフルエンザワクチン接 種歴、妊娠、併存疾患の合計数 接種 未接種 ワクチン かかる 年齢 共通原因 併存疾患 … 15
16. 統計的因果推論の中心的話題？ ◼ランダム化実験しなくても因果はわかるのか • どんな条件で因果がわかるのか ◼ランダム化実験では不要だった条件 (仮定)が必要に • e.g., 「因果の向き」や「共通原因が持病のみ」 ◼統計的因果探索でデータも使って推測 • 従来: 領域知識から 見逃し 実は結果 16
17. 統計的因果探索 ◼データを用いて因果グラフを推測するための方法論 • 領域知識以外の手段 ◼機械学習と統計的因果推論の融合 Maeda and Shimizu (2020) 仮定(+領域知識) 推測 • 関数形 • 分布 • 未観測共通原因の有無 • 非巡回 or 巡回 など データ 因果グラフ 探索スペースを決める データと照らし合わせる 残った候補 17 𝑦 = 𝑓 𝑥, 𝑢, 𝑒
18. 因果探索の基本アイデア (Spirtes+2001) 1. 仮定をおく • 非巡回 • 未観測の共通原因なし 2. 仮定を満たすグラフの中で、データとつじつまの合うグラフを残す 「データでxとyが従属する」なら、 (a)と(b)を残す そうでなければ、(c)を残す 3つの候補 (a) (b) (c) 関数形に関する仮定を加えると (𝑦 = 𝑓 𝑥 + 𝑒 など加法誤差)、使える制約が増えて (a)と(b)の区別がつくことがある (清水 2017; Shimizu, 2022) x y x y x y 18
19. 材料科学 ◼機械学習による予測 + 因果探索 (Gocho+2025) ◼なぜ予測に効くのか: 因果関係 or (因果でない)相関関係? • 材料科学以外でも 19 記述子 材料特性 ? 記述子 材料特性 or 記述子 材料特性 or 共通原因
20. 異常検知だけでなくその原因も知りたい ◼根本原因分析 ◼例: 異常指標に関する因果構造 (Fujiwara+2025) 20
21. 因果探索ソフトウェア ◼Python package • lingam • causal-learn など ◼ノーコードツール • Causalas (SCREENアドバンストシステムソリューションズ) • Node AI (NTTドコモビジネス) • NTech Predict (neutral) • Causal analysis (hootfolio) • CALC (ソニー) ◼すぐ使えます！ 21
22. 第1回 因果フォーラム ◼1/29, 30 滋賀大 彦根キャンパス 対面 22 https://www.shimizulab.org/lab/causalws 大学・企業・官公庁など多様な立場の研究者・実務者が 集い、知見を共有し議論するための場として開催 チュートリアルからスタート
23. まとめ: 因果AIへの招待 ◼データサイエンスの発展により 「根拠ある判断」が企業の意思決定に一層重要に ◼しかし、相関に基づく予測だけでは 因果関係を調べられず、 効果的な介入や改善が困難 ◼予測を越えて『なぜ』に応える因果AIで企業DXを加速 ◼NTTドコモビジネスと富士通のみなさんから 応用事例をご紹介 23