先端因果推論特別研究チームの研究構想と 人間とAIが協働する自律因果探索の展望

滋賀大学 データサイエンス・AIイノベーション研究推進センター 先端研究部門
「先端因果推論特別研究チーム」キックオフシンポジウム

Transcript

1. 先端因果推論特別研究チームの研究構想と 人間とAIが協働する自律因果探索の展望 清水 昌平 滋賀大学 先端因果推論特別研究チームキックオフシンポジウム 滋賀大学が因果推論研究を通じてAI for Scienceの拠点となる
2. 本日のメッセージ ◼AI for Science: AI × 科学による知識創出 ◼AI for Scienceが盛り上がる今こそ、因果推論は不可欠 ◼科学・産業・政策の構想で、 因果推論を明確に位置付けるべき ◼滋賀大は、因果研究を通じてAI for Scienceの拠点となる 2
3. AI for Scienceは盛り上がっている ◼求められる背景 • 科学の複雑化 • 高次元化 • データ急増 • “人間”だけ では扱いきれない 複雑さと規模 3 https://www.mext.go.jp/content/20250826-ope_dev02-000044427_8.pdf
4. AI for Scienceが描く研究サイクル ◼そのサイクルに因果推論も必要では？ • 仮説形成: 因果仮説も • 実験計画 • 解釈・考察 • 次の仮説へ展開 ◼相関+想像力より 因果推論に基づく 実験・調査計画 4
5. 滋賀大学の強み：因果推論 ◼背景知識が十分にないときに行う因果仮説探索法 代表的手法の一つLiNGAM法の提案・発展 • Top 1%被引用論文 (Google Scholar: 2385回): Shimizu et al. (2006) • 医学・金融・製造業など生活や経済に直結する多分野で応用 ◼因果推論の研究者が幅広く集う学際的総合拠点 • 哲学・方法論・適用まで • 先端因果推論特別研究チーム 22名 ◼日本初のデータサイエンス学部・研究科 • 研究者100名規模の研究・産学連携拠点 • 因果推論を核に多領域の研究者と連携できる組織基盤 5
6. AIと統計的因果推論 ◼データにより原因と結果の関係 を解き明かす方法・技術 ◼予測 (相関に基づく) • チョコ消費量がこのくらいなら ノーベル賞の数はどのくらい？ ◼因果 • チョコ消費量を増やすと ノーベル賞の数は増える？ 6 Messerli, (2012), New England Journal of Medicine ノ ー ベ ル 賞 受 賞 者 の 数 相関係数: 0.79 チョコレート消費量
7. 因果の理解はAIのさらなる発展に必要 ◼Savage (2023) Why artificial intelligence needs to understand consequences, Nature ◼“機械” には、人間が生きていく中で自然に身につける「世界がど う動いているか」という常識的な理解が欠けている ◼予測だけでなく制御をするには「何が原因で何が起きるか」を 理解することが不可欠 ◼識者の発言として紹介 • Judea Pearl • AIの現状は因果の階層の「見る」段階にとどまり、 “介入”や“反実仮想”を扱えなければ深い理解には到達しない • 科学とは、世界に介入してその反応を見ることだ (MS Research Summit 2021) • Yoshua Bengio • 因果モデルを持てばAIは環境変化やレア事象に強く、 人間のように想像し後悔できる 7
8. 予測して制御する手がかりを得る ◼健康診断から将来の病気を予測 ◼体重を減らした場合にどう変わるかを知りたい • 体重だけ違う値を入力したらいいのか？ No! • 体重を変えたらコレステロールや血圧なども変わる: 因果！ 8 LDL ෣ 病気 血圧 . . . 現在のAIの予測モデル 体重 LDL ෣ 病気 血圧 . . . 体重 変化を調べるなら因果も考慮
9. 異常検知だけでなくその原因も知りたい ◼根本原因分析 ◼例: 異常指標に関する因果構造 (Fujiwara+2025) 9
10. AIの説明性・公平性と反実仮想 ◼AIの予測を因果的に説明 • 例: 年収が100万円で、(AIによる)ローンの審査にAさんは落 ちたが(事実)、もしもAさんの年収が500万円だったとしたら 審査に通る確率は？(反事仮想) ◼企業の信用格付けデータ (Takahashi+2024) : 滋賀銀行 10 信用 格付け 資本金 資本金 因果的重要性
11. 生成AI × 因果推論 ◼Causal parrots (Zečević+2023) : オウム返し ◼LLMで背景知識を収集・データから因果推論 (Takayama+2025) リークのない (LLMが知らない) 健康診断データで評価 データが少ないと失敗 11 背景知識なし LLMによる背景知識あり
12. ソフトウェア ◼lingamとcausal-learnをgithubにて公開 • 開発した手法や機能を実装する因果探索パッケージ • PyPI Statsによる過去1ヶ月DL数(11/27現在) • lingam:42,132 • causa-learn: 118,379 (PyWhyのレポジトリ) ◼ノーコードツール • Causalas (SCREENアドバンストシステムソリューションズ) • Node AI (NTTドコモビジネス) • NTech Predict (neutral) • Causal analysis (hootfolio) • CALC (ソニー) 12
13. 全学的取り組み: 予防統合科学 ◼滋賀大学が打ち出す新しい研究領域 • 定義: 様々な社会課題が解決困難なほどに悪化しないよう、 DS・AIを基盤に諸科学が結びつき、 効果的に予防策を見いだすための知識体系と方法論 ◼予防する (制御)には、予測と因果の両方が必要 ◼因果推論 (因果AI)は予防統合科学の「基盤エンジン」 13 医 学 薬 学 環 境 経 済 教 育
14. ◼「保健指導による介入」が「翌年度以降の健診結果」 に与える影響 ◼全国規模の保険者データベース ◼意思決定につなげるには定量的な評価が必要 予防医学 京大 医 福間研との共同研究 健康アウトカム 翌年度 翌々年度 翌々年度 BMI -0.206 [-0.215, -0.196] -0.163 [-0.175, -0.153] -0.144 [-0.157, -0.130] 収縮期血圧 -0.293 [-0.399, -0.180] -0.040 [-0.168, 0.071] -0.030 [-0.149, 0.082] ヘモグロビンA1c -0.035 [-0.039, -0.032] -0.031 [-0.035, -0.027] -0.031 [-0.035, -0.026] LDLコレステロール 0.582 [0.423, 0.751] 0.636 [0.456, 0.804] 0.459 [0.238, 0.661] 因果探索＋因果効果推定 14
15. 医 学 薬 学 環 境 経 済 教 育 ～「経験と勘」から『因果』を明確にした 効果的意思決定社会へ～ 先端因果推論 研究 『因果推論』による予防統合科学 社会課題 「発見」 課題解決！ 要因 「解析」 予防策 「適用」 基盤理論 研究 課題解決型 研究 成果 「評価」
16. 先端因果推論特別研究チームの取り組み ◼チームリーダー 清水昌平 ◼〈 因果AIの基盤理論研究 〉11名 • 信頼されるＡＩと因果推論 • 生成ＡＩと因果推論 • 因果デジタルツイン • 因果推論と哲学 ◼〈 因果AIによる課題解決型研究 〉10名 • 因果推論と医学 • 因果推論と社会科学 • 因果推論と創薬科学 • 因果推論と材料科学 16 全学的かつ産官学のチーム構成 10名
17. 直近の計画 ◼因果推論の方法論のさらなる発展 ◼AI for Scienceの実践: 観察データの分析結果を基に介入へ • 実際の介入/EBPMへ向けた整備: ツール・周知 (医学・政策) • 新たに検討 (創薬・材料科学応用: 作って評価; 社会学: Web実験) • コラボ: 化合物・ガラス作製、”回答誘導” • 因果分析結果を基に介入研究を行う事例作成 17 因果推論を組み込んだ 科学サイクルへ 因果 仮説 形成 実験・調査 計画 解釈 考察 実験・調査 因果AIサイクル
18. “適切な”変数粒度の推定 ◼測定自体はますます細かく ◼介入に適切な粒度の推定 / マクロとミクロの対応 ◼因果探索をアップグレード: 因果構造＋変数定義の探索 Chalupka et al. (2017) 18 Kikuchi and Shimizu (2023) 練機 冷却機 切断機
19. 将来展望:「自律」因果探索へ ◼従来の課題 • 背景知識収集やそれに基づく変数定義、どのデータを使うか の判断は“手作業” ◼自律因果探索 • AIが知識・データを自動統合し、因果構造＋変数定義の因果仮説を探索 • シミュレーション・自動実験による検証で効率化とスケール拡大 ◼未来像：因果がわかるAIサイエンティスト • AIと人間の協働 • 医学・社会科学、創薬科学・材料科学など 広く科学の発見や理解・産業応用を加速 • AI for Science: 自律型でも支援型でも • Science for AI: 因果推論できるAIへ 19
20. まとめ ◼滋賀大学から世界へ ― 因果AIの挑戦 ― • AIは飛躍したが、因果はまだこれから ◼滋賀大学は、国内最大・世界有数の因果推論研究拠点 • 哲学・方法論・応用までそろえる希有な拠点 • 展望: 自律因果探索 → 「因果もわかる」AIサイエンティストへ ◼因果AI (+現在AI)によるAI for Scienceの拠点となり、 予防統合科学の創出へつなげ、社会のリスクを未然に防ぐ ◼経験と勘から、因果に基づく意思決定へ 20
21. 第1回 因果フォーラム ◼1/29, 30 滋賀大 彦根キャンパス 21 https://www.shimizulab.org/lab/causalws 大学・企業・官公庁など多様な立場の研究者・実務者が 集い、知見を共有し議論するための場として開催