Introduction to Causal Inference

Slide 1

Slide 1 text

Introduction to Causal Inference Asei Sugiyama

Slide 2

Slide 2 text

要旨統計的因果推論では、介⼊を⾏ったときのアウトカムと⾏わなかったときのアウトカムの差である介⼊効果を扱う⽋損値となっている観測できなかったアウトカムをうまく扱うことで、平均的な介⼊効果の算出ができるアップリフトモデリングでは、機械学習を⽤いて⽋損値を補完することで平均的な介⼊効果の算出を⾏う複雑な⼿法を使うと応⽤範囲が広がるが、問題設定、データ処理、結果の解釈の妥当性を⽰すことが困難になる

Slide 3

Slide 3 text

⾃⼰紹介杉⼭阿聖 Software Engineer @ Repro AI Labs 機械学習基盤の設計構築統計的因果推論の検証 TensorFlow User Group TFX : Issue ⽴てたり PR ⽴てたり docs-l10n : 翻訳 & レビュー機械学習図鑑共著

Slide 4

Slide 4 text

⽬的データから意思決定を⾏う際に注意すべき選択バイアスと、それに統計的因果推論の枠組みで機械学習を⽤いて、正しく意思決定を⾏うためのアルゴリズムについて紹介します

Slide 5

Slide 5 text

TOC . 統計的因果推論で扱う問題 <- . 機械学習の統計的因果推論への応⽤ . 実務で直⾯している課題 . まとめ

Slide 6

Slide 6 text

統計的因果推論で扱う問題例 1. マーケターの業務における仮説⽴案例 2. 広告メールの効果測定問題設定

Slide 7

Slide 7 text

例 1. マーケターの業務における仮説⽴案マーケターはライトユーザーに「真実の瞬間」を体験してもらうことで、⾃サービスのヘビーユーザーになってほしいライトユーザーとヘビーユーザーの過去の⾏動履歴を収集するヘビーユーザーのみが⾏っていて、ライトユーザーが⾏っていない⾏動を特定するユーザーの⾏動に関する仮説⽴案を⾏い、ライトユーザーにその⾏動を促すような施策の検討を⾏う施策の効果を A/B テストで検証すると、効果が出たり、効果が出なかったりする

Slide 8

Slide 8 text

例 2. メール施策の効果測定メール施策の効果があるかどうか、A/B テストを⾏って確かめたいそのアプリはメールアドレスの登録が必須ではなく、メールで通知を受け取りたいヘビーユーザーのみがメールアドレスを登録しているこのときに、メール施策の効果検証を次のような A/B テストで⾏いたい介⼊群: アプリユーザーのうち、メールを送信したユーザー群対照群: アプリユーザーのうち、メールを送信しないユーザー群介⼊群の結果が有意に良かったとして、これは効果があったのだろうか？それとも、ヘビーユーザーの傾向を⾒ているだけだろうか？

Slide 9

Slide 9 text

問題設定 (1/5) 何かの検証を⾏った結果、次のようなデータが⼿に⼊ったものとする id( ) 共変量 ( ) 介⼊変数 ( ) アウトカム( ) このようなデータから介⼊を⾏ったときの効果を知りたい i X Z Y 1 X1 Z1 Y1 ⋮ ⋮ ⋮ ⋮ N XN ZN YN

Slide 10

Slide 10 text

問題設定 (2/5) 本質的に知りたいものは番⽬のユーザーに対して介⼊を⾏ったときのアウトカムと介⼊を⾏わなかったときのアウトカムの差なので次のようなデータが必要 ( はなくても良い) id( ) 共変量 ( ) 介⼊変数 ( ) アウトカム( ) アウトカム( ) i Yi1 Yi0 Y − i1 Yi0 Z i X Z Y0 Y1 1 X1 Z1 Y10 Y11 ⋮ ⋮ ⋮ ⋮ ⋮ N XN ZN YN 0 YN 1

Slide 11

Slide 11 text

問題設定 (3/5) 下記のデータのうち、アウトカムとを同時に知ることはできないので、アウトカムは半分程度が⽋損した状態になっている id( ) 共変量 ( ) 介⼊変数 ( ) アウトカム( ) アウトカム( ) null null Yi0 Yi1 i X Z Y0 Y1 1 X1 Z = 1 0 Y10 2 X2 Z = 2 1 Y11 ⋮ ⋮ ⋮ ⋮ ⋮

Slide 12

Slide 12 text

問題設定 (4/5) ⽋損していたとしても、⽋損が等しくランダムに起こっているのなら、介⼊効果の期待値はわかる (⽋損していない , で平均を取り、差を計算すれば良い) A/B テストはこの状況 E[Y − i1 Y ] i0 Yi0 Yi1

Slide 13

Slide 13 text

問題設定 (5/5) , の⽋損が共変量によって偏りがある場合には、平均を取ると選択バイアスが⽣じてしまうこの状況下で介⼊効果である ATE や CATE を推定したい Yi0 Yi1 X E[Y − 1 Y ] 0 E[Y − 1 Y ∣X = 0 x]

Slide 14

Slide 14 text

最近 Twitter で⾒かけた例 https://twitter.com/we sternpalace/status/12 72754555990601729

Slide 15

Slide 15 text

因果関係が無条件にわかるわけではない問題設定からわかるように、介⼊がアウトカムに与えるメカニズムについて説明を⾏うわけではない介⼊を⾏ったことがアウトカムに影響を与えるメカニズムについては、⼈⼿で理論を構築する必要があるあくまで今知りたいのは次の 2 つ . ATE (Average Treatment Effect) . CATE (Conditional ATE) E[Y − 1 Y ] 0 E[Y − 1 Y ∣X = 0 x]

Slide 16

Slide 16 text

前提条件 A/B テストができないケースを想定する例 1. 過去のデータだけで考えなければいけない例 2. A/B テストのコストを⽀払えない A/B テストができるケースでは⾏えば良いマーケターの例は例 1. に相当例 2. は公共施策 (電気料⾦や税⾦) のように影響範囲の⼤きなものや、がん患者への新療法の治験のように、重篤だからといって何もしないわけには⾏かないものが相当する

Slide 17

Slide 17 text

今⽇は話さないこと傾向スコアを導⼊する傾向スコアマッチング : 傾向スコアを⽤いて、⽋損が等しくランダムに⽋損した状態になるようにデータの件数を削って揃える IPW : 傾向スコアを⽤いて、⽋損ができるだけ等しくランダムに⽋損した状態になるようにデータの件数を重み付け平均を⽤いて⽔増しして揃える (ウェイトバック) 詳しくは岩波 DS vol.3 を参照 e(x) = P (Z = 1∣X = x)

Slide 18

Slide 18 text

まとめ統計的因果推論では、介⼊によるアウトカムの変化量を知りたい直接にはわからないので、平均である ATE や CATE を推定する id( ) 共変量 ( ) 介⼊変数 ( ) アウトカム( ) アウトカム( ) null null i X Z Y0 Y1 1 X1 Z = 1 0 Y10 2 X2 Z = 2 1 Y11 ⋮ ⋮ ⋮ ⋮ ⋮

Slide 19

Slide 19 text

TOC . 統計的因果推論で扱う問題 . 機械学習の統計的因果推論への応⽤ <- . 実務で直⾯している課題 . まとめ

Slide 20

Slide 20 text

機械学習の統計的因果推論への応⽤機械学習アップリフトモデリング S-learner T-learner X-learner 機械学習の枠組みについてはある程度知っているという前提で話します

Slide 21

Slide 21 text

機械学習与えられた特徴量と⽬的変数の組から、特徴量と⽬的変数の関係を表す関数を学習するプログラム (教師あり学習) f

Slide 22

Slide 22 text

アップリフトモデリング次のようなデータから、介⼊を⾏ったときのアウトカムの予測モデルと介⼊を⾏わなかったときの予測モデルを機械学習により求めるアップリフトのモデルをとから求める id( ) 特徴量 ( ) 介⼊有無 ( ) アウトカム( ) τ1 τ0 Y − 1i Y0i τ τ1 τ0 i X Z ∈ {0, 1} Y 1 X1 Z1 Y1 ⋮ ⋮ ⋮ ⋮ N XN ZN YN

Slide 23

Slide 23 text

アップリフトモデリング仕事で始める機械学習に記述がある書籍では次のとおり . ⼀部のユーザーのデータからとを学習 . 残りのユーザーについてを計算 . 効果が⾒込めるユーザーに施策を⾏う τ1 τ0 τ (X) − 1 τ (X) 0

Slide 24

Slide 24 text

因果推論との関連アップリフトモデリング: とにおける⽋損値を機械学習で作ったモデルとを利⽤して埋め、効果を算出するイメージ id( ) 共変量 ( ) 介⼊変数 ( ) アウトカム( ) アウトカム( ) Y0 Y1 τ1 τ0 i X Z Y0 Y1 1 X1 Z = 1 0 Y10 τ (X ) 1 1 2 X2 Z = 2 1 τ (X ) 0 2 Y11 ⋮ ⋮ ⋮ ⋮ ⋮

Slide 25

Slide 25 text

アップリフトモデリングの例 . T-learner . S-learner . X-learner 詳細は Metalearners for estimating heterogeneous treatment effects using machine learning を参照 (X-learner の提案を⾏った論⽂)

Slide 26

Slide 26 text

T-learner → 元データをに応じて 2 つに分割それぞれについてからを予測する機械学習モデル , を作る Z X Y μ (X) 0 μ (X) 1 E[Y − 0 Y ∣X = 1 x] = μ (x) − 1 μ (x) 0

Slide 27

Slide 27 text

S-learner からを予測する機械学習モデルを作成する id( ) 特徴量 ( ) 介⼊有無 ( ) アウトカム( ) (X, Z) Y τ(X, Z) E[Y − 0 Y ∣X = 1 x] = τ(X, 1) − τ(X, 0) i X Z ∈ {0, 1} Y 1 X1 Z1 Y1 ⋮ ⋮ ⋮ ⋮ N XN ZN YN

Slide 28

Slide 28 text

S-leaner, T-learner のここがダメ介⼊群 ( ) /⾮介⼊群 ( ) が著しく偏っているときに、機械学習モデルの性能が保証できない Z = 1 Z = 0

Slide 29

Slide 29 text

X-learner . T-learner 同様に 2 つのモデル , を作成 . とを実測値を⽤いて計算 . , の予測モデルとを作成 . CATE の推定モデル (x) μ ^0 (x) μ ^1 = D ~ i0 Y − 0i (X ) μ ^1 i = D ~ j1 Y − 1j (X ) μ ^0 j Y , Y 0i 1j D ~ i0 D ~ i1 τ (x) 0 τ (x) 1 τ(x) = e(x)τ (x) + 1 (1 − e(x))τ (x) 0

Slide 30

Slide 30 text

もっとやさしく S-learner, T-learner, では実測値があるところもモデルの出⼒に置き換えていたのを、X-learner では⽋損だけを埋めるようにした埋めたあとでアウトカムの差 , を計算し、再度モデルを作成 id( ) 共変量 ( ) 介⼊変数 ( ) アウトカム( ) アウトカム( ) D ~ i0 D ~ i1 i X Z Y0 Y1 1 X1 Z = 1 0 Y10 τ (X ) 1 1 2 X2 Z = 2 1 τ (X ) 0 2 Y11 ⋮ ⋮ ⋮ ⋮ ⋮

Slide 31

Slide 31 text

X-learner のここがすごい 2 つの CATE 推定モデルを対照群と介⼊群の実測値を⽤いてそれぞれ作成 2 つのモデルをアンサンブルすることで、それぞれが得意な箇所を両⽅ともに使える

Slide 32

Slide 32 text

⽐較 X-learner がもっとも性能が良かった

Slide 33

Slide 33 text

TOC . 統計的因果推論で扱う問題 . 機械学習の統計的因果推論への応⽤ . 実務で直⾯している課題 <- . まとめ

Slide 34

Slide 34 text

実務で直⾯している課題妥当な問題設定を⾏うことが難しいデータ処理の妥当性を⽰すことが難しい結果の解釈が難しい

Slide 35

Slide 35 text

妥当な問題設定を⾏うことが難しい A/B テストが⾏えればこの⼿法は必要ないルールベースで介⼊/⾮介⼊が分かれるようなケースは適⽤が難しい全ユーザーにクーポンを配布、利⽤するかはユーザー次第なら OK 特定の条件を満たしたユーザーに贈答品を送る、は NG ⼀般的な機械学習よりも変数が 1 つ多い (介⼊有無) 学習直後に、⽬の前の課題に適⽤できるかどうか分からず悩む、というのは実際にあった

Slide 36

Slide 36 text

データ処理の妥当性を⽰すことが難しい統計的因果推論はさまざまな⼿法が提案されているそれぞれの⼿法で推定される ATE の値が結構違うデータの処理を⾏う⼀連の⼿続きの中で、何をチェックすればいいのか定められていない例えば、今⽇の X-learner は機械学習モデルを 5 個も作るが、それらの性能評価をどう⾏うのか不明データの処理を⾏う⼀連の⼿続きの標準がないので、他⼈の計算結果との⽐較が困難

Slide 37

Slide 37 text

結果の解釈が難しい⼀般的な統計的検定⼿法 (例えば t 検定) が使えないため、出⼒結果を解釈する⽅法について都度⾃分で考える必要があるよくわからない結果が得られたとき、その理由を知ることが困難データの収集⾃体のミスデータを処理したプログラムのバグ共変量がアウトカムの結果になっている (問題設定の不備) etc. 実際、過去に⾏った結果と⽭盾する結果を得て、どちらも正しいという結論に⾄ったケースがあった

Slide 38

Slide 38 text

Recap 統計的因果推論では、介⼊を⾏ったときのアウトカムと⾏わなかったときのアウトカムの差である介⼊効果を扱う⽋損値となっている観測できなかったアウトカムをうまく扱うことで、平均的な介⼊効果の算出ができるアップリフトモデリングでは、機械学習を⽤いて⽋損値を補完することで平均的な介⼊効果の算出を⾏う複雑な⼿法を使うと応⽤範囲が広がるが、問題設定、データ処理、結果の解釈の妥当性を⽰すことが困難になる