反実仮想説明法を活用したウェブアプリケーションのMVP開発

https://2022.pycon.jp/

Transcript

1. 反実仮想説明法を活用した
   ウェブアプリケーションのMVP開発
   （PyCon JP 2022 Developer & Community Sprint）
   桂川大輝
   

   View Slide

2. テーマ：反実仮想説明法を活用したウェブアプリケーションのMVP開発
   ● 背景：二値分類による予測に加えて反実仮想説明の提示をしたい
   ● 動機：ユーザーへの提示方法（UI）の検討をしたい
   ● 目標：ウェブアプリケーションのMVPの開発（叩き台）
   ● 今後：叩き台に基づきユーザーへの提示方法の検討など
   2
   

   View Slide

3. 技術選定
   ● 機械学習モデル：ロジスティック回帰
   （scikit-learn[1]よりlinear_model.LogisticRegression）
   ● 反実仮想説明法：DiCE[2]
   ● データセット：自前で生成
   ● ウェブアプリケーションフレームワーク：Streamlit[3]
   3
   [1]scikit-learn: machine learning in Python — scikit-learn 1.1.1 documentation(https://scikit-learn.org/stable/)
   [2]Diverse Counterfactual Explanations (DiCE) for ML — DiCE 0.8 documentation(http://interpret.ml/DiCE/)
   [3]Streamlit • The fastest way to build and share data apps(https://streamlit.io/)
   

   View Slide

4. View Slide

5. 5
   〇〇について入力
   入力後に予測
   

   View Slide

6. 6
   反実仮想説明法に基づく
   状態を覆すための提案
   予測結果が出力
   （問題があると予測される場合）
   

   View Slide

7. 7
   提案に従って値を変え
   （たと仮定）、再度予測
   

   View Slide

8. 8
   予測結果が出力
   （問題がないと予測される場合）
   

   View Slide

9. 9
   反実仮想説明法を活用したウェブアプリケーションの叩き台が完成
   

   View Slide

10. 成果物
    ● ファイル×1（app.py）
    10
    streamlit run app.py
    

    View Slide

11. 今後の展望
    ● リファクタリング（ある程度は済）
    ● 叩き台に基づきユーザーへの提示方法の検討
    ● 現実のデータセットの利用
    ● 他者からのフィードバック
    ● サーベイ
    11
    

    View Slide