2022/02/24
コンピューティング基盤CREST「学習/数理モデルに基づく時空間展開型アーキテクチャの創出と応用」フォレストワークショップ
https://www-alg.ist.hokudai.ac.jp/~atsu/forest_workshop20220214.html
タイトル:
反実仮想に基づく説明可能な機械学習
概要:
深層学習に代表される機械学習手法の発展により,機械学習モデルが医療や金融などといった実社会意思決定の現場に応用され始めている.これにともない,機械学習モデルの予測根拠や判断基準を人間が理解可能な形で提示できる説明可能性(explainability)の実現が重要視されており,近年活発に研究が行われている.中でも,反実仮想説明法(counterfactual explanation, CE)は,モデルから所望の予測結果を得るための摂動ベクトルを「アクション」として提示する局所説明手法であり,ユーザにとってより建設的な説明が得られることから近年注目を集めている.本発表では,反実仮想説明法の研究背景や動機について概観した後,発表者らがこれまでに取り組んだ研究として,(1)データ分布を考慮した反実仮想説明法(DACE)[IJCAI-20],(2)順序付き反実仮想説明法(OrdCE)[AAAI-21],(3)反実仮想説明木(CET)[AISTATS-22] について紹介する.