Slide 3
Slide 3 text
サマリ
この論文は何?
• Deep Neural Inspectionを用いて深層学習モデルの挙動を解釈するツールを作った
• これまで task specificで手間がかかる実装を、異なるモデル、異なる評価値、異なる仮
説やHidden unitの組み合わせでも比較できるように、手順を抽象化し素早い検査を容易
にした
• 論文中でも ”Note that although we also report analysis results, the primary purpose is
to highlight the easy of analysis” と強調されている
なぜこの論文?
• 機械学習モデルの解釈性・説明性は重要視されるようになってきた
• ブレインパッドが受託分析の会社
• クライアントの業務プロセスや意思決定に関与して初めて価値が出る
• なんで?の解消、納得感の醸成
• AI利活用原則案(総務省2018)やGDPR(EU)への対応など
• テーマが様々、汎用的なツールで“解釈性”を扱えるなら最高