Developers Summit 2022の「ITエンジニア本大賞2022」プレゼン大会での発表資料です。
https://event.shoeisha.jp/devsumi/20220217/session/3650/
機械学習解釈する技術はこちらからご購入いただけます https://gihyo.jp/book/2021/978-4-297-12226-3
2022/2/17Developers Summit 2022@dropout009
View Slide
TVISION INSIGHTSTwitter: @dropout009Speaker Deck: dropout009Blog: https://dropout009.hatenablog.com/
Deep Learning GBDT Random Forest
画像認識、⾳声認識、機械翻訳、…Deep Learning,Gradient Boosting Decision Tree,Random Forest, ...pytorch,LightGBM,scikit-learn, ...
LMGBDTRFDLGLM
LMGBDTRFDLGLM+
4PFIPD + ICESHAP
1. PFI2. PD3. ICE4. SHAP住宅価格 = 𝛽!+ 𝛽"部屋の数 + 𝛽#駅からの距離 + ノイズ
Partial DependencePD𝑌 = 𝑋! − 5𝑋" + 10𝑋"𝑋# + 𝜖𝑋!, 𝑋" ∼ Uniform −1, 1𝑋# ∼ Bernoulli 0.5𝜖 ∼ 𝒩(0, 0.01)
PythonPartial Dependence@dataclassclass PartialDependence:"""Partial Dependence (PD)"""estimator: AnyX: np.ndarrayvar_names: list[str]def _counterfactual_prediction(self,idx_to_replace: int,value_to_replace: float) -> np.ndarray:"""ある特徴量の値を置き換えたときの予測値を求める"""X_replaced = self.X.copy()X_replaced[:, idx_to_replace] = value_to_replacey_pred = self.estimator.predict(X_replaced)return y_pred………$PD>𝑥>=1𝑁*[email protected]"A+𝑓(𝑥>, 𝒙?,∖>)