【CDLE宮城】第1回勉強会：機械学習の説明性

【CDLE宮城】第1回勉強会での講演資料です．
https://jdla.connpass.com/event/336102/

XAIのプログラミング教材はこちら：
https://koikezlemma.github.io/XAI/

Transcript

1. $%-&ٶ৓
   ୈճษڧձ ػցֶशͷઆ໌ੑ ౦๺େֶ
   େֶӃ৘ใՊֶݚڀՊ খ஑ ರ
2. 2 খ஑
   ರʢ͍͚͜
   ͋ͭ͠ʣ l ౦๺େֶ
   େֶӃ৘ใՊֶݚڀՊ ࣮ફత৘ใڭҭਪਐࣨ
   ಛ೚।ڭतʢݚڀʣ l ࢈ֶ࿈ܞɼ%9ɾ"*ڭҭ୲౰ l ݱࡏͷઐ໳͸ਂ૚ֶशʢಛʹઆ໌Մೳ"*ʣ l ࡢ೥຤ʰਤղ
   ਂ૚ֶशʱΛग़൛ l ઋ୆ࢢ
   95&$)
   1#-ʢʣ ஍ҬίʔσΟωʔλʔ
3. 3 %9ΠϯϑϧΤϯαཆ੒ߨ࠲ 㱺
   ౦๺େֶͷࣾձਓ޲͚%9ߨ࠲ 🌟
   ࠓ೥౓͸डߨྉແྉʢਃࠐऴྃʣ 🌟
   ౦๺େֶΦʔϓϯόοδ σʔλՊֶɾ ਓ޻஌ೳ ηΩϡϦ ςΟ Ϋϥ΢υ
4. 4 %9ΠϯϑϧΤϯαཆ੒ߨ࠲ Stage1: DXスターター • DX推進⼈材，サポート⼈材 • 初⼼者向け基礎知識から標準的な プログラミングまで • e-learning（オンデマンド） Stage2: DXインフルエンサ • 組織のDX化を牽引する⼈材 • 実習（対⾯，リアルタイムのオン ライン）により実践的・発展的な スキルを習得 • 科⽬ • Jetson実習 （リアルタイム画像分類） • Kaggle実習 （データ解析・活⽤）
5. 5 %9ΠϯϑϧΤϯαཆ੒ߨ࠲ +FUTPO࣮श ʮ͖ͷ͜ͷࢁʯͱʮ͚ͨͷ͜ͷཬʯΛϦΞϧλΠϜ෼ྨ ɾσʔλ४උ΍ਂ૚ֶशϞσϧ։ൃ΋ѻ͏
6. ࠓճͷ಺༰ l આ໌Մೳ"*ʢ&YQMBJOBCMF
   "*
   9"*ʣ l 9"*֓ཁ l ࣗݾઆ໌ՄೳͳϞσϧ l ࣄޙઆ໌Λ௥Ճ͢Δख๏ʢಛఆϞσϧݶఆʣ l ࣄޙઆ໌Λ௥Ճ͢Δख๏ʢ೚ҙϞσϧద༻Մʣ l άϩʔόϧͳઆ໌ l ϩʔΧϧͳઆ໌ 6
7. 9"*֓ཁ 7
8. આ໌Մೳ"*ʢ9"*ʣͷඞཁੑ l ػցֶशɾ"*Ͱ͸σʔλ౳͔ΒࣗಈֶशΛߦ͏ ˠ
   Ϟσϧ͕ਓؒͷࢦࣔͳ͠ʹ൑அΛߦ͏ ˠ
   ਓ͕ؒ൑அͷࠜڌΛ֬ೝͰ͖Δඞཁ͕͋Δ ˠ
   ൑அʹର͢Δઆ໌ٕज़ɿ9"* l "*ʹΑΔࣗಈ൑அͷϦεΫ l ؒҧͬͨ൑அ l ෆެฏͳ൑அ l ཧղෆೳͳ൑அɼೲಘ͍͔ͳ͍൑அ 8
9. આ໌ର৅ʹΑΔ෼ྨ l άϩʔόϧͳઆ໌ l ༧ଌϞσϧશମʹର͢Δઆ໌ l Ϟσϧͷશମతͳ܏޲Λࣔ͢ l ʮ͜ͷϞσϧ͸ಛ௃ྔYYΛॏࢹ͢ΔʯͳͲ l ϩʔΧϧͳઆ໌ l ݸʑͷग़ྗʹର͢Δઆ໌ l ग़ྗʹରͯ͠ɼͦΕΛಘΔͨΊͷࠜڌΛࣔ͢ l ʮಛ௃ྔYYͷ஋͕YYͷͨΊʯ l ʮಛ௃ྔYYͷ஋͕YYͳΒग़ྗ͸YYʹͳ͍ͬͯͨʯͳͲ 9
10. આ໌ͷܭࢉํ๏ʹΑΔ෼ྨ 説明モデル ⾃⼰説明可能なモ デル 説明を事後付加す るモデル 特定の予測モデル に対するモデル 任意のモデルに適 ⽤可能なモデル 10 モデル⾃体が 説明になっているもの （決定⽊， 重回帰モデルなど） モデルの中⾝を 解析するもの （Grad-CAMなど） モデルの中⾝を ⾒ないもの （LIME，Shapなど） HMBTTCPYϞσϧ CMBDLCPY Ϟσϧ
11. ࣗݾઆ໌ՄೳͳϞσϧ 11
12. ઢܗॏճؼϞσϧ l ༧ଌ஋ʢ໨తม਺ʣΛಛ௃ྔͷઢܗࣜͰද͢ l ༧ଌϞσϧͷೖྗɿಛ௃ྔ
    𝑋!, 𝑋", ⋯ , 𝑋#
    ʢઆ໌ม਺ʣ l ༧ଌϞσϧͷग़ྗɿಛ௃ྔ
    𝑌
    ʢ໨తม਺ʣ 12 𝑌 = 𝛽! + 𝛽" 𝑋" + 𝛽# 𝑋# + ⋯ + 𝛽$ 𝑋$ • 𝛽$
    ͷ஋͕ਖ਼
    㱺
    𝑋$
    ͸ग़ྗΛେ͖͘͢ΔཁҼ • 𝛽$
    ͷ஋͕
    
    㱺
    𝑋$
    ͸ग़ྗʹӨڹ͠ͳ͍ • 𝛽$
    ͷ஋͕ෛ
    㱺
    𝑋$
    ͸ग़ྗΛখ͘͢͞ΔཁҼ ௕ॴɿ෼͔Γ΍͍͢ ܽ఺ɿઢܗͷؔ܎͔͠෼͔Βͳ͍ʢ༧ଌϞσϧੑೳ͕௿͍ʣ આ໌ม਺Λඪ४Խ͓ͯ͘͠ͱɼม਺͝ͱͷد༩཰͕ٻ·Δ
13. ܾఆ໦ l ༧ଌ݁ՌΛ໦Ͱදݱ͢Δ l ༿͕༧ଌ݁Ռ l ͦΕҎ֎͸෼ذͷͨΊͷ࣭໰ 13 40歳以上 年収500万以上 未購⼊ Yes No ・・・ No 購⼊ Yes ঎඼ͷߪೖ༧ଌͷྫ
14. ҰൠԽՃ๏Ϟσϧʢ(".ʣ l ॏճؼϞσϧͷ෼͔Γ΍͢͞Λอͪͭͭ ΑΓෳࡶͳ༧ଌ஋ܭࢉΛͰ͖ΔΑ͏ʹ͢Δ l ֤આ໌ม਺͔ΒείΞΛٻΊͯ଍͠߹ΘͤΔ ʢՃ๏Ϟσϧʣ l ࣮૷ྫɾվྑྫɿ &YQMBJOBCMF
    #PPTUJOH
    .BDIJOFʢ&#.
    (".ʣ 14 𝑌 = 𝛽! + 𝑓" 𝑋" + 𝑓# 𝑋# + ⋯ + 𝑓$ 𝑋$ 𝑌Λ͞Βʹมܗͯ͠ग़ྗ
    ˠ
    ҰൠԽՃ๏Ϟσϧ :JO
    -PV
    FU
    BM
    "DDVSBUF
    *OUFMMJHJCMF
    .PEFMT
    XJUI
    1BJSXJTF
    *OUFSBDUJPOT
    ,%%
     IUUQTXXXDTDPSOFMMFEVdZJOMPVQBQFSTMPVLEEQEG
15. ҰൠԽՃ๏ϞσϧʹΑΔઆ໌ l ౶೘පͷ༧ଌʢείΞେɿ౶೘පͷ͍͕ٙେ͖͍ʣ 15 3VEJO
    FU
    BM
    *OUFSQSFUBCMF
    NBDIJOF
    MFBSOJOH
    'VOEBNFOUBM
    QSJODJQMFT
    BOE
    
    HSBOE
    DIBMMFOHFT
     IUUQTBSYJWPSHBCT ࠷ޙʹείΞ߹ܭΛ֬཰ʢʙʣʹม׵ͯ͠ग़ྗ
    ʢҰൠԽՃ๏Ϟσϧʣ ݂౶஋ είΞ #.*
16. *OUFSQSFU.- l આ໌ϞσϧͷͨΊͷ1ZUIPOϥΠϒϥϦ l ϚΠΫϩιϑτʢ&#.ͷ։ൃऀୡʣ͕։ൃ l HMBTTCPYͱCMBDLCPYͷ༗໊ͳϞσϧʢҰ෦ʣʹରԠ l &#.΋ؚ·Ε͍ͯΔ 16 (JU)VC
    *OUFSQSFU.- IUUQTHJUIVCDPNJOUFSQSFUNMJOUFSQSFU
17. ࣗݾઆ໌ՄೳͳϞσϧͷॏཁੑ l ࣄޙʹઆ໌Λ௥Ճ͢ΔϞσϧͷ໰୊఺ 3VEJO l ༧ଌϞσϧͱઆ໌ͱͷؒͷဃ཭ l ༧ଌϞσϧͰਓछͷ৘ใΛ࢖͍ͬͯͳ͍৔߹Ͱ΋ ʮࠇਓ͔ͩΒୁั͞Εͨʯͱ͍͏આ໌͕ੜ੒͞ΕΔ৔߹͕͋Δ ʢཏੜ໳ޮՌʣ l ٯʹɼෆެฏͳ༧ଌʹϞσϧʹରͯ͠ɼͦΕΛӅṭ͢ΔΑ͏ͳ આ໌͕ੜ੒͞ΕΔϦεΫ΋͋Δ ˠ
    (".΍ܾఆ໦Λ࢖͑͹͜ͷΑ͏ͳ͜ͱ͸ى͖ͳ͍ 17 $ZOUIJB
    3VEJO
    4UPQ
    &YQMBJOJOH
    #MBDL
    #PY
    .BDIJOF
    -FBSOJOH
    .PEFMT
    GPS
    )JHI
    4UBLFT
    %FDJTJPOT
    BOE
    6TF
    *OUFSQSFUBCMF
    .PEFMT
    *OTUFBE
     IUUQTBSYJWPSHBCT
18. ಛఆͷ༧ଌϞσϧʹࣄޙઆ໌ Λ௥Ճ͢Δख๏ 18
19. (SBE$". l ৞ΈࠐΈχϡʔϥϧωοτϫʔΫͷग़ྗʹର͢Δઆ໌ख๏ ʢώʔτϚοϓʹΑΓॏཁՕॴΛਤࣔʣ ˠ
    ग़ྗΛେ͖͘มಈͤ͞ΔྖҬΛநग़ 19 ʮग़ྗɿೣʯ ʹର͢Δઆ໌ ʮग़ྗɿݘʯ ʹର͢Δઆ໌ 4FMWBSBKV
    FU
    BM
    (SBE$".
    7JTVBM
    &YQMBOBUJPOT
    GSPN
    %FFQ
    /FUXPSLT
    WJB
    (SBEJFOUCBTFE
    -PDBMJ[BUJPO
     IUUQTBSYJWPSHBCT
20. ೚ҙͷ༧ଌϞσϧʹద༻Մೳ ͳઆ໌Ϟσϧ • 4)"1 20
21. Ϟσϧඇґଘͷઆ໌ํ๏ͷ࢓૊Έ 21 ग़ྗ ༧ଌ Ϟσϧ ೖྗ ೖྗΛมԽͤͨ͞ࡍͷग़ྗͷมԽ͔Β ಛ௃ྔͷॏཁ౓ͳͲΛௐ΂Δ ͳΜͰ΋ྑ͍
22. l ֤Πϯελϯεͷग़ྗʹର͢Δઆ໌ख๏ l શΠϯελϯεʹର͢Δಛ௃ྔ͝ͱͷߩݙ౓Λू ໿͢Δ͜ͱͰάϩʔόϧͳઆ໌΋Մೳ l ʮશମͷग़ྗฏۉʯ͔ΒͷζϨʹରͯ͠ɼ ಛ௃ྔ͝ͱͷߩݙ౓ʢ4)"1஋ʣΛܭࢉ͢Δ l ΞΠσΞɿ༷ʑͳঢ়گʹ͓͍ͯɼͦͷਓʢಛ௃ྔʣΛ ߟྀ͢Δ͜ͱʹΑΔग़ྗ૿Λߟ͑ɼฏۉ͢Δ ˠ
    ήʔϜཧ࿦ͷڠྗήʔϜʹ͓͚Δެฏͳརಘͷ෼഑ ʢγϟʔϓϨΠ஋ʣΛߴ଎ʹࡶʹܭࢉ͢Δ 4)"1 22 4DPUU
    -VOECFSH
    4V*O
    -FF
    "
    6OJGJFE
    "QQSPBDI
    UP
    *OUFSQSFUJOH
    .PEFM
    1SFEJDUJPOT
    /FVS*14 IUUQTBSYJWPSHBCT
23. l 8BUFSGBMM
    QMPUʢϩʔΧϧઆ໌ʣ 4)"1ʹΑΔઆ໌ྫ 23 ΧϧϑΥϧχΞͷॅ୐Ձ֨༧ଌ ฏۉՁ֨ ͋Δॅ୐ͷ ༧ଌՁ֨ ஍Ҭͷॴಘ Ң౓ ܦ౓ ங೥਺ ෦԰਺ ஍Ҭਓޱ ৸ࣨ਺ ஍Ҭੈଳਓ਺ "O
    JOUSPEVDUJPO
    UP
    FYQMBJOBCMF
    "*
    XJUI
    4IBQMFZ
    WBMVFT IUUQTTIBQSFBEUIFEPDTJPFOMBUFTUFYBNQMF@OPUFCPPLTPWFSWJFXT"OJOUSPEVDUJPOUPFYQMBJOBCMF"*XJUI4IBQMFZWBMVFTIUNM 4)"1஋
24. l 1BSUJBM
    EJGGFSFODF
    QMPUʢάϩʔόϧઆ໌ʣ ˠ
    ͋Δಛ௃ྔΛม͑ͨ͜ͱʹΑΔग़ྗมԽ 4)"1ʹΑΔઆ໌ྫ 24 ஍Ҭͷॴಘ ॅ୐Ձ֨ "O
    JOUSPEVDUJPO
    UP
    FYQMBJOBCMF
    "*
    XJUI
    4IBQMFZ
    WBMVFT IUUQTTIBQSFBEUIFEPDTJPFOMBUFTUFYBNQMF@OPUFCPPLTPWFSWJFXT"OJOUSPEVDUJPOUPFYQMBJOBCMF"*XJUI4IBQMFZWBMVFTIUNM
25. l ಛ௃ྔॏཁ౓ʢάϩʔόϧઆ໌ʣ ˠ
    ಛ௃ྔͷग़ྗมԽʹର͢ΔӨڹ౓ 4)"1ʹΑΔઆ໌ྫ 25 ಛ௃ྔॏཁ౓ʢ4)"1஋ͷฏۉ஋ʣ ಛ௃ྔ "O
    JOUSPEVDUJPO
    UP
    FYQMBJOBCMF
    "*
    XJUI
    4IBQMFZ
    WBMVFT IUUQTTIBQSFBEUIFEPDTJPFOMBUFTUFYBNQMF@OPUFCPPLTPWFSWJFXT"OJOUSPEVDUJPOUPFYQMBJOBCMF"*XJUI4IBQMFZWBMVFTIUNM ಛ௃ྔ͕ͲͷΑ͏ʹग़ྗʹӨڹΛ༩͑Δ͔͸෼͔Βͳ͍
26. l #FFTXBSN
    QMPUʢάϩʔόϧઆ໌ʣ ˠ
    ಛ௃ྔͷ4)"1஋෼෍ʢ஋ͷେখ΋ಉ࣌දࣔʣ 4)"1ʹΑΔઆ໌ྫ 26 4)"1஋ʢϞσϧग़ྗΛͲͷΑ͏ʹมԽͤ͞Δ͔ʣ ಛ௃ྔͷ஋ ʢ੺ɿେɼ੨ɿখʣ ಛ௃ྔͷ஋͕ͲͷΑ͏ʹग़ྗΛมԽͤ͞Δͷ͔Λ೺ѲͰ͖Δ ಛ௃ྔ "O
    JOUSPEVDUJPO
    UP
    FYQMBJOBCMF
    "*
    XJUI
    4IBQMFZ
    WBMVFT IUUQTTIBQSFBEUIFEPDTJPFOMBUFTUFYBNQMF@OPUFCPPLTPWFSWJFXT"OJOUSPEVDUJPOUPFYQMBJOBCMF"*XJUI4IBQMFZWBMVFTIUNM
27. γϟʔϓϨΠ஋ l /ਓ͕ڠྗͯ͠རಘΛಘͨ৔߹ͷެฏʹ෼഑͞Ε ͨใु
    ˠ
    4)"1Ͱ͸શମฏۉ͔Βͷग़ྗ͕ࠩརಘ l ྫɿਓͷϓϨʔϠʹΑΔڠྗήʔϜ 27  " # " #   Ͳ͏෼഑͢Δʁ "
     #
     ڠྗ͢Δ͜ͱͰಘΒΕΔརӹʹ ෆެฏ͕ͳ͍Α͏ʹ͢Δ γϟʔϓϨΠ஋
28. l 4)"1ϥΠϒϥϦ
    υΩϡϝϯτ l IUUQTHJUIVCDPNTMVOECFSHTIBQ l IUUQTTIBQSFBEUIFEPDTJPFOMBUFTUJOEFYIUNM l 4)"1ϥΠϒϥϦͷ࢖͍ํ l QJQ
    JOTUBMM
    TIBQ l JNQPSU
    TIBQ l ϓϩάϥϛϯάڭࡐʢখ஑࡞੒ʣ l IUUQTLPJLF[MFNNBHJUIVCJP9"* ࢀߟ৘ใ 28