能動学習のいろは：書籍「Human-in-the-Loop機械学習」3〜5章

第8回 Data-Centric AI勉強会 ~Human-in-the-Loop機械学習 特別回~の発表内容です。
https://dcai-jp.connpass.com/event/315963/

書籍「Human-in-the-Loop 機械学習」において、翻訳を担当した章（3, 4, 5章）の内容を抜粋して紹介します。Human in the loop 機械学習において重要な概念である能動学習について概要を説明します。

Amazon での書籍リンク
https://amzn.to/47u5tFz

Transcript

1. ೳಈֶशͷ͍Ζ͸ Human-in-the-Loop ػցֶश 3ষʙ5ষ 1 ҏ౻׮঵ 図書館情報メディア系 助教 人工知能研究センター 助教（兼任）
2. ࣗݾ঺հ uҏ౻׮঵ʢ)JSPZPTIJ *UPʣ Ø ത࢜ ޻ֶ l ίϯϐϡʔλαΠΤϯεઐ߈ Ø ݚڀ෼໺ l ώϡʔϚϯίϯϐϡςʔγϣϯ • Ϋϥ΢υιʔγϯά <8FC4DJ`
   #FTU
   QBQFS
   DBOE> • )VNBOJOUIF-PPQ
   ػցֶश <)$0.1`>
   <*$"%-`
   #FTU
   4UVEFOU
   1BQFS> l ιʔγϟϧωοτϫʔΫ෼ੳ • σʔλϚΠχϯάɾ஌ࣝൃݟ <888`>
   <4%.`>
   2
3. ຋༁ͷϞνϕʔγϣϯ uώϡʔϚϯίϯϐϡςʔγϣϯ΍ೳಈֶशͷ ॳֶऀ޲͚ͷڭࡐ͕΄͍͠ Ø ݫີͳཧ࿦ΑΓ΋ɼ௚؍తͳཧղΛॏࢹ Ø ػցֶशΛಋೖ͢Δݱ৔ͷ੠Λҙࣝͨ͠಺༰ Ø ࣮ࡍʹಈ͘ϓϩάϥϜ͕͍͍ͭͯͯɼखΛಈ͔͠ ͳ͕ΒཧղΛਐΊΒΕΔ Hiroyoshi Ito, University of Tsukuba 3
4. ষ ෆ࣮֬ੑαϯϓϦϯά uϞσϧͷ༧ଌͷෆ࣮֬ੑΛఆྔԽ Ø Ϟσϧ͕ෆ͔֬ͳσʔλΛαϯϓϦϯάɼ ਓؒͷϑΟʔυόοΫͰੑೳΛ޲্͍ͨ͠ Hiroyoshi Ito, University of Tsukuba 人間（クラウド，専門家） フィードバック 不確実性高
5. +FOOJGFS
   1SFOELJ ࢯͷҳ࿩ u͢΂ͯͷσʔλ͸ಉ͡Ձ஋Ͱ͸ͳ͍ Ø ӫཆՁΛؾʹ͢Δਓ͸εʔύʔͰద౰ʹ঎඼Λ બ͹ͳ͍ u&$αΠτͰͷػցֶशγεςϜ։ൃͷܦݧ Ø ૊৫վֵʹΑΓΞϊςʔγϣϯ༧ࢉ͕൒෼ɼ ཁΞϊςʔγϣϯσʔλ͕ഒˠσʔλ͋ͨΓ ༧ࢉ͕ʹ࡟ݮ͞Εͨ Ø ೳಈֶशΛಋೖͨ͠ͱ͜Ζैདྷͷ ϥϯμϜαϯϓϦϯάख๏ΑΓ΋ྑ޷ͳ݁Ռ Hiroyoshi Ito, University of Tsukuba 5 Alectio社 CEO
6. ෆ࣮֬ੑαϯϓϦϯάͷྲྀΕ Hiroyoshi Ito, University of Tsukuba 6 各データに対する 不確実性を計算
7. ෆ࣮֬ੑαϯϓϦϯά uϞσϧͷग़ྗͷ֬৴౓ʹج͖ͮෆ࣮֬ੑΛܭࢉɼ ෆ࣮֬ੑ͕ߴ͍σʔλΛαϯϓϦϯά Ø ࠷খ֬৴౓αϯϓϦϯά Ø ֬৴౓ϚʔδϯαϯϓϦϯά Ø ֬৴౓ൺ཰αϯϓϦϯά Ø Τϯτϩϐʔج४αϯϓϦϯά u࣮૷΋ެ։ Hiroyoshi Ito, University of Tsukuba 7
8. ষͰԾఆ͢ΔϞσϧ uग़ྗ૚ʹ TPGUNBY ؔ਺Λ΋ͭ χϡʔϥϧωοτϫʔΫ Ø ֤ϥϕϧʹର͢Δग़ྗ஋͕֬཰ Hiroyoshi Ito, University of Tsukuba 8
9. ࠷খ֬৴౓αϯϓϦϯά u͔Β࠷΋֬৴౓͕ߴ͍ϥϕϧͷ֬৴౓ΛҾ͍ͨ஋ Λෆ࣮֬ੑͱ͢Δ Ø ࠷΋ࣗ৴͕͋Δϥϕϧͷ֬৴౓͢Β௿͍༧ଌ͸ෆ࣮֬ Hiroyoshi Ito, University of Tsukuba 9 例. 不確実性スコア： (1-0.6439) ! " = 0.4748 モデル出力 ラベル数 最大確信度
10. ֬৴౓ϚʔδϯαϯϓϦϯά u্Ґ̎ͭͷϥϕϧͷ֬৴౓ͷࠩΛෆ࣮֬ੑͱ͢Δ Ø ̎ͭͷϥϕϧؒͰ൑அ͔͠Ͷ͍ͯΔ༧ଌ͸ෆ࣮֬ Hiroyoshi Ito, University of Tsukuba 10 最大確信度 ２番目の確信度 例. 不確実性スコア： (1 - (0.6439 - 0.0871)) = 0.5930 モデル出力
11. Τϯτϩϐʔج४αϯϓϦϯά uਖ਼ղϥϕϧΛ؍ଌͨ͠ࡍͷʮڻ͖ʯͷظ଴஋Ͱ ෆ࣮֬ੑΛܭࢉ Ø ʮڻ͖ʯͷظ଴஋
    ˠ
    Τϯτϩϐʔ Hiroyoshi Ito, University of Tsukuba 11 低エントロピー 高エントロピー
12. ষ ͦͷଞͷ࿩୊ u༧ଌͷ૊Έ߹Θͤʹର͢Δෆ࣮֬ੑʢઅʣ Ø Ξϯαϯϒϧख๏ Ø ҕһձΫΤϦʔʢ2VFSZ
    CZ
    DPNNJUUFFʣ Ø ۮൃతෆ࣮֬ੑɾೝࣝ࿦తෆ࣮֬ੑ uద੾ͳΞϊςʔγϣϯ਺ʹؔ͢Δٞ࿦ʢઅʣ Ø ༧ࢉɾ੍࣌ؒݶ͕͋Δ৔߹ͷઓུ uೳಈֶशͷධՁํ๏ʢઅʣ Ø ೳಈֶशʹ͓͚Δݕূσʔλͷ࡞੒ํ๏ Hiroyoshi Ito, University of Tsukuba 12
13. ষ ଟ༷ੑαϯϓϦϯά uϞσϧ͕ʮ஌Βͳ͍͜ͱΛ஌Βͳ͍ʯσʔλΛಛఆ ͯ͠αϯϓϦϯά͍ͨ͠ Ø ྫ
    ग़ݱස౓͕௿͍୯ޠΛؚΉจॻͷαϯϓϦϯά Ø ྫ
    ਓؒͷଐੑͷଟ༷ੑΛ֬อ͢Δʢੑผɼ஍Ҭɼ౳ʣ Hiroyoshi Ito, University of Tsukuba 13 多様性サンプリングのイメージ 不確実性サンプリングのイメージ
14. ֎Ε஋αϯϓϦϯά uϞσϧ͕͜Ε·Ͱૺ۰ͨ͠ස౓͕খ͍͞σʔλΛ ༏ઌతʹαϯϓϦϯά͍ͨ͠ Ø ૺ۰ස౓௿͍ ˠ σʔλΛϞσϧʹೖྗͨ͠ͱ͖ͷ Ϟσϧͷ׆ੑ౓͕௿͍ Ø ׆ੑ౓ͷ௿͞ͰσʔλΛϥϯΩϯά͠αϯϓϦϯά Hiroyoshi Ito, University of Tsukuba 14 モデルの活性度 → NNの隠れ層・出力層の 値の大きさ
15. ΫϥελϕʔεͷαϯϓϦϯά uσʔλΛΫϥελʹ෼ׂ͠ɼ֤Ϋϥελ͔Β αϯϓϦϯά͠ɼଟ༷ੑΛߴΊΔ Ø ྨࣅͨ͠σʔλΛॏෳͯ͠αϯϓϦϯά͢Δ͜ͱΛ ආ͚Δ Hiroyoshi Ito, University of Tsukuba 15 u αϯϓϦϯάઓུ l ϥϯμϜɿ֤Ϋϥελ͔ΒϥϯμϜα ϯϓϦϯά l ηϯτϩΠυɿΫϥελΛ୅ද͢Δ σʔλΛαϯϓϦϯά l ֎Ε஋ɿΫϥελதͰݟಀ͞Ε͍ͯΔ Մೳੑ͕͋ΔσʔλΛαϯϓϦϯά
16. ࣮ੈքͷଟ༷ੑΛߟྀͨ͠αϯϓϦϯά uσʔλͷଐੑʢੑผɾਓछɾ஍ཧɾࣾձత஍Ґɾ ೔࣌ʣͷଟ༷ੑΛ֬อ͢ΔͨΊͷαϯϓϦϯά Ø ಛఆͷଐੑʹର͢ΔόΠΞεΛආ͚Δ Hiroyoshi Ito, University of Tsukuba 16 l ଐੑ9ɿσʔλશମͷ෼෍ʹैΘ ͣɼֶशσʔλʹա৒ʹؚ·ΕΔ l ଐੑ0ɿۭؒશମʹ෼෍͢Δ͕ɼ ֶशσʔλ಺Ͱภ͍ͬͯΔ l ଐੑ;ɿݱࡏͷֶशσʔλதʹ ͋·Γଘࡏ͍ͯ͠ͳ͍
17. ষ
    ͦͷଞͷ࿩୊ uϞσϧϕʔεͷ֎Ε஋αϯϓϦϯά Ø 4PGUNBYؔ਺ͷಛੑͷ෼ੳʢઅʣ uΫϥελϕʔεͷαϯϓϦϯά Ø ༷ʑͳΫϥελϦϯάख๏ʢ֯౓ϕʔεΫϥελϦϯάɼ ࣍ݩ࡟ݮɼιϑτΫϥελϦϯάख๏ʣʢઅʣ u୅ද఺αϯϓϦϯά Ø దԠత୅ද఺αϯϓϦϯάʢઅʣ u࣮ੈքͷଟ༷ੑΛߟྀͨ͠αϯϓϦϯά Ø ૚ԽαϯϓϦϯάʢઅʣ Ø ଐੑΛߟྀͨ͠ࡍͷਫ਼౓ࢦඪʢઅʣ Hiroyoshi Ito, University of Tsukuba 17
18. ̑ষ ߴ౓ͳೳಈֶश uෆ࣮֬ੑαϯϓϦϯάͱଟ༷ੑαϯϓϦϯάͷ ૊Έ߹Θͤ Ø ܾఆڥքʹۙ͘ɼ͔ͭଟ༷ੑͷ͋ΔσʔλΛ αϯϓϦϯά͢Δ uೳಈతసҠֶश Ø సҠֶशΛ༻͍ͨೳಈֶश Hiroyoshi Ito, University of Tsukuba 18
19. ෆ࣮֬ੑαϯϓϦϯάͱ ଟ༷ੑαϯϓϦϯάͷ૊Έ߹Θͤ uܾఆڥքʹۙ͘ɼ͔ͭଟ༷ͳσʔλΛαϯϓϦϯά Ø ֶश͕ΑΓૣ͘ਐΈɼ͔ͭόΠΞε͕͔͔ΓͮΒ͍ αϯϓϦϯάΛ࣮ݱ͍ͨ͠ Hiroyoshi Ito, University of Tsukuba 19 多様性サンプリング 不確実性サンプリング 組み合わせたサンプリング
20. ෆ࣮֬ੑαϯϓϦϯάͱ ଟ༷ੑαϯϓϦϯάͷ૊Έ߹Θͤ uྫɽ࠷খ֬৴౓αϯϓϦϯάͱΫϥελϕʔεͷ αϯϓϦϯάͷ૊Έ߹Θͤ Hiroyoshi Ito, University of Tsukuba 20
21. ೳಈతసҠֶश uసҠֶशɿֶशࡁΈͷϞσϧΛผͷϥϕϧू߹Λ ΋ͭσʔλʹదԠͤ͞Δ Ø θϩ͔Βֶश͢ΔΑΓগͳ͍Ξϊςʔγϣϯ਺Ͱ Ұఆਫ਼౓Λ࣮ݱՄೳ Hiroyoshi Ito, University of Tsukuba 21 学習済みモデル 最後の層のみを 再学習 別ラベルのデータ 転移学習の例
22. సҠֶशΛ༻͍ͨෆ࣮֬ੑαϯϓϦϯά uϞσϧͷʮਖ਼ղʯʮෆਖ਼ղʯΛ༧ଌ͢ΔϞσϧΛ సҠֶश͠ɼೳಈֶशʹ׆༻ Hiroyoshi Ito, University of Tsukuba 22 ラベルを「正解」 「不正解」とするデータ 「不正解」に分類される ラベルなしデータを アノテーション
23. ষ
    ͦͷଞͷ࿩୊ uෆ࣮֬ੑɾଟ༷ੑαϯϓϦϯά૊Έ߹Θͤ Ø ୅ද఺αϯϓϦϯάͱΫϥελαϯϓϦϯάʢ߲ʣ Ø ߴΤϯτϩϐʔΫϥελ͔ΒͷαϯϓϦϯάʢ߲ʣ Ø ෆ࣮֬ੑαϯϓϦϯάͱ୅ද఺αϯϓϦϯάʢ߲ʣ Ø ೳಈֶशείΞͷ૊Έ߹Θͤʢ߲ʣ Ø ظ଴ޡࠩ௿ݮαϯϓϦϯάʢ߲ʣ uೳಈతసҠֶश Ø దԠܕαϯϓϦϯάͷͨΊͷೳಈతసҠֶशʢઅʣ Hiroyoshi Ito, University of Tsukuba 23