ೳಈֶशͷ͍Ζ͸ Human-in-the-Loop ػցֶश 3ষʙ5ষ 1 ҏ౻׮঵ 図書館情報メディア系 助教 人工知能研究センター 助教（兼任）

ࣗݾ঺հ uҏ౻׮঵ʢ)JSPZPTIJ *UPʣ Ø ത࢜ ޻ֶ l ίϯϐϡʔλαΠΤϯεઐ߈ Ø ݚڀ෼໺ l ώϡʔϚϯίϯϐϡςʔγϣϯ • Ϋϥ΢υιʔγϯά <8FC4DJ`#FTUQBQFSDBOE> • )VNBOJOUIF-PPQػցֶश <)$0.1`><*$"%-`#FTU4UVEFOU1BQFS> l ιʔγϟϧωοτϫʔΫ෼ੳ • σʔλϚΠχϯάɾ஌ࣝൃݟ <888`><4%.`> 2

຋༁ͷϞνϕʔγϣϯ uώϡʔϚϯίϯϐϡςʔγϣϯ΍ೳಈֶशͷ ॳֶऀ޲͚ͷڭࡐ͕΄͍͠ Ø ݫີͳཧ࿦ΑΓ΋ɼ௚؍తͳཧղΛॏࢹ Ø ػցֶशΛಋೖ͢Δݱ৔ͷ੠Λҙࣝͨ͠಺༰ Ø ࣮ࡍʹಈ͘ϓϩάϥϜ͕͍͍ͭͯͯɼखΛಈ͔͠ ͳ͕ΒཧղΛਐΊΒΕΔ Hiroyoshi Ito, University of Tsukuba 3

ষ ෆ࣮֬ੑαϯϓϦϯά uϞσϧͷ༧ଌͷෆ࣮֬ੑΛఆྔԽ Ø Ϟσϧ͕ෆ͔֬ͳσʔλΛαϯϓϦϯάɼ ਓؒͷϑΟʔυόοΫͰੑೳΛ޲্͍ͨ͠ Hiroyoshi Ito, University of Tsukuba 人間（クラウド，専門家） フィードバック 不確実性高

+FOOJGFS1SFOELJ ࢯͷҳ࿩ u͢΂ͯͷσʔλ͸ಉ͡Ձ஋Ͱ͸ͳ͍ Ø ӫཆՁΛؾʹ͢Δਓ͸εʔύʔͰద౰ʹ঎඼Λ બ͹ͳ͍ u&$αΠτͰͷػցֶशγεςϜ։ൃͷܦݧ Ø ૊৫վֵʹΑΓΞϊςʔγϣϯ༧ࢉ͕൒෼ɼ ཁΞϊςʔγϣϯσʔλ͕ഒˠσʔλ͋ͨΓ ༧ࢉ͕ʹ࡟ݮ͞Εͨ Ø ೳಈֶशΛಋೖͨ͠ͱ͜Ζैདྷͷ ϥϯμϜαϯϓϦϯάख๏ΑΓ΋ྑ޷ͳ݁Ռ Hiroyoshi Ito, University of Tsukuba 5 Alectio社 CEO

ෆ࣮֬ੑαϯϓϦϯάͷྲྀΕ Hiroyoshi Ito, University of Tsukuba 6 各データに対する 不確実性を計算

ෆ࣮֬ੑαϯϓϦϯά uϞσϧͷग़ྗͷ֬৴౓ʹج͖ͮෆ࣮֬ੑΛܭࢉɼ ෆ࣮֬ੑ͕ߴ͍σʔλΛαϯϓϦϯά Ø ࠷খ֬৴౓αϯϓϦϯά Ø ֬৴౓ϚʔδϯαϯϓϦϯά Ø ֬৴౓ൺ཰αϯϓϦϯά Ø Τϯτϩϐʔج४αϯϓϦϯά u࣮૷΋ެ։ Hiroyoshi Ito, University of Tsukuba 7

ষͰԾఆ͢ΔϞσϧ uग़ྗ૚ʹ TPGUNBY ؔ਺Λ΋ͭ χϡʔϥϧωοτϫʔΫ Ø ֤ϥϕϧʹର͢Δग़ྗ஋͕֬཰ Hiroyoshi Ito, University of Tsukuba 8

࠷খ֬৴౓αϯϓϦϯά u͔Β࠷΋֬৴౓͕ߴ͍ϥϕϧͷ֬৴౓ΛҾ͍ͨ஋ Λෆ࣮֬ੑͱ͢Δ Ø ࠷΋ࣗ৴͕͋Δϥϕϧͷ֬৴౓͢Β௿͍༧ଌ͸ෆ࣮֬ Hiroyoshi Ito, University of Tsukuba 9 例. 不確実性スコア： (1-0.6439) ! " = 0.4748 モデル出力 ラベル数 最大確信度

֬৴౓ϚʔδϯαϯϓϦϯά u্Ґ̎ͭͷϥϕϧͷ֬৴౓ͷࠩΛෆ࣮֬ੑͱ͢Δ Ø ̎ͭͷϥϕϧؒͰ൑அ͔͠Ͷ͍ͯΔ༧ଌ͸ෆ࣮֬ Hiroyoshi Ito, University of Tsukuba 10 最大確信度 ２番目の確信度 例. 不確実性スコア： (1 - (0.6439 - 0.0871)) = 0.5930 モデル出力

Τϯτϩϐʔج४αϯϓϦϯά uਖ਼ղϥϕϧΛ؍ଌͨ͠ࡍͷʮڻ͖ʯͷظ଴஋Ͱ ෆ࣮֬ੑΛܭࢉ Ø ʮڻ͖ʯͷظ଴஋ˠΤϯτϩϐʔ Hiroyoshi Ito, University of Tsukuba 11 低エントロピー 高エントロピー

ষ ͦͷଞͷ࿩୊ u༧ଌͷ૊Έ߹Θͤʹର͢Δෆ࣮֬ੑʢઅʣ Ø Ξϯαϯϒϧख๏ Ø ҕһձΫΤϦʔʢ2VFSZCZDPNNJUUFFʣ Ø ۮൃతෆ࣮֬ੑɾೝࣝ࿦తෆ࣮֬ੑ uద੾ͳΞϊςʔγϣϯ਺ʹؔ͢Δٞ࿦ʢઅʣ Ø ༧ࢉɾ੍࣌ؒݶ͕͋Δ৔߹ͷઓུ uೳಈֶशͷධՁํ๏ʢઅʣ Ø ೳಈֶशʹ͓͚Δݕূσʔλͷ࡞੒ํ๏ Hiroyoshi Ito, University of Tsukuba 12

ষ ଟ༷ੑαϯϓϦϯά uϞσϧ͕ʮ஌Βͳ͍͜ͱΛ஌Βͳ͍ʯσʔλΛಛఆ ͯ͠αϯϓϦϯά͍ͨ͠ Ø ྫग़ݱස౓͕௿͍୯ޠΛؚΉจॻͷαϯϓϦϯά Ø ྫਓؒͷଐੑͷଟ༷ੑΛ֬อ͢Δʢੑผɼ஍Ҭɼ౳ʣ Hiroyoshi Ito, University of Tsukuba 13 多様性サンプリングのイメージ 不確実性サンプリングのイメージ

֎Ε஋αϯϓϦϯά uϞσϧ͕͜Ε·Ͱૺ۰ͨ͠ස౓͕খ͍͞σʔλΛ ༏ઌతʹαϯϓϦϯά͍ͨ͠ Ø ૺ۰ස౓௿͍ ˠ σʔλΛϞσϧʹೖྗͨ͠ͱ͖ͷ Ϟσϧͷ׆ੑ౓͕௿͍ Ø ׆ੑ౓ͷ௿͞ͰσʔλΛϥϯΩϯά͠αϯϓϦϯά Hiroyoshi Ito, University of Tsukuba 14 モデルの活性度 → NNの隠れ層・出力層の 値の大きさ

ΫϥελϕʔεͷαϯϓϦϯά uσʔλΛΫϥελʹ෼ׂ͠ɼ֤Ϋϥελ͔Β αϯϓϦϯά͠ɼଟ༷ੑΛߴΊΔ Ø ྨࣅͨ͠σʔλΛॏෳͯ͠αϯϓϦϯά͢Δ͜ͱΛ ආ͚Δ Hiroyoshi Ito, University of Tsukuba 15 u αϯϓϦϯάઓུ l ϥϯμϜɿ֤Ϋϥελ͔ΒϥϯμϜα ϯϓϦϯά l ηϯτϩΠυɿΫϥελΛ୅ද͢Δ σʔλΛαϯϓϦϯά l ֎Ε஋ɿΫϥελதͰݟಀ͞Ε͍ͯΔ Մೳੑ͕͋ΔσʔλΛαϯϓϦϯά

࣮ੈքͷଟ༷ੑΛߟྀͨ͠αϯϓϦϯά uσʔλͷଐੑʢੑผɾਓछɾ஍ཧɾࣾձత஍Ґɾ ೔࣌ʣͷଟ༷ੑΛ֬อ͢ΔͨΊͷαϯϓϦϯά Ø ಛఆͷଐੑʹର͢ΔόΠΞεΛආ͚Δ Hiroyoshi Ito, University of Tsukuba 16 l ଐੑ9ɿσʔλશମͷ෼෍ʹैΘ ͣɼֶशσʔλʹա৒ʹؚ·ΕΔ l ଐੑ0ɿۭؒશମʹ෼෍͢Δ͕ɼ ֶशσʔλ಺Ͱภ͍ͬͯΔ l ଐੑ;ɿݱࡏͷֶशσʔλதʹ ͋·Γଘࡏ͍ͯ͠ͳ͍

ষͦͷଞͷ࿩୊ uϞσϧϕʔεͷ֎Ε஋αϯϓϦϯά Ø 4PGUNBYؔ਺ͷಛੑͷ෼ੳʢઅʣ uΫϥελϕʔεͷαϯϓϦϯά Ø ༷ʑͳΫϥελϦϯάख๏ʢ֯౓ϕʔεΫϥελϦϯάɼ ࣍ݩ࡟ݮɼιϑτΫϥελϦϯάख๏ʣʢઅʣ u୅ද఺αϯϓϦϯά Ø దԠత୅ද఺αϯϓϦϯάʢઅʣ u࣮ੈքͷଟ༷ੑΛߟྀͨ͠αϯϓϦϯά Ø ૚ԽαϯϓϦϯάʢઅʣ Ø ଐੑΛߟྀͨ͠ࡍͷਫ਼౓ࢦඪʢઅʣ Hiroyoshi Ito, University of Tsukuba 17

̑ষ ߴ౓ͳೳಈֶश uෆ࣮֬ੑαϯϓϦϯάͱଟ༷ੑαϯϓϦϯάͷ ૊Έ߹Θͤ Ø ܾఆڥքʹۙ͘ɼ͔ͭଟ༷ੑͷ͋ΔσʔλΛ αϯϓϦϯά͢Δ uೳಈతసҠֶश Ø సҠֶशΛ༻͍ͨೳಈֶश Hiroyoshi Ito, University of Tsukuba 18

ෆ࣮֬ੑαϯϓϦϯάͱ ଟ༷ੑαϯϓϦϯάͷ૊Έ߹Θͤ uܾఆڥքʹۙ͘ɼ͔ͭଟ༷ͳσʔλΛαϯϓϦϯά Ø ֶश͕ΑΓૣ͘ਐΈɼ͔ͭόΠΞε͕͔͔ΓͮΒ͍ αϯϓϦϯάΛ࣮ݱ͍ͨ͠ Hiroyoshi Ito, University of Tsukuba 19 多様性サンプリング 不確実性サンプリング 組み合わせたサンプリング

ෆ࣮֬ੑαϯϓϦϯάͱ ଟ༷ੑαϯϓϦϯάͷ૊Έ߹Θͤ uྫɽ࠷খ֬৴౓αϯϓϦϯάͱΫϥελϕʔεͷ αϯϓϦϯάͷ૊Έ߹Θͤ Hiroyoshi Ito, University of Tsukuba 20

ೳಈతసҠֶश uసҠֶशɿֶशࡁΈͷϞσϧΛผͷϥϕϧू߹Λ ΋ͭσʔλʹదԠͤ͞Δ Ø θϩ͔Βֶश͢ΔΑΓগͳ͍Ξϊςʔγϣϯ਺Ͱ Ұఆਫ਼౓Λ࣮ݱՄೳ Hiroyoshi Ito, University of Tsukuba 21 学習済みモデル 最後の層のみを 再学習 別ラベルのデータ 転移学習の例

సҠֶशΛ༻͍ͨෆ࣮֬ੑαϯϓϦϯά uϞσϧͷʮਖ਼ղʯʮෆਖ਼ղʯΛ༧ଌ͢ΔϞσϧΛ సҠֶश͠ɼೳಈֶशʹ׆༻ Hiroyoshi Ito, University of Tsukuba 22 ラベルを「正解」 「不正解」とするデータ 「不正解」に分類される ラベルなしデータを アノテーション

ষͦͷଞͷ࿩୊ uෆ࣮֬ੑɾଟ༷ੑαϯϓϦϯά૊Έ߹Θͤ Ø ୅ද఺αϯϓϦϯάͱΫϥελαϯϓϦϯάʢ߲ʣ Ø ߴΤϯτϩϐʔΫϥελ͔ΒͷαϯϓϦϯάʢ߲ʣ Ø ෆ࣮֬ੑαϯϓϦϯάͱ୅ද఺αϯϓϦϯάʢ߲ʣ Ø ೳಈֶशείΞͷ૊Έ߹Θͤʢ߲ʣ Ø ظ଴ޡࠩ௿ݮαϯϓϦϯάʢ߲ʣ uೳಈతసҠֶश Ø దԠܕαϯϓϦϯάͷͨΊͷೳಈతసҠֶशʢઅʣ Hiroyoshi Ito, University of Tsukuba 23