論文紹介:Relaxed Softmax for PU Learning

18d356eace1ae9fb3c1188871990a482?s=47 Hayato Maki
October 05, 2019

論文紹介:Relaxed Softmax for PU Learning

18d356eace1ae9fb3c1188871990a482?s=128

Hayato Maki

October 05, 2019
Tweet

Transcript

  1. 3FMBYFE4PGUNBYGPS
 16-FBSOJOH 6HP5BOJFMJBOBOE'MBWJBO7BTJMF
 $SJUFP3FTFBSDI 3FD4ZT`࿦จ঺հBU8BOUFEMZΦϑΟε
  ঺հऀɿਅ໦༐ਓBU;0;0ςΫϊϩδʔζ

  2. 3FMBYFE4PGUNBYGPS
 16-FBSOJOH 6HP5BOJFMJBOBOE'MBWJBO7BTJMF
 $SJUFP3FTFBSDI 3FD4ZT`࿦จ঺հBU8BOUFEMZΦϑΟε
  1PTJUJWFBOE6OMBCFMFE ঺հऀɿਅ໦༐ਓBU;0;0ςΫϊϩδʔζ

  3. 1PTJUJWF6OMBCFMFE 16 -FBSOJOH 3 ਖ਼ྫʹ͚ͩϥϕϧ͕͍͍ͭͯΔ  ϥϕϧ͕͍͍ͭͯͳ͍σʔλ͸ɺਖ਼ྫɾෛྫͲͪΒͷ Մೳੑ΋͋Γ  ਪનɺݴޠϞσϧͷֶशͰΑ͋͘Δঢ়گ

    ී௨ͷ̎Ϋϥε෼ྨ 16-FBSOJOH ਖ਼ྫ ෛྫ ਖ਼ྫ ϥϕϧແ͠
  4. $POUFYUVBM16-FBSOJOH 4 ʮϖΞʯʹͳΔ΋ͷΛ୳͢16-FBSOJOH  ਖ਼ྫͷϖΞ͚͕ͩ༩͑ΒΕΔ  ਖ਼ྫͱͯ͠༩͑ΒΕͳ͔ͬͨϖΞͷΫϥε͸ෆ໌ ֶश࣌ B@ C@

    B@ C@ B@O C@O B@ C@ B@ C@ ϖΞ̌ ϖΞ ϖΞO ਖ਼ྫ Ϋϥεෆ໌ ਪ࿦࣌ ೖྗ ީิ܈ ʁ ʁ ʁ ɾ ɾ ɾ ɾ ɾ ɾ ɾ ɾ ɾ
  5. ϑΝογϣϯʹ͓͚Δ$POUFYUVBM16-FBSOJOH 5 ෰ͷ૊Έ߹ΘͤΛϞσϧԽ͢Δ  ਖ਼ྫϖΞ͸ίʔσΟωʔτڞ༗αΠτ͔ΒೖखՄೳ  ෛྫϖΞ͸ཧ޻ܥͷେֶʹߦͬͯࣸਅΛࡱΔखʹೖΒͳ͍ ʹ౤ߘ͞Εͨ τοϓεͱϘτϜεͷϖΞ ૊Έସ͑ͨϖΞ

  6. ؔ࿈ݚڀ 6 ਖ਼ྫͷੜ੒෼෍͚ͩΛֶश͢Δ  ҟৗݕ஌ͳͲͰ࢖ΘΕ͍ͯΔΞϓϩʔν  ϥϯΩϯάͷUPQ/͚ͩʹڵຯ͕͋Δਪનʹ͸޲͔ͳ͍ ೳಈֶश  ஞ࣍తʹϥϕϧΛ͚͍ͭͯ͘

     0SBDMF ਅͷϥϕϧΛ෇͚ΒΕΔԿ ͔ ͕ඞཁɺਓؒͷΞϊςʔλʔͳͲ ϥϕϧ෇͖
 σʔλ Ϟσϧֶश ϥϕϧແ͠
 σʔλ 0SBDMF ೖྗ ద༻ αϯϓϦϯά ϥϕϧ෇༩
  7. ຊݚڀͷߩݙ 7  $POUFYUVBM16-FBSOJOHʹ͍ͭͯɺ ৽͍͠ଛࣦؔ਺ͱෛྫαϯϓϦϯάͷ ํ๏ΛఏҊ

  8. ৚݅෇͖෼෍ͷ࠷໬ਪఆ 8 w J͕༩͑ΒΕͨ࣌ͷKͷ৚݅෇͖ܦݧ෼෍ ਖ਼ྫͷϖΞ ਖ਼ྫϖΞҎ֎ͷશͯͷ૊Έ߹Θͤ w ෛͷର਺໬౓ GVMMTPGUNBY w

    ϖΞͷू߹ɿ w JͱKͷϕΫτϧදݱͷ಺ੵɿ
  9. ৚݅෇͖෼෍ͷ࠷໬ਪఆ 9 w J͕༩͑ΒΕͨ࣌ͷKͷ৚݅෇͖ܦݧ෼෍ ਖ਼ྫͷϖΞ ਖ਼ྫϖΞҎ֎ͷશͯͷ૊Έ߹Θͤ w ෛͷର਺໬౓ GVMMTPGUNBY ໰୊఺

    ͲͷJʹରͯ͠΋
 ֤K͸ಉ͡ස౓ ֬཰ Ͱෛྫͱͯ͠αϯϓϧ ͞ΕΔ ਅͷ৚݅෇͖෼෍ʹ JJEΛԾఆ w ϖΞͷू߹ɿ w JͱKͷϕΫτϧදݱͷ಺ੵɿ
  10. ఏҊ

  11. 3FMBYFE4PGUNBY 34 -PTT 11  ෛྫαϯϓϦϯά෼෍ɹɹʹ͍ͭͯɺଛࣦΛҎԼͷࣜͰఆٛ  'VMMTPGUNBY '4 ͱͷൺֱ

  12. 3FMBYFE4PGUNBY 34 -PTT 12  ෛྫαϯϓϦϯά෼෍ɹɹʹ͍ͭͯɺଛࣦΛҎԼͷࣜͰఆٛ  'VMMTPGUNBY '4 ͱͷൺֱ

    ͢΂ͯͷKʹ͍ͭͯܭࢉ 2@J͕Ұ༷෼෍ͳΒɺ34͸'4ͷϞϯςΧϧϩۙࣅ 2@JͰαϯϓϧ͞ΕͨKͷू߹ 7 J K ʹ͍ͭͯܭࢉ
  13. ಺ੵΛߟྀͨ͠ෛྫαϯϓϦϯά෼෍ 13  3FMBYFETPGUNBYΛඍ෼  /VNCFSPGOFHBUJWFTBNQMFTˠ♾ ಺ੵͷFYQΛ2@JͰॏΈ෇͚
 ͨ͠ϘϧπϚϯ෼෍

  14. ϘϧπϚϯෛྫαϯϓϦϯά෼෍ 14  ͸ෛྫʹͳΓ΍͢͞ʢOFHBUJWJUZʣͷࣄલ஌ࣝΛදݱ  5Λௐ੔͢Δ͜ͱͰෛྫαϯϓϦϯάͷੑ࣭Λௐ੔͢Δ ɿEFHFSBDZEJTUSJCVUJPO ॖୀ෼෍ 5ɿԹ౓ύϥϝʔλ

  15. ෛྫαϯϓϦϯάʹ͓͚ΔτϨʔυΦϑ 15 wϞσϧ͕ޡ෼ྨ͠΍͍͢ෛྫΛαϯϓϦϯά͍ͨ͠  ޡ෼ྨ͠΍͍͢ਖ਼ྫͱͷ಺ੵ͕େ͖͍ʢྨࣅ౓͕େ͖͍ʣ  ຊ౰͸ਖ਼ྫͷσʔλΛɺෛྫͱͯ͠αϯϓϧͯ͠͠·͏ةݥ͕େ͖͍ wຊ౰͸ਖ਼ྫͷσʔλΛෛྫͱͯ͠αϯϓϦϯάͨ͘͠ͳ͍  ਖ਼ྫͱͷ಺ੵ͕খ͍͞ʢྨࣅ౓͕খ͍͞ʣσʔλΛαϯϓϦϯά

     Ϟσϧʹͱͬͯ༰қʹࣝผՄೳɻ৘ใྔ͕গͳ͍ ϘϧπϚϯ෼෍ͷԹ౓ύϥϝλͰௐ੔
  16. Թ౓ύϥϝλ 16  5ˠͷ࣌ɺਖ਼ྫͱͷ಺ੵ͕େ͖͍σʔλΛத৺ʹ୳ࡧ  5ˠ♾ͷ࣌ɺਖ਼ྫͱͷ಺ੵ͕খ͍͞σʔλΛத৺ʹ୳ࡧ 5 5 5

  17. ࣮ݧ

  18. ࣮ݧɿਓ޻σʔλ  ࠞ߹ਖ਼ن෼෍1@JͰσʔλΛੜ੒  ਅͷ෼෍ͱਪఆ͞Εͨ෼෍ͷ,-μΠόʔδΣϯεͰධՁ  ෛྫͷαϯϓϦϯά਺͸ʹઃఆ  ϘϧπϚϯ෼෍ͷઃఆ ܇࿅

    ςετ ܇࿅ ςετ ܇࿅σʔλ਺ສɺόοναΠζΛมԽ όοναΠζɺ܇࿅σʔλ਺ΛมԽ 18
  19. αϯϓϦϯά ଛࣦ .-& 'VMM 4PGUNBY 44 1PQVMBSJUZ 4PGUNBY 64 6OJGPSN

    3FMBYFE4PGUNBY 6#4 #PUM[NBOO VOJGPSN 3FMBYFE4PGUNBY 14 1PQVMBSJUZ 3FMBYFE4PGUNBY 1#4 #PUM[NBOO QPQVMBSJUZ 3FMBYFE4PGUNBY #PUM[NBOOαϯϓϦϯάͷ༗ޮੑ͕֬ೝͰ͖Δ ࣮ݧɿਓ޻σʔλ 19 όοναΠζ
  20. ࣮ݧɿ/FYUJUFN1SFEJDUJPO w .PWJFMFOT ໿ສϨίʔυ  w /FUqJYʢ໿ສϨίʔυʣ w 8JLJQFEJB5FYU ࠷΋ϙϐϡϥʔͳສ୯ޠ

     w ̏୯ޠҎ಺ʹొ৔ͨ͠ΒϙδςΟϒͱΈͳ͢ 20 σʔλ ධՁࢦඪ w ໬౓ w .13 .FBO1FSDFOUJMF3BOL  w 1SFDJTJPOBU   
  21. ݁Ռɿ/FYUJUFN1SFEJDUJPO 21 αϯϓϦϯά ଛࣦ .-& 'VMM 4PGUNBY 44 1PQVMBSJUZ 4PGUNBY

    64 6OJGPSN 3FMBYFE4PGUNBY 6#4 #PUM[NBOO VOJGPSN 3FMBYFE4PGUNBY 14 1PQVMBSJUZ 3FMBYFE4PGUNBY 1#4 #PUM[NBOO QPQVMBSJUZ 3FMBYFE4PGUNBY
  22. ·ͱΊ 22  $POUFYUVBM16-FBSOJOHʹ͍ͭͯɺ3FMBYFE4PGUNBYଛࣦͱ ϘϧπϚϯෛྫαϯϓϦϯάΛఏҊ  ਓ޻σʔλɺ/FYUJUFNQSFEJDUJPOͰ༗ޮੑΛ֬ೝ  Թ౓ύϥϝʔλͷಈతௐ੔ 

    $//ɺ3//ͳͲʹର͢ΔదԠ  ܭࢉྔ͕ଟͦ͏ʁ  ࿦จλΠτϧͷ͚͔͕ͭͨ΋͍ͬͨͳ͍ 'VUVSF8PSL ॴײ