論文紹介：Relaxed Softmax for PU Learning

論文リンク：https://dl.acm.org/citation.cfm?id=3347034

Transcript

1. 3FMBYFE
   4PGUNBY
   GPS
 16
   -FBSOJOH 6HP
   5BOJFMJBO
   BOE
   'MBWJBO
   7BTJMF
 $SJUFP
   3FTFBSDI 3FD4ZT`
   ࿦จ঺հ
   BU
   8BOUFEMZΦϑΟε
  ঺հऀɿਅ໦
   ༐ਓ
   BU
   ;0;0ςΫϊϩδʔζ
2. 3FMBYFE
   4PGUNBY
   GPS
 16
   -FBSOJOH 6HP
   5BOJFMJBO
   BOE
   'MBWJBO
   7BTJMF
 $SJUFP
   3FTFBSDI 3FD4ZT`
   ࿦จ঺հ
   BU
   8BOUFEMZΦϑΟε
  1PTJUJWF
   BOE
   6OMBCFMFE ঺հऀɿਅ໦
   ༐ਓ
   BU
   ;0;0ςΫϊϩδʔζ
3. 1PTJUJWF6OMBCFMFE
   16
   -FBSOJOH 3 ਖ਼ྫʹ͚ͩϥϕϧ͕͍͍ͭͯΔ
    ϥϕϧ͕͍͍ͭͯͳ͍σʔλ͸ɺਖ਼ྫɾෛྫͲͪΒͷ Մೳੑ΋͋Γ
    ਪનɺݴޠϞσϧͷֶशͰΑ͋͘Δঢ়گ ී௨ͷ̎Ϋϥε෼ྨ 16
   -FBSOJOH ਖ਼ྫ ෛྫ ਖ਼ྫ ϥϕϧແ͠
4. $POUFYUVBM
   16
   -FBSOJOH 4 ʮϖΞʯʹͳΔ΋ͷΛ୳͢16
   -FBSOJOH
    ਖ਼ྫͷϖΞ͚͕ͩ༩͑ΒΕΔ
    ਖ਼ྫͱͯ͠༩͑ΒΕͳ͔ͬͨϖΞͷΫϥε͸ෆ໌ ֶश࣌ B@ C@ B@ C@ B@O C@O B@ C@ B@ C@ ϖΞ̌ ϖΞ ϖΞO ਖ਼ྫ Ϋϥεෆ໌ ਪ࿦࣌ ೖྗ ީิ܈ ʁ ʁ ʁ ɾ
   ɾ
   ɾ ɾ
   ɾ
   ɾ ɾ
   ɾ
   ɾ
5. ϑΝογϣϯʹ͓͚Δ$POUFYUVBM
   16
   -FBSOJOH 5 ෰ͷ૊Έ߹ΘͤΛϞσϧԽ͢Δ
    ਖ਼ྫϖΞ͸ίʔσΟωʔτڞ༗αΠτ͔ΒೖखՄೳ
    ෛྫϖΞ͸ཧ޻ܥͷେֶʹߦͬͯࣸਅΛࡱΔखʹೖΒͳ͍
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   
   ʹ౤ߘ͞Εͨ
   τοϓεͱϘτϜεͷϖΞ ૊Έସ͑ͨϖΞ
6. ؔ࿈ݚڀ 6 ਖ਼ྫͷੜ੒෼෍͚ͩΛֶश͢Δ
    ҟৗݕ஌ͳͲͰ࢖ΘΕ͍ͯΔΞϓϩʔν
    ϥϯΩϯάͷUPQ/͚ͩʹڵຯ͕͋Δਪનʹ͸޲͔ͳ͍ ೳಈֶश
    ஞ࣍తʹϥϕϧΛ͚͍ͭͯ͘
    0SBDMF
   ਅͷϥϕϧΛ෇͚ΒΕΔԿ ͔ ͕ඞཁɺਓؒͷΞϊςʔλʔͳͲ ϥϕϧ෇͖
 σʔλ Ϟσϧֶश ϥϕϧແ͠
 σʔλ 0SBDMF ೖྗ ద༻ αϯϓϦϯά ϥϕϧ෇༩
7. ຊݚڀͷߩݙ 7  $POUFYUVBM
   16
   -FBSOJOHʹ͍ͭͯɺ ৽͍͠ଛࣦؔ਺ͱෛྫαϯϓϦϯάͷ ํ๏ΛఏҊ
8. ৚݅෇͖෼෍ͷ࠷໬ਪఆ 8 w J
   ͕༩͑ΒΕͨ࣌ͷ
   K
   ͷ৚݅෇͖ܦݧ෼෍ ਖ਼ྫͷϖΞ ਖ਼ྫϖΞҎ֎ͷશͯͷ૊Έ߹Θͤ w ෛͷର਺໬౓
   GVMM
   TPGUNBY w ϖΞͷू߹ɿ
   w J
   ͱ
   K
   ͷϕΫτϧදݱͷ಺ੵɿ
9. ৚݅෇͖෼෍ͷ࠷໬ਪఆ 9 w J
   ͕༩͑ΒΕͨ࣌ͷ
   K
   ͷ৚݅෇͖ܦݧ෼෍ ਖ਼ྫͷϖΞ ਖ਼ྫϖΞҎ֎ͷશͯͷ૊Έ߹Θͤ w ෛͷର਺໬౓
   GVMM
   TPGUNBY ໰୊఺ Ͳͷ
   J
   ʹରͯ͠΋
   
 ֤
   K
   ͸ಉ͡ස౓
   ֬཰ Ͱෛྫͱͯ͠αϯϓϧ ͞ΕΔ
   
   ਅͷ৚݅෇͖෼෍ʹ JJEΛԾఆ w ϖΞͷू߹ɿ
   w J
   ͱ
   K
   ͷϕΫτϧදݱͷ಺ੵɿ
10. ఏҊ
11. 3FMBYFE
    4PGUNBY
    34
    -PTT 11  ෛྫαϯϓϦϯά෼෍ɹɹʹ͍ͭͯɺଛࣦΛҎԼͷࣜͰఆٛ  'VMM
    TPGUNBY
    '4 ͱͷൺֱ
12. 3FMBYFE
    4PGUNBY
    34
    -PTT 12  ෛྫαϯϓϦϯά෼෍ɹɹʹ͍ͭͯɺଛࣦΛҎԼͷࣜͰఆٛ  'VMM
    TPGUNBY
    '4 ͱͷൺֱ ͢΂ͯͷ
    K
    ʹ͍ͭͯܭࢉ 2@J͕Ұ༷෼෍ͳΒɺ34͸'4ͷϞϯςΧϧϩۙࣅ 2@JͰαϯϓϧ͞Εͨ
    K
    ͷू߹ 7 J
    K ʹ͍ͭͯܭࢉ
13. ಺ੵΛߟྀͨ͠ෛྫαϯϓϦϯά෼෍ 13  3FMBYFE
    TPGUNBYΛඍ෼  /VNCFS
    PG
    OFHBUJWF
    TBNQMFT
    ˠ
    ♾ ಺ੵͷFYQΛ2@JͰॏΈ෇͚
 ͨ͠ϘϧπϚϯ෼෍
14. ϘϧπϚϯෛྫαϯϓϦϯά෼෍ 14 
    
    
    
    
    
    
    
    
    ͸ෛྫʹͳΓ΍͢͞ʢOFHBUJWJUZʣͷࣄલ஌ࣝΛදݱ
     5Λௐ੔͢Δ͜ͱͰෛྫαϯϓϦϯάͷੑ࣭Λௐ੔͢Δ ɿEFHFSBDZ
    EJTUSJCVUJPO
    ॖୀ෼෍ 5ɿԹ౓ύϥϝʔλ
15. ෛྫαϯϓϦϯάʹ͓͚ΔτϨʔυΦϑ 15 wϞσϧ͕ޡ෼ྨ͠΍͍͢ෛྫΛαϯϓϦϯά͍ͨ͠
     ޡ෼ྨ͠΍͍͢
    
    ਖ਼ྫͱͷ಺ੵ͕େ͖͍ʢྨࣅ౓͕େ͖͍ʣ
     ຊ౰͸ਖ਼ྫͷσʔλΛɺෛྫͱͯ͠αϯϓϧͯ͠͠·͏ةݥ͕େ͖͍ wຊ౰͸ਖ਼ྫͷσʔλΛෛྫͱͯ͠αϯϓϦϯάͨ͘͠ͳ͍
     ਖ਼ྫͱͷ಺ੵ͕খ͍͞ʢྨࣅ౓͕খ͍͞ʣσʔλΛαϯϓϦϯά
     Ϟσϧʹͱͬͯ༰қʹࣝผՄೳɻ৘ใྔ͕গͳ͍ ϘϧπϚϯ෼෍ͷԹ౓ύϥϝλͰௐ੔
16. Թ౓ύϥϝλ 16  5ˠͷ࣌ɺਖ਼ྫͱͷ಺ੵ͕େ͖͍σʔλΛத৺ʹ୳ࡧ
     5ˠ♾ͷ࣌ɺਖ਼ྫͱͷ಺ੵ͕খ͍͞σʔλΛத৺ʹ୳ࡧ 5 5 5
17. ࣮ݧ
18. ࣮ݧɿਓ޻σʔλ  ࠞ߹ਖ਼ن෼෍1@JͰσʔλΛੜ੒
     ਅͷ෼෍ͱਪఆ͞Εͨ෼෍ͷ,-μΠόʔδΣϯεͰධՁ
     ෛྫͷαϯϓϦϯά਺͸ʹઃఆ
     ϘϧπϚϯ෼෍ͷઃఆ ܇࿅ ςετ ܇࿅ ςετ ܇࿅σʔλ਺ສɺόοναΠζΛมԽ όοναΠζɺ܇࿅σʔλ਺ΛมԽ 18
19. αϯϓϦϯά ଛࣦ .-& 'VMM 4PGUNBY 44 1PQVMBSJUZ 4PGUNBY 64 6OJGPSN 3FMBYFE
    4PGUNBY 6#4 #PUM[NBOO
    VOJGPSN 3FMBYFE
    4PGUNBY 14 1PQVMBSJUZ 3FMBYFE
    4PGUNBY 1#4 #PUM[NBOO
    QPQVMBSJUZ 3FMBYFE
    4PGUNBY #PUM[NBOOαϯϓϦϯάͷ༗ޮੑ͕֬ೝͰ͖Δ ࣮ݧɿਓ޻σʔλ 19 όοναΠζ
20. ࣮ݧɿ/FYUJUFN
    1SFEJDUJPO w .PWJFMFOT
    ໿ສϨίʔυ
    w /FUqJY
    ʢ໿ສϨίʔυʣ
    w 8JLJQFEJB
    5FYU
    ࠷΋ϙϐϡϥʔͳສ୯ޠ
    w ̏୯ޠҎ಺ʹొ৔ͨ͠ΒϙδςΟϒͱΈͳ͢ 20 σʔλ ධՁࢦඪ w ໬౓
    w .13
    .FBO
    1FSDFOUJMF
    3BOL
    w 1SFDJTJPO
    BU
    
    
    
21. ݁Ռɿ/FYUJUFN
    1SFEJDUJPO 21 αϯϓϦϯά ଛࣦ .-& 'VMM 4PGUNBY 44 1PQVMBSJUZ 4PGUNBY 64 6OJGPSN 3FMBYFE
    4PGUNBY 6#4 #PUM[NBOO
    VOJGPSN 3FMBYFE
    4PGUNBY 14 1PQVMBSJUZ 3FMBYFE
    4PGUNBY 1#4 #PUM[NBOO
    QPQVMBSJUZ 3FMBYFE
    4PGUNBY
22. ·ͱΊ 22  $POUFYUVBM
    16
    -FBSOJOHʹ͍ͭͯɺ3FMBYFE
    4PGUNBYଛࣦͱ ϘϧπϚϯෛྫαϯϓϦϯάΛఏҊ
     ਓ޻σʔλɺ/FYU
    JUFN
    QSFEJDUJPOͰ༗ޮੑΛ֬ೝ  Թ౓ύϥϝʔλͷಈతௐ੔
     $//ɺ3//ͳͲʹର͢ΔదԠ  ܭࢉྔ͕ଟͦ͏ʁ
     ࿦จλΠτϧͷ͚͔͕ͭͨ΋͍ͬͨͳ͍ 'VUVSF
    8PSL ॴײ