論文紹介 / metapath2vec: Scalable Representation Learning for Heterogeneous Networks

KDD 2017に投稿された「metapath2vec: Scalable Representation Learning for Heterogeneous Networks」の紹介スライドです。（https://ericdongyx.github.io/papers/KDD17-dong-chawla-swami-metapath2vec.pdf）

metapathを用いてノードのシーケンスを生成し、Skip-gramによってノードのEmbeddingを獲得する手法です。

研究室のゼミでの紹介用につき、口頭での説明がないぶん分かりにくいところがあるかもしれませんが、ご容赦くださいませ。

Transcript

1. NFUBQBUIWFD
   4DBMBCMF
   3FQSFTFOUBUJPO
   -FBSOJOH
   GPS
   )FUFSPHFOFPVT
   /FUXPSLT ,%%` :VYJBP %POH
   /JUFTI 7
   $IBXMB
   "OBOUISBN 4XBNJ ࿦จ঺հ!LVSJJWF
2. ໨࣍ wݚڀഎܠ w࿦จ֓ཁ wఏҊख๏ w࣮ݧ w݁࿦
3. ໨࣍ wݚڀഎܠ w࿦จ֓ཁ wఏҊख๏ w࣮ݧ w݁࿦
4. ݚڀഎܠʛ)FUFSPHFOFPVT
   /FUXPSL<>  ϊʔυɾΤοδͷλΠϓ͕ ෳ਺ଘࡏ͢ΔωοτϫʔΫ <>
   :J[IPV 4VO
   BOE
   +JBXFJ
   )BO
   
   .JOJOH
   )FUFSPHFOFPVT
   *OGPSNBUJPO
   /FUXPSLT
   1SJODJQMFT
   BOE
   .FUIPEPMPHJFT
   .PSHBO
   
   $MBZQPPM
   1VCMJTIFST
   
5. ݚڀഎܠʛXPSEWFD<>Ԡ༻ख๏ͷڵོ  • %FFQ8BML<> ϥϯμϜ΢ΥʔΫͰੜ੒ͨ͠ ϊʔυܥྻ͔Β෼ࢄදݱΛੜ੒ • -*/&<> ྡ઀͢Δϊʔυͱͷؔ܎͔Β෼ࢄදݱΛੜ੒ • OPEFWFD<> ্هख๏Λ૊Έ߹Θͤͯ෼ࢄදݱΛੜ੒ <>
   #SZBO
   1FSP[[J
   3BNJ
   "M3GPV
   BOE
   4UFWFO
   4LJFOB
   
   %FFQ8BML
   0OMJOF
   -FBSOJOH
   PG
   4PDJBM
   3FQSFTFOUBUJPOT
   *O
   ,%%
   `
   "$.
   r <>
   +JBO
   5BOH
   .FOH 2V
   .JOH[IF 8BOH
   .JOH
   ;IBOH
   +VO
   :BO
   BOE
   2JBP[IV .FJ
   
   -*/&
   -BSHFTDBMF
   *OGPSNBUJPO
   /FUXPSL
   &NCFEEJOH
   *O
   888
   `
   "$. <>
   "EJUZB
   (SPWFS
   BOE
   +VSF
   -FTLPWFD
   
   /PEF7FD
   4DBMBCMF
   'FBUVSF
   -FBSOJOH
   GPS
   /FUXPSLT
   *O
   ,%%
   `
   "$.
   r <>
   5PNBT
   .JLPMPW
   *MZB
   4VUTLFWFS
   ,BJ
   $IFO
   (SFH
   4
   $PSSBEP
   BOE
   +F
   %FBO
   
   %JTUSJCVUFE
   SFQSFTFOUBUJPOT
   PG
   XPSET
   BOE
   QISBTFT
   BOE
   UIFJS
   DPNQPTJUJPOBMJUZ
   *O
   /*14
   `
   r
   ϊʔυͷ ෼ࢄදݱΛ ֫ಘ͢Δख๏
6. ݚڀഎܠʛطଘख๏ͷ՝୊  )PNPHFOFPVT
   /FUXPSL ʹ͸༗ޮ )FUFSPHFOFPVT
   /FUXPSL Ҏ߱)/ͱදه ʹ͸ෆे෼ <>
   :J[IPV 4VO
   BOE
   +JBXFJ
   )BO
   
   .JOJOH
   )FUFSPHFOFPVT
   *OGPSNBUJPO
   /FUXPSLT
   1SJODJQMFT
   BOE
   .FUIPEPMPHJFT
   .PSHBO
   
   $MBZQPPM
   1VCMJTIFST ͔͠͠
7. ݚڀഎܠʛຊݚڀͷ໨త  )/͕࣋ͭߏ଄ͱҙຯͷ৘ใΛ อ࣋ͨ͠෼ࢄදݱͷੜ੒
8. ໨࣍ wݚڀഎܠ w࿦จ֓ཁ wఏҊख๏ w࣮ݧ w݁࿦
9. ࿦จ֓ཁʛͲΜͳ΋ͷ͔ʁ  ԿΛͨ͠ʁ )/ʹରͯ͠༗ޮͳNFUBQBUIWFDͱɺ ͦͷ೿ੜ൛NFUBQBUIWFD ΛఏҊɻ ݁ՌͲ͏ͩͬͨʁ ༷ʑͳϚΠχϯάλεΫʹର͠ ࠷ઌ୺ͷख๏Λ্ճΔ͚ͩͰͳ͘ɺ ߏ଄ͱҙຯΛอ࣋ͨ͠෼ࢄදݱ͕ੜ੒Ͱ͖ͨ
10. ໨࣍ wݚڀഎܠ w࿦จ֓ཁ wఏҊख๏ w࣮ݧ w݁࿦
11. ఏҊख๏ʛ֓ཁਤ  *OQVUɿ)/
    (ɺNFUBQBUIεΩʔϜ1 0VUQVUɿ෼ࢄදݱߦྻ9 ࣍ݩ E ௖ ఺ ਺ 7 ͋Δ௖఺ͷ෼ࢄදݱ ผͷ௖఺ͷ෼ࢄදݱ
12. ఏҊख๏ʛ)/  )FUFSPHFOFPVT
    /FUXPSLͷఆٛ άϥϑ(ɺ௖఺7ɺล&ɺλΠϓ5ɺ Ϛοϓؔ਺Ї W 
    7ˠ57
    П F
    
    &ˠ5& ͷ࣌ |TV | + | TE | > 2 Λຬͨ͢άϥϑ
13. ఏҊख๏ʛNFUBQBUI  NFUBQBUI
    TDIFNF JT
     ɿ7 ͱ7M ͷϊʔυλΠϓͷؔ܎
14. ఏҊख๏ʛNFUBQBUI  NFUBQBUI
    TDIFNF
15. ఏҊख๏ʛNFUBQBUI  NFUBQBUIͷԿ͕خ͍͔͠ ҙຯͷ͋ΔNFUBQBUIΛઃఆ͢Ε͹ɺ ຒΊࠐΈʹ൓өͤ͞ΒΕΔ ྫʣ"1" ˠ ڞஶؔ܎ "171" ˠ ಉֶ͡ձʹ࿦จΛ ग़ͨ͠ஶऀͷؔ܎
16. ఏҊख๏ʛNFUBQBUIWFD  ৽نੑ͸Ͳ͜Ͱ͔͢ʁ .FUB1BUI#BTFE
    3BOEPN
    8BMLT ͰೖྗͷϊʔυܥྻΛੜ੒ ˣ )FUFSPHFOFPVT
    4LJQ(SBN Ͱ෼ࢄදݱΛੜ੒
17. ఏҊख๏ʛ.FUB1BUI#BTFE
    3BOEPN
    8BMLT  ྫ XBML
    
    B
    
    Q
    
    "$-
    
    Q
    
    B
    
    Q
    
    
    ,%%
    
    Q
    
    B ୯७ͳϥϯμϜ΢ΥʔΫ Ͱ͸ͳ͘NFUBQBUIʹ Ԋ͍ͬͯΔ
18. ఏҊख๏ʛ)FUFSPHFOFPVT
    4LJQ(SBN XPSEWFDͰ͸ ೖྗ୯ޠ͔Βपล୯ޠͷ༧ଌΛ ͢ΔχϡʔϥϧωοτϫʔΫͷɺ ೖྗ૚͔ΒӅΕ૚ͷॏΈ͕ೖྗ ୯ޠͷ෼ࢄදݱ *
    XBOU
    UP
    FBU BO
    BQQMF
    FWFSZEBZ
    *
    XBOU
    UP
    FBU BO
    BQQMF
    FWFSZEBZ
    
19. ఏҊख๏ʛ)FUFSPHFOFPVT
    4LJQ(SBN  NFUBQBUIWFDͰ͸ ೖྗϊʔυ͔Βपลϊʔυͷ༧ ଌΛ͢Δχϡʔϥϧωοτϫʔ Ϋͷɺೖྗ૚͔ΒӅΕ૚ͷॏΈ ͕ೖྗϊʔυͷ෼ࢄදݱ B
    Q
    "$-
    Q B
    Q
    ,%%
    Q
    B B
    Q
    "$-
    Q B
    Q
    ,%%
    Q
    B
20. ఏҊख๏ʛग़ྗ  X ∈ R|V|×d , d << |V| ͳΔE࣍ݩ෼ࢄදݱΛֶश ࣍ݩ E ௖ ఺ ਺ 7 ͋Δ௖఺ͷ෼ࢄදݱ ผͷ௖఺ͷ෼ࢄදݱ
21. ఏҊख๏ʛNFUBQBUIWFD  ͸Կʁ /FHBUJWF
    4BNQMJOH Λ֦ு
22. ఏҊख๏ʛNFUBQBUIWFD  /FHBUJWF
    4BNQMJOHʢ Ҏલͷख๏ʣ ˠपล୯ޠͷ֬཰͕ʹɺपลʹ͸ͳ͍୯ޠͷ֬཰͕ ʹۙͮ͘Α͏ʹχϡʔϥϧωοτϫʔΫͷॏΈΛֶश B
    Q
    "$-
    Q B
    Q
    ,%%
    Q
    B )FUFSPHFOFPVT
    /FHBUJWF
    4BNQMJOHʢ ʣ ˠϊʔυͷλΠϓ͝ͱʹ/FHBUJWF
    4BNQMJOH B
    Q
    "$-
    Q B
    Q
    ,%%
    Q
    B
23. ໨࣍ wݚڀഎܠ w࿦จ֓ཁ wఏҊख๏ w࣮ݧ w݁࿦
24. ࣮ݧʛ࣮ݧ֓ཁ  ̏ͭͷ࣮ݧʹΑΓఏҊख๏ͷ༗ޮੑΛௐࠪ • ଟΫϥε෼ྨ • ΫϥελϦϯά • ྨࣅ౓ݕࡧ Ճ͑ͯɺՄࢹԽͱεέʔϥϏϦςΟΛௐࠪ
25. ࣮ݧʛσʔληοτ  • ".JOFS $PNQVUFS
    4DJFODF<> ສҎ্ͷݚڀऀɺສҎ্ͷ࿦จɺ ۙ͘ͷֶձ • %BUBCBTF
    BOE
    *OGPSNBUJPO
    4ZTUFNT<> ۙ͘ͷֶձɺͦ͜ʹ͓͚Δͷ τοϓஶऀɺສҎ্ͷ࿦จ <>
    +JF 5BOH
    +JOH
    ;IBOH
    -JNJO :BP
    +VBO[J -J
    -J
    ;IBOH
    BOE
    ;IPOH 4V
    
    "S OFU.JOFS
    &YUSBDUJPO
    BOE
    .JOJOH
    PG
    "DBEFNJD
    4PDJBM
    /FUXPSLT
    *O
    ,%%
    `
    
    r
    <>
    :J[IPV 4VO
    +JBXFJ
    )BO
    9JGFOH :BO
    1IJMJQ
    4
    :V
    BOE
    5JBOZJ 8V
    
    1BUITJN
    .FUB
    QBUICBTFE
    UPQL
    TJNJMBSJUZ
    TFBSDI
    JO
    IFUFSPHFOFPVT
    JOGPSNBUJPO
    OFUXPSLT
    *O
    7-%#
    `
    r
    
26. ࣮ݧʛ࣮ݧઃఆ  • ϊʔυ͋ͨΓͷࢼߦճ਺ɿ • ࢼߦ͋ͨΓͷา਺ɿ • ϕΫτϧͷ࣍ݩ਺ɿ • ۙྡαΠζɿ • ωΨςΟϒαϯϓϧ਺ɿ
27. ࣮ݧʛൺֱख๏  • %FFQ8BML<>
    
    OPEFWFD<> ύϥϝʔλʔΛௐ੔ͯ͠ಉҰख๏ͱͯ͠ѻ͏ • -*/&<> ྡ઀͢Δϊʔυͱͷؔ܎͔Β෼ࢄදݱΛੜ੒ • 15&<> ୯ޠɾจॻɾϥϕϧͷؔ܎Λάϥϑʹද͠ɺ ͦͷάϥϑ͔ΒϕΫτϧදݱΛֶश
28. ࣮ݧʛଟΫϥε෼ྨʢਫ਼౓ʣ  ʙͷ޲্ ʙͷ޲্
29. ࣮ݧʛଟΫϥε෼ྨʢύϥϝʔλʔʣ  ɾBVUIPS
    DMVTUFSJOH ਫ XͱMͱE͸େ͖͘ͳΔʹͭΕਫ਼౓΋޲্ L͕େ͖͘ͳΔʹͭΕਫ਼౓͸ѱԽɺ ͜Ε͸IPNPHFOFPVT
    FOWJSPONFOU<> Ͱͷ݁Ռͱਅٯ ɾWFOVF
    DMVTUFSJOH ੨ ͋·Γਫ਼౓ʹӨڹ͠ͳ͍
30. ࣮ݧʛϊʔυΫϥελϦϯάʢਫ਼౓ʣ  15&ΑΓˋ޲্ 15&ΑΓˋ޲্
31. ࣮ݧʛϊʔυΫϥελϦϯάʢύϥϝʔλʔʣ  ɾBVUIPS
    DMVTUFSJOH ੨ XͱM͸େ͖͘ͳΔʹͭΕਫ਼౓΋޲্ EͱL͸େ͖͘ͳΔʹͭΕਫ਼౓͸ѱԽ ɾWFOVF
    DMVTUFSJOH ੺ L͸େ͖͘ͳΔʹͭΕҰ౓ਫ਼౓͕޲্͠ɺͦͷޙѱԽ͢Δ
32. ࣮ݧʛྨࣅݕࡧ  ଟ͘ͷ෼໺ʹ͓͍ͯɺ ݕࡧΫΤϦͱಉ͡෼໺ͷτοϓֶձ͕ τοϓͷதʹೖ͍ͬͯΔ
33. ࣮ݧʛՄࢹԽ  ఏҊख๏Ͱ͸XPSEWFDʹ͓͚Δ ࠃͱट౎ͷରԠؔ܎ͷΑ͏ʹɺ ֶձͱͦͷ෼໺ͷஶ໊ͳݚڀऀͷ ରԠؔ܎ֶ͕शͰ͖͍ͯΔ
34. ࣮ݧʛՄࢹԽ  ࣍ݩʹ౤Ө͢Δͱ ͍ۙ෼໺ͷֶձ͕ۙ͘ʹଘࡏ
35. ࣮ݧʛεέʔϥϏϦςΟ  ཧ૝తͳઢܗͰ͸ͳ͍͕ ४ઢܗͷύϑΥʔϚϯε
36. ໨࣍ wݚڀഎܠ w࿦จ֓ཁ wఏҊख๏ w࣮ݧ w݁࿦
37. ݁࿦ʛ'VUVSF
    8PSL   NFUBQBUIੜ੒࣌ͷܭࢉྔ࡟ݮ  NFUBQBUIͷࣗಈֶश  ωοτϫʔΫͷਐԽ΁ͷରԠ  ϞσϧͷҰൠԽ
38. ݁࿦ʛ·ͱΊ  ԿΛͨ͠ʁ )/ʹରͯ͠༗ޮͳNFUBQBUIWFDͱɺ ͦͷ೿ੜ൛NFUBQBUIWFD ΛఏҊɻ ݁ՌͲ͏ͩͬͨʁ ༷ʑͳϚΠχϯάλεΫʹର͠ ࠷ઌ୺ͷख๏Λ্ճΔ͚ͩͰͳ͘ɺ ߏ଄ͱҙຯΛอ࣋ͨ͠෼ࢄදݱ͕ੜ੒Ͱ͖ͨ