論文紹介 / Real-time Personalization using Embeddings for Search Ranking at Airbnb

KDD 2018のApplied Data Science部門でBest Paperを受賞した "Real-time Personalization using Embeddings for Search Ranking at Airbnb" の紹介スライドです。（https://dl.acm.org/citation.cfm?id=3219885）

元々使っていた特徴（ユーザーや物件の属性など）だけでなく、Embeddingを用いた特徴を計算に組み込むことで予約件数の増加に成功したとのことです。短期的/長期的個人最適化のいずれにも様々な工夫が見られます。産業界でのEmbedding応用事例として必見の論文かもしれません。

研究室のゼミでの紹介用につき、口頭での説明がないぶん分かりにくいところがあるかもしれませんが、ご容赦くださいませ。

Transcript

1. Mihajlo Grbovic, Haibin Cheng (KDD’18 Best Paper @Applied Data Science) ࿦จ঺հ !LVSJJWF
2. ࣮ݧ ؔ࿈ݚڀ ఏҊख๏ ݁࿦ ࿦จ֓ཁ ݚڀഎܠ
3. ҰൠਓͰ΋෦԰ΛཱྀߦऀʹିͤΔαʔϏε 3
4. 4 ৔ॴ Ձ֨ ظؒFUDΛ ೖྗ ࣗ෼͕༧໿͢Δ΂͖ ෺্͕݅Ґʹ දࣔ͞Εͯ΄͍͠
5. 5 ड͚ೖΕΒΕΔͷ͸ ೔ఔʹήετ ͳΔ΂͘ ྑ͍ήετʹ ༧໿ͯ͠΄͍͠
6. 6 ήετɾϗετ͔Β ੒໿ख਺ྉΛಘΔ ༧໿ 
   ച্
7. 7 ฏۉతཱྀߦճ਺͸ ೥ʹʙճ ࠷΋ॏཁͳࢦඪ ʮ༧໿ʯʹ͍ͭͯ ૄͳσʔλ
8. 8 ༧໿਺૿ՃͷͨΊ ݕࡧ݁ՌΛ࠷దԽ͢Δ ख๏ͷ։ൃ
9. ᶃ஍Ҭɺ೔ఔɺ Ձ֨ଳ౳Λೖྗ ᶄϢʔβʔ΍ ΫΤϦͷ৘ใ ᶅશ෺݅ͷ είΞΛࢉग़ ᶆείΞॱʹ ݕࡧ݁Ռදࣔ 9
10. ࣮ݧ ؔ࿈ݚڀ ఏҊख๏ ݁࿦ ࿦จ֓ཁ ݚڀഎܠ
11. 11 Ϣʔβʔˍ෺݅&NCFEEJOHΛ༻͍ͨ ݕࡧ݁Ռͷݸਓ࠷దԽख๏Λ։ൃ &NCFEEJOHʹΑΓੜ੒ͨ͠ಛ௃Λ௥Ճͨ͜͠ͱʹΑΓ ݕࡧ݁Ռ͕ΑΓ࠷దԽ͞Ε༧໿͕େ෯ʹ૿Ճ
12. ࣮ݧ ؔ࿈ݚڀ ఏҊख๏ ݁࿦ ࿦จ֓ཁ ݚڀഎܠ
13. ϝλσʔλͱԋ૗ه࿥͔Β ۂͷ&NCFEEJOHੜ੒ Իָਪન<> ߪೖཤྺ͔Β ঎඼ͷ&NCFEEJOHੜ੒ &$ͷ঎඼ਪન<> εϚϗͷϩά͔Β ΞϓϦͷ&NCFEEJOHੜ੒ ΞϓϦਪન<> 13 <>
    %POHKJOH 8BOH
    FU
    BM
    
    -FBSOJOH
    NVTJD
    FNCFEEJOH
    XJUI
    NFUBEBUB
    GPS
    DPOUFYU
    BXBSF
    SFDPNNFOEBUJPO
    *O
    1SPDFFEJOHT
    PG
    UIF
    
    "$.
    PO
    *OUFSOBUJPOBM
    $POGFSFODF
    PO
    .VMUJNFEJB
    3FUSJFWBM <>
    7MBEBO 3BEPTBWMKFWJD FU
    BM
    4NBSUQIPOF
    BQQ
    DBUFHPSJ[BUJPO
    GPS
    JOUFSFTU
    UBSHFUJOH
    JO
    BEWFSUJTJOH
    NBSLFUQMBDF
    *O
    1SPDFFEJOHT
    PG
    UIF
    UI
    *OUFSOBUJPOBM
    $POGFSFODF
    $PNQBOJPO
    PO
    8PSME
    8JEF
    8FC
    *OUFSOBUJPOBM
    8PSME
    8JEF
    8FC
    $POGFSFODFT
    4UFFSJOH
    $PNNJUUFF
    r <>
    .JIBKMP
    (SCPWJD
    /FNBOKB %KVSJD FU
    BM
    
    4DBMBCMF
    TFNBOUJD
    NBUDIJOH
    PG
    RVFSJFT
    UP
    BET
    JO
    TQPOTPSFE
    TFBSDI
    BEWFSUJTJOH
    *O
    4*(*3
    
    "$.
    r
14. ࣮ݧ ؔ࿈ݚڀ ఏҊख๏ ݁࿦ ࿦จ֓ཁ ݚڀഎܠ
15. 15 ݩʑܭࢉʹ࢖͍ͬͯͨ • ෺݅ಛ௃ • Ϣʔβʔಛ௃ ͳͲʹՃ͑ɺ • -JTUJOH
    &NCFEEJOHT • 6TFSUZQF-JTUJOHUZQF &NCFEEJOHT ʹΑΓੜ੒ͨ͠ಛ௃Λ௥Ճ͠ ݕࡧॱҐΛ࠷దԽ
16. 16 -JTUJOH &NCFEEJOHT 6TFSUZQF
    
    -JTUJOHUZQF &NCFEEJOHT
17. 4LJQHSBN #PPLFE
    -JTUJOH
    BT
    (MPCBM
    $POUFYU "EBQUJOH
    5SBJOJOH
    GPS
    $POHSFHBUFE
    4FBSDI 17
18. 18 ೖྗ୯ޠ͔Βपล୯ޠͷ༧ଌΛ͢Δ χϡʔϥϧωοτϫʔΫͷɺೖྗ૚͔Β ӅΕ૚ͷॏΈ͕ೖྗ୯ޠͷ෼ࢄදݱ *
    XBOU
    UP
    FBU BO
    BQQMF
    FWFSZEBZ
    *
    XBOU
    UP
    FBU BO
    BQQMF
    FWFSZEBZ
    
19. 19 ೖྗ ͔Βपล ͷ༧ଌΛ͢Δ χϡʔϥϧωοτϫʔΫͷɺೖྗ૚͔Β ӅΕ૚ͷॏΈ͕ೖྗ ͷ෼ࢄදݱ ࣌ࠁ ༧໿ʹࢸͬͨ Ұ࿈ͷΫϦοΫΛ ࣌ܥྻʹฒ΂ͨ
20. 4LJQHSBN #PPLFE
    -JTUJOH
    BT
    (MPCBM
    $POUFYU "EBQUJOH
    5SBJOJOH
    GPS
    $POHSFHBUFE
    4FBSDI 20
21. 21 ͋Δήετ͕ ༧໿·Ͱʹ ΫϦοΫͨ͠෺݅ͷ ࣌ܥྻॱ
22. 22 DPOUFYUʹ ༧໿͞Εͨ ෺݅Λ௥Ճ
23. 4LJQHSBN #PPLFE
    -JTUJOH
    BT
    (MPCBM
    $POUFYU "EBQUJOH
    5SBJOJOH
    GPS
    $POHSFHBUFE
    4FBSDI 23
24. 24 ී௨ʮߦ͖͍ͨʂʯ৔ॴͷΈௐ΂ΔͨΊɺ ಉ஍Ҭͷ෺͕݅DPOUFYUʹ͸ݱΕ΍͍͢ /FHBUJWF
    4BNQMF͸ϥϯμϜʹબ୒͢Δ ͨΊଞ஍Ҭͷ෺͕݅ݱΕ΍͍͢ ಉ஍Ҭͷ෺݅ͱྨࣅ౓͕ա৒ʹߴ͘ग़ͯ ͠·͏ͷͰɺಉ஍Ҭͷ෺͔݅Β /FHBUJWF
    4BNQMFΛબ୒
25. 25 4LJQHSBN #PPLFE
    -JTUJOH
    BT
    (MPCBM
    $POUFYU "EBQUJOH
    5SBJOJOH
    GPS
    $POHSFHBUFE
    4FBSDI
26. 26 ৽نܝࡌ෺݅͸ &NCFEEJOHܭࢉෆՄ ෦԰λΠϓɾՁ֨ଳ͕ ಉ͡࠷΋஍ཧతʹ͍ۙ ෺݅ͷฏۉΛ࢖͏
27. ສηογϣϯΛ༻͍ͯ ࣍ݩͷ&NCFEEJOHΛ܇࿅ LNFBOTͰ$BMJGPSOJBͷ෺݅Λ 
    DMVTUFSʹ ͞Βʹɺ&NCFEEJOHT &WBMVBUJPO
    5PPMͷ࣮૷ IUUQTZPVUVCFL+4"(5S* 27
28. 28 -JTUJOH &NCFEEJOHT 6TFSUZQF
    
    -JTUJOHUZQF &NCFEEJOHT
29. ৔ॴ໰Θͣಉ͡Α͏ͳ෦԰ʹധ·Δ͸ͣ ྫʣϗεςϧΛసʑͱ͢ΔόοΫύοΧʔ 29
30. ଟ͘ͷ෺݅ͷ ༧໿݅਺͸݅ະຬ ਓؾ෺݅͸গͳ͍ ΫϦοΫ਺ʹൺͯ͠ ༧໿͸ѹ౗తʹগͳ͍ˍ ଟ͘ͷήετ͸Ұ౓͖Γ ༧໿݅਺͕গͳ͍ ΩϟϦΞΞοϓ౳Ͱ ٻΊΔՁ֨ଳ౳͕มԽ ࣌ؒͰ޷ΈมԽ 30
31. JE
    
    UZQF΁ͬ͘͟Γ ಉҰۭؒ΁ͷຒΊࠐΈ SFKFDU৘ใͷ׆༻ 31
32. ֤ཁૉ͝ͱʹNBQQJOHͯͬ͘͟͠Γଊ͑Δ ྫʣΠχΤελ 
    +ͰϓϨʔ͢ΔαοΧʔબख 32
33. ΞϝϦΧͷɺՈશମɺҰധͷ஋ஈ͸ʓʓɺʜ → US_lt1 _pn3 _pg3 _r3 _5s4 _c2 _b1 _bd2 _bt2 _nu3 33
34. 4'ग़਎ɺӳޠ࿩ऀɺࣗݾ঺հࣸਅ෇͖ɺʜ → SF_lg1 _dt1 _fp1 _pp1 _nb1 _ppn2 _ppg3 _c2 _nr3 _nl53 _g5s3 34
35. JE
    
    UZQF΁ͬ͘͟Γ ಉҰۭؒ΁ͷຒΊࠐΈ SFKFDU৘ใͷ׆༻ 35
36. 36 ͋ΔήετͷλΠϓ ͦͷήετ͕ ༧໿ͨ͠෺݅ͷλΠϓ ͷλϓϧ ༧໿ͷൃੜॱʹ λϓϧΛฒ΂Δ ʢ˞ಉҰήετͷ༧໿ Ͱ͸ͳ͍ʣ ผήετ
37. JE
    
    UZQF΁ͬ͘͟Γ ಉҰۭؒ΁ͷຒΊࠐΈ SFKFDU৘ใͷ׆༻ 37
38. 38 ड͚ೖΕΒΕΔͷ͸ ೔ఔʹήετ ೔ఔɺաڈͷධՁ౳ ͔Βબ୒͢Δ
39. 39 ͋ΔήετͷλΠϓ͕ ༧໿ΛSFKFDU͞Εͨ ෺݅ͷλΠϓΛ /FHBUJWF
    4BNQMF ͱͯ͠ѻ͏
40. 40 4LJQHSBN 3FKFDU৘ใͷ׆༻
41. ࣮ݧ ؔ࿈ݚڀ ఏҊख๏ ݁࿦ ࿦จ֓ཁ ݚڀഎܠ
42. -JTUJOH
    &NCFEEJOHT ΦϑϥΠϯධՁ ྨࣅ෺݅ਪન ΦϯϥΠϯධՁ ݕࡧͰͷϦΞϧλΠϜ ݸਓ࠷దԽධՁ 42
43. 43 ࣍ݩˠ ૭αΠζˠ JUFSBUJPOTˠ .BQ3FEVDFͰ ෼ࢄॲཧ  ສηογϣϯ  ෼ඇΞΫςΟϒͷ ࣌఺Ͱ෼ׂ  ඵҎ಺ͷ๚໰Λআڈ  ಗ໊Խ
44. -JTUJOH
    &NCFEEJOHT ΦϑϥΠϯධՁ ྨࣅ෺݅ਪન ΦϯϥΠϯධՁ ݕࡧͰͷϦΞϧλΠϜ ݸਓ࠷దԽධՁ 44
45. 45 4LJQHSBNͷΈ
    #PPLFE
    -JTUJOH
    BT
    (MPCBM
    $POUFYU
    "EBQUJOH
    5SBJOJOH
    GPS
    $POHSFHBUFE
    4FBSDI ޙड़ͷ4FBSDI
    3BOLJOH ௿͍΄ͲॱҐ͕ ࠷దԽͰ͖͍ͯΔ ༧໿෺݅·Ͱͷ ࢒ΓΫϦοΫ਺ ༧໿෺݅ ͷॱҐ
46. -JTUJOH
    &NCFEEJOHT ΦϑϥΠϯධՁ ྨࣅ෺݅ਪન ΦϯϥΠϯධՁ ݕࡧͰͷϦΞϧλΠϜ ݸਓ࠷దԽධՁ 46
47. ʮྨࣅͷϦεςΟϯάʯΫϦοΫ཰ 
    
    VQ ʮྨࣅͷϦεςΟϯάʯͷ෺݅Ͱͷ༧໿ 
    
    VQ 47
48. -JTUJOH
    &NCFEEJOHT ΦϑϥΠϯධՁ ྨࣅ෺݅ਪન ΦϯϥΠϯධՁ ݕࡧͰͷϦΞϧλΠϜ ݸਓ࠷దԽධՁ 48
49. 49 ݩʑܭࢉʹ࢖͍ͬͯͨ • ෺݅ಛ௃ • Ϣʔβʔಛ௃ ͳͲʹՃ͑ɺ • -JTUJOH
    &NCFEEJOHT • 6TFSUZQF-JTUJOHUZQF &NCFEEJOHT ʹΑΓੜ੒ͨ͠ಛ௃Λ௥Ճ͠ ݕࡧॱҐΛ࠷దԽ
50. 50  (x1 , y1 )  (x2 , y2 )  (x3 , y3 ) ೔෼
51. 51 xi • ෺݅ಛ௃ ʢ෦԰ͷ਺ͳͲʣ • Ϣʔβʔಛ௃ ʢධՁ஋ͳͲʣ • ΫΤϦಛ௃ ʢήετ਺ͳͲʣ • Ϋϩεಛ௃ ʢΫΤϦՁ֨ͱ෺݅Ձ֨ͷࠩͳͲʣ yi •  ʢΫϦοΫ͞Εͳ͔ͬͨ৔߹ʣ •  ʢΫϦοΫ͞Εͨ৔߹ʣ •  ʢ࿈བྷ͕ͨ͠༧໿ෆ੒ཱͷ৔߹ʣ •  ʢ༧໿੒ཱͷ৔߹ʣ •  ʢϗετ͕SFKFDUͨ͠৔߹ʣ
52. 52 ෺݅Jʹ͍ͭͯͷ (xi , yi )Λ༻͍ͯ ݕࡧॱҐΛܭࢉ ʢܭࢉํ๏͸ඇެ։ʣ xi • ෺݅ಛ௃ ʢ෦԰ͷ਺ͳͲʣ • Ϣʔβʔಛ௃ ʢධՁ஋ͳͲʣ • ΫΤϦಛ௃ ʢήετ਺ͳͲʣ • Ϋϩεಛ௃ ʢΫΤϦՁ֨ͱ෺݅Ձ֨ͷࠩͳͲʣ ʢ&NC$MJDL4JN
    &NC#PPL4JN
    6TFS5ZQF-JTUJOH5ZQF4JNͳͲʣ ຊݚڀͰ͸Y Jʹ &NCFEEJOHΛ༻͍ͯ ੜ੒ͨ͠ಛ௃Λ௥Ճ
53. 53 िؒҎ಺ͷσʔλͰɺ શϢʔβʔ*%ʹର͠ɺ • ΫϦοΫͨ͠෺݅ͷϦετ • ༧໿ͨ͠෺݅ͷϦετ • ʜFUD Λ࡞੒͠-JTUJOH
    &NCFEEJOHTͰ &NCFEEJOHΛੜ੒ ・ ・ ・ ΫϦοΫͨ͠෺݅Ϧετ ໰͍߹Θͤͨ෺݅Ϧετ ༧໿ͨ͠෺݅Ϧετ
54. 54 ண໨෺݅&NCFEEJOHͱϦετ಺ͷ ෺݅&NCFEEJOHͱͷ DPTྨࣅ౓Λܭࢉ͠ɺͦͷ࠷େ஋ • &NC$MJDL4JN • &NC#PPL4JN • ʜFUD Λಛ௃ͱ͢Δ ʜ ݕࡧϢʔβʔ͕ ΫϦοΫͨ͠෺݅Ϧετ είΞΛࢉग़ ͍ͨ͠෺݅
55. 55 ʜ 6TFSUZQF
    
    -JTUJOHUZQF
    &NCFEEJOHTͰ&NCFEEJOHΛੜ੒ɺ ͦΕͧΕͷ&NCFEEJOHʹର͠ DPTྨࣅ౓Λܭࢉ͠ɺͦͷ࠷େ஋ • 6TFS5ZQF-JTUJOH5ZQF4JN Λಛ௃ͱ͠ੜ੒֤ͨ͠ಛ௃ΛՃ͑ͯ ৽͍͠4FBSDI
    3BOLJOHͱ͢Δ ݕࡧ Ϣʔβʔ िؒҎ಺ʹ༧໿੒ཱͨ͠ ϢʔβʔλΠϓ
    ෺݅λΠϓ ͷϦετ
56. 56 ଟ͘ͷ෺݅Λ Χόʔ
57. 57 ্ҐˋʹೖΔ ॏཁ౓ͷߴ͍ಛ௃ Λੜ੒Ͱ͖ͨ
58. 58 6TFS5ZQF-JTUJOH 5ZQF4JNͷ஋ʹ ൺྫ͠ߴείΞ
59. 59 &NCFEEJOHಛ௃ ͷ௥ՃʹΑΓ શ໘తʹ޲্
60. ࣮ݧ ؔ࿈ݚڀ ఏҊख๏ ݁࿦ ࿦จ֓ཁ ݚڀഎܠ
61. 61 Ϣʔβʔˍ෺݅&NCFEEJOHΛ༻͍ͨ ݕࡧ݁Ռͷݸਓ࠷దԽख๏Λ։ൃ &NCFEEJOHʹΑΓੜ੒ͨ͠ಛ௃Λ௥Ճͨ͜͠ͱʹΑΓ ݕࡧ݁Ռ͕ΑΓ࠷దԽ͞Ε༧໿͕େ෯ʹ૿Ճ