Bayesian Nonparametric Poisson Factrization for Recommendation Systems

Transcript

1. 論文紹介   Bayesian  Nonparametric  Poisson  Factoriza3on    for  Recommenda3on    Systems   Yoshifumi  Seki   Gunosy  Inc.   Gunosy研究会  6.3
2. 概要 •  著者   – Prem  Gopalan   – Farancisco  J.  R.  Ruiz   – Rajesh  Ranganath   – David  M.  Blei   •  LDAの神様   •  学会   – AISTATS  2014  
3. やっていること •  因子分解   – Matrix  Factoriza3onみたいなやつ   •  参考:   hQp://qiita.com/ysks3n/items/c81ff24da0390a74fc6c   – 各アイテム・ユーザの属性ベクトルを推定する   •  非ゼロ要素について最適化し，その他の要素 の値を予測する
4. Poisson  Factoriza3on •  Scalable  Recommenda3on  with  Poisson   Factoriza3on   –  airXiv:1311.1704v3   –  同じ著者の1年前の論文   –  MFなどより精度が高くなっている   •  GaP:  A  Factor  Model  for  Discrete  Data   –  Canny  ,SIGIR(2004)   –  トピックモデル系   –  性能もいいとのこと   •  hQp://heartruptcy.blog.fc2.com/blog-­‐entry-­‐131.html  
5. Poisson  Factoriza3on •  いいところ   –  ガウス分布を仮定している多くのモデルと違って重みの正規化(総和で1にな るように)しなくてよい   –  発生しなかった事象のみを処理することに向いている   Gopalan(2013)より．HPFが本論文の提案手法のもとになった手法
6. 本論文の目的 •  潜在空間モデルは事前に次元数を決定する 必要がある．   – 次元数によってかなり精度かわる．これはイケて ない   – だから次元数を指定しないでノンパラメトリックに 決める方法を提案する   •  変数推定もそんなに複雑じゃないから以前の ものと同じぐらいで計算できる   – ここは正直よくわかってない＞＜  
7. Contribu3on •  A  New  Baysian  nonparametric  model  for   Poisson  Factoriza3on   •  Scalable  Varia3onal  inference  algorith  with   nasted  varia3onal  families   – これまでのBaysian  nonparametrix  factor  modelは スケーラブルでなかった   •  Neblixのデータを用いて実験を行った結果高 い精度を得ることができた   – 前述したPoisson  Factoriza3onと比較
8. Method
9. Method •  Gopalan  et  al(2013)において次元数のKを変化さ せて最適な次元数を探した   •  本論文では次元数を無限にあるものと設定して ユーザ・アイテムベクトルの内積を予測する   •  そのために以下の仮定をおく   –  ユーザ，アイテムそれぞれのベクトルは非負の値を 持つ無限次元で表される   –  ユーザ・アイテムの内積は有限値である   –  アイテムのベクトル値はすべてのユーザに共通にな る  
10. Method Gamma  Processにより下記のようにして最適化できる（らしい） ガウス分布を使ったものと違い   0に対しても確率値を与えることができる   （らしい）  
11. Inference 評価値を表す潜在要素を定義 変数の同時分布は以下のように定義される 変数分布を以下のようにあらわす
12. Inference
13. Result(Log  likelihood)
14. Result(Precision-­‐Rank) •  データセットが増えるほど制度の差は大きくなる   •  次元の値によって制度には差があり，次元を決めなくてもよ い提案手法には優位性がある
15. 収束時間 収束がひじょうに早い
16. まとめ・感想 •  潜在空間における課題である次元数を与え ることなく最適化できる   – 本当に？Tを変えたら精度変わらない補償がどこ にあるの？   •  大規模なデータで既存手法よりも確実に高い ので，データのスパース性につよいのは本当 ぽい   •  変数推定のやりかたがわからなさすぎて辛い ので次回の発表はこの関連論文を読みます