Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
【輪講資料】Are Web Users Really Markovian?【WWW2012】
Search
Yuichiro SEKIGUCHI
May 15, 2013
Research
1
170
【輪講資料】Are Web Users Really Markovian?【WWW2012】
2013-05-15に職場で実施した輪講資料を代理アップロードしました.
Yuichiro SEKIGUCHI
May 15, 2013
Tweet
Share
More Decks by Yuichiro SEKIGUCHI
See All by Yuichiro SEKIGUCHI
【輪講資料】Destination Prediction by Sub-Trajectory Synthesis and Privacy Protection Against Such Prediction【ICDE2013】
dreamedge
0
510
【輪講資料】Time-aware Point-of-Interest Recommendation【SIGIR2013】
dreamedge
1
680
【輪講資料】Exploring and Exploiting User Search Behavior on Mobile and Tablet Devices to Improve Search Relevance【WWW2013】
dreamedge
1
190
【輪講資料】Fast Candidate Generation for Two-Phase Document【CIKM2012】
dreamedge
1
150
【輪講資料】Inferring the Demographics of Search Users【WWW2013】
dreamedge
1
200
【輪講資料】Optimal Hashing Schemes for Entity Matching【WWW2013】
dreamedge
2
930
【輪講資料】From Query to Question in One Click: Suggesting Synthetic Questions to Searchers【WWW2013】
dreamedge
1
160
【輪講資料】Learning to Rank for Spatiotemporal Search【WSDM2013】
dreamedge
1
920
【輪講資料】Mining the Web for Points of Interest【SIGIR2012】
dreamedge
1
1k
Other Decks in Research
See All in Research
時系列データに対する解釈可能な 決定木クラスタリング
mickey_kubo
2
760
カスタマーサクセスの視点からAWS Summitの展示を考える~製品開発で活用できる勘所~
masakiokuda
2
120
20250502_ABEJA_論文読み会_スライド
flatton
0
180
Sosiaalisen median katsaus 03/2025 + tekoäly
hponka
0
1.3k
Large Language Model Agent: A Survey on Methodology, Applications and Challenges
shunk031
13
8.8k
Minimax and Bayes Optimal Best-arm Identification: Adaptive Experimental Design for Treatment Choice
masakat0
0
130
Collaborative Development of Foundation Models at Japanese Academia
odashi
2
560
ASSADS:ASMR動画に合わせて撫でられる感覚を提示するシステムの開発と評価 / ec75-shimizu
yumulab
1
410
データxデジタルマップで拓く ミラノ発・地域共創最前線
mapconcierge4agu
0
190
「エージェントって何?」から「実際の開発現場で役立つ考え方やベストプラクティス」まで
mickey_kubo
0
120
公立高校入試等に対する受入保留アルゴリズム(DA)導入の提言
shunyanoda
0
6k
数理最適化に基づく制御
mickey_kubo
5
680
Featured
See All Featured
Building Flexible Design Systems
yeseniaperezcruz
328
39k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
Building Applications with DynamoDB
mza
95
6.5k
Done Done
chrislema
184
16k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
53
2.9k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.4k
Statistics for Hackers
jakevdp
799
220k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
130
19k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
233
17k
Unsuck your backbone
ammeep
671
58k
Learning to Love Humans: Emotional Interface Design
aarron
273
40k
Side Projects
sachag
455
42k
Transcript
1 2013-05-15 輪講資料 Are Web Users Really Markovian? Flavio Chierichetti
@ Cornell University Ravi Kumar @ Yahoo! Research Prabhakar Raghavan @ Yahoo! Labs Tamás Sarlós @ Yahoo! Research
2 概要 ・Webのユーザモデル(PageRank等)の多くにはマルコフ性の 仮定の上に成り立っている - ユーザがあるページPから移動するときの推移先は, Pにのみ依存し どのようにPへと推移したかという過去の履歴には依存しない ・この仮定の妥当性を検証したい -
過去の履歴にも依存させるためにモデルを拡張 ① k-orderマルコフ連鎖 ② variable-orderマルコフ連鎖 -ユーザの各種ブラウジング履歴のデータセット ⇒ 通常のマルコフモデルに関する対数尤度比で評価
3 マルコフ連鎖 の条件付き独立性(=マルコフ性)を満たす確率変数の集合を(1-orderの) マルコフ連鎖という。 過去の状態 現在状態 次の時刻の状態 現在状態 次の時刻の状態 推移確率(状態iから状
態j推移する確率) 推移確率行列 Pがいくつかの条件(有限状態ならば既約性・非周期 性)を満たせば の固有値1に対応する、固有ベクトルを”定常分布”と呼 び。 どのような初期状態から始まっても定常分布へ収束する。 ⇒ この不変性が便利なのでリンク解析などで応用される
4 マルコフ連鎖の最尤推定 ユーザiの履歴 与えられた履歴を元 に推移カウンタをイ ンクリメント 下記で定義される状態aから状態bの推移の比率は推移確率の最尤推定量となる 状態aからの総推移数 状態aから状態bへの推移数 0
xi,1 xi,|Ti| … 0 xi,2 最初と最後は 0(リセット)状態 … ユーザが(1-orderの)マルコフ連鎖に従うと仮定して、 ブラウジング履歴からパラメータを推定する
5 モデルの拡張① 1-orderのマルコフ性 k-orderのマルコフ性(k個前の履歴のもとの条件付き独立性) 【課題】 ・計算量的な困難さ ⇒ 状態空間が最悪でnkで増加していく。。 過去の状態 現在状態
次の時刻の状態 現在状態 次の時刻の状態 過去の状態 現在状態 次の時刻の状態 k個前までの状態 次の時刻の状態 通常のマルコフ性より過去の履歴への依存性を表現できるように拡 張したい ⇒ k-orderのマルコフ性
6 モデルの拡張② variable orderマルコフ連鎖 - 状態によって異なるorderのマルコフ性 - 上限Kだけを固定し、各状態は1...Kのorderのどれかを持つ ⇒ 動的計画法によって各状態の尤度最大となるorderを求める
(1-orderマルコフ連鎖モデルで推定した推移確率により再計算) 各状態のorderを逐次計算し て尤度最大となるorder j* を探索
7 評価データ 粒度・履歴の規模を変えたデータセットで評価 Yahoo : yahoo.comのMail, News, Sports, Financeなど主要59サ イト間のcookie履歴
11 億件 (平均 : 46steps) NYTimes : nytimes.com内の40トピックYahoo! browser toolbar 履歴 25,000件 (平均 : 9steps) MouseTrack : yahoo.com検索結果ページのDOM要素270個の マウストラック履歴 234万件 (平均 : 7steps) EyeTrack : 被験者の視線トラッキング履歴(2×4グリッド上に ニュース記事を表示) 521件 (平均 : 68steps)
8 評価① : k-orderのマルコフ連鎖モデル
9 評価①-1 複数ページ間の推移の評価(Yahoo/NYTimes) ・Yahoo - 3steps程度の履歴で収束 - 11%の対数尤度比改善 - (Mail,
Mail)/(yahoo.com, Registration, Mail)/(Mail, News)が よく出る状態 ・NYTimes - 5steps程度の履歴で収束 - 13%の対数尤度比改善 - (Business, Search)/(NYregion, US, World)/(Opinion, Blog, Opinion)がよく出る状態 ⇒ 複数ページ間の推移はマルコフ性を持たない、ただし依存する履歴 は大きくはない。
10 評価①-2 同一ページ内の推移の評価(MouseTrack/EyeTrack) ・MouseTrack - 7steps程度の履歴で収束 ・EyeTrack - なかなか収束しない -
左右の視線移動をしばらく続けた後に、別の視点移動をしたりとい うパターンなので、多くの履歴に依存することになった ⇒ 同一ページのユーザ挙動はマルコフ性は成り立たない。それどころ かlow-orderのマルコフ性も成り立たない。
11 評価② : k-orderとvariable-orderモデルの比較
12 評価② : k-order-とvariable-orderモデルの比較 ・Eyetracking以外では大きく改善 比較のためx軸はfractional order=各状態のorderの総和/状態数 ⇒ k-orderの場合はそのままkとなる
13 評価③ : k-orderモデルのロバストネス
14 評価③-1 : Train-test split 大きなデータセットYahoo/MouseTrackの履歴データを2分割し 評価量を計算して比較 ⇒ Yahooの結果はほとんど変わらず MouseTrackのhigh-orderで大きく剥離
15 評価③-2 : Removing self-loop/short trails ・Removing self-loop : 履歴データからself-loopを取り除いて評価
・Removing short trails : 5以下の長さの履歴を取り除いて評価
16 まとめ・所感 ・ Webのユーザモデルの多くが用いているマルコフ 性の仮定の妥当性を検証した - 過去の履歴にも依存させるためにモデルを拡張 ① k-orderマルコフ連鎖 ②
variable-orderマルコフ連鎖 -ユーザの各種ブラウジング履歴のデータセット ⇒ 通常のマルコフモデルに関する対数尤度比で評価 ・結果 - いずれのモデル/データセットも(厳密な意味では)マルコ フ性を満たしていない