Gunosyにおけるニュース記事推薦/ news-recommendation-in-gunosy-webdbf2019

株式会社 Gunosy
Gunosy Tech Lab　関喜史
2019年9月8日
WebDB Forum 2019 技術報告
Gunosyにおけるニュース記事推薦

View Slide

（C） Gunosy Inc. All Rights Reserved. PAGE | 2
プロフィール
東京大学工学部卒業、同大学院工学系研究科博士後期課程修了。博士(工学)。
2011年度未踏クリエイター。
大学院在籍中にGunosy（グノシー）を共同開発し、2012年当社を共同創業。
創業期からニュース配信ロジックの開発を担当。
現在は研究開発に従事し推薦システムを中心としたウェブマイニング、
機械学習応用、自然言語処理応用を専門とする。
株式会社Gunosy
Gunosy Tech Lab 上席研究員
共同創業者
関喜史（Yoshifumi Seki）

View Slide

GunosyのAI組織体制「ミッション」
ミッションが明確化された4つの軸で構成。
広告<->メディア間のロジック連携を含め、Private DMPを中心としたチー
ム間の連携強化を図る。
BI
- データによる経営の意思決
定サポート
ML
- 自社メディア・広告のアルゴ
リズム開発
- アドネットワークのアルゴリ
ズム開発
DR&MLOps
- データ資産の価値最大化
- ML Opsの高度化
R&D
- 論文投稿・学会発表
- 産学連携
MLOps
BI
Business
Intelligence
DMP
Data Reliability
ML
Machine
Learning
R&D
Research &
Development

View Slide

本日のお話
● Gunosyにおける推薦システムの歴史
● 創業以来どのように推薦システムが変化してきたか
● どのような背景・課題があったか
● 直近の成果
● 即時性のあるニュース推薦システム (WI’19)
— 実際に使われているニュース推薦アルゴリズムとアーキテクチャについて
— w2vとクラスタリングを組み合わせたリアルタイムユーザモデリング
— クラスタ内CTRによる評価の重み付け
— ユーザの最終アクセス時間に応じた時間減衰
● パーソナライズのための貪欲最適マルチリービング (Recsys’19)
— 複数のランキングアルゴリズムの結果を混ぜ合わせることにより、効率的に良いアル
ゴリズムを探索できるマルチリービング
— パーソナライズ環境に適した定式化によって、高い安定性と早い収束を実現
Gunosyにおける推薦システムの歴史、及び直近の成果について

View Slide

本日のお話
● 直近の成果

View Slide

Gunosyの歴史
● 2011年9月サービスリリース
● SNSを連携すると、その投稿内容から1日1回ニュースを25件推薦するサービス
● 2012年11月法人化
● 2013年1月 iOSアプリリリース
● 2014年3月 TVCM放送開始に伴い大規模リニューアル
● 2015年4月マザーズ上場
● 2017年12月東証一部に市場変更
情報推薦技術を研究する修士学生3人で開発。その後法人化し、現在まで成長を続
けている

View Slide

（C） Gunosy Inc. All Rights Reserved. PAGE |
推薦システム変遷の歴史
■ SNSの内容を元に
1日1回25件ニュー
スを推薦する
– アーリーアダプ
タに人気
– コアな話題を提
供する
■ 多様性の導入
■ アプリ化
■ チュートリアル改善
■ 脱SNS
■ 1日2回の配信
■ あなたの好みから社
会の話題へ
■ おもしろいニュースと
はなにか
■ タブ化
■ 話題まとめ
■ クラスタベースの協
調フィルタリング
■ リアルタイム推薦
API
■ 最終アクセス時間か
らの減衰モデル
再パーソナライズ
マス化
拡大期
創業期
事業のフェーズに合わせて推薦の仕組みが変わってきている
多くのユーザに使われるために変化してきている
7

View Slide

創業期: あなたにあったニュースを届けるサービス
● SNSが日本でも浸透してきた
● Twitter, Facebook
● 個人の情報がオープンなデータとして扱えるようになった
● 情報収集はRSSリーダーが主流
● 効率的な情報収集のために、毎日300件以上のタイトルをチェック
● 非人間的、フィルタリングをSNSの投稿情報からできないか？
● SNSの投稿を用いてRSSリーダーをフィルタリングしようというアイデアがスタート
● 1日1回メールで25件のニュースを送る
● 自分たちで使ってみて定性評価 -> 友達に使ってもらう
● サービスリリース
● 自分たちのSNSのみで告知 => シェアされてベンチャーの人たちの中で話題に
なる
● 当時、人工知能（笑）を使ったサービスは新しかった
SNSから興味関心を抽出し推薦する内容ベース推薦システム

View Slide

拡大期: 様々な改善を行うも限界も見えてくる
● 多様性の導入によるサービス改善
● 創業前であったことをいいことに、いろんな実験をする
● 論文化 -> 2018年度自然言語処理学会論文賞受賞
● SNSをあまり使わないユーザが新規ユーザに多くなる
● 初期の情報がとれないので、ユーザの継続率がさがる
— SNSの利用度合いと継続率に明確な相関がでる
● チュートリアルの導入などで改善をはかる
● ユーザの興味関心が異なる
● もともとはテクノロジーやビジネスを好きなユーザが多かった
● エンタメ、恋愛コラムなどが好きなユーザが増えていく
● 対象コンテンツの拡充、言語モデルの改善などに取り組む
● 一方で「あなたにあったニュース」の限界が見えてくる
● 人は「自分にあったニュース」をそこまで求めていない
● 「なにかおもしろいもの」「世の中の話題」
「あなたにあったニュース」というコンセプトの限界

View Slide

マス化: 世の中の旬のニュースをまとめ読み
● 「みんなが読みたいニュース」がいつもあるサービス
● 世の中の話題となっているニュース
● 人気のあるニュース
● 「編集機能の人工知能化」
● どのニュースをどの位置に出すか
● 毎秒更新 + ユーザの反応の即時反映
● いくつかの要素技術の組み合わせ
● カテゴリ分類
● イベント抽出（クラスタリング）
— クラスタ数 -> 世の中での注目度合い
● リアルタイム評価
— クリック率の相対評価による人気度推定
パーソナライズをやめるという決断とサービスの成長

View Slide

再パーソナライズ: 人気と趣向の反映
● リアルタイムオンデマンド推薦APIサーバ
● ユーザは最新の情報が欲しい
● 全ユーザにバッチで作るのは現実的ではない
— 非アクティブなユーザが一定以上存在する
● 行列演算で計算可能。30ms程度で推薦ができる
● クラスタベース協調フィルタリング
● ユーザごとの時間減衰
リアルタイム推薦 + クラスタベース協調フィルタリング
Web Intelligence 2019に論文採択

View Slide

本日のお話
● 直近の成果

View Slide

即時性のあるニュース推薦システム
● 協調フィルタリングを使いたい
● 更新性が低い
● 直近の人気度を反映したい => CTRを使いたい
● クラスタへの類似度とクラスタ内クリック率を利用した擬似的な協調フィルタリング
● 類似度は事前に計算できる
— k-meansの中心ベクトルとユーザベクトルとの距離
— k-meansは1日1回、ユーザベクトルは逐次更新
● CTRも事前に計算できる
— 直近の人気度を反映できる
● スコア計算は行列計算で高速にできる
● リアルタイムに直近の人気を反映した協調フィルタリング
時間減衰関数クラスタとの
類似度
クラスタ内でのクリック率

View Slide

システムアーキテクチャの詳細な記述

View Slide


View Slide

本日のお話
● 直近の成果

View Slide

パーソナライズ環境における課題と提案手法
● 推薦システムを評価するにはオンライン実験が不可欠
○ A/Bテストは時間がかかるのでパラメータサーチはしんどい
○ ランキングを効率的に評価できるマルチリービングを導入したい
● マルチリービングをパーソナライズ環境に適用するための課題
○ ユーザに早くにレスポンスを提供するには遅い
○ 評価するランキングの数や、長さに対して安定性が低い
● Greedy Optimized Multileaving (GOM)を提案
○ パーソナライズ環境であることを利用して目的関数を簡易にし、貪欲に解くこ
とで高速なレスポンスを実現
○ 下位でのクリックを適切に評価するためにクレジット関数を提案し、ランキング
の長さに対する安定性を向上

View Slide

パーソナライズ環境における課題と提案手法
● 推薦システムを評価するにはオンライン実験が不可欠
○ A/Bテストは時間がかかるのでパラメータサーチはしんどい
○ ランキングを効率的に評価できるマルチリービングを導入したい
● マルチリービングをパーソナライズ環境に適用するための課題
○ ユーザに早くにレスポンスを提供するには遅い
○ 評価するランキングの数や、長さに対して安定性が低い
● Greedy Optimized Multileaving (GOM)を提案
○ パーソナライズ環境であることを利用して目的関数を簡易にし、貪欲に解くこ
とで高速なレスポンスを実現
○ 下位でのクリックを適切に評価するためにクレジット関数を提案し、ランキング
の長さに対する安定性を向上
Recsys 2019に論文採択

View Slide

一度しかランキングが出力されないことを利用して簡易化

View Slide

ランキングの長さ、ランキングの数に対してロバストな結果を確認
オンラインでのA/Bテストとの比較オフラインでのシミュレーション

View Slide

まとめ
● よい推薦システムはサービスの成長を後押しするもの
● サービスがどのような価値を提供するかによって、推薦システムに求められるも
のは変わっていく
● 事業の要件に対してどのような仕組みを提供するか
● アーキテクチャも含めた総合格闘技になりつつある
● パーソナライズは現代のウェブでは基本機能といえる
● Facebook, Googleなどパーソナライズすることが当たり前の時代
● 精度だけではなく、体験のまで含めた設計が重要
● 研究開発を通した社内文化作りと外部発信
● 研究とは難しい問題を解くこと
● 事業の中で自然に難しい問題を解く文化作り
● 技術力だけでなく、論文を書ける・書くことを推奨する体制をアピールする
サービスの性質に応じて推薦システムが提供すべき価値はかわる

View Slide

情報を世界中の人に最適に届ける

View Slide

Gunosyにおけるニュース記事推薦/ news-recommendation-in-gunosy-webdbf2019

Gunosyにおけるニュース記事推薦/ news-recommendation-in-gunosy-webdbf2019

ysekky

More Decks by ysekky

Other Decks in Research

Featured

Transcript