KDD2018 チュートリアルの紹介(Privacy Preserving Data Mining)

KDD 2018 の、３０分くらいでの紹介。元々の Tutorial は以下のURL：
https://sites.google.com/view/kdd2018privacytutorial

Transcript

1. 論文紹介 KDD 2018 Tutorial Privacy-preserving Data Mining in Industry: Practical Challenges and Lessons Learned Shunsuke Soeda LINE Corporation
2. 自己紹介 副田 俊介（そえだ しゅんすけ） • 所属 • LAPプロダクトマネジメント室 / Data labs • データの収集と、それをビジネスへの活用に関する PM • 過去 ゲーム木探索アルゴリズム → 人流シミュレータ → 広告基盤のデータ接続 → データ管理・活用 プライバシー保護 Main Part time
3. 本日紹介する内容 • Privacy-preserving Data Mining in Industry: Practical Challenges and Lessons Learned https://sites.google.com/view/kdd2018privacytutorial
4. 質問！ • 以下の言葉についてご存知ですか？ • Privacy preserving data mining • データの匿名化 • k-匿名性 (k-anonymity) • Differential privacy
5. 目次 • Privacy breaches and lessons learned • Differential privacy: definition and techniques • Privacy techniques in practice: Challenges and Lessons Learned • Google’s RAPPOR
6. 目次 • Privacy breaches and lessons learned • Differential privacy: definition and techniques • Privacy techniques in practice: Challenges and Lessons Learned • Google’s RAPPOR
7. Privacy Breaches and Lessons Learned • Attacks on privacy • Governor of Massachusetts • AOL • Netflix • Web browsing data • Facebook • Amazon • Genomic data
8. Netflix Prize
9. Netflix Prize • 2006年10月 Netflix が Netflix prize を発表 • ユーザーの 10% のデータの提供 • 平均で 1ユーザーあたり 200レビュー
10. Netflix dataの再識別 (de-anonymization)
11. Privacy Attacks On Ad Targeting
12. Facebook vs Korolova 10個のキャンペーンで1人のユーザーをターゲティングする
13. Facebook vs Korolova 10個のキャンペーンで1人のユーザーをターゲティングする
14. Facebook vs Korolova: Recap • コンテキスト: 広告のマイクロターゲティング • 気づき: キャンペーンを利用して個人を 特定できる
15. 攻撃が何故成功するのか？ • 間接的に個人を特定するのに有用なデータの存在 • 少数でも成功なら成功 • 高次元のデータ • アクティブなデータ
16. 目次 • Privacy breaches and lessons learned • Differential privacy: definition and techniques • Privacy techniques in practice: Challenges and Lessons Learned • Google’s RAPPOR
17. プライバシーの定義
18. プライバシーの定義
19. プライバシーの定義 直感的には： 特定のユーザーのデータがなかったとしても、出てくる結果が変わらな い。
20. Differential Privacy • データベース D とD’ が、データ 1人分の違いしかない場合には「近 所にある」と呼ぶ • Differential Privacy [DMNS06]
21. Differential Privacy • ε-Differential Privacy: M(D) と M(D’) がほぼ同じ。
22. Differential Privacy: Takeaway points • 少数のデータを入れ替えることで定義される、プライバシーの概念 • 最悪ケース • 頑健性（auxiliary data や 相関性のあるデータ) • 組合せ可能(f(M(D)) = M(D)) • 定量化可能 • プライバシー予算の概念
23. 目次 • Privacy breaches and lessons learned • Differential privacy: definition and techniques • Privacy techniques in practice: Challenges and Lessons Learned • Google’s RAPPOR
24. 目的: Google Chrome 不正な設定の変更の状況の改善（モニタリング）
25. Randomized response: 機微情報の収集 • 1960年代に、機微な情報を集めるために提案 “あなたは共産党員ですか？” • こっそり コインを投げる • 表なら”yes”と答える • 裏なら正直に答える 実際の分布を推定: 2 × (“YES” の割合 - 1⁄2 )
26. Randomized response: 機微情報の収集 • 1960年代に、機微な情報を集めるために提案 “あなたは共産党員ですか？” • こっそり コインを投げる • 表なら”yes”と答える コインをもう一回投げて、表なら “YES” 裏なら “NO” と答える • 裏なら正直に答える 実際の分布を推定: 2 × (“YES” の割合 - 1⁄2 ) Differential privacy の条件を満たす
27. RAPPOR: two-level randomized response Randomize response を繰り返し使うと問題だよね？ — 何回もやって平均を取ると、正解が分かってしまう :-( 解決策: 結果を記録(memoize)しておいて、使い回す —長いデータランダムなデータは、それ自体がトラッキングに使えるID になってしまう :-( 解決策: 二段階で行う！記録された 結果を更にランダム化する
28. 生データ→ノイズを除去したデータ→分布
29. Open sourced • https://github.com/google/rappor
30. Key takeaway points RAPPOR - locally differentially-private mechanism for reporting of categorical and string data • Differential privacy の、初のインターネット規模での実装 • 説明可能性 • オープンソース化されている
31. EOP