ICML2013読み会 "ELLA: An Efficient Lifelong Learning Algorithm"

1. ELLA: An Efficient Lifelong Learning Algorithm 株式会社Preferred Infrastructure 海野 裕也 (@unnonouno) 2013/07/09 ICML2013読み会@東大
2. ⾃自⼰己紹介 l  海野 　裕也 (@unnonouno) l  プリファードインフラストラクチャー l  情報検索索、レコメンド l  機械学習・データ解析研究開発 l  Jubatusチームリーダー l  分散オンライン機械学習フレームワーク l  専⾨門 l  ⾃自然⾔言語処理理 l  テキストマイニング 2
3. 要旨 l  Lifelong learningのためにGO-MTLの精度度をほとんど落落 とさずに、1000倍早くした l  ⼿手法の要旨は以下の2点 l  テーラー展開して元の最適化の式を簡略略化 l  再計算の必要な項の計算を簡略略化 3
4. Lifelong learning 4
5. Lifelong learning l  タスクが次々やってくる l  Z(1), …, Z(Tmax) l  学習者はタスクの数も順番も知らない l  各Zは教師有りの問題（分類か回帰） l  各タスクにはn t 個の教師ありデータが与えられる マルチタスクで、タスクが次々やってくるイメージ 5
6. Lifelong learningのキモチ（ホントか？） l  ずっと学習し続ける l  データセットはオンラインでやってくる l  過去の学習結果をうまく活かしたい（似たような問題、 組み合わせの問題が多い） 例例えば将来的に、ずっと学習し続けるインフラのようなモ ノができた時を想定している（のかも） 6
7. Grouping and Overlap in Multi-Task Learning (GO-MTL) [Kumar&Daume III ’12] l  L: 損失関数 l  w = Ls: モデルパラメータ l  L: k個の隠れタスクの重み l  s: 各タスクをLの線形和で表現する役割 l  sは疎にしたいのでL1正則化 7 収束の証明のために ちょっと変えてある
8. GO-MTLが遅い l  GO-MTL⾃自体はマルチタスクのバッチ学習⼿手法なので データが次々やってくるLifelong learningに適⽤用しよう とすると遅い l  2重ループが明らかに遅そう 8
9. ⼯工夫1: 損失関数の部分をテーラー展開 9 θ(t)の周りで2次の テーラー展開
10. ⼯工夫2: 全てのtに対するs(t)の最適化を⾏行行うのは⾮非効 率率率 10 s(t)の最適化を 順次行う
11. 実際の更更新式 l  L = A-1b l  実際に計算するときは、Aとbは差分更更新できるような⼯工 夫が⼊入っている 11
12. 実験結果 12 バッチとほとんど同じ精度度で1000倍以上速い！！
13. あれ、よく⾒見見ると・・・ 13 Single Task Leaning (STL) でもそこそこだし、 当然もっと速い・・・
14. まとめ l  マルチタスクのバッチ学習であるGO-MTLをLifelong learningに適⽤用するために、⾮非効率率率な部分を効率率率化した l  ほとんど精度度を下げずに、1000倍以上⾼高速化した l  タスクを独⽴立立に解いてもそこそこの精度度が出ていて、実 験設定はもう少し考慮しても良良かったのかも 14