Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Transfer Lassoの論文を読んでみた

Transfer Lassoの論文を読んでみた

2021/02/25(木) 19:30 〜 21:00
コネヒトマルシェオンライン「機械学習・データ分析」で発表した資料です。

Masafumi Abeta

February 17, 2021
Tweet

More Decks by Masafumi Abeta

Other Decks in Programming

Transcript

  1. Lasso回帰 𝑦! = # "#$ % 𝑋!"𝛽" 𝜷∗ = argmin

    𝜷 # !#$ ( 𝑦! − # "#$ % 𝑋!"𝛽" ) + 𝜆 𝜷 $ n 特徴量が⾼次元の場合、回帰係数の推定にはLasso回帰が効果的。
  2. 回帰分析の問題点 𝑦! = # "#$ % 𝑋!"𝛽" ($) 1週⽬のデータ n

    定期的にデータを収集、回帰分析を繰り返すと相関関係に変化がなくても回帰係数が変化する。 2週⽬のデータ 3週⽬のデータ 𝑦! = # "#$ % 𝑋!"𝛽" (() 𝑦! = # "#$ % 𝑋!"𝛽" ()) 電圧 電流 温度 湿度 圧⼒ 1週⽬ 0.00 0.01 0.02 0.00 0.00 2週⽬ 0.00 0.14 0.89 0.00 0.00 3週⽬ 0.00 0.03 0.00 0.00 0.00
  3. Transfer Lasso [stat.ML] :2006.14845, Masaaki Takada, Hironori Fujisawa“, Transfer Learning

    via ℓ1 Regularization”, 0 𝛽 = argmin 𝜷 # !#$ ( 𝑦! − # "#$ % 𝑋!"𝛽" ) + 𝜆 𝛼 𝜷 $ + 1 − 𝛼 𝜷 − 3 𝜷 $ n 前回推定した係数 * 𝜷 を正則化項に加える。
  4. 参考⽂献 n Masaaki Takada, Hironori Fujisawa, “Transfer Learning via ℓ1

    Regularization”, 2020, Advances in Neural Information Processing Systems 33 n 株式会社東芝, ⼤学共同利⽤機関法⼈ 情報・システム研究機構 統計数理研究所, ”⼯場の現場技術者 の知⾒を反映・学習する不良原因解析AIを開発−半導体⼯場等における解析結果の精査時間を⼤幅 に削減−”, https://www.toshiba.co.jp/rdc/detail/2012_02.htm n 三島⼀孝(MONOist), “技術者知⾒を学習する不良原因解析AIを東芝が開発、⾃社半導体⼯場へ導⼊”, https://monoist.atmarkit.co.jp/mn/articles/2012/10/news049.html n Christopher M. Bishop, 『Pattern Recognition and Machine Learning』, 2016, Springer