Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Metric Learning入門

nishikimi
September 22, 2019

Metric Learning入門

Metric Learningについて基礎的な内容とArcFaceについて内容をまとめた資料です。

nishikimi

September 22, 2019
Tweet

Other Decks in Research

Transcript

  1. Metric Learning入門
    2019/9/25 Rev0

    View Slide

  2. 本資料の位置づけ
    ❏ 読者の想定:
    Deep LearningでCNNによる画像分類の知識があるが、
    Metric Learningに関する知識がない方
    ❏ 最終的には、原論文を読んで欲しいですが、
    基礎となる情報をスライドにまとめました。
    ❏ 資料は今後修正&更新していく予定です。

    View Slide

  3. 解こうとしているタスク
    犬 人 猫
    Aさん Bさん Cさん
    一般物体認識
    (通常の画像分類)
    特徴
    1クラスあたりのデータ数が少ない  
    より詳細な物体認識
    (通常の画像分類)
    過学習を起こしやすい

    View Slide

  4. metric learningの全体像
    特徴量抽出器
    (モデル)
    学習時
    利用時
    ①同じクラスは
    距離が近くなるように
    学習
    *実際には、n次元のベクトルです
    ②距離(類似度)を算出
    検索したい
    データ

    View Slide

  5. metric learningの全体像
    特徴量抽出器
    (モデル)
    学習時
    利用時
    ①同じクラスは
    距離が近くなるように
    学習
    *実際には、n次元のベクトルです
    ②距離(類似度)を算出
    検索したい
    データ
    学習時には
    1クラス複数枚の
    画像が必要
    利用時には
    1クラス1枚の画像でも
    よい

    View Slide

  6. metric learningの種類
    siamese network triplet network L2 softmax network
    発表年 2006年〜 2014年〜 2017年〜
    入力形式
    2つペアを入力 3つペアを入力 ペア無しで入力
    モデルの
    概要
    ancher

    View Slide

  7. L2 softmax networkの代表的なモデル
    ・CosFace
    ・SphereFace
    ・ArcFace
    ・AdaCos

    View Slide

  8. ArcFace
    (列ごとに)正規化
    正規化
    ①   を
    とみなす
    ②正解ラベルに対する
       のみ
    mのペナルティを与える



    ③logitsの値が小さいので
     logitをs倍する

    View Slide

  9. Toyデータでの結果

    View Slide

  10. View Slide

  11. メリット・デメリット
    ・通常のクラス分類のモデルに拡張する形なので実装が容易
    ・クラス数が多いとパラメータ数が多くなる。
    ・(学習時になかった)新しいクラスのデータに対する
               予測精度が低い
    メリット
    デメリット

    View Slide

  12. ArcFaceのクラス化
    ・正規化
    ・arcCos
    ・+mのペナルティ
    ・s倍のスケール
    などの一連の処理をクラス化
    https://github.com/4uiiurz1/pytorch-adacos

    View Slide

  13. 通常の分類モデル
    の後にmetricモデルの
    処理をつなげる
    インスタンス化

    View Slide

  14. 活用できそうなケース
    ・商品検索
      - 例:自動販売機のジュース、コンビニにあるタバコ
     - 新商品が発売されても、画像が1枚あれば対応可能
    ・レコメンド(ランキング)
     - 例:洋服のECサイトで選択した商品に似たアイテムを表示

    View Slide

  15. 参考リンク
    ・Metric Learning 入門
    https://copypaste-ds.hatenablog.com/entry/2019/03/01/164155
    ・モダンな深層距離学習 (deep metric learning) 手法: SphereFace, CosFace, ArcFace
    https://qiita.com/yu4u/items/078054dfb5592cbb80cc
    ・ArcFaceの論文
    https://arxiv.org/abs/1801.07698
    ・Pytorchの実装コード
    https://github.com/4uiiurz1/pytorch-adacos

    View Slide