Slide 1

Slide 1 text

Metric Learning入門 2019/9/25 Rev0

Slide 2

Slide 2 text

本資料の位置づけ ❏ 読者の想定: Deep LearningでCNNによる画像分類の知識があるが、 Metric Learningに関する知識がない方 ❏ 最終的には、原論文を読んで欲しいですが、 基礎となる情報をスライドにまとめました。 ❏ 資料は今後修正&更新していく予定です。

Slide 3

Slide 3 text

解こうとしているタスク 犬 人 猫 Aさん Bさん Cさん 一般物体認識 (通常の画像分類) 特徴 1クラスあたりのデータ数が少ない   より詳細な物体認識 (通常の画像分類) 過学習を起こしやすい

Slide 4

Slide 4 text

metric learningの全体像 特徴量抽出器 (モデル) 学習時 利用時 ①同じクラスは 距離が近くなるように 学習 *実際には、n次元のベクトルです ②距離(類似度)を算出 検索したい データ

Slide 5

Slide 5 text

metric learningの全体像 特徴量抽出器 (モデル) 学習時 利用時 ①同じクラスは 距離が近くなるように 学習 *実際には、n次元のベクトルです ②距離(類似度)を算出 検索したい データ 学習時には 1クラス複数枚の 画像が必要 利用時には 1クラス1枚の画像でも よい

Slide 6

Slide 6 text

metric learningの種類 siamese network triplet network L2 softmax network 発表年 2006年〜 2014年〜 2017年〜 入力形式 2つペアを入力 3つペアを入力 ペア無しで入力 モデルの 概要 ancher

Slide 7

Slide 7 text

L2 softmax networkの代表的なモデル ・CosFace ・SphereFace ・ArcFace ・AdaCos

Slide 8

Slide 8 text

ArcFace (列ごとに)正規化 正規化 ①   を とみなす ②正解ラベルに対する    のみ mのペナルティを与える ① ② ③ ③logitsの値が小さいので  logitをs倍する

Slide 9

Slide 9 text

Toyデータでの結果

Slide 10

Slide 10 text

No content

Slide 11

Slide 11 text

メリット・デメリット ・通常のクラス分類のモデルに拡張する形なので実装が容易 ・クラス数が多いとパラメータ数が多くなる。 ・(学習時になかった)新しいクラスのデータに対する            予測精度が低い メリット デメリット

Slide 12

Slide 12 text

ArcFaceのクラス化 ・正規化 ・arcCos ・+mのペナルティ ・s倍のスケール などの一連の処理をクラス化 https://github.com/4uiiurz1/pytorch-adacos

Slide 13

Slide 13 text

通常の分類モデル の後にmetricモデルの 処理をつなげる インスタンス化

Slide 14

Slide 14 text

活用できそうなケース ・商品検索   - 例:自動販売機のジュース、コンビニにあるタバコ  - 新商品が発売されても、画像が1枚あれば対応可能 ・レコメンド(ランキング)  - 例:洋服のECサイトで選択した商品に似たアイテムを表示

Slide 15

Slide 15 text

参考リンク ・Metric Learning 入門 https://copypaste-ds.hatenablog.com/entry/2019/03/01/164155 ・モダンな深層距離学習 (deep metric learning) 手法: SphereFace, CosFace, ArcFace https://qiita.com/yu4u/items/078054dfb5592cbb80cc ・ArcFaceの論文 https://arxiv.org/abs/1801.07698 ・Pytorchの実装コード https://github.com/4uiiurz1/pytorch-adacos