Slide 1

Slide 1 text

Residual Network (ResNet)

Slide 2

Slide 2 text

• CNNとは • ResNetの構造、特徴 • まとめ • 参考文献 目次

Slide 3

Slide 3 text

CNNとは https://note.com/kawashimaken/n/nc27810b609da ・畳み込み層が用いられている ・画像認識に適している

Slide 4

Slide 4 text

ResNetとは プレーンネットの構造 ResNetの構造 https://deepage.net/deep_learning/2016/11/30/resnet.html ここで足し合わせる

Slide 5

Slide 5 text

プレーンネットとResNetの比較 プレーンネット ResNet 34層のほうが誤差率が低い 34層の誤差率が低くない https://arxiv.org/pdf/1512.03385.pdf

Slide 6

Slide 6 text

ResNetの層の数と誤差率 model top-1 エラー top-5 エラー plain 34層 28.54 9.33 ResNet 34層 25.03 7.76 ResNet 50層 22.85 6.71 ResNet 101層 21.75 6.05 ResNet 152層 21.43 5.71 ・ResNetは層をかなり深くしても 精度が上がっている

Slide 7

Slide 7 text

• ILSVRC2015にて1位を獲得(top5 エラー 3.57%) ResNetの活躍 https://axa.biopapyrus.jp/deep-learning/cnn/image-classification.html

Slide 8

Slide 8 text

ResNetの活躍 前年までの優勝モデルの層の数と比べるとResNetは圧倒的に多い https://deepage.net/deep_learning/2016/11/30/resnet.html

Slide 9

Slide 9 text

ResNetの層の数 誤差率(%) 20層 8.75 32層 7.51 44層 7.17 56層 6.97 110層 6.43 1202層 7.93 ResNetの層の数と精度 1202層では過学習を 起こしている https://arxiv.org/pdf/1512.03385.pdf データセット:CIFAR-10

Slide 10

Slide 10 text

• ResNetにはshortcut connectionsという構造がある • 単純に層を重ねた場合、深くしすぎると精度が落ちる • ResNetはかなり層を深くしても精度がよくなる • ILSVRC 2015で1位を獲得(誤差率 3.57%) まとめ

Slide 11

Slide 11 text

• https://arxiv.org/pdf/1512.03385.pdf • https://note.com/kawashimaken/n/nc27810b609da • https://deepage.net/deep_learning/2016/11/30/resnet.html • https://axa.biopapyrus.jp/deep-learning/cnn/image- classification.html 参考文献