Residual Network.pdf

Transcript

1. Residual Network （ResNet）
2. • CNNとは • ResNetの構造、特徴 • まとめ • 参考文献 目次
3. CNNとは https://note.com/kawashimaken/n/nc27810b609da ・畳み込み層が用いられている ・画像認識に適している
4. ResNetとは プレーンネットの構造 ResNetの構造 https://deepage.net/deep_learning/2016/11/30/resnet.html ここで足し合わせる
5. プレーンネットとResNetの比較 プレーンネット ResNet 34層のほうが誤差率が低い 34層の誤差率が低くない https://arxiv.org/pdf/1512.03385.pdf
6. ResNetの層の数と誤差率 model top-1 エラー top-5 エラー plain 34層 28.54 9.33 ResNet 34層 25.03 7.76 ResNet 50層 22.85 6.71 ResNet 101層 21.75 6.05 ResNet 152層 21.43 5.71 ・ResNetは層をかなり深くしても 精度が上がっている
7. • ILSVRC2015にて１位を獲得（top5 エラー 3.57%) ResNetの活躍 https://axa.biopapyrus.jp/deep-learning/cnn/image-classification.html
8. ResNetの活躍 前年までの優勝モデルの層の数と比べるとResNetは圧倒的に多い https://deepage.net/deep_learning/2016/11/30/resnet.html
9. ResNetの層の数 誤差率(%) ２０層 8.75 ３２層 7.51 ４４層 7.17 ５６層 6.97 １１０層 6.43 １２０２層 7.93 ResNetの層の数と精度 1202層では過学習を 起こしている https://arxiv.org/pdf/1512.03385.pdf データセット：CIFAR-10
10. • ResNetにはshortcut connectionsという構造がある • 単純に層を重ねた場合、深くしすぎると精度が落ちる • ResNetはかなり層を深くしても精度がよくなる • ILSVRC 2015で１位を獲得（誤差率 3.57％) まとめ
11. • https://arxiv.org/pdf/1512.03385.pdf • https://note.com/kawashimaken/n/nc27810b609da • https://deepage.net/deep_learning/2016/11/30/resnet.html • https://axa.biopapyrus.jp/deep-learning/cnn/image- classification.html 参考文献