2019_G検定対策_数学講座01_ディープラーニングでの基礎計算問題/20190125_JDLA_G_Math_1

G検定対策社内数学講座
--
ディープラーニングでの基礎計算問題
パーセプトロンとCNNと活性化関数

Transcript

1. ディープラーニングでの 基礎計算 〜パーセプトロンとCNNと活性化関数〜 Jun. 2019 created by ITO Akihiro
2. パーセプトロンの概念 入力　　　重み　　　バイアス　　　　出力 　入力：1 or 0 　出力：1 or 0
3. 画像認識の概念 1 2 3 4 5 6 7 8 9 10 11 12 31 32 12 21 22 23 3 1 2 ・ ・ ・ 入力層 中間層 出力層 1 0 1 2 3 4 5 6 7 8 9 10 11 12 0 1 0 0 重み w1-1 ... w1-36 重み w2-1 ... w2-6 それぞれのシグモイドニューロンは、 ある特徴に対して発火する
4. CNN (Convolutional Neural Network)の概念 畳み込み層 フィル タ3 特徴マップ 3 プーリング層 出力層 ユニット3 特徴を抽出 特徴をさらに濃縮
5. フィルタを順に当て 画像を単純化し、 特徴を抽出する。 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 ... ... 121 元画像 フィルタ1 フィルタ2 斜め方向に反応 縦方向に反応
6. 例： 入力画像　　　(H,W)=(11,11) フィルタサイズ(Fh,Fw)=(3,3) パディング　　(P)=0 ストライド　　(S)=2 　⇒ 出力画像　　　(Oh,Ow)=(5,5) 1 0 0 1 0 1 3 1 2 1 2 2 3 2 3 2 2 2 3 2 1 2 0 1 1 0 0 0 0 0 0 2 1 2 0 2 2 3 2 2 1 2 2 2 1 0 1 0 1 0 公式
7. 活性化関数 ステップ シグモイド tanh （ハイパボリックタンジェント） ReLU ReLU6 0 1 0 0 0 0 6 0 0 1 0 -1 1 0