Upgrade to Pro — share decks privately, control downloads, hide ads and more …

深層学習と再帰型ニューラルネット

Avatar for youichiro youichiro
February 15, 2017

 深層学習と再帰型ニューラルネット

長岡技術科学大学
自然言語処理研究室
B3ゼミ勉強会(第4回)

Avatar for youichiro

youichiro

February 15, 2017
Tweet

More Decks by youichiro

Other Decks in Technology

Transcript

  1. RNNによるアプローチ t=1 “私” t=2 “は” t=3 “野球” t=4 “が” t=5

    “好き” t=6 “です” t=7 “。” 15 ⼊⼒層 " 中間層 ℎ" 出⼒層 " ℎ"%& 重み ℎ" = (" + ℎ"%& ) 中間層 の出⼒ 活性化関数 (tanh,shigmoidなど) 前時刻 の出⼒ /19
  2. RNNによるアプローチ t=1 “私” t=2 “は” t=3 “野球” t=4 “が” t=5

    “好き” t=6 “です” t=7 “。” 16 ⼊⼒層 “野球” 中間層 ℎ" 出⼒層 " “私” “は” ℎ" = (" + ℎ"%& ) ⽬標 “が” /19
  3. RNNによるアプローチ 17 ⼊⼒層 “野球” 中間層 ℎ" 出⼒層 " “私” “は”

    ⽬標 “が” インプットされた状態全 てを隠れ層に結合し、イ ンプットの系列情報をフ ル活⽤する 私 + は + 野球 → が 理論上、過去の全ての状 態を加味した学習が可能 /19
  4. まとめ • 深層学習(Deep Learning)とその特徴 • 再帰型ニューラルネット(RNN) • 誤字脱字の検知における課題 • ニューラルネットによる誤字脱字検知のアプローチ

    • RNNによる誤字脱字検知のアプローチ 参考⽂献: • 「深層学習」岡⾕貴之 講談社 • 「ゼロから作るDeep Learning」斎藤 康毅 オライリー・ジャパン • 「深層学習(ディープラーニング)を素⼈向けに解説」 (http://stonewashersjournal.com/2015/03/07/deeplearning2/2/) • 「Deep Learningで始める⽂書解析⼊⾨」 (http://www.atmarkit.co.jp/ait/articles/1608/26/news011.html) 19 /19