Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
RNNとLSTM
Search
Convergence Lab.
August 26, 2018
Technology
0
250
RNNとLSTM
コンラボ勉強会資料
RNNとLSTMの簡単な説明
Convergence Lab.
August 26, 2018
Tweet
Share
More Decks by Convergence Lab.
See All by Convergence Lab.
工学系の関数解析輪読会 - 第1章 線型空間
mssmkmr
0
58
NeurIPS2018読み会@PFN Dialog-to-Action: Conversational Question Answering Over a Large-Scale Knowledge Base
mssmkmr
0
1.9k
考える技術・書く技術まとめ
mssmkmr
0
350
Global-Locally Self-Attentive Dialogue State Tracker
mssmkmr
1
230
Other Decks in Technology
See All in Technology
IPUT App Dev. Co. -Overview 2024/4
iputapp
0
120
LLM開発・活用の舞台裏@2024.04.25
yushin_n
3
1.2k
家族アルバム みてねにおけるGrafana活用術 / Grafana Meetup Japan Vol.1 LT
isaoshimizu
1
1k
Azureの基本的な権限管理の勉強会
yhana
1
2.1k
Cracking the KubeCon CfP
inductor
2
270
MLOpsの「壁」を乗り越える、LINEヤフーの Data Quality as Code
lycorptech_jp
PRO
8
620
Cloud Service Mesh に触れ合う
phaya72
1
200
One engineer company with Ruby on Rails
rstankov
2
430
止まらないLinuxシステムを構築する_高信頼性クラスタ入門
koedoyoshida
1
270
実例で紹介するRAG導入時の知見と精度向上の勘所
yamahiro
5
1.6k
地理空間データ可視化・解析・活用ソリューション Pacific Spatial Solutions (PSS)
pacificspatialsolutions
0
330
DMM.com アルファ室採用案内資料
hsugita
1
230
Featured
See All Featured
Designing on Purpose - Digital PM Summit 2013
jponch
111
6.5k
How GitHub Uses GitHub to Build GitHub
holman
468
290k
Done Done
chrislema
178
15k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
358
22k
Embracing the Ebb and Flow
colly
80
4.2k
BBQ
matthewcrist
80
8.8k
Become a Pro
speakerdeck
PRO
13
4.6k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
14
1.5k
Code Reviewing Like a Champion
maltzj
515
39k
Writing Fast Ruby
sferik
622
60k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
323
20k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
228
16k
Transcript
コンラボ勉強会 RNNとLSTM Convergence Lab. 木村優志
はじめに RNNとLSTMの基礎的な概念を勉強しま しょう。 フィードフォワードニューラルネットワーク やバックプロパゲーションの予備知識が 必要です。 2
時系列信号 時系列信号とは時間の流れに従って値が 変わる信号です。音声などがこれに当た ります。ニューラルネットワークで時系列 信号を扱うにはいくつかの方法がありま す。 まずはじめにフィードフォワード型の ニューラルネットワークで時系列信号を扱 う方法について見ていきましょう。 3
フィードフォワード型ニューラルネットワークと時系列 通常のフィードフォワード型ニューラルネッ トワークで時系列信号を扱う方法を考えま す。単純には、複数の時刻の信号を入力 すればよいはずです。 このような方法をタイムスプライスと言い ました。音声認識などで前に使われた方 法です。 4
フィードフォワード型ニューラルネットワークと時系列 5 通常のフィードフォワード型 ニューラルネットワーク タイムスプライスした フィードフォワード型 ニューラルネットワーク
タイムスプライス型の欠点 タイムスプライス型には2つの弱点があり ます。 ◦ 長期の時系列を扱おうとするとパラ メータが増える ◦ 固定時間長しか扱えない 6
リカレントニューラルネットワーク(RNN) そこで、考え出されたのが再帰的な構造 を持つリカレントニューラルネットワーク (RNN)です。 リカレントニューラルネットワークは、一つ 前の時刻の中間層の出力を、もう一度中 間層に入力するような構造を持っていま す。 7
リカレントニューラルネットワーク(RNN) 8
単純なRNNの欠点 中間層を再帰するだけの単純なRNNは、 長期的な依存構造を扱えないと言われて います。 長期的な構造を扱うための方法として LSTMがあります。 9
LSTM (Long Short Term Memory) LSTMは長期・短期記憶という意味です。 そのために、GateとCellという記憶素子を 組み合わせます。 10
LSTM 11 これがLSTMの素子です。 σはシグモイド関数になります。 詳しく見ていきましょう。
Gate 右図のシグモイドと掛け算を合わせ た部分がGateになります。 Gateはそのまま門のイメージです。 掛け算のユニットに入る信号を通し たり妨げたりします。 シグモイド関数の値が1のとき門が 開いて、信号がそのまま通ります。 逆に、0のときは門が閉じられ、信号が伝 わりません。
12
Cell Cell: Cellは過去の情報を覚えている素子です。 13
Inpute Gate Input GateはCellに入力 x を入れるかどうかを決 めます。 14
Output Gate Output GateはCellの値を出力するかどうかを決 めます。 15
Forget Gate Forget GateはCellの値を忘れる(0にリセットす る)かどうかをきめます。 16
まとめ RNNとLSTMについて簡単に説明しまし た。 LSTMではGateとCellの関係をよくおさえ ておきましょう。 17