Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Chainerによる深層学習(2)
Search
youichiro
February 28, 2017
Technology
1
430
Chainerによる深層学習(2)
長岡技術科学大学
自然言語処理研究室
B3ゼミ発表会(第6回)
youichiro
February 28, 2017
Tweet
Share
More Decks by youichiro
See All by youichiro
日本語文法誤り訂正における誤り傾向を考慮した擬似誤り生成
youichiro
0
1.3k
分類モデルを用いた日本語学習者の格助詞誤り訂正
youichiro
0
61
Multi-Agent Dual Learning
youichiro
1
120
Automated Essay Scoring with Discourse-Aware Neural Models
youichiro
0
91
Context is Key- Grammatical Error Detection with Contextual Word Representations
youichiro
1
110
勉強勉強会
youichiro
0
63
Confusionset-guided Pointer Networks for Chinese Spelling Check
youichiro
0
150
A Neural Grammatical Error Correction System Built On Better Pre-training and Sequential Transfer Learning
youichiro
0
110
An Empirical Study of Incorporating Pseudo Data into Grammatical Error Correction
youichiro
0
150
Other Decks in Technology
See All in Technology
Google Cloud の AI を支える裏側のインフラを垣間見る!
maroon1st
0
360
エンジニア候補者向け資料2024.04.24.pdf
macloud
0
3.3k
自己改善からチームを動かす! 「セルフエンジニアリングマネージャー」のすゝめ
shoota
6
780
VS CodeでAWSを操作しよう
smt7174
8
1.7k
障害対応をちょっとずつよくしていくための 演習の作りかた
heleeen
0
230
推しは推せるときに推せ! プロダクトにフィードバックしていこう
nakasho
0
320
LangSmith入門―トレース/評価/プロンプト管理などを担うLLMアプリ開発プラットフォーム
os1ma
3
320
開発生産性大幅アップ!Postman VS Code拡張機能
nagix
2
380
地理空間データ可視化・解析・活用ソリューション Pacific Spatial Solutions (PSS)
pacificspatialsolutions
0
290
ゼロから始めるVue.jsコミュニティ貢献 / first-vuejs-community-contribution-link-and-motivation
lmi
1
130
LLM開発・活用の舞台裏@2024.04.25
yushin_n
1
340
Python と Snowflake はズッ友だょ!~ Snowflake の Python 関連機能をふりかえる ~
__allllllllez__
1
120
Featured
See All Featured
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
40
4.4k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
155
14k
Product Roadmaps are Hard
iamctodd
44
9.7k
BBQ
matthewcrist
80
8.8k
A Modern Web Designer's Workflow
chriscoyier
689
190k
Documentation Writing (for coders)
carmenintech
60
3.9k
Into the Great Unknown - MozCon
thekraken
10
990
How GitHub (no longer) Works
holman
304
140k
Fontdeck: Realign not Redesign
paulrobertlloyd
76
4.9k
The Invisible Customer
myddelton
114
12k
Happy Clients
brianwarren
92
6.4k
GraphQLの誤解/rethinking-graphql
sonatard
50
9.2k
Transcript
Chainerによる深層学習 (2) 平成29年3月1日 長岡技術科学大学 自然言語処理研究室 小川耀一朗
Chainerの使い方 1 /20
計算グラフ !(#) !(%) &% &# &' (% (# ()
*(%) *(#) 2 = $ $ & & + & + $ /20
計算グラフ 3 = , , = − − + −
+ !" !# !$ ℎ# ℎ$ &" &# ℎ" ' /20
計算グラフ 4 = , , = − − + −
+ ℎ& & , $ = & $ + $ $ + 1という関数を考えれば = − − , − ℎ$ & , $ = & − 2$ − 1, ℎ7 & , $ = & $ − 1という 関数を考えれば = ( , , , ) /20
計算グラフ 5 = & , $ , 7 = ℎ&
ℎ$ & , $ , ℎ7 $ , 7 関数がℎ& , ℎ$ , ℎ7 の合成関数になっている !" !# !$ ℎ# ℎ$ &" &# ℎ" ' /20
計算グラフと逆伝搬 6 !" !# !$ ℎ# ℎ$ &" &# ℎ"
' () (*+ () (*, (*+ (-+ (*, (-. (*+ (-, (*, (-, /20
計算グラフと逆伝搬 7 !" !# !$ ℎ# ℎ$ &" &# ℎ"
' () (*+ () (*, (*+ (-+ (*, (-. (*+ (-, (*, (-, = /20
計算グラフと逆伝搬 8 !" !# !$ ℎ# ℎ$ &" &# ℎ"
' () (*+ () (*, (*+ (-+ (*, (-. (*+ (-, (*, (-, = + /20
モジュールのインポート 9 /20
Variable 10 計算グラフの変数ノードに対応するオブジェクトを生成 変数の中身を確認 /20
Variable 11 /20
Variable 12 = 1 − 22 − 1 2 +
2 3 − 1 2 + 1を 各パラメータで偏微分し、 1 , 2 , 3 = (1, 2, 3)を代入 1 = 2 1 − 22 − 1 = −8 2 = −4 1 − 22 − 1 + 23 2 3 − 1 = 46 3 = 22 2 3 − 1 = 20 /20
functions 13 Variableを変数とする関数を提供 /20
links 14 Variableを変数とする関数を提供 links内の関数にはパラメータがある 第層が3個のノード、第 + 1層が4個のノードからなるNNの場合 /20
links 15 2つの3次元ベクトルを関数ℎに与える /20
Chainクラス 16 = $ + & + $ links内の関数Linearや function内の関数sigmoidを
合成して、モデルを定義 !(#) !(%) &% &# &' (% (# (' )(%) )(#) &* /20
Chainクラス 17 /20
optimizers 18 損失関数をパラメータで微分した値から、各パラメータを更新 →かなり面倒 →パラメータを更新する処理をモジュール化 「1つの訓練データ(, )を与えると、パラメータが1回更新される」 /20
プログラムの全体図 19 /20
発表内容 l Chainerの使い方 参考文献: 「Chainerによる実装深層学習」(第3章) 新納浩幸 著 オーム社 20 /20