Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Chainerによる深層学習(2)
Search
youichiro
February 28, 2017
Technology
1
450
Chainerによる深層学習(2)
長岡技術科学大学
自然言語処理研究室
B3ゼミ発表会(第6回)
youichiro
February 28, 2017
Tweet
Share
More Decks by youichiro
See All by youichiro
日本語文法誤り訂正における誤り傾向を考慮した擬似誤り生成
youichiro
0
1.5k
分類モデルを用いた日本語学習者の格助詞誤り訂正
youichiro
0
91
Multi-Agent Dual Learning
youichiro
1
170
Automated Essay Scoring with Discourse-Aware Neural Models
youichiro
0
120
Context is Key- Grammatical Error Detection with Contextual Word Representations
youichiro
1
130
勉強勉強会
youichiro
0
86
Confusionset-guided Pointer Networks for Chinese Spelling Check
youichiro
0
190
A Neural Grammatical Error Correction System Built On Better Pre-training and Sequential Transfer Learning
youichiro
0
160
An Empirical Study of Incorporating Pseudo Data into Grammatical Error Correction
youichiro
0
200
Other Decks in Technology
See All in Technology
ドメイン特化なCLIPモデルとデータセットの紹介
tattaka
2
580
2025-07-06 QGIS初級ハンズオン「はじめてのQGIS」
kou_kita
0
160
Glacierだからってコストあきらめてない? / JAWS Meet Glacier Cost
taishin
1
150
「クラウドコスト絶対削減」を支える技術—FinOpsを超えた徹底的なクラウドコスト削減の実践論
delta_tech
4
140
FOSS4G 2025 KANSAI QGISで点群データをいろいろしてみた
kou_kita
0
390
整頓のジレンマとの戦い〜Tidy First?で振り返る事業とキャリアの歩み〜/Fighting the tidiness dilemma〜Business and Career Milestones Reflected on in Tidy First?〜
bitkey
2
14k
KubeCon + CloudNativeCon Japan 2025 Recap Opening & Choose Your Own Adventureシリーズまとめ
mmmatsuda
0
260
Operating Operator
shhnjk
1
510
Tokyo_reInforce_2025_recap_iam_access_analyzer
hiashisan
0
180
開発生産性を測る前にやるべきこと - 組織改善の実践 / Before Measuring Dev Productivity
kaonavi
6
1.4k
生成AI開発案件におけるClineの業務活用事例とTips
shinya337
0
240
開発生産性を組織全体の「生産性」へ! 部門間連携の壁を越える実践的ステップ
sudo5in5k
2
6.3k
Featured
See All Featured
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
357
30k
Build The Right Thing And Hit Your Dates
maggiecrowley
36
2.8k
Bash Introduction
62gerente
614
210k
Stop Working from a Prison Cell
hatefulcrawdad
270
21k
The Straight Up "How To Draw Better" Workshop
denniskardys
234
140k
VelocityConf: Rendering Performance Case Studies
addyosmani
332
24k
Designing for humans not robots
tammielis
253
25k
Optimising Largest Contentful Paint
csswizardry
37
3.3k
Product Roadmaps are Hard
iamctodd
PRO
54
11k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
48
2.9k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Raft: Consensus for Rubyists
vanstee
140
7k
Transcript
Chainerによる深層学習 (2) 平成29年3月1日 長岡技術科学大学 自然言語処理研究室 小川耀一朗
Chainerの使い方 1 /20
計算グラフ !(#) !(%) &% &# &' (% (# ()
*(%) *(#) 2 = $ $ & & + & + $ /20
計算グラフ 3 = , , = − − + −
+ !" !# !$ ℎ# ℎ$ &" &# ℎ" ' /20
計算グラフ 4 = , , = − − + −
+ ℎ& & , $ = & $ + $ $ + 1という関数を考えれば = − − , − ℎ$ & , $ = & − 2$ − 1, ℎ7 & , $ = & $ − 1という 関数を考えれば = ( , , , ) /20
計算グラフ 5 = & , $ , 7 = ℎ&
ℎ$ & , $ , ℎ7 $ , 7 関数がℎ& , ℎ$ , ℎ7 の合成関数になっている !" !# !$ ℎ# ℎ$ &" &# ℎ" ' /20
計算グラフと逆伝搬 6 !" !# !$ ℎ# ℎ$ &" &# ℎ"
' () (*+ () (*, (*+ (-+ (*, (-. (*+ (-, (*, (-, /20
計算グラフと逆伝搬 7 !" !# !$ ℎ# ℎ$ &" &# ℎ"
' () (*+ () (*, (*+ (-+ (*, (-. (*+ (-, (*, (-, = /20
計算グラフと逆伝搬 8 !" !# !$ ℎ# ℎ$ &" &# ℎ"
' () (*+ () (*, (*+ (-+ (*, (-. (*+ (-, (*, (-, = + /20
モジュールのインポート 9 /20
Variable 10 計算グラフの変数ノードに対応するオブジェクトを生成 変数の中身を確認 /20
Variable 11 /20
Variable 12 = 1 − 22 − 1 2 +
2 3 − 1 2 + 1を 各パラメータで偏微分し、 1 , 2 , 3 = (1, 2, 3)を代入 1 = 2 1 − 22 − 1 = −8 2 = −4 1 − 22 − 1 + 23 2 3 − 1 = 46 3 = 22 2 3 − 1 = 20 /20
functions 13 Variableを変数とする関数を提供 /20
links 14 Variableを変数とする関数を提供 links内の関数にはパラメータがある 第層が3個のノード、第 + 1層が4個のノードからなるNNの場合 /20
links 15 2つの3次元ベクトルを関数ℎに与える /20
Chainクラス 16 = $ + & + $ links内の関数Linearや function内の関数sigmoidを
合成して、モデルを定義 !(#) !(%) &% &# &' (% (# (' )(%) )(#) &* /20
Chainクラス 17 /20
optimizers 18 損失関数をパラメータで微分した値から、各パラメータを更新 →かなり面倒 →パラメータを更新する処理をモジュール化 「1つの訓練データ(, )を与えると、パラメータが1回更新される」 /20
プログラムの全体図 19 /20
発表内容 l Chainerの使い方 参考文献: 「Chainerによる実装深層学習」(第3章) 新納浩幸 著 オーム社 20 /20