Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Autoencoderの実装 / Deep Learning Autoencoder
Search
Shotaro Ishihara
July 05, 2018
Programming
0
1.6k
Autoencoderの実装 / Deep Learning Autoencoder
Shotaro Ishihara
July 05, 2018
Tweet
Share
More Decks by Shotaro Ishihara
See All by Shotaro Ishihara
日本語新聞記事を用いた大規模言語モデルの暗記定量化 / LLMC2025
upura
0
190
Quantifying Memorization in Continual Pre-training with Japanese General or Industry-Specific Corpora
upura
1
37
JOAI2025講評 / joai2025-review
upura
0
430
AI エージェントを活用した研究再現性の自動定量評価 / scisci2025
upura
1
150
JSAI2025 企画セッション「人工知能とコンペティション」/ jsai2025-competition
upura
0
45
生成的推薦の人気バイアスの分析:暗記の観点から / JSAI2025
upura
0
260
Semantic Shift Stability: 学習コーパス内の単語の意味変化を用いた事前学習済みモデルの時系列性能劣化の監査
upura
0
72
日本語ニュース記事要約支援に向けたドメイン特化事前学習済みモデルの構築と活用 / t5-news-summarization
upura
0
83
Web からのデータ収集と探究事例の紹介 / no94_jsai_seminar
upura
0
350
Other Decks in Programming
See All in Programming
意外と簡単!?フロントエンドでパスキー認証を実現する WebAuthn
teamlab
PRO
2
780
旅行プランAIエージェント開発の裏側
ippo012
2
930
もうちょっといいRubyプロファイラを作りたい (2025)
osyoyu
1
460
GitHubとGitLabとAWS CodePipelineでCI/CDを組み比べてみた
satoshi256kbyte
4
250
「手軽で便利」に潜む罠。 Popover API を WCAG 2.2の視点で安全に使うには
taitotnk
0
870
Swift Updates - Learn Languages 2025
koher
2
520
AI時代のUIはどこへ行く?
yusukebe
18
9.1k
How Android Uses Data Structures Behind The Scenes
l2hyunwoo
0
480
Flutter with Dart MCP: All You Need - 박제창 2025 I/O Extended Busan
itsmedreamwalker
0
150
Putting The Genie in the Bottle - A Crash Course on running LLMs on Android
iurysza
0
140
請來的 AI Agent 同事們在寫程式時,怎麼用 pytest 去除各種幻想與盲點
keitheis
0
130
複雑なドメインに挑む.pdf
yukisakai1225
5
1.2k
Featured
See All Featured
Code Reviewing Like a Champion
maltzj
525
40k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
61k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Making the Leap to Tech Lead
cromwellryan
135
9.5k
A designer walks into a library…
pauljervisheath
207
24k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
30
9.7k
A Tale of Four Properties
chriscoyier
160
23k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
9
820
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
285
14k
[RailsConf 2023] Rails as a piece of cake
palkan
57
5.8k
Done Done
chrislema
185
16k
Transcript
DL勉強会 Autoencoderの実装 2016/07/23 PSI B4 : 石原祥太郎 1
実行環境 2 Win10 + Anaconda(Python 2.7, 64 bit) + chainer
1.11.0 Data Set: mnist
概要 3 隠れ層(中間層)の数を変化させ、誤差の変化を算出 入力データ 出力データ wj i (1) wj i
(2)
4 条件 • 入力データ 28*28=784次元 • 活性化関数: ReLu • Dropout
: なし • ノイズ付加: なし • epoch: 30 • 誤差: 最小二乗法で算出 出力データ
5 結果 0 0.002 0.004 0.006 0.008 0.01 0.012 0.014
0 200 400 600 800 1000 バッチごとの平均誤差 中間層の数(層) 中間層の数を変えた時の誤差の推移
6 中間層 n=100, DropOut: 無 上:入力データ 下:出力データ
7 中間層 n=1000, DropOut: 無 上:入力データ 下:出力データ
8 重み の可視化 wj i (1) y = w *
x = * m m n n (1)
9 重み の可視化 wj i (2) x = w *
y = * m n n (2) ^ m T T T
10 重み の可視化 wj i (1) n=1000, DropOut: 無
11 重み の可視化 wj i (1) n=1000, DropOut: 有 細かい部分が
取れるように なっている
参考 http://qiita.com/kenmatsu4/items/99d4a54d5a57405ecaf8 12 【ディープラーニング】 ChainerでAutoencoderを試して結果を可視化してみる。
13 中間層 n=100, DropOut: 有 上:入力データ 下:出力データ
14 中間層 n=1000, DropOut: 有 上:入力データ 下:出力データ