Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
[卒論着手発表] Autoencoderによる半教師あり学習と中間表現の分析
Search
Qiushi Pan
June 12, 2019
Research
1
380
[卒論着手発表] Autoencoderによる半教師あり学習と中間表現の分析
システム主専攻 着手発表スライド。
Auto-encoderによるsemi-supervised learningの実現と、supervised learningとの比較による中間表現の分析を行う
Qiushi Pan
June 12, 2019
Tweet
Share
More Decks by Qiushi Pan
See All by Qiushi Pan
応答例を見ながらの キャラ性格チューニング
qqpann
0
110
[ICCE2021] Prior Knowledge on the Dynamics of Skill Acquisition Improves Deep Knowledge Tracing
qqpann
1
69
卒業研究最終発表
qqpann
1
63
[卒論中間発表] Encoder-Decoder DKTと中間表現の分析
qqpann
0
73
Reduceを使った定理証明 〜 グレブナー基底を添えて 〜
qqpann
0
150
Other Decks in Research
See All in Research
情報処理学会関西支部2024年度定期講演会「自然言語処理と大規模言語モデルの基礎」
ksudoh
10
2.5k
大規模言語モデルを用いたニュースデータのセンチメント判定モデルの開発および実体経済センチメントインデックスの構成
nomamist
0
110
Evaluating Tool-Augmented Agents in Remote Sensing Platforms
satai
3
150
Prithvi-EO-2.0: A Versatile Multi-Temporal Foundation Model for Earth Observation Applications
satai
3
150
請求書仕分け自動化での物体検知モデル活用 / Utilization of Object Detection Models in Automated Invoice Sorting
sansan_randd
0
110
ベイズ的方法に基づく統計的因果推論の基礎
holyshun
0
830
[輪講] Transformer Layers as Painters
nk35jk
4
690
Tiaccoon: コンテナネットワークにおいて複数トランスポート方式で統一的なアクセス制御
hiroyaonoe
0
430
AWS 音声基盤モデル トーク解析AI MiiTelの音声処理について
ken57
0
140
地理空間情報と自然言語処理:「地球の歩き方旅行記データセット」の高付加価値化を通じて
hiroki13
1
190
Weekly AI Agents News! 1月号 アーカイブ
masatoto
1
180
Satellite Sunroof: High-res Digital Surface Models and Roof Segmentation for Global Solar Mapping
satai
3
140
Featured
See All Featured
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
29
1k
Building Flexible Design Systems
yeseniaperezcruz
328
38k
How To Stay Up To Date on Web Technology
chriscoyier
790
250k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
114
50k
The Invisible Side of Design
smashingmag
299
50k
Making Projects Easy
brettharned
116
6k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
Scaling GitHub
holman
459
140k
Navigating Team Friction
lara
183
15k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
133
33k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
Site-Speed That Sticks
csswizardry
4
410
Transcript
システム主専攻 着手発表 深層学習における中間表現の分析 潘 秋実 1
Autoencoder Autoencoderとは 教師なし学習の一種。 データの特徴を獲得するためのネットワーク Encoder: Xが得られた状態で、Xを生み出したZを推論 Decoder: 潜在変数Zから高次元データXを生成 Zを中間表現と呼ぶこととする 2
Semi‑supervised learning with Autoencoder Autoencoderによる教師なし学習で獲得したZを、Yを予測する教師あり 学習に利用 Zによって効率が改善する場合があると考えられる 課題意識 → Zを教師ありで行う既存タスクで、Zを教師なしで学習しても精度を出
せないか 3
画像の転移学習におけるAutoencoder 図:中間表現を可視化したもの[1] 画像の輪郭の特徴を抽出 転移学習で学習を効率化 4
SequenceデータにおけるAutoencoder Semantic Parsing with Semi‑Supervised Sequential Autoencoders[2] Logical formsを半教師あり学習で行う研究 xの正解ラベルがないデータではyの教師なし学習
xの正解ラベルがあるデータでは追加でxを学習 5
関連研究: Speech synthesis from neural decoding of spoken sentences (1)
脳の活動から発話をデコードするタスク[3][4] 6
関連研究: Speech synthesis from neural decoding of spoken sentences (2)
RNN+RNNを構成して、一度口の筋肉の動きを予測することで、発話予 測を改善した 7
研究計画 Speech synthesis from neural decoding of spoken sentences の追実験
著者に問い合わせを行い、データを入手できたら再現実験を試みる 筋肉の動きの正解データを用いずに、発話を予測できるようになら ないか 中間表現を使う場合とそうでない場合を比較して効果の分析 画像または自然言語処理などのタスクのサーベイ このタスクに限らず、「中間表現」を経て精度が向上するタスクは あるはず。中間表現の正解ラベルがなくても同等の効果を得られた ら意義があるのではないか 一般的に中間表現を教師なしで代替できないか 8
参考文献 [1] Computer Science Department, Stanford University. "Autoencoders". UFLDL Tutorial.
http://ufldl.stanford.edu/tutorial/unsupervised/Autoencoders/, (Accessed 2019‑06‑11). [2] Tomas Kocisky et al. "Semantic Parsing with Semi‑Supervised Sequential Autoencoders". CoRR. 2016. (Accessed 2019‑06‑11) [3] Anumanchipalli et al. "Speech synthesis from neural decoding of spoken sentences". Nature. 2019. https://www.nature.com/articles/s41586‑019‑1119‑1, (Accessed 2019‑06‑11). [4] Pandarinath, Ali. "Brain implants that let you speak your mind". Nature news & views. https://www.nature.com/articles/d41586‑019‑ 01181‑y, (Accessed 2019‑06‑11). 9