Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS D...
Search
Yuto Kamiwaki
June 27, 2018
Research
170
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING DISTANT SUPERVISION
2018/06/28文献紹介の発表内容
Yuto Kamiwaki
June 27, 2018
Transcript
14 slides
ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING
DISTANT SUPERVISION 長岡技術科学大学 自然言語処理研究室 上脇優人 Genta Indra Winata, Onno Pepijn Kampman, Pascale Fung Hong Kong University of Science and Technology, Clear Water Bay, Hong Kong ICASSP 2018 6月文献紹介
Abstruct •自己導出型の書き起こしからの心理的ストレスを分類す るためのattentionメカニズムを備えたLSTMを提案. •コーパスのサイズを補完して拡張するハッシュタグの内 容に基づいて,ツイートを自動的にラベル付けすること によってdistant supervisionを適用. •biLSTMモデルは,accuracy 74.1%とF値 74.3%の
点で最高のモデルである. •distant supervisionの微調整により,accuracy 1.6%,F値 2.1%向上. 2
Introduction •心理的ストレスは,人の話し方や言葉の選択に影 響する. •言語学的研究では,言語選択にストレスと精神的 健康のレベルへの指針が含まれていることが示さ れている. •うつ病の発生を予測するためのソーシャルメディ アとTwitterからのテキストデータの可能性も実 証されている. •文章レベルのストレス検出に関する研究は,主に,
マイクロブログなどのソーシャルメディアから収 集されたテキストに焦点を当てている. 3
Introduction •本研究では,面接転写から文章レベルでの心理的ストレ スを検出するための単語埋め込み型attention based LSTMモデルを構築することを提案. •本ケースでは,著者の心の強調または非ストレス状態を 示すハッシュタグを手動で選択し,ストレス(正のラベ ル)とストレスのない(負のラベル)つぶやきをスクラ ップするのに使用. •インタビューコーパスは比較的小さく,主にアカデミア
に関連する限られた数の話題しかカバーしていないため, トレーニング中にデータを追加する必要がある. 4 この論文の主な貢献は、Twitterから収集されたラベルのないデータ が,本研究のインタビュー転記コーパスの分類パフォーマンスを向上 させることができることを示し,attention mechanismを適用すると モデルが重要な単語を効果的に選択するのに役立つ.
Models •本研究の目的は,入力として発話があれば,誰か がストレスを受けているかどうかを判断可能とす ることである. •いくつかの異なるモデルを探索した. •LSTM及びBiLSTMモデルでは,最終的にストレス 及びストレスのない用語集を形成するために訓練 可能な埋め込み層を使用した. •LSTMは,文中の単語の時間的ダイナミクスを捕 捉することが可能.
5
6
7
SVM •ベースラインとして,Radial Basis Function(RBF)カーネルを用いてSVMを構築 した. •与えられた文中の単語ごとにword2vecのワード エンベディングを抽出した. •埋め込みの次元数はkは300で,Googleニュース のデータで事前に訓練されている(約1000億語 でユニークワードは約300万語).
•SVMの場合,入力はN個の発話ベクトルからなる 入力行列として表されます. 8
9
10
11
12
Conclusion •面接記録から面接者のストレスレベルを分類する 方法を提示した. •biLSTMのモデルが最高性能であった. •ドメイン外ストレスツイートデータセットを使用 した2段階トレーニング方法は,学習のパフォー マンスを向上させる. 13
Future work •言語的および音響的特徴を用いたマルチモーダル 学習をする. •transfer learningのために文法的に正しい文 章を取得する. •今回のモデルを仮想セラピストのプラットフォー ムに組み込んで自動音声出力をさせる. •これにより、システムはユーザーのストレスを認
識し,適切なストレスマネジメントのアドバイス とエクササイズで対応する. 14
More Decks by Yuto Kamiwaki
See All by Yuto Kamiwaki
Emo2Vec: Learning Generalized Emotion Representation by Multi-task Training
yuto_kamiwaki
0
130
Modeling Naive Psychology of Characters in Simple Commonsense Stories
yuto_kamiwaki
1
230
Using millions of emoji occurrences to learn any-domain representations for detecting sentiment, emotion and sarcasm
yuto_kamiwaki
0
130
Epita at SemEval-2018 Task 1: Sentiment Analysis Using Transfer Learning Approach
yuto_kamiwaki
0
150
Tensor Fusion Network for Multimodal Sentiment Analysis
yuto_kamiwaki
0
300
Sentiment Analysis: It’s Complicated!
yuto_kamiwaki
0
100
ADAPT at IJCNLP-2017 Task 4: A Multinomial Naive Bayes Classification Approach for Customer Feedback Analysis task
yuto_kamiwaki
0
190
EmoWordNet: Automatic Expansion of Emotion Lexicon Using English WordNet
yuto_kamiwaki
0
120
BB_twtr at SemEval-2017 Task 4: Twitter Sentiment Analysis with CNNs and LSTMs
yuto_kamiwaki
0
270
Other Decks in Research
See All in Research
SPACE 2026 - Femmes en Elevage – Regards croisés desdifférentes filières
institutdelelevage
PRO
0
130
Pesée et pointage par imagerie 3D : PHENO3D entre en phase de test terrains
institutdelelevage
PRO
0
160
Volatilité des marchés et sécheresse historique, l’élevage bovin viande sous contraintes en 2026
institutdelelevage
PRO
0
250
Pesée et pointage par imagerie 3D : PHENO3D entre en phase de test terrains
institutdelelevage
PRO
0
120
[IEICE-Soceity-Conf2026] セマンティック通信を見据えたマルチスケールセンシングと 学習の融合によるデジタルツイン基盤 / Digital Twin Infrastructure via the Fusion of Multi-Scale Sensing and Learning toward Semantic Communications
pman0214
0
150
Local Development Companies Network - National Conference 2026
ldcn
0
190
Santé et fertilité des sols : ce que nous disent les pratiques dans les systèmes de polyculture-élevage
institutdelelevage
PRO
0
160
マニアックセッション 〜次世代のメールプロトコルの斜め読み(2026年版)
hirachan
0
580
MIRU2026 チュートリアル講演2:三次元データ処理の動向
nnchiba
8
5.6k
Méthane 2030 : Développer des solutions de réduction des émissions de méthane entérique : 1ers résultats
institutdelelevage
PRO
0
130
フィジカルAIの社会実装に向けて -AIエージェントからAgentic Roboticsへ-
hf149
1
2.8k
論文紹介:Doc-to-LoRA: Learning to Instantly Internalize Contexts
yukako_nakano
0
240
Featured
See All Featured
B2B Lead Gen: Tactics, Traps & Triumph
marketingsoph
1
310
Leading Effective Engineering Teams in the AI Era
addyosmani
9
2.9k
Principles of Awesome APIs and How to Build Them.
keavy
128
18k
Exploring the relationship between traditional SERPs and Gen AI search
raygrieselhuber
PRO
4
4.4k
Making the Leap to Tech Lead
cromwellryan
135
10k
More Than Pixels: Becoming A User Experience Designer
marktimemedia
3
640
Why You Should Never Use an ORM
jnunemaker
PRO
61
10k
Java REST API Framework Comparison - PWX 2021
mraible
34
9.8k
For a Future-Friendly Web
brad_frost
184
11k
Dominate Local Search Results - an insider guide to GBP, reviews, and Local SEO
greggifford
PRO
0
410
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
130k
Evolving SEO for Evolving Search Engines
ryanjones
0
370