ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING DISTANT SUPERVISION

ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING
DISTANT SUPERVISION 長岡技術科学大学自然言語処理研究室上脇優人 Genta Indra Winata, Onno Pepijn Kampman, Pascale Fung Hong Kong University of Science and Technology, Clear Water Bay, Hong Kong ICASSP 2018 6月文献紹介

Abstruct •自己導出型の書き起こしからの心理的ストレスを分類するためのattentionメカニズムを備えたLSTMを提案． •コーパスのサイズを補完して拡張するハッシュタグの内容に基づいて，ツイートを自動的にラベル付けすることによってdistant supervisionを適用． •biLSTMモデルは，accuracy 74.1％とF値 74.3％の
点で最高のモデルである． •distant supervisionの微調整により，accuracy 1.6％，F値 2.1％向上． 2

Introduction •心理的ストレスは，人の話し方や言葉の選択に影響する． •言語学的研究では，言語選択にストレスと精神的健康のレベルへの指針が含まれていることが示されている． •うつ病の発生を予測するためのソーシャルメディアとTwitterからのテキストデータの可能性も実証されている． •文章レベルのストレス検出に関する研究は，主に，
マイクロブログなどのソーシャルメディアから収集されたテキストに焦点を当てている． 3

Introduction •本研究では，面接転写から文章レベルでの心理的ストレスを検出するための単語埋め込み型attention based LSTMモデルを構築することを提案． •本ケースでは，著者の心の強調または非ストレス状態を示すハッシュタグを手動で選択し，ストレス（正のラベル）とストレスのない（負のラベル）つぶやきをスクラップするのに使用． •インタビューコーパスは比較的小さく，主にアカデミア
に関連する限られた数の話題しかカバーしていないため，トレーニング中にデータを追加する必要がある． 4 この論文の主な貢献は、Twitterから収集されたラベルのないデータが，本研究のインタビュー転記コーパスの分類パフォーマンスを向上させることができることを示し，attention mechanismを適用するとモデルが重要な単語を効果的に選択するのに役立つ．

Models •本研究の目的は，入力として発話があれば，誰かがストレスを受けているかどうかを判断可能とすることである． •いくつかの異なるモデルを探索した． •LSTM及びBiLSTMモデルでは，最終的にストレス及びストレスのない用語集を形成するために訓練可能な埋め込み層を使用した． •LSTMは，文中の単語の時間的ダイナミクスを捕捉することが可能．
5

SVM •ベースラインとして，Radial Basis Function（RBF）カーネルを用いてSVMを構築した． •与えられた文中の単語ごとにword2vecのワードエンベディングを抽出した． •埋め込みの次元数はkは300で，Googleニュースのデータで事前に訓練されている（約1000億語でユニークワードは約300万語）．
•SVMの場合，入力はN個の発話ベクトルからなる入力行列として表されます． 8

Conclusion •面接記録から面接者のストレスレベルを分類する方法を提示した． •biLSTMのモデルが最高性能であった． •ドメイン外ストレスツイートデータセットを使用した2段階トレーニング方法は，学習のパフォーマンスを向上させる． 13

Future work •言語的および音響的特徴を用いたマルチモーダル学習をする． •transfer learningのために文法的に正しい文章を取得する． •今回のモデルを仮想セラピストのプラットフォームに組み込んで自動音声出力をさせる． •これにより、システムはユーザーのストレスを認
識し，適切なストレスマネジメントのアドバイスとエクササイズで対応する． 14

ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING DISTANT SUPERVISION

ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING DISTANT SUPERVISION

Yuto Kamiwaki

More Decks by Yuto Kamiwaki

Other Decks in Research

Featured

Transcript

ATTENTION-BASED LSTM FOR PSYCHOLOGICAL STRESS DETECTION FROM SPOKEN LANGUAGE USING

6

7

9

10

11

12