Save 37% off PRO during our Black Friday Sale! »

2020.06.01 M1勉強会 論文の読み方・書き方・研究室の過ごし方

2020.06.01 M1勉強会 論文の読み方・書き方・研究室の過ごし方

NAIST知能コミュニケーション研究室で新M1向けに行った勉強会の発表資料です。

7b3e0dbc0d712ad5df602d9f9e5e4209?s=128

Seitaro Shinagawa

March 08, 2021
Tweet

Transcript

  1. 2020.06.01 M1勉強会 論文の読み方・書き方 研究室生活の過ごし方 AHC-Lab 研究員 品川 政太朗 2020ⒸSeitaro Shinagawa

    AHC-lab NAIST 2020/6/1 1/63
  2. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST Take-home messages 論文読み(サーベイ)について ◆精読と速読を使い分けよう ◆広いアンテナ(外部との関係)を持っておこう

    ◆読んだ論文はまとめて共有しよう 論文書きについて ◆予備実験で手を動かすことから始めよう ◆どんどん文章を書く練習をしよう(事前執筆、学振) ◆雑に読まれても理解できるような論文を目指そう 研究室生活について ◆学生の多い研究室であるメリットとデメリットを念頭に動こう ◆広いアンテナ(外部との関係)を持っておこう(強調) ◆気軽に相談する癖をつけておこう 2/63
  3. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文の読み方(とサーベイの仕方) 3/63

  4. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST なんのために論文を読むのか? 1.研究初期:自分の研究テーマを決めるため(いわゆるsurvey) • 「やりたいこと・興味あること」を具体的な研究テーマとして練り上げるためにやる •

    先行研究の流れを理解し、できそうなことを見つければ研究計画が立てられる 読もう:先端技術とメディア表現1 #FTMA15(落合先生のサーベイの仕方紹介) https://www.slideshare.net/Ochyai/1-ftma15?ref=http://lafrenze.hatenablog.com/entry/2015/08/04/120205 4/63
  5. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST なんのために論文を読むのか? 1.研究初期:自分の研究テーマを決めるため(いわゆるsurvey) • 「やりたいこと・興味あること」を具体的な研究テーマとして練り上げるためにやる •

    先行研究の流れを理解し、できそうなことを見つければ研究計画が立てられる 2.最新の研究動向を知るため • 広く浅く、新技術や分野の傾向を追っておくと、中長期の指針を立てる材料になる • 自分の研究に応用できるアイデアが他分野にあるかもしれない 3.論文執筆時に先行研究と比較するため • 自分の研究との差分を明確に書くのに必要(書かないともれなく落ちる) 速読・精読 速読 精読 5/63
  6. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文読みには目的に応じて精読・速読を使い分けます 精読の目的 自分の研究テーマにより深く潜るためにやる • 論文の詳しい理解、検討のため

    • しばしば再現実装も含める • 良い論文のやりかたを盗んで自分の研究・論文執筆に生かすため 速読の目的 分野の大まかなトピック、流れ(トレンド)の把握(重要) • 研究テーマの策定(解決すべき問題の発見) 6/63
  7. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文はどこで探せばいい? Google Scholar キーワードで広く検索、または特定の論文から過去、最新の関連研 究を芋づる式に見つけられる

    ArXiv オープンアクセスのpre-printサーバ。最新の研究動向を追えるが、玉 石混交。自分の研究に直接関係する論文でなければ、国際会議に 通ったら読むくらいのつもりで良い。ArXivで消耗しすぎないように。 論文誌、国際会議や国内学会のproceedings peer reviewを通っているので論文の質が高いものが多い(低いのも ある)。分野に疎ければ知っている人に教えてもらうのが良い 論文読み会や、論文まとめサイト、Qiitaやブログなどの日本語資料 ググると日本語資料や解説があることもよくある。忙しくて追う暇が無 ければ、出てくるのを待つのもアリ(できれば一次情報にも触れよう) 7/63
  8. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 良く知らない分野をサーベイする時の狙い目 国際会議、国内学会のチュートリアル資料、解説記事 分野の第一人者によって丁寧にまとめられているので、最初に見て おくと、一から読んで知識を獲得する労力が減る。 サーベイ論文

    分野の第一人者によってまとめられたサーベイが論文化されたもの。 論文誌やArXivに表れることが多い。メタアナリシスを行うことで、分 野全体の傾向について論じているものが多い。最初に見ておくと、一 から読んで知識を獲得する労力が減る。 学位論文 博論はボリュームもあって読むのが大変だが、導出や関連研究が網 羅されていることが多い。ドンピシャな論文があればとても参考になる。 8/63
  9. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 何本読む必要がある? 「現実的に無理では・・・」 「アカハラでは・・・」 「マウントが厳しい・・・」 実はこれは

    精読じゃなくて速読の話 https://twitter.com/n_hidekey/status/868142418582831105 9/63
  10. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 違うレベルで読む習慣をつけよう 速読 精読 タイトル・アブストを読む (結論・実験結果・手法の)図、テーブル、数式を

    見る イントロ・関連研究も読む 深く読み込む(どういう発想でこの研究が出た?) 論文紹介、再現実装 ←精通してない分野の論文だと ここくらいまで読む 10/63
  11. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文を速く読めません! 分野の知識・経験値が足りないだけです(あと速読自体の慣れ) なんもわから ん・・・ あ~これKmeans

    みたいな手法か あの問題は扱 いにくいはずだ けどどうやった んだろ? データはどう とったの? 速読・精読を繰り返していけば自然と速くなります 速読:10分~数時間 精読:数時間~数日 十分な背景知識 のある人 初学者 ちなみに:慣れてても速く読めない論文は地雷かも? (良い論文は基本、読みやすいように練られている) 11/63
  12. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文読みの質を上げるなら https://www.slideshare.net/Ochyai/1- ftma15?ref=http://lafrenze.hatenablog.com/ent ry/2015/08/04/120205 論文を代表する図と6つの要点で構成

    ◆どんなもの? ◆先行研究と比べてどこがすごい? ◆技術や手法のキモはどこ? ◆どうやって有効だと検証した? ◆議論はある? ◆次に読むべき論文は? (その他、感想や気になる点など) • 要点がまとめられれば、速読レベルでの理解としては十分 • だらだら読むより速く読めるし頭にも残りやすい • あとで読み返せる、他人と共有できる利点もある ◼ 時間を測ろう(作業時間の見積もり、論文の難易度の予測) ◼ 要点まとめリストを書く前提で読もう 12/63
  13. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST どうやってサーベイする? ① キー論文(読んだら知見を得られそうな論文)を見つける ◼ 自分がある程度知ってる分野(検索に使える用語に見当がつく)

    google scholarで検索→「引用元」から芋づる式に最新の キー論文も探せる ◼ 自分がよく知らない分野(どう検索していいか分からない) • 詳しい人に聞く(研究室内にいなければツテを頼ってでも探す) • Twitterでつぶやいてみる(親切な人が教えてくれるかも) • トップ国際会議の近年の論文のタイトルに全部目を通してみる タイトルで絞り込み→アブストで絞り込み 13/63
  14. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST キー論文が見つかったら ② 読む論文リストを作って読んでいく(spread sheetがおススメ) ③

    次に読む論文が読んでると出てくるので逐次追加して読む 14/63
  15. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST ArXivで消耗しないための次善の策 ArXiv、追えるならいいですが無理して追わなくてもいいです 無理して追わない方法: • 他の詳しい人に教えてもらう

    • Twitterを使う: 論文を紹介してくれるアカウントをフォローする ArXiv情報を流してくれる アカウントもあるよ 15/63
  16. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 「論文の読み方」 まとめ https://github.com/SeitaroShinagawa/FavoritePapers/blob/master/summary/how_to_ma ke_progress.md 他、一読すると良い資料をまとめてるので読むときっと幸せになれます

    ◆速読と精読を分けて行うようにしよう ◆論文まとめやTwitterを使って広いアンテナを持っておこう 16/63
  17. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST サーベイしたら研究の計画を立てる 指導教員と綿密な議論をしておく • この研究のウリはどこか •

    手法は何を使うか(比較手法はどうするか) • データは何を使うか(新規に集めるならその方法についても) • 評価はどうするか • どこの国際会議・論文誌に出すか 17/63
  18. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文をどこに出す? [修士の狙い目] 最低でもここで成仏だ! 採択率が高い会議(50%以上) •

    EMBC (CC) • IWSDS (NL, SD) • COCOSDA (NL, SD) • トップ会議のworkshop (ACLなど) [目標] 各分野のトップ会議(採択率30%) • NIPS, ICML, ICLR, IJCNN • IJCAI, AAAI (人工知能系なんでも) • ICASSP, INTERSPEECH (SP, CC, SD, 採択率50%) • ASRU (SP, SD) • ACL, EMNLP, NAACL ([2nd tier] COLING, IJCNLP, EACL) (NL, SD) • CVPR, ECCV, ICCV, ([2nd tier] BMVC) (画像系) • KDD, PAKDD (データ系) http://phontron.com/slides/neubig15nlptu torial.pdf 18/63
  19. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 国内の学会や研究会に出す意味はある? 直接的な業績としての意味はほぼない 補足:一応中村研では国内外問わず最低1回の研究発表が修士の修論提出の 最低要件になってる 間接的には重要(だと思う)

    • 外部の研究者と議論することで研究の質を向上させられる →国際会議論文へのたたき台になる • 外部の研究者コミュニティと関わりを持つ →情報交換や共同研究の種になる • 自分の名前を売り込む →名前が売れてると路頭に迷っても貰い手がある 19/63
  20. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文の書き方 20/63

  21. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST なんのために論文を書くのか? いわゆる排〇物としての側面(出さないと生きていけない): ◼ 研究成果を残して後世に伝えるため(研究者としての責務) ◼

    論文が研究成果を測る主要な指標だから(学問で飯を食うため) 実験計画書としての側面: ◼ 自分が研究で迷わないようにするため 【事前執筆型のススメ】 事前執筆して実際に文章におこしてみると、気づいてい なかった穴にも事前に察知できる 読もう:スタンフォードで学んだ研究の生産性を上げる4つの方法 https://note.mu/ryosuzuki/n/ndae1d84d6103 “It’s not an idea until you write it down.”—Ivan Sutherland 21/63
  22. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 事後執筆型の落とし穴、事前執筆型の利点 事後執筆型(結果が出てから執筆) 事前執筆型(執筆してから実験) アイデア→サーベイ→実験→執筆 アイデア→サーベイ→執筆→実験

    1. あ、これ実験足りなくね? 2. 想定外の追加実験発生 3. 実験に戻る(手戻り発生) 利点 • 事前に論文におこすことで論点の穴を議論できる • 必要なタスクを予め見積もれる 難点 ある程度論文を書いた経験が無いと難しいかも http://phontron.com/slides/neu big15nlptutorial.pdf 22/63
  23. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 事前執筆はどこまでやればいい? 事前執筆の目標:実験計画書として機能するアウトラインを書くこと ここは実験後でOK 強いて言えば、どのように評価して 論文の主張の妥当性を示すかを書く

    背景・前提 • 従来どうだったか? • 前回まで何が進んでいたか? • 何が前提となっているか? 課題 • いま直面している課題は何か? • なぜそれを課題と捉えているか? • 課題に対する仮説は何か? 手段・アプローチ • どう解決しようとしているか? • なぜその手段を採用するのか? • それはどんな意味を持つのか? 効果・結論 • 結果から何が言えるのか? • なぜそれが言えるのか? • 次はどうするつもりか? 上のフォーマットが埋まればOK(ガッツリ書いてボツに なったらツライ)、研究の進行に応じて適宜書き換える 23/63
  24. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST (コラム)待ちきれない型? 待ちきれない型(品川は天衣無縫型と呼んでます) 結果を出した後でサーベイ&執筆を行う http://phontron.com/slides/neu big15nlptutorial.pdf

    「…仕事をはじめる前に文献を読みすぎると、新鮮な気持で仕事に取り組めなくなる。むし ろ、右顧左眄せずに一途にぶつかって行くほうがいい。ただし、仕事が完成して論文を書く ときには、ちゃんと文献を洗って、引用すべきものは引用しなければならない…私は自分の 流儀をひとに勧める気はない。これは、せっかく何かを発見したつもりでいると、最終段階に なってから先例を発見してガッカリ、ということになりかねない危険なやり方なのだから・・・」 木下是雄、理科系の作文技術より 利点 先行研究にバイアスされず、問題に対して自分で考 えた解決策でアプローチできる →オリジナリティが出やすい 欠点 • 後で全く同じことをしている先行研究を見つけて 爆死する可能性がある • 手戻りが生じた時に大きく戻る羽目になりやすい 24/63
  25. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST (コラム)待ちきれない型→予備実験型はどうか?(提案) • あまり先行研究にバイアスされたくはない • かといって爆死もしたくもない(手戻りは少なくしたい)

    →待ちきれない型を予備実験として捉えればいいとこどりできる? 事前執筆型 待ちきれ ない型 執筆 サーベイ 仮説立案 実験 執筆 実験 予備実験+ 事前執筆型 執筆 計画確認 本実験 サーベイ 仮説立案 予備実験 仮説立案 サーベイ モデルの学習がうまくい くか、など最低限確認 先行研究があれ ば戻るorテコ入れ 実験デザインを 事前執筆で練り直す 25/63
  26. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 論文の構成はどうする? 基本構成は イントロ→関連研究→問題(タスク)設定 →(提案)手法→実験→結論 ただし、関連研究はイントロに吸収され

    たり、後ろに回ったりする場合がある 関連研究を後ろに置いた方が良い場合 • 先行研究が長くて複雑な場合(読者 を最初の方でKOしてしまう) http://phontron.com/slides/neubig15nlptutorial.pdf 26/63
  27. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 良い論文(読者が読みやすい論文)を書くには 内容レベルで良くできることは結果を出すところまで 結果が出てからは表象レベルの改善 →自分のための実験計画書から読者に読んでもらうための論文へ 【表象レベル】

    • わかりやすい図表をつくる • パラグラフライティングを意識した文章を組立てる • 参考文献の書式を揃える • タイポを無くす 27/63
  28. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 前提として:読者(査読者)は誤解する 投稿される論文は爆発的に増えているが査読者の数は 大して増えてない 査読者の心境: •

    負担がヤバい • (論文に)穴があったらリジェクトしたい・・・ • できるだけ速く雑に読んでもはっきり採択できる論 文が読みたい 雑に読まれて勝手に脳内補完されても問題のない論文 (誤解のおきにくい論文)を書く必要がある 28/63
  29. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST わかりやすい図表をつくる 良い図は文章よりも雄弁、分かりやすい図は誤読を減らせる 例:Image Generation from

    Scene Graphs [Johnson+, CVPR2018] • 概念ごとの形を揃える(例:入出力とモジュールを分ける) • 塗りと線の両方に色を付けない • 配色に気を使う(配色をバリアフリーに) モデル x y 資料作成の本やサイトが参考になる 例:伝わるデザイン https://tsutawarudesign.com/miyasuku3.html 29/63
  30. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST パラグラフライティングを意識した文章を組立てる A君は根っからのスポーツマンだ. 夏は水泳,冬はスキー,春と秋はテニスと,日焼けのさめる間がない. いちばん年季を入れたのはスキーだという. •

    一つの段落には一つのトピック • 基本、最初の文がトピックを一言で表した文(トピックセンテンス) • 後ろの文はトピックセンテンスを補強する文(サポートセンテンス) 木下是雄、理科系の作文技術より 段落レベル、一文レベルの役割を考慮して不適な文は移動か 削除を検討。意味的なまとまりの純度を上げよう 30/63
  31. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 参考文献の書式を揃える bibtexをとってくる時のソース先 • google scholar

    • 国際会議のproceedings • dblp (フルの情報をとってきやすい https://dblp.uni-trier.de/) bibtexでも、ページ数など情報が一部抜けていたり、書式が統一さ れていないことがあるので注意 紙面の都合で短縮することも可能だが、揃えることに注意する P. Isola, J.-Y. Zhu, T. Zhou, and A. A. Efros, “Image-to-image translation with conditional adversarial networks,” in IEEE Conference on Computer Vision and Pattern Recognition (CVPR), pp. 5967–5976, IEEE, 2017. P. Isola et. al., “Image-to-image translation with conditional adversarial networks,” in Proc. CVPR, pp. 5967–5976, IEEE, 2017. 31/63
  32. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST タイポを無くす 添削を受ける前に、誤字脱字、読みやすさのチェックをしよう 様々なシチュエーションで読むと良い (結城浩、数学文章作法 推敲編より)

    モダリティに変化をつけて読む • 声に出して読む • google翻訳に突っ込んで再生して聞く 体調に変化をつけて読む • 疲れて気力のない時に読む • 朝起きてすぐ読む 読み方に変化をつけて読む • 関連研究だけ読む • 結論から1章ごとにさかのぼって読む 時間に変化をつけて読む • 3日寝かしてから読む 32/63
  33. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 概要(Abstract)の注意点 「最後」に書く!(“概要”なので) CMU教授直伝の論文の書き方 http://yamaguchiyuto.hatenablog.com/entry/2016/01/18/154613 “Don‘t

    go into detail in abstract”(特に手法・実験についての説明) “アブストには詳細を書かない。…読者がアブストに期待しているのは「その 論文によって何ができるようになったのか(What)」を知ることであって、「ど のようにしたのか(How)」ではない。” 我々は~~という問題に取り組んだ 我々は~~という手法でこの問題を解決する (想定している)利点は(収束が速い・小さいデー タサイズでも動く、ノイズ耐性があるetc.)である ~~という(タスク・データセット)実験によって提 案法が有効であることを示す 33/63
  34. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 序論(Introduction)の注意点 主張とやってることのズレ(overstatement/understatement) に気を付ける Crown jewel(最初に見せる実験結果のアピール図)の誤解

    • 問題の説明のために用意した図をcrown jewelと勘違いされた →問題の説明の図もなるべく実際のデータで説明する 調子に乗った言い過ぎによる誤解 • “様々なドメインに手法で応用可能な汎用的な手法を提案する” →実験が画像だけだと× 色々なドメインでの実験が必要 言わなさすぎもダメ • 査読者「このデータでしか有効じゃないんじゃないの?」 →主張を通すのに適切(必要十分)な実験設計が必要 34/63
  35. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 優れた研究論文の書き方―7つの提案 https://www.slideshare.net/kdmsnr/writing-a-paper-seven-suggestions overstatementをうまくかわす例 適切な大きさの問題に着地させるようストーリーを展開しよう コンピュータプログラムのバグ

    ある特殊な場合 に起きるバグ 研究の焦点 主語がでかい 公知の事実 ここから始めて良い 35/63
  36. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 文法的に気にする場所の要点 基本的に英文校正に出すことを想定 ◼ a/theは校正者にも見分けやすい ◼

    単数/複数は見分けられない(らしい) ◼ 多義性のある単語(take, make)を避けて一意性のある単語を選ぶ ◼ 個人の主観が入る、程度を表す副詞を避ける(extremelyとか) ◼ やたらthat節やwhich節を使わない(同じ意味なら短い文ほど良い) • We call the system that has a strong constraint … • We call the system with a strong constraint … ◼ 受動態は冗長なので避ける(トピックの主題を優先して敢えて受動 態を使うケースはある) ◼ 弱弱しい表現を避ける(It is important thatとか、推量(might)とか) 本:英文校正会社が教える 英語論文のミス100 本:なぜあなたは論文が書けないのか? Web: Graham先生 論文執筆スタイルガイド: http://www.phontron.com/paper-guide.php 36/63
  37. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 「論文の書き方」 まとめ 自分のために論文を書く • 実験計画書として論文を事前執筆するのを目指すのがおススメ

    • 最初は知識と経験が不足しているので、指導教員にサーベイ部 分を頼って事後執筆でもOK 読者のために論文を書く • レビュー&リビジョンを繰り返す とにかく査読者は誤解するので紛らわしい要素を排除しよう 英文校正を前提にして論文を書く(a/theで消耗しない) 37/63
  38. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 「論文の書き方」 その他参考文献 最短ルートで迷子に ならない! 理工系の

    英語論文執筆講座 理科系の作文技術 できる研究者の 論文生産術 英文校正会社が 教える 英語論文 のミス100 38/63
  39. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 研究室での過ごし方 39/63

  40. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 中村研 良い点悪い点 良い点 悪い点 いわゆるビッグラボ

    • ボスが強い • プロジェクトに乗れば研究費にあまり困らない(コーパス収集という手段も 比較的積極的に推奨されている) • 色々な人にすぐ相談できる • 多様な研究スタイルが可能 • ボスが忙しい(研究議論できる時間は限られる) • 他の先生方も忙しい(同上) • 研究テーマに統一性が無い(修士でも研究を1から組み立てる必要が出てく ることがある(これは本来博士に求められるレベル))醍醐味でもあるが・・・ • NAISTという陸の孤島に適応できず辛い思いをする人もいる • 前半は授業に忙殺される上に就活もあるので実質とれる研究時間は短い 40/63
  41. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 悪い点を克服するには ボスに相談したい 議論できるのは基本的に面談の時と先生ありミーティングの時(足りない!) →必要に応じてメールでアポを取って突撃、自ら議論できる時間をつくる [必要な場合とは?]

    研究のおおまかな方針を決めたい場合 「こういうデータ、手法、評価方法でこういうことを明らかにするのはどうですか?」 ボスの研究の勘所はほぼ正しいので難色を示された場合は再考した方がいい 他の先生に相談したい やはりアポをとるのが安全。研究の方針、困っていることなど自分からどんどん 聞きに行こう。「先生は死なぬよう」積極的に使おう(僕らは授業料を払っている!) 先に先輩に相談した方がいいこと 計算機の使い方、ライブラリがインストールできない、など。学生で解決できること が増えるほど先生が指導に集中できるのでどんどん増やしていきたいところ 41/63
  42. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 悪い点を克服するには 研究テーマに統一性が無い(修士でも研究を1から組み立てる必要が出てく ることがある(これは本来博士に求められるレベル))醍醐味でもあるが・・・ テーマが幅広いSD班が特によくこの状況に陥る インターンに行く

    • NTT CS研、NEC、PFN、Yahoo!、TISなどの研究インターンに応募する • インターンでの研究がうまく進めばそのまま自分の研究にするのも手 • テーマによっては指導教員より詳しい場合がある • とりあえず指導教員に相談してみるとよい(指導教員から勧められる場合も) 覚悟を決めてやる 自分で研究テーマを進めるというのは大変だが楽しさもある 大事なのはアンテナを広く持つこと、議論する時間を多く持つこと、とにかく手を 動かすこと。 42/63
  43. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 辛い時に誰に相談するか NAISTという陸の孤島に適応できず辛い思いをする人もいる 人には色々な事情がある。辛い時にどうするか? • 先生に相談する

    • 同僚(先輩・同期・後輩)に相談する • 友人に相談する • 家族に相談する • カウンセラーに相談する(NAIST保健管理センター) 先生、同僚はあなたが研究室に来れば助けられるが、来れなけ れば助けようがない。研究室に来よう。それもできそうにないなら カウンセラーへ相談だ。一人で考え込むのが一番危ない 43/63
  44. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 研究できる時間は意外と少ない 前半は授業に忙殺される上に就活もあるので実質とれる研究時間は短い M1 M2 4月

    5月 6月 7月 8月 9月 10月 11月 12月 1月 2月 3月 4月 就活 研究 夏 合 宿 授業 授業 研究 研究 就活 研究 修論 卒 業 研究 [王道パターン] M1 • 夏合宿までに研究テーマの骨子が固まっている(データ、方法、評価尺度) • 12月~3月の投稿シーズンには最初の国際会議論文の投稿 M2 • 4月~5月に最初の国際会議論文のジャーナル化 • 9月の投稿シーズンに2本目の投稿 • 12月に修論に着手開始、1月中旬に初稿完成 研究 44/63
  45. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 研究室外に仲間をつくろう! 多様な情報ルートが君を過酷な研究生活から救ってくれる! (かもしれない) 研究コミュニティによる企画 ◆

    YANS – NLP若手の会 ◆ MIRU若手プログラム など 学外勉強会への参加(論文読み会、ハッカソンなど) ◆関西MT勉強会 ◆xpaperchallenge ◆CVPR、ICLR読み会 など 45/63
  46. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 学振を書こう! 学振とは? • 研究室合宿から自分の研究を再考する良い機会 •

    修論で研究のイントロを書くたたき台ができる! • 気が変わってD進するときにも研究費+給料!充実したD生活! • (D進すると奨学金免除ポイントがつくので一度D進してフェードアウトまである) • 通ったら他の同期マウントできる(*「俺、就職希望やけど学振通ったで~?」) 学振をいつ書く? 池田研ではM1半ば(サーベイが一段落した時点)で書く →研究を順調に進めるためのマイルストーンになる 学振を書く利点 • 給料月20万と年100万の研究費、副業OK(研究に関連してれば) • 修士2年向けのDC1は計画重視(業績が無くてもチャンス!) 46/63
  47. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 学振を書こう! 学振書いてくれた場合 余裕のあるうちに添削できる →現状の状態で研究上の問題を再度文章の形で議論可能! ぼやけた研究計画を明確化、軌道修正が可能

    →順調な研究生活の実現!研究者としての成長! 学振書いてない場合 進捗最悪の場合で文章化されるのが修論スタート →これ、結構やばいんじゃね?と気づく(本人、先輩、先生) →デスマーチに突入(全員死ぬ) 学振writingは将来への保険 事前にある程度のコストを払っておくことで、全員が将来的に 発生しうる恐ろしいコストをかなり低減できる 47/63
  48. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST まとめ 論文読み(サーベイ)について ◆精読と速読を使い分けよう ◆広いアンテナ(外部との関係)を持っておこう ◆読んだ論文はまとめて共有しよう

    論文書きについて ◆予備実験で手を動かすことから始めよう ◆どんどん文章を書く練習をしよう(事前執筆、学振) ◆雑に読まれても理解できるような論文を目指そう 研究室生活について ◆学生の多い研究室であるメリットとデメリットを念頭に動こう ◆広いアンテナ(外部との関係)を持っておこう(強調) ◆気軽に相談する癖をつけておこう 48/63
  49. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST おまけ (時間があったら紹介します) 49/63

  50. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 知っておこう①: 研究生活はOJT OJT (On-the-Job Training):

    実務をしながら学ばせる教育方法 学生は自身の研究プロジェクトにおける実務(研究活動)を通して、 研究のために必要なスキルを培う 学生には独立した研究者であることが求められる • つまり自営業者。最終的な全責任は自分 • 指導教員は頼りになるが、頼りすぎは良くない。教員も間違える • 指導は降ってこない。指導は「乞う」。能動的に教員に働きかけよう • 自分の経験から学ぶだけでなく、他人を見て学ぼう(他人のゼミの 質疑応答の様子を参考にしたり、本やWebの資料を見つけたり) ロールモデルを見つけたらパクろう 50/63
  51. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 知っておこう②: 研究生活でtransferable skillsを磨こう 研究活動で培えるスキルは研究以外の実務に広く応用できる (ただし、自分で意識して自分で学ばないと身につかない)

    • 短期間で必要な情報を集めてまとめるサーベイスキル • プロジェクトの申請書、計画書を書くスキル • 論理的な文書・報告書(論文)をまとめるスキル • 効果的なプレゼン資料を作り、発表するスキル • 自分の成果を宣伝する営業スキル • 必要な情報を得るための質問スキル • プロジェクトを効率的に進めるためのコミュニケーションスキル • 自身の体調や生産性を管理するスキル • 計画を立て、その通りに実行するスキル • プロジェクトが炎上した時に対処するスキル • メンタルをコントロールするスキル など 自分が何が得意で何が苦手か、実践の中で把握して改善しよう 研究と同じ。仮説と 検証を繰り返そう 51/63
  52. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 知っておこう③: 研究生活で指導が入る・入らないスキル サーベイ 論文書き 申請書・計画書書き

    プレゼン コミュニケーションスキル 計画立てと実行 メンタルコントロール 体調・生産性管理 質問スキル 営業スキル 教員・先輩からの指導が期待できる 自分で体得 研究活動で必ず通るので不備を徹底 的に指摘してもらえるので学べる 指導教員は数多のプロジェクトを潜り 抜けてきてるので炎上した時の対処に も精通している。とても頼りになる プロジェクト炎上対処 学振とかを書くとコメントをもらえる 成果が出たら色々アドバイスをもらえる 質問するとコツを教え てもらえる(質問しない と教えてもらえない) 52/63
  53. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 体調管理、メンタルコントロールはどうする? 大学院生は高負荷のストレスにさらされ続けられるので対策が必要 ググってみると結構見つかるので試してみると良い。 例:ツイッターで集めた素晴らしいメンタルの回復方法 https://www.200kounen-training.com/entry/2019/11/12/211518

    【良さげな行動例】 • 居場所(別の所属コミュニティ)を増やす • 日光にあたる • 趣味を持つ、新しいことを始める • ダメな時のルーティンを決める • コリをほぐす とか • 身体を温める(風呂、サウナなど) • 運動する(散歩、ジョギング、筋トレなど) 53/63
  54. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 体調管理、メンタルコントロール 書き出す、という行為も有効 DaiGoさんの「記録の力」はおススメ 人間は書くという行為で論理的に思考することができる【要出典】 感情を書き出す→発散できる、冷静に見直せる

    将来の不安→不安要素を書き出す 54/63
  55. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 知っておこう④: 研究活動は案外自由 師匠は別に指導教員だけじゃなくても良い • 研究班の同僚

    • 研究室外の人(研究インターン先の人とか別の研究室の人とか) などで、自分の研究プロジェクトに共著に入ってもらうというのはアリ 利点: • 指導教員への負荷が分散できる • セカンドオピニオンとして機能するのでリスクが減る • 論文の添削もしてもらえる うまく周りを頼ることを覚えよう。持ちつ持たれつ。 注意:誰誰を共著に入れたいという話は、事前に教員に相談するべし 55/63
  56. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 知っておこう⑤: 安全策を練っておこう 研究プロジェクトがうまくいかなかった時にテコ入れはできるか? ◼ これがダメだったら次はあれを試そうという案が予めあると心理的

    安全性が向上する ◼ 複数プロジェクトを並行して進めるのもアリ • 全く道具が違うと大変なので、同じデータ、近いモデルで異なる 仮説を検証できると良い(画像生成とsegmentationとか) 56/63
  57. 2020ⒸSeitaro Shinagawa AHC-lab NAIST 研究を進めるためにータイムマネジメントTips 余談: NAISTではキャリア支援室のセミナーが定期的に開かれるのでおススメ 「研究者のためのタイムマネジメント講座」(上記のTipsはここから) 「研究者のためのコミュニケーションスキル向上セミナー」 「アカデミックライティング講座」

    研究に限らず超重要 コツ:スケジュールに「この時間に何をする」を細かく設定する 13:00~14:00 13:00 〇〇先生にメール 論文添削依頼・英文校正提出の確認 14:00~15:00 ××の作業を••まで終わらせる 15:00~17:00 15:10~17:00 ゼミ ゼミ後に△△の件について□□さんに確認 google calendarなどのスケジュール表を利用 タスクの細分化・具体化によって作業時間を正確に見積もれる 2020/6/1 57/63
  58. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 良い研究は一言で伝わる 「素人発想、玄人実行」と言われることが多い 問題設定から解決策のシナリオが素人にもわかりやすい それほど簡潔に切り取られてないと価値を正当に評価できない 玄人発想は頭でっかちということ(品川が考えた例↓)

    • 複雑な問題設定:現実の問題を意識しすぎてあれもこれも機能と して入れてしまって何が焦点なのかよくわからない • 本質的な問題に目を向けず、人工的な問題設定にこだわりすぎ る:データセット特有の問題を解決してしまう • 最新の道具で解くことにこだわりすぎる:GANで画像生成して GANGANいくぜ!でもその問題、本当に画像生成必要ですか? 研究者の腕は 問題の切り取り方、道具の選び方に表れる (問題が矮小化して「自明の谷へ」落ちないギリ ギリを見極める審美眼を養うべし、らしい) 58/63
  59. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 審美眼を養うには、研究をしよう 研究プロセス(仮説立案→検証→論文発表)を繰り返す中で色々な フィードバックを得て(痛い目をみて) 養われていく 研究法(暦本)

    https://www.youtube.com/watch?v=vn0cL7fxYh8 59/63
  60. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 暦本先生の研究法のまとめ 研究のアイデアはまず言語化せよ→一言で言えるクレームを設定、 先に論文のアウトラインを書いて都度修正 手法から先に思いついて、適用できる問題を探すのもアリ。特定の 手法or課題にこだわりすぎない柔軟性を持てると良い

    悪魔度(技術的難易度)が高いと感じたら課題設定を再考せよ 60/63
  61. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 研究のアイデアはまず言語化せよ→一言で言えるクレームを設定、 先に論文のアウトラインを書いて都度修正 暦本先生の研究法のまとめ 言語化する利点 論理的な思考ができ、論理の粗に気づくことができる

    (^^)「・・・あれ、これ実験足りなくない?」 難点 初心者のうちから論理的な文章を書くのは少し難しい 61/63
  62. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 暦本先生の研究法のまとめ 手法から先に思いついて、適用できる問題を探すのもアリ。特定の 手法or課題にこだわりすぎない柔軟性を持てると良い トップダウン研究 問題が先にあり、問題の解決策を模索する研究

    ボトムアップ研究 • 解決策が先にあり、後から適用できる問題を探す研究 • 手を動かしていたら発見した問題・解決策からスタートする研究 62/63
  63. 2020/6/1 2020ⒸSeitaro Shinagawa AHC-lab NAIST 暦本先生の研究法のまとめ 悪魔度(技術的難易度)が高いと感じたら課題設定を再考せよ 例 仮説:顔画像生成で、モデルAとBを組合わせて教師なし学習させる ことで精度が向上する

    ドメインを絞る: e.g. 顔画像生成→髪のみの画像編集 学習方式を変える: e.g. 教師なし学習→部分的に教師あり学習 絞った仮説が実証できたら、ドメインの拡張、学習方式の変更など、 絞った部分を1つずつ拡げて解決していけば良い 63/63