論文を読むコツ/Paper reading

論文を読むコツ吉岡 2023/4/10 Kentaro Yoshioka(1/17)

◼ 21世紀で最も有名な論文の一つ ◆Transformerを提案 ◆現在のChatGPTなどへ続く NLP分野の革命へリード今回読む論文 Kentaro Yoshioka(2/17)

◼ 新規性（Novelty)が最も重要 ◆過去の論文と同じでは論文は採択(Accept)されない ◆過去研究で何がされていなかったのか、自分の論文ではどう違うのかを明確に記述しなければならない ➢例：過去にはなかった脆弱性を明らかにした ➢例：新しい動作原理に基づくニューラルネットや回路ブロックを提案する ◆新しい事をする、というのも大事だが有効性を実証するのも重要 ⚫ 新しいだけで性能が下がってしまったら誰も使いたくはない
➢例：提案する技術により◦◦%性能を向上することを実験で確認論文で重要なこと Kentaro Yoshioka(3/17)

◼ 引用数で論文のインパクトは測れる ◆多くの人が引用する、ということは多く読まれている/多く使われている ◼ https://scholar.google.co.jp/ 論文のインパクト Kentaro Yoshioka(4/17) Attention..論文を引用している記事も表示できる

◼ Abstract ◆論文を短くまとめたもの。何でこの論文が重要かはAbst.に煮詰められている。 ◼ イントロダクション ◆この論文はどのような問題を解決しようとしているか？ ⚫ 例：より精度の高いニューラルネットがあると便利だよね ⚫ 例：より消費電力が小さい回路があると便利だよね
⚫ レベルのことを言っている。 ◼ Related works ◆過去に発表された論文をまとめつつ、本研究がどう違うかについて触れる（一般的な）論文の構成 Kentaro Yoshioka(5/17)

◼ Methodology(提案技術） ◆提案する技術の詳細について説明 ⚫ 〇〇機構を◎◎の目的で導入 ⚫ 例：今までなかったTransformerというアーキテクチャを提案。従来RNNよりも計算効率に優れる ◼ Evaluation（実験結果）
◆提案した技術の有用性を実証する ◆例：Transformerを使うとこんなに性能が良くなるよ（一般的な）論文の構成 Kentaro Yoshioka(6/17)

◼ 最初読んでもわからないことばかり ◼ まずは・・ ◆なぜその論文は評価されているのか？どこが面白いのか？を説明できるように読むと良い ⚫ 新規性、つまり従来との差に注目して読む ◆実験や実装の細かい部分は最初は読み飛ばして良い ◼ 教員も読み飛ばして読んでます
◆重要そうな論文だけ精読（細かい部分だけ読む）しています ◼ 有名な論文は日本語の解説があったりするのでググると良い論文の読み方 Kentaro Yoshioka(7/17)

論文を読むコツ/Paper reading

論文を読むコツ/Paper reading

Yoshioka Lab (Keio CSG)

More Decks by Yoshioka Lab (Keio CSG)

Other Decks in Research

Featured

Transcript

論文を読むコツ吉岡 2023/4/10 Kentaro Yoshioka(1/17)

◼ 21世紀で最も有名な論文の一つ ◆Transformerを提案 ◆現在のChatGPTなどへ続く NLP分野の革命へリード今回読む論文 Kentaro Yoshioka(2/17)

◼ 引用数で論文のインパクトは測れる ◆多くの人が引用する、ということは多く読まれている/多く使われている ◼ https://scholar.google.co.jp/ 論文のインパクト Kentaro Yoshioka(4/17) Attention..論文を引用している記事も表示できる

◼ Methodology(提案技術） ◆提案する技術の詳細について説明 ⚫ 〇〇機構を◎◎の目的で導入 ⚫ 例：今までなかったTransformerというアーキテクチャを提案。従来RNNよりも計算効率に優れる ◼ Evaluation（実験結果）