U-lab展LT 日記と自然言語処理 2021/11/17

Slide 1

Slide 1 text

No content

Slide 107

Slide 107 text

2021/11/17 107 参考にした資料や記事1 • Pythonで動かして学ぶ自然言語処理入門 [著者:柳井孝介, 庄司美沙,発行年:2019年1月] • 【深層学習】word2vec - 単語の意味を機械が理解する仕組み【ディープラーニングの世界 vol. 21】 [URL:https://www.youtube.com/watch?v=0CXCqxQAKKQ, AIcia Solid Project] • 【深層学習】Attention - 全領域に応用され最高精度を叩き出す注意機構の仕組み【ディープラーニングの世界 vol. 24】 [URL:https://www.youtube.com/watch?v=bPdyuIebXWM, AIcia Solid Project] • 【深層学習】Transformer - Multi-Head Attentionを理解してやろうじゃないの【ディープラーニングの世界vol.28】 [URL:https://www.youtube.com/watch?v=50XvMaWhiTY, AIcia Solid Project] • 【深層学習】ELMo - 複数粒度の文脈情報を持つ単語ベクトルで広範囲のタスク性能改善【ディープラーニングの世界vol.30】 [URL:https://www.youtube.com/watch?v=hMrOcH5dcGM, AIcia Solid Project] • 【深層学習】GPT - 伝説の始まり。事前学習とファインチューニングによるパラダイムシフト【ディープラーニングの世界vol.31】 [URL:https://www.youtube.com/watch?v=wDXPXgn5hX4, AIcia Solid Project] • 【深層学習】BERT - 実務家必修。実務で超応用されまくっている自然言語処理モデル【ディープラーニングの世界vol.32】 [URL:https://www.youtube.com/watch?v=IaTCGRL41_k, AIcia Solid Project] • 【深層学習】GPT-2 - 大規模言語モデルの可能性を見せ、社会もざわつかせたモデルの仕組み【ディープラーニングの世界vol.33】 [URL:https://www.youtube.com/watch?v=3BUk7mtf10M, AIcia Solid Project] • 形態素解析器Sudachiの「辞書」はどのように作られているか: 複数の分割単位を例として [URL:https://zenn.dev/sorami/articles/c9a506000fd1fbd1cf98, sorami]

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Slide 17

Slide 17 text

Slide 18

Slide 18 text

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Slide 24

Slide 24 text

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Slide 31

Slide 31 text

Slide 32

Slide 32 text

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

Slide 36

Slide 36 text

Slide 37

Slide 37 text

Slide 38

Slide 38 text

Slide 39

Slide 39 text

Slide 40

Slide 40 text