Slide 13
Slide 13 text
Large Language Models
LLM
To k
1. Attention
2. Tokenization
3. Autoregressive(自己回帰型)
Very Very …. Very Large Neural Network
To,k ens
To,k,ens in
To,k,ens, in .
Tokens in. To,k,ens, in, .
テキストはトークンに分割され、モデルに1つずつ供給されます。
前のトークンに基づいて次のトークンを予測する、訓練済のモデルです。