Slide 16
Slide 16 text
GPT (Generative Pre-trained Transformer)
● Transformerの1種
● 教師あり学習するには、人力でデータを用意する必要
● 精度を上げるにはデータは多いほど良いが、大変(無理なこともある)
● 教師なしでの事前学習を採用し、その後用途別の調整
● GPT-3では570GBの文章で事前学習
○ GPT-3.5: GPT-3に編集と挿入機能を持たせる
○ ChatGPT: GPT-3.5に対して微調整したもの
16