Slide 2
Slide 2 text
概要
• 紹介論⽂
o Making Pre-trained Language Models End-to-
end Few-shot Learners with Contrastive
Prompt Tuning (WDSM 2023)
• Ziyun Xu (CMU), Chengyu Wang, Minghui Qiu, Fuli
Luo (Alibaba), Runxin Xu (Peking), Songfang Huang,
Jun Huang (Alibaba)
• 要約
o Prompt-based learning は有効
• でもタスクごとに prompt (pattern, verbalizer) を作る
のは⼤変
o Verbalizer-free な⼿法である CP-Tuning を提案
o サンプルの難易度を考慮した contrastive
learning である PCCL も提案
o 提案⼿法は従来⼿法と⽐較して⾼い性能
2023.6.10 2
IRReading2023春