プロンプトのプロに！ / Become a Prompt Professional

Transcript

1. プロンプトのプロに！ 機械学習の社会実装勉強会第21回 Henry 2023/3/25
2. プロンプトに興味 ▪ 研究上 • 大規模言語モデル(Large Language Model, LLM)の研究が広がりつ つある • テキスト生成・画像生成の基盤になる • モデルにテキスト入力(プロンプト！)が要だが、入力テキストにどのよ うに反応している詳しい仕組みが不明 ▪ 応用上 • みんなChatGPTについて話している • LLMベースのいろんな新興サービスが出ている • プロンプトを書くだけの仕事がとんだ高給 ▪ 目標：プロンプトについて詳しくなる 2
3. 紹介する内容 ▪ Learn Prompting • https://github.com/trigaten/Learn_Prompting にて公開されている入 門コース • 今日はこれのBasic部分を紹介 ▪ Large Language Models are Zero-Shot Reasoners, Kojima et al., NeurIPS 2022 • プロンプトを工夫することで、より良い解答を得る手法を提案 3
4. まずシンプルに英語で命令すれば良い ▪ 例えば Write an essay about the benefits of AI 4
5. プロンプトは短くても長くても良い 5 数値計算はLLMの弱い分野とされて、正 しく答えてもらうためにプロンプトの改良 （プロンプトエンジニアリング）を行うのが 定番でした。 ChatGPTはプロンプトの改良を意識しなく ても正確に答えてくれるようになった。 プロンプトが長くても大丈夫です。
6. もっと複雑な命令も与えられる 6
7. 例をより具体的に与えることで性能向上 7
8. ルールをより具体的に説明することで性能向上 8
9. プロンプトの形式は多種多様 ▪ 標準形式 • What is the capital of France? ▪ Q&A形式 • Q: What is the capital of France? A: 9
10. プロンプトの形式は多種多様 ▪ Few Shot形式 • What is the capital of Spain? Madrid What is the capital of Italy? Rome What is the capital of France? ▪ Few Shot Q&A形式 • Q: What is the capital of Spain? A: Madrid Q: What is the capital of Italy? A: Rome Q: What is the capital of France? A: 10
11. 背景説明、Q&Aなどを色々含めても大丈夫 11
12. 生成文のスタイル変換 ▪ 何もスタイルを指定しない場合 12
13. 生成文のスタイル変換 ▪ 生成スタイルを指定する場合 13
14. 生成文のスタイル変換 ▪ 生成スタイルと生成言語を指定する場合 14
15. 形容詞で細かく指定 ▪ "Funny", "Curt", "Unfriendly", "Academic Syntax"などの形 容詞で指定できる 15
16. より詳しく指定するために ▪ https://twitter.com/gijigae/status/1629834619184111618 16
17. チャットボットの特性を活用 ▪ 会話履歴にある文も後の生成文を影響する ▪ 何も前置きなくて、いきなり聞く場合 17
18. チャットボットの特性を活用 ▪ 会話冒頭で設定を入れた場合 18
19. Kojima et al., NeurIPS 2022 ▪ Chain of Thoughts (CoT) • LLMが弱いとされている論理的推論を改善する手法 ▪ 二段階の推論を行う 19
20. ChatGPTはこの点において改善された ▪ プロンプト：Roger has 5 tennis balls. He buys 2 more cans of tennis balls. Each can has 3 tennis balls. How many tennis balls does he have now? 20
21. まとめ ▪ プロンプトの基本 ▪ Chain of Thoughts 21