プロンプトのプロに！ / Become a Prompt Professional

Transcript

1. プロンプトのプロに！
   機械学習の社会実装勉強会第21回
   Henry
   2023/3/25
   

   View Slide

2. プロンプトに興味
   ■ 研究上
   ● 大規模言語モデル(Large Language Model, LLM)の研究が広がりつ
   つある
   ● テキスト生成・画像生成の基盤になる
   ● モデルにテキスト入力(プロンプト！)が要だが、入力テキストにどのよ
   うに反応している詳しい仕組みが不明
   ■ 応用上
   ● みんなChatGPTについて話している
   ● LLMベースのいろんな新興サービスが出ている
   ● プロンプトを書くだけの仕事がとんだ高給
   ■ 目標：プロンプトについて詳しくなる
   2
   

   View Slide

3. 紹介する内容
   ■ Learn Prompting
   ● https://github.com/trigaten/Learn_Prompting にて公開されている入
   門コース
   ● 今日はこれのBasic部分を紹介
   ■ Large Language Models are Zero-Shot Reasoners,
   Kojima et al., NeurIPS 2022
   ● プロンプトを工夫することで、より良い解答を得る手法を提案
   3
   

   View Slide

4. まずシンプルに英語で命令すれば良い
   ■ 例えば Write an essay about the benefits of AI
   4
   

   View Slide

5. プロンプトは短くても長くても良い
   5
   数値計算はLLMの弱い分野とされて、正
   しく答えてもらうためにプロンプトの改良
   （プロンプトエンジニアリング）を行うのが
   定番でした。
   ChatGPTはプロンプトの改良を意識しなく
   ても正確に答えてくれるようになった。
   プロンプトが長くても大丈夫です。
   

   View Slide

6. もっと複雑な命令も与えられる
   6
   

   View Slide

7. 例をより具体的に与えることで性能向上
   7
   

   View Slide

8. ルールをより具体的に説明することで性能向上
   8
   

   View Slide

9. プロンプトの形式は多種多様
   ■ 標準形式
   ● What is the capital of France?
   ■ Q&A形式
   ● Q: What is the capital of France?
   A:
   9
   

   View Slide

10. プロンプトの形式は多種多様
    ■ Few Shot形式
    ● What is the capital of Spain?
    Madrid
    What is the capital of Italy?
    Rome
    What is the capital of France?
    ■ Few Shot Q&A形式
    ● Q: What is the capital of Spain?
    A: Madrid
    Q: What is the capital of Italy?
    A: Rome
    Q: What is the capital of France?
    A:
    10
    

    View Slide

11. 背景説明、Q&Aなどを色々含めても大丈夫
    11
    

    View Slide

12. 生成文のスタイル変換
    ■ 何もスタイルを指定しない場合
    12
    

    View Slide

13. 生成文のスタイル変換
    ■ 生成スタイルを指定する場合
    13
    

    View Slide

14. 生成文のスタイル変換
    ■ 生成スタイルと生成言語を指定する場合
    14
    

    View Slide

15. 形容詞で細かく指定
    ■ "Funny", "Curt", "Unfriendly", "Academic Syntax"などの形
    容詞で指定できる
    15
    

    View Slide

16. より詳しく指定するために
    ■ https://twitter.com/gijigae/status/1629834619184111618
    16
    

    View Slide

17. チャットボットの特性を活用
    ■ 会話履歴にある文も後の生成文を影響する
    ■ 何も前置きなくて、いきなり聞く場合
    17
    

    View Slide

18. チャットボットの特性を活用
    ■ 会話冒頭で設定を入れた場合
    18
    

    View Slide

19. Kojima et al., NeurIPS 2022
    ■ Chain of Thoughts (CoT)
    ● LLMが弱いとされている論理的推論を改善する手法
    ■ 二段階の推論を行う
    19
    

    View Slide

20. ChatGPTはこの点において改善された
    ■ プロンプト：Roger has 5 tennis balls. He buys 2 more cans
    of tennis balls. Each can has 3 tennis balls. How many
    tennis balls does he have now?
    20
    

    View Slide

21. まとめ
    ■ プロンプトの基本
    ■ Chain of Thoughts
    21
    

    View Slide