$30 off During Our Annual Pro Sale. View Details »

プロンプトのプロに! / Become a Prompt Professional

プロンプトのプロに! / Become a Prompt Professional

Henry Cui

March 25, 2023
Tweet

More Decks by Henry Cui

Other Decks in Technology

Transcript

  1. プロンプトのプロに!
    機械学習の社会実装勉強会第21回
    Henry
    2023/3/25

    View Slide

  2. プロンプトに興味
    ■ 研究上
    ● 大規模言語モデル(Large Language Model, LLM)の研究が広がりつ
    つある
    ● テキスト生成・画像生成の基盤になる
    ● モデルにテキスト入力(プロンプト!)が要だが、入力テキストにどのよ
    うに反応している詳しい仕組みが不明
    ■ 応用上
    ● みんなChatGPTについて話している
    ● LLMベースのいろんな新興サービスが出ている
    ● プロンプトを書くだけの仕事がとんだ高給
    ■ 目標:プロンプトについて詳しくなる
    2

    View Slide

  3. 紹介する内容
    ■ Learn Prompting
    ● https://github.com/trigaten/Learn_Prompting にて公開されている入
    門コース
    ● 今日はこれのBasic部分を紹介
    ■ Large Language Models are Zero-Shot Reasoners,
    Kojima et al., NeurIPS 2022
    ● プロンプトを工夫することで、より良い解答を得る手法を提案
    3

    View Slide

  4. まずシンプルに英語で命令すれば良い
    ■ 例えば Write an essay about the benefits of AI
    4

    View Slide

  5. プロンプトは短くても長くても良い
    5
    数値計算はLLMの弱い分野とされて、正
    しく答えてもらうためにプロンプトの改良
    (プロンプトエンジニアリング)を行うのが
    定番でした。
    ChatGPTはプロンプトの改良を意識しなく
    ても正確に答えてくれるようになった。
    プロンプトが長くても大丈夫です。

    View Slide

  6. もっと複雑な命令も与えられる
    6

    View Slide

  7. 例をより具体的に与えることで性能向上
    7

    View Slide

  8. ルールをより具体的に説明することで性能向上
    8

    View Slide

  9. プロンプトの形式は多種多様
    ■ 標準形式
    ● What is the capital of France?
    ■ Q&A形式
    ● Q: What is the capital of France?
    A:
    9

    View Slide

  10. プロンプトの形式は多種多様
    ■ Few Shot形式
    ● What is the capital of Spain?
    Madrid
    What is the capital of Italy?
    Rome
    What is the capital of France?
    ■ Few Shot Q&A形式
    ● Q: What is the capital of Spain?
    A: Madrid
    Q: What is the capital of Italy?
    A: Rome
    Q: What is the capital of France?
    A:
    10

    View Slide

  11. 背景説明、Q&Aなどを色々含めても大丈夫
    11

    View Slide

  12. 生成文のスタイル変換
    ■ 何もスタイルを指定しない場合
    12

    View Slide

  13. 生成文のスタイル変換
    ■ 生成スタイルを指定する場合
    13

    View Slide

  14. 生成文のスタイル変換
    ■ 生成スタイルと生成言語を指定する場合
    14

    View Slide

  15. 形容詞で細かく指定
    ■ "Funny", "Curt", "Unfriendly", "Academic Syntax"などの形
    容詞で指定できる
    15

    View Slide

  16. より詳しく指定するために
    ■ https://twitter.com/gijigae/status/1629834619184111618
    16

    View Slide

  17. チャットボットの特性を活用
    ■ 会話履歴にある文も後の生成文を影響する
    ■ 何も前置きなくて、いきなり聞く場合
    17

    View Slide

  18. チャットボットの特性を活用
    ■ 会話冒頭で設定を入れた場合
    18

    View Slide

  19. Kojima et al., NeurIPS 2022
    ■ Chain of Thoughts (CoT)
    ● LLMが弱いとされている論理的推論を改善する手法
    ■ 二段階の推論を行う
    19

    View Slide

  20. ChatGPTはこの点において改善された
    ■ プロンプト:Roger has 5 tennis balls. He buys 2 more cans
    of tennis balls. Each can has 3 tennis balls. How many
    tennis balls does he have now?
    20

    View Slide

  21. まとめ
    ■ プロンプトの基本
    ■ Chain of Thoughts
    21

    View Slide