Slide 1

Slide 1 text

プロンプトのプロに! 機械学習の社会実装勉強会第21回 Henry 2023/3/25

Slide 2

Slide 2 text

プロンプトに興味 ■ 研究上 ● 大規模言語モデル(Large Language Model, LLM)の研究が広がりつ つある ● テキスト生成・画像生成の基盤になる ● モデルにテキスト入力(プロンプト!)が要だが、入力テキストにどのよ うに反応している詳しい仕組みが不明 ■ 応用上 ● みんなChatGPTについて話している ● LLMベースのいろんな新興サービスが出ている ● プロンプトを書くだけの仕事がとんだ高給 ■ 目標:プロンプトについて詳しくなる 2

Slide 3

Slide 3 text

紹介する内容 ■ Learn Prompting ● https://github.com/trigaten/Learn_Prompting にて公開されている入 門コース ● 今日はこれのBasic部分を紹介 ■ Large Language Models are Zero-Shot Reasoners, Kojima et al., NeurIPS 2022 ● プロンプトを工夫することで、より良い解答を得る手法を提案 3

Slide 4

Slide 4 text

まずシンプルに英語で命令すれば良い ■ 例えば Write an essay about the benefits of AI 4

Slide 5

Slide 5 text

プロンプトは短くても長くても良い 5 数値計算はLLMの弱い分野とされて、正 しく答えてもらうためにプロンプトの改良 (プロンプトエンジニアリング)を行うのが 定番でした。 ChatGPTはプロンプトの改良を意識しなく ても正確に答えてくれるようになった。 プロンプトが長くても大丈夫です。

Slide 6

Slide 6 text

もっと複雑な命令も与えられる 6

Slide 7

Slide 7 text

例をより具体的に与えることで性能向上 7

Slide 8

Slide 8 text

ルールをより具体的に説明することで性能向上 8

Slide 9

Slide 9 text

プロンプトの形式は多種多様 ■ 標準形式 ● What is the capital of France? ■ Q&A形式 ● Q: What is the capital of France? A: 9

Slide 10

Slide 10 text

プロンプトの形式は多種多様 ■ Few Shot形式 ● What is the capital of Spain? Madrid What is the capital of Italy? Rome What is the capital of France? ■ Few Shot Q&A形式 ● Q: What is the capital of Spain? A: Madrid Q: What is the capital of Italy? A: Rome Q: What is the capital of France? A: 10

Slide 11

Slide 11 text

背景説明、Q&Aなどを色々含めても大丈夫 11

Slide 12

Slide 12 text

生成文のスタイル変換 ■ 何もスタイルを指定しない場合 12

Slide 13

Slide 13 text

生成文のスタイル変換 ■ 生成スタイルを指定する場合 13

Slide 14

Slide 14 text

生成文のスタイル変換 ■ 生成スタイルと生成言語を指定する場合 14

Slide 15

Slide 15 text

形容詞で細かく指定 ■ "Funny", "Curt", "Unfriendly", "Academic Syntax"などの形 容詞で指定できる 15

Slide 16

Slide 16 text

より詳しく指定するために ■ https://twitter.com/gijigae/status/1629834619184111618 16

Slide 17

Slide 17 text

チャットボットの特性を活用 ■ 会話履歴にある文も後の生成文を影響する ■ 何も前置きなくて、いきなり聞く場合 17

Slide 18

Slide 18 text

チャットボットの特性を活用 ■ 会話冒頭で設定を入れた場合 18

Slide 19

Slide 19 text

Kojima et al., NeurIPS 2022 ■ Chain of Thoughts (CoT) ● LLMが弱いとされている論理的推論を改善する手法 ■ 二段階の推論を行う 19

Slide 20

Slide 20 text

ChatGPTはこの点において改善された ■ プロンプト:Roger has 5 tennis balls. He buys 2 more cans of tennis balls. Each can has 3 tennis balls. How many tennis balls does he have now? 20

Slide 21

Slide 21 text

まとめ ■ プロンプトの基本 ■ Chain of Thoughts 21