Upgrade to Pro — share decks privately, control downloads, hide ads and more …

生成系AI(ChatGPT等)講習会/chatgpt_workshop202306

 生成系AI(ChatGPT等)講習会/chatgpt_workshop202306

生成系AI(ChatGPT等)の仕組み
生成系AI(ChatGPT等)を使う上での注意点
教育場面での生成系AI(ChatGPT等)の使用例:教員側/学生側
質疑応答
生成系AI(ChatGPT等)の試用(実習形式)
関連情報へのリンク

Oka Natsuki

June 20, 2023
Tweet

More Decks by Oka Natsuki

Other Decks in Technology

Transcript

  1. 生成系AIに至る技術の流れ • 深層学習以降のAI研究の流れ • AI(人工知能)研究の最前線:社会はどのように変わるだろう? → こ のスライドのpp. 13-27を参照 •

    (第3版)「知能の構成的解明の研究動向と今後の展望」についての個人 的見解:Chain of thought promptingやpostdictionを中心として → その後の研究動向のうち、大規模言語モデルによる論理的な思考や事 実との整合性については、このスライドのpp. 2-14を参照
  2. 生成系AI(ChatGPT等)の仕組み Transformer decoder What is the law ?<eos>The term “

    law ” refers 次のトークン(単語)を確率的に予測
  3. 次のトークンを予測するだけだが、プロンプトを うまく書くと、追加学習なしでいろいろなタスク ができる (Language Models are Few-Shot Learners) • 入力プロンプト

    → タスクに応じた注意パターンを生成(モデ ルをタスクごとに適応) • トークン予測学習を通して、タスク固有の回路(処理)の動的 な作り方を学習したと言える → 人の役割は、自然言語でうまく指示して、大規模言語モデル が持つ知識(?)を引き出すこと(引き出せるような回路をタスク に応じて動的に作り出すこと)
  4. 生成系AI(ChatGPT等)の学習 Training language models to follow instructions with human feedback

    1. 事前学習:様々な種類の大量の文書(いろいろな言語やプロ グラムも含む)で、次のトークンの予測を「自己教師付き学 習」 2. 対話向けの微調整 (fine tuning):プロンプトに対する模範解 答を収集し、教師付き学習で微調整 3. 言語モデルの複数の回答を人手でランク付け → 報酬モデル (プロンプトに対する各回答の適切さ)を学習 4. 報酬モデルを使って、言語モデルを強化学習(報酬がもらえ る回答の生成確率を上げる)
  5. 教育場面での生成系AI(ChatGPT等)の 使用例 • 対話による主体的な学びを可能にするプロンプト(→学生が毎回こ んな感じのプロンプトを入れること無しに同様な応答を可能にする には、KhanmigoのようにChatGPT APIを使ってシステムを作る必要 あり) • プロンプト例:

    指示:学生が依頼または尋ねたことに対して、あなたは少しずつ段階的にヒン トを出したり、問いかけたりして、学生が自ら考えるように促して下さい。そ のような対話を繰り返す中で、学生が自分で考える力をつけ、問題解決や解答 に至るようにして下さい。 学生:[解いて欲しい問題やレポート課題をここに入力] 教授(ヒントや問いかけ):
  6. 対話による学び:GPT-3.5 vs. GPT-4 • 対話による主体的な学びを可能にするプロンプト:GPT-3.5 〇 • Khanmigo:ChatGPT API (GPT-4)

    〇 • ナッジの効果と倫理: GPT-3.5 △ • ナッジの効果と倫理: GPT-4 〇 • ナッジの効果と倫理:Bing chat △ • ナッジの効果と倫理:Bard △ • 作文AI家庭教師プロンプト(うめ): GPT-4 〇; GPT-3.5 △ → マンガ
  7. think-pair-share活動へのチャットボットの 導入 → think-pair-share & chat-pair-share 課題:コンビニでの、今はまだない、新しいビジネスを考案しよう 1. 検索や生成型AIは使わず、Think-pair-shareで考える。まず自分で課題について 考え(Think:

    5分程度)、次に隣の人と意見を交換し(Pair: 5分程度)、最後にそれ を全体で共有(Share: 5分程度)。Think & Pairでは、ブレインストーミングの技* (別記)を使おう。生成型AIには今のところできず、人にしかできないことの1 つは、ネットにない情報を拾い上げて活用すること。①現場(コンビニ内、コ ンビニ外の両方)を観察したりインタビューして課題を発見する;②自分の体 験や経験から課題を見つける。本日は、②を最大限生かして活動。 2. 検索や生成型AIを使って、Chat-pair-share。まず個人で検索やChatを利用(ブ レインストーミングの技*をここでも使おう)して考えを深め(Chat: 10分程度)、 次に隣の人と意見を交換し(Pair: 3分程度)、最後にそれを全体で共有(Share: 5 分程度)。
  8. ブレインストーミングの相手 プロンプト例: • 大学の食堂を安くて美味しくて魅力的な場所にする方法を10個 考えて。 • SCAMPER, Six hats, Random

    word association などの方法を 使ってみて。 • 女子高生になったつもりで、大学に入学したくなるような食堂 を考えてみて。法学部を志望している学生と、経営学部を志望 している学生と、データサイエンスコースを志望している学生、 この3人の女子高生がおしゃべりしている感じで、楽しくて夢 があるアイディアを出して。
  9. 教材・授業案作成支援 • ロジスティック回帰の授業案:GPT-4 〇 • 面白い回答 ← 具体的で専門的な指示(この例では、Computer science unpluggedを引合いにした依頼)

    • ロジスティック回帰の授業案:GPT-3.5 △ • 適切な回答もあるが、誤りを含む多肢選択問題の提示や、上記と同じ 指示に対しても本質を捉えていない表面的に指示に沿っただけの案 • 良質な支援を得る → GPT-4がお勧め(だと思う)
  10. 教育場面での生成系AI(ChatGPT等)の 使用例 参考資料: • 教員向け ChatGPT 講座 ~基礎から応用まで~ 吉田塁 2023年

    5月13日, pp. 59-94. • 本スライドの教育場面での利用部分を作成するにあたり参考にしまし た。教育場面で生成系AIの利用を考えている方は一度見ておくとよい と思います。