大学業務における生成AI利用の体系

2023年12月12日「大学業務ソリューションセミナー」(早稲田大学アカデミックソリューション)の登壇資料です。
ロングバージョンはこちらをご参照ください。
https://speakerdeck.com/gmoriki/da-xue-ye-wu-niokerusheng-cheng-airu-men

Transcript

1. 大学業務における生成AI利用の体系 2023年度 大学業務ソリューションセミナー 2023年12月12日 九州大学IR室 学術推進専門員 森木 銀河
2. ⚠注意⚠ 1 本資料では主にChatGPT等の テキスト生成AIサービスを「生成AI」と呼称します 生成AIの利用や活用、整備を中心的に取り上げます 画像・動画・音声等に関する生成AIサービス、 AIの基盤モデルは扱いません
3. 自己紹介 2 ◼ 大学組織におけるデータマネジメント ◼ 大学組織における生成AI利用 主な研究テーマ 九州大学 IR室 学術推進専門員 2021.11.1～ 東京都市大学 総務部管理課 専任事務職員 ～2021.10.31 略歴 https://note.com/pogohopper8 https://twitter.com/pogohopper8 https://researchmap.jp/gmoriki 森木 銀河 モリキ ギンガ
4. 発表者と生成AIの関係 3 3月：大学職員・大学IRと生成AIの関係・展望について考察した記事をそ公開 4月：生成AIポリシーを公表した大学を一覧化・公開(～継続中) 5月：生成AIポリシーの計量テキスト分析、IRにおける生成AI活用について研究発表 6月：大学の事務業務における生成AIの活用・導入について整理した記事を公開 ※ 5月から6月にかけてC4RAのPython勉強会講師を担当 7月：他大学で招待講演 8月：Azure上にGithub認証のChatGPT風アプリを試験的に構築 (今は消滅 お金欲しい) 9月：大学行政管理学会にて生成AIのワークショップ開催・研究発表 / 他大学で招待講演 RA協議会 テーマ別勉強会「生成AIとURA業務」発足(申請代表者) 10月：LangChainを使用した調査業務用AIエージェントを構想(～個人開発中) 11月：いまここ プロンプトに関する知見やFew shotサンプルを整備して公開したい 12月～：各所で講演やSDの講師を予定 お声がけいただきありがとうございます 生成AIが好きなユーザー・個人開発者の1人(普段は別の業務をやってます) 2022年8月、画像生成AI(Midjourney)を使って歌詞から画像を生成し、MV作成・公開 2023年3月、ChatGPT API公開・GPT-4リリース・プラグイン発表を受けて活動を決意 2023年 2023年11月時点
5. 4 大学業務における生成AI利用の体系 1.生成AIの理解 2.目的の特定 4.整備・運用 3.適切な利用 上手な利用 ドメイン知識
6. 5 大学業務における生成AI利用の体系 ✓ リスク管理や学内コミュニケーションの 促進のために、別途ガイドラインを策定 ⚫ 主な項目： • 基本方針 • 対象者と対象行為 • 制限事項 ✓ 生成AIサービスの利用目的は 「業務の改善」「能力の拡張」 ⚫ 実効的な利用のために： • 限界・課題を理解する • 適切に利用する • 上手に利用する ポイント ✓ ノウハウ・ナレッジの蓄積と機動的対応 ⚫ アクションプランの例： • SD/FD,勉強会の実施 • セキュアな生成AIサービスの構築 • 学内文書等のグラウンディング
7. 6 生成AI導入の思考的枠組み 森木銀河,「大学の事務業務における生成AI導入のための思考的枠組みに関する考察」,大学行政管理学会研究集会,2023 森木(2023)が先行研究に基づき整理 (生成AIサービスの特性は、大学の事務業務に対して、どのように適応し得るのか) 前半 後半
8. 7 • ざっくり理解するAIとChatGPT • なぜ使うのか • どのように使うか • どのように整備するか • 今後の展望
9. ざっくり理解するAIとChatGPT 8
10. 9 大学業務における生成AI以前のAI(一例) AI 機械学習 深層学習 人間と同様の知識を実現させよう という取り組みやその技術 特定のタスクやトレーニングにより 実行できるようになるAI 人が特徴を定義 マシンが特徴を自動定義 「生成AI時代の人材育成」「AI用語の包含関係」に基づき作成 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf AIチャットボット導入事例 多数 ⇒対面業務の効率化・自動化 https://aisaas.pkshatech.com/success/ 機械学習を用いた科研費データの分類 ⇒URA業務の効率化 https://researchmap.jp/multidatabases/multidatabase _contents/detail/228659/45d95f9b52119b50010671c 078baa700?frame_id=720254 従来から広義の”AI”は 一部の大学業務に貢献していた
11. 10 生成AIサービスの普及 AI 機械学習 深層学習 AI研究・開発 誰でも・気軽に AIの恩恵を享受できる 生成AIサービスの普及 社会・大学 生成AI
12. 11 ChatGPTとは何か 対話型のテキスト生成AIサービス  自然言語処理に特化した学習済みモデル (Generative Pretrained Transformer; GPT)を使用  「与えられたテキストの後に続く単語の予測」を繰り返し、テキストを生成する  日常会話、レポートの作成、思考の整理、テーブル化…多様なタスクを遂行可能 沖山,”ChatGPTと医療の現在地”,https://speakerdeck.com/shookiyama/chatgpttoyi-liao-noxian-zai-di
13. 12 映画と劇の違いを 3点に要約して 学習済み モデル 利用者 生成AIサービス 生成物 指示(プロンプト) 出力 ChatGPTとは何か ChatGPT等のテキスト生成AIサービス(text to text) 1. 制作過程と技術：映画 はフィルムやデジタルメ ディアに録画され、編集 や特殊効果を含む後処理 が行われます。… 2. 視覚的体験：… 3. 観客との関わり：… 事前に大量の学習データセット、パラ メータを使用して学習済みモデルを作成
14. 13 東北大学 全国の大学に先駆けてChatGPTを導入 システム運営業務での活用 職員が用いるパソコン（仮想クライアント）の管理や運用を行う業務において、 RPA のフローを ChatGPT と対話をしながら作成し、管理・運用業務を自動化 広報業務での活用 本学が発出したプレスリリースを基に、ChatGPT を活用してニュース原稿を作成し、 AI ナレーターが読み上げることで、新たな音声・動画メディアを作成 その他にも、本学のイベント周知のために、ChatGPT を活用して キャッチコピーを作成するなど、多様な用途で活用しています。 また、本プレスリリースの作成の一部にも ChatGPT を活用しております。 [2023年5月18日] 東北大学,全国の大学に先駆けて ChatGPT を導入～AI を駆使し DX の最先端を切り拓く～, https://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press0518_04web_chatgpt.pdf
15. なぜ使うのか 14
16. 15 職場におけるAI活用に関する意識調査(BCG) BCG,「デジタル/生成AI時代に求められる人材育成のあり方」,第9回デジタル時代の人材政策に関する検討会,2023, https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/009_03_00.pdf ✖ 周りが導入しているから導入すべき！ ◦ 利用・活用方法を知らない…？
17. 16 全国自治体の生成AI導入状況 Bocek,「全88箇所の全国自治体の生成AI導入状況をまとめた【生成AI自治体導入状況カオスマップ】を公開」,2023, https://bocek.co.jp/media/news/11113/ 大学と比較して導入・実証実験、 また生成AIに関する情報公開が盛ん
18. 17 自治体業務における生成AIの有効性 文書作成と編集の効率化💼 情報検索と要約🔍 会議の準備と資料作成📊 FAQへの対応とトレーニング📞 アイデアの提案とブレインストーミング💡 戸田市,「自治体業務における ChatGPT 等の生成 AI 活用ガイド（本編）」,2023, https://www.city.toda.saitama.jp/uploaded/attachment/62855.pdf 部署によって異なるかもしれませんが 大学業務もおおよそ同じではないでしょうか
19. 18 生成AI利用の目的について 生成AIによる大学業務の効率化に関する早期言及 2023年1月；大学におけるChatGPT利用の「出発点(starting point)」 ChatGPTはレポート、要約、その他の文書の生成に使用することができ、 administrative tasksの効率を向上させる。(Atlas,2023) 専門家からの43の寄稿に基づく対話型生成AIの利用に対する洞察 AIチャットボットは、教育者、管理者、大学経営者の作業負担を軽減し、学生を サポートすることで、…他に集中できるようになるかもしれない。 (Dwivedi et al,2023) 生成AI利用の目的は大学業務の効率化・自動化だけなのか？ NOY and Zhang(2023)等による知識労働者のタスクの効率化に関する実証研究も盛ん
20. 19 業務の効率化・自動化 生成AIによる 能力の拡張 なぜ生成AIを利用するのか
21. 20 業務の効率化・自動化 文書作成(今まで→これから) ✓ 文書作成作業の時間短縮・定型文の効率的生成
22. 21 能力の拡張 アイデア出し・思考の壁打ち 心理的安全性が保証された「多元的協力者としての生成AI」 ✓ アイデア出しや仮説の形成、学習のために活用 ✓ 職員の能力を発展・拡張する 能力の定義は木村(2023)より
23. 22 能力の拡張 アイデア出し・思考の壁打ち【具体例】 ✓ ChatGPTと議論し、 生成AI利用の概念体系を整理 ✓ 議論の概要をMermaid記法で出力 ✓ 議論の記録： https://chat.openai.com/share/67fdd93c- 8286-4e6b-9636-287425bfe725
24. 23 業務の効率化・自動化 生成AIによる 能力の拡張 既存業務の改善・見直し(特に文章作成) 職員の認知能力の向上・行動の促進 業務と能力の 相互作用 ➢ 結果として業務が生成AIに 代替される可能性がある ➢ 生成AIを過信しない (手段の目的化を避ける) 「それAIじゃなくて良くね」もあり得る なぜ生成AIを利用するのか
25. どのように使うか 24
26. 実効性を得るための方策 25 生成AIの 限界と課題を知ること 適切な使い方を知ること 上手な使い方を知ること
27. 生成AIの限界と課題 26
28. 限界と課題：3つの観点 27 テキスト 生成AI 利用者 指示 出力 生成物 テキスト 生成AI 利用者 指示 出力 生成物 テキスト 生成AI 利用者 指示 出力 生成物 出力仕様上の限界 入力時の課題 生成物の課題
29. 出力仕様上の限界 28 出力は 学習に使用されたデータに依存する 再現可能性が低い 指示(プロンプト)の質に依存する 可能性がある テキスト 生成AI 利用者 指示 出力 生成物
30. 29 出力仕様上の限界 使用するツールの仕様を把握する 学習に使用されたデータに依存する可能性がある 再現可能性が低い可能性がある ✓ 学習に使用されたデータが2021年9月時点でカットオフされた場合、 ChatGPTの出力も原則2021年9月までの情報に限定される OpenAI,” Models”, https://platform.openai.com/docs/models/overview ✓ 「ある単語や文章の次に来る単語や文章を推測し、「統計的にそれらしい応 答」を生成する」AIであり、原則として再現性は保証されない 文部科学省,”初等中等教育段階における生成AIの利用に関する暫定的なガイドライン”, https://www.mext.go.jp/content/20230710-mxt_shuukyo02-000030823_003.pdf 指示(プロンプト)の質に依存する可能性がある ✓ 「結果の品質は提供する情報の量とそのクオリティによって異なります。」 ”Prompt Engineering Guide”, https://www.promptingguide.ai/jp/introduction/basics
31. 30 参考：Hallucination(ハルシネーション)について powered by GPT-3.5 * 堂々と間違いを出力 * 本当は?と聞けばハル シネーションが解消され るわけではない GPT-3.5使用.プロンプト：https://chat.openai.com/share/6ee7ca1b-cd1a-4b2e-b5a8-00f019bc367d
32. 生成AIの適切な利用 31
33. 生成AIの適切な利用 32 生成AIの出力を提案として扱う 試行錯誤する 提案 テキスト 生成AI 利用者 指示 出力 生成物 火星人に 会う方法 テキスト 生成AI 利用者 指示 出力 生成物 自己 フィードバック
34. 33 生成AIの出力を提案として扱う 生成物を事実として飲み込まない テキスト 生成AI 利用者 指示 出力 生成物 事実(!?) 生成物の提案に基づいて考える・行動する 火星人に 会う方法 提案 テキスト 生成AI 利用者 指示 出力 生成物 火星人に 会う方法
35. 34 試行錯誤する 1度限りで成功する「指示」はかなり稀 テキスト 生成AI 利用者 指示 出力 生成物 テキスト 生成AI 利用者 指示 出力 生成物 自己 フィードバック 何度も繰り返し、自分の目的に合う指示・生成物を目指す
36. 35 試行錯誤する △ 情報の検索・事実の追究 テキスト 生成AI 利用者 指示 出力 生成物 ◦ 情報の変換・整理等の作業、思考の取っ掛かり 鎌倉幕府 いつから 1192年です (!?) テキスト 生成AI 利用者 指示 出力 生成物 私の仮説を 精査・展開 させたい 仮説の特徴 仮説の課題 …
37. • 自分の指示・意図の通り？ • 「生成物の課題」に該当？ • 利用者が責任を持てる？…etc. 生成AIの利用から生成物の使用までのチャート 36 テキスト 生成AI 利用者 指示 出力 生成物 サービスの利用 生成物の確認 生成物の使用 利用者 生成物 フィードバック 責任有 要修正 利用者 生成物 • 文章案・構成案 • 修正されたプログラム • 思考の整理…etc. 生成物 生成物 提案 要修正
38. 生成AIの上手な利用 37 IRを題材に学ぶプロンプトエンジニアリング(基本)
39. プロンプトエンジニアリングとは何か 38 テキスト 生成AI 利用者 指示 出力 生成物 AI（人工知能）から望ましい出力を得るために、 指示や命令を設計、最適化するスキル 野村総合研究所（2023）「プロンプトエンジニアリング」,https://www.nri.com/jp/knowledge/glossary/lst/ha/prompt_engineering 良い指示が 良い結果を生む 意図・目的 ケース テキスト 生成AI 指示 (プロンプト) 生成物 学習データ 事後学習 等 概略化
40. 39 プロンプトの種類 システムプロンプト：開発者や利用者が対話型AIを制御するための指示 ユーザープロンプト：利用者が対話型AIに要望を伝えるための指示 システムプロンプト システムプロンプト ユーザープロンプト あなたはInstitutional research(以下、 IR)の責任者です。 ※ Institutional research is research conducted…(省略) 以下の要件に従い、まずIR活動の企画 書の枠組みを設計してください。 その後、枠組みの概要を出力してくださ い。 ### 要件 ### * 教員の研究時間を阻害する要因を特定 したい。 * 分析した結果を研究力不足の改善に役 立てたい。 ### 出力 ### 企画書：1000文字程度 概要：200文字程度 プロンプト ※ bothinst(Clavié,2023)というプロンプトエンジニアリングの手法の一つであり、OpenAI APIにも採用されています
41. 40 プロンプトエンジニアリングのベストプラクティス(GPT) GPTに「考える」時間を与える 複雑なタスクを分割する 参考文献・ドメイン知識を提供する 明確な指示を書く @ot12,“【完全保存版】OpenAIが教えるChatGPTからより良い結果を得るためのプロンプトのコツ”, https://qiita.com/ot12/items/e3270c89a7368d96e4d5 OpenAI,” GPT best practices”, https://platform.openai.com/docs/guides/gpt-best-practices 深津,”行政のためのプロンプト・エンジニアリング入門”, https://note.com/akihisa_shiozaki/n/n4c126c27fd3d 本質的に重要なのは「プロンプトの暗記」ではなく「柔軟に・繰り返し・根気よくLLMと向き合う文化の醸成」です
42. 41 明確な指示を書く あなたはInstitutional research(以下、 IR)の責任者です。 ※ Institutional research is research conducted within an institution of higher education to provide information which supports institutional planning, policy formation and decision making. 以下の要件に従い、まずIR活動の企画 書の枠組みを設計してください。 その後、枠組みの概要を出力してくださ い。 ### 要件 ### * 教員の研究時間を阻害する要因を特定 したい。 * 分析した結果を研究力不足の改善に役 立てたい。 ### 出力 ### 企画書：1000文字程度 概要：200文字程度 企画書: Institutional Research (IR) 活動企画書 背景 高等教育機関では、教員の研究活動は教 育や学術研究の質を向上させる重要な要 素です。しかし、教員が研究に適切な時 間とリソースを割り当てることが難しい 要因が存在します。このIRプロジェクト は、教員の研究時間を阻害する要因を特 定し、分析した結果を研究力不足の改善 に活用することを目的とします。 目的 教員の研究時間を阻害する具体的な要因 を特定する。 特定された要因を基に、研究力不足を改 善するための施策を策定する。 方法 要因特定の調査: … IR担当者を想定
43. 42 明確な指示を書く あなたはInstitutional research(以下、 IR)の責任者です。 ※ Institutional research is research conducted within an institution of higher education to provide information which supports institutional planning, policy formation and decision making. 以下の要件に従い、まずIR活動の企画 書の枠組みを設計してください。 その後、枠組みの概要を出力してくださ い。 ### 要件 ### * 教員の研究時間を阻害する要因を特定 したい。 * 分析した結果を研究力不足の改善に役 立てたい。 ### 出力 ### 企画書：1000文字程度 概要：200文字程度 ペルソナを設定する 関連性のある答えを得るために 指示に詳細な内容を含める 区切り文字を活用する 必要な手順を明記する 出力の長さや形式を指定する タスカル IR担当者を想定
44. 43 プロンプトエンジニアリングのベストプラクティス(GPT) GPTに「考える」時間を与える 複雑なタスクを分割する 参考文献・ドメイン知識を提供する 明確な指示を書く @ot12,“【完全保存版】OpenAIが教えるChatGPTからより良い結果を得るためのプロンプトのコツ”, https://qiita.com/ot12/items/e3270c89a7368d96e4d5 OpenAI,” GPT best practices”, https://platform.openai.com/docs/guides/gpt-best-practices 深津,”行政のためのプロンプト・エンジニアリング入門”, https://note.com/akihisa_shiozaki/n/n4c126c27fd3d 本質的に重要なのは「プロンプトの暗記」ではなく「柔軟に・繰り返し・根気よくLLMと向き合う文化の醸成」です
45. 本当の「生成AIの上手な利用」とは？ 44 本質的に重要なことはプロンプトエンジニアリングではなく ✓ 柔軟に・繰り返し・根気よく生成AIと向き合う文化の醸成 ✓ 生成AIとの対話を通じて達成したい目的や意図の設計・明確化 ✓ あなたが持つ良質なドメイン知識の整備・準備
46. どのように整備するか 45
47. 生成AIの利用パターン 46
48. 47 生成AIサービスの利用と運用の違い 教職員 生成AI サービス 指示 出力 生成物 利用 運用 教職員 学生 生成AI サービス 指示 出力 生成物 教職員 ⇒組織的運用 ⇒個人的利用 ※ 「利用パターン」の管理
49. 48 生成AIサービスの代表的な利用パターン ChatGPT等の Webサービスを利用 LLM APIを組み込んだ 社内サービスを整備・利用 https://twitter.com/tka0120/status/1671512617276375049/photo/4 を参考に作成 ⇒セキュアかつ 利用ログの取得・分析が可能 ③ システム 入力 出力 LLM API呼出 API返値 生成AIサービス 利用者 システム 入力 出力 LLM API呼出 API返値 生成AIサービス LLMサービス 利用者 システム 入力 出力 LLM API呼出 API返値 利用者＋組織内環境 LLMサービス ② ① LLM APIを組み込んだ Webサービスを利用
50. 利用パターン③ ChatGPT等の Webサービスを利用 LLM APIを組み込んだ 社内サービスを整備・利用 https://twitter.com/tka0120/status/1671512617276375049/photo/4 を参考に作成 ⇒セキュアかつ 利用ログの取得・分析が可能 ③ システム 入力 出力 LLM API呼出 API返値 生成AIサービス 利用者 システム 入力 出力 LLM API呼出 API返値 生成AIサービス LLMサービス 利用者 システム 入力 出力 LLM API呼出 API返値 利用者＋組織内環境 LLMサービス ② ① LLM APIを組み込んだ Webサービスを利用 49
51. 50 利用パターン③ 東京大学 東京大学,「生成AIチャットサービスの実験的な提供について」 ,2023,https://utelecon.adm.u-tokyo.ac.jp/notice/2023/10-aichat テキスト生成AIサービス(組織内環境)
52. 51 利用パターン③ 武蔵野大学 「【武蔵野大学】国内大学で初！生成AI搭載のICTヘルプデスクチャットボットが誕生」 ,2023, https://prtimes.jp/main/html/rd/p/000000176.000067788.html 「生成AI搭載のICTヘルプデスクチャットボット」 生成AIの搭載を通して、より自然で高度な対話が可能となり、 学生や教職員は、迅速かつ正確情報を入手して問題解決ができます。 テキスト生成AIサービス(組織内環境)
53. 52 組織でChatGPTを使う際の活用レベル 金田將克,『ChatGPT産業革命』「システム構成の基礎を学ぶ」,日経BP,2023 一部変更のうえ作成 レベル0 OpenAIアプリ等を そのまま使う レベル1 セキュアかつガバナンス を効かせた構成で使う レベル2 他システムと 連携させて使う
54. 53 「整備」＝活用レベル×利用パターン 活用レベル0 活用レベル1 活用レベル2 利用パターン1 使用する 利用パターン2 使用する 利用パターン3 組織的環境を 構築する もっと活用する 生成AI活用のための組織体制の整備とは、 利用パターンを理解し、生成AIを組織として運用・活用すること 例： ヘルプデスク(武蔵野大学) 例： チャットサービス(東京大学)
55. 54 いきなり高い活用レベルを整備する必要はない 活用レベル0 活用レベル1 活用レベル2 利用パターン1 使用する 利用パターン2 使用する 利用パターン3 組織的環境を 構築する もっと活用する 生成AI活用のための組織体制の整備とは、 利用パターンを理解し、生成AIを組織として運用・活用すること 最初は活用レベル0の無料版を利用し、普及を図り、学内の理解を得る/小さな成果を出す 積極的な活用が見込めてから活用レベルを上げる(生成AI導入による効果を財務責任者へ説明) ➢ アクションプラン例
56. 生成AI学内ガイドライン策定の枠組み 55
57. 56 ポリシーからガイドラインへの発展 ポリシー コンパス • 組織の方針や基本原理を示す • 基準としての機能を果たす ガイドライン 地図 • より具体的な道筋を示す • 状況に応じた機動的対応を果たす
58. 57 ガイドラインの重要性 生成AI社内ガイドラインのメリット (福岡ら,2023) 1. 正しい利用の促進 2. 法的・倫理的リスクの回避 3. 基準の明確化による安心感 4. 企業内の一貫性の確保 5. 社内コミュニケーションの促進 組織的活用のために必要 従来のツールと異なる点を理解する
59. 58 身近なところから始めるガイドライン策定 1. 正しい利用の促進 2. 法的・倫理的リスクの回避 3. 基準の明確化による安心感 4. 企業内の一貫性の確保 5. 社内コミュニケーションの促進 ◼ 利用する・情報を収集する ◼ 自身の課題を明確にする ◼ 課内(係内)における理解の促進 生成AI社内ガイドラインのメリット (福岡ら,2023) アクションプラン例 • 勉強会の企画・実施 • 生成AIの利用事例の管理・蓄積 • 既存の学内ポリシーに適した 生成AIグッドプラクティスの模索
60. 59 ガイドラインの項目例 項目番号 項目名 概要 1 生成AIに対する基本方針 組織としてどのように利用することを考えているか 2 生成AIの利用目的 どのような目的で利用できるか(業務効率化、翻訳等) 3 ガイドラインの対象者 業務内容や職種による違いはあるか 4 ガイドラインの対象行為 どのような利用行為を対象とするか 5 誤情報への注意喚起 利用における留意点は何か 6 機密情報の取り扱い どのような場合に機密情報を利用できる/できないか 7 知的財産権への対応 利用における留意点は何か 8 個人情報・パーソナルデータの取り扱い どのような場合に個人情報を利用できる/できないか 9 不適切利用の禁止 どのような利用行為を禁止とするか 10 倫理的な利用 法律以外の観点から何を検討する必要があるのか 11 生成AIの利用制限 どのような場合に利用できないか 12 利用する生成AIやデータの利用規約の順守 どの利用規約を順守すべきか 13 透明性と説明責任 利用者が果たすべき責任は何か 14 学習データの正確性 どのような指針を掲げているか 15 対象会社の範囲 (グループ会社等がある場合)どの組織が対象か 16 利用の手続 利用のためにどのような手続きを取るべきか 17 問い合わせ先・相談窓口 問い合わせ先・相談窓口はどこか 福岡真之介・松下外,『生成AIの法的リスクと対策』,2023,日経BP
61. 生成AI利用の展望 60
62. 61 なぜ生成AIを利用するのか(展望) 生成AIは、新しいインターフェースです =人間とコンピュータをつなげる技術
63. Pythonの実行環境等を兼ねたAIエージェントの登場・普及 62 生成AI自身が推論し、行動する「AIエージェント」 gArtist,“Make Langchain Agent Actually Work With Local LLMs (Vicuna, WizardLM)”,2023, https://betterprogramming.pub/make-langchain-agent-actually-works-with-local-llms-vicuna-wizardlm-etc-da42b6b1a97 例：Code Interpreter、Open Interpreter
64. 63 今までの業務インターフェース 利用者がアプリやツールを 業務に合わせて選択・使用 調査業務を想定： 学内データの提供を受けて 情報を検索・データ可視化・ 文書作成を行う
65. 64 これからの業務インターフェース AIエージェントがアプリやツールを 業務に合わせて選択・使用 調査業務を想定： 学内データの提供を受けて 情報を検索・データ可視化・ 文書作成を行う
66. 65 「何を言うてんの」と思った方へ AIエージェントのデモを実演します https://chat.openai.com/g/g-c4b05QftV-qdai-rule-reference-agent-jia-v0-2-0 https://youtu.be/GnraqIv00u0
67. まとめ 66
68. 67 大学業務における生成AI利用の体系 1.生成AIの理解 2.目的の特定 4.整備・運用 3.適切な利用 上手な利用 ドメイン知識
69. 68 大学業務における生成AI利用の体系 ✓ リスク管理や学内コミュニケーションの 促進のために、別途ガイドラインを策定 ⚫ 主な項目： • 基本方針 • 対象者と対象行為 • 制限事項 ✓ 生成AIサービスの利用目的は 「業務の改善」「能力の拡張」 ⚫ 実効的な利用のために： • 限界・課題を理解する • 適切に利用する • 上手に利用する ポイント ✓ ノウハウ・ナレッジの蓄積と機動的対応 ⚫ アクションプランの例： • SD/FD,勉強会の実施 • セキュアな生成AIサービスの構築 • 学内文書等のグラウンディング
70. 使いましょう 69 😱AIがあるから〇〇はもう不要 😱AIとかよく分からないので知らない 😱AIに仕事を奪われちゃう 😉どうやって使おうかな…
71. 展望 70 AIはあなたと社会の写し鏡 ドメイン知識 Is All You Need 新しいインターフェースに備える
72. ご清聴ありがとうございました 71 Q. どうして業務に導入する必要があるの？ A. (ぜひ導入してほしいが)強制はしない 使ってみて業務に使えそうな部分から導入して Q.どうして使え使え言うの？ A. 今までとは質的に違うツールやサービス利用の性質を持つ AND 普及がほぼ確約されている＝ 日常(インターフェース)が変わるから Q. なんか怖いから無視するね？ A. ダメ 無視によるリスクヘッジ不足と機会損失の方が100倍怖い Q. AIが色々やってくれるなら大学職員いらない？ A. 必要 Q. どうして？ A. AIを使う人間がいなくなるから AND 現状そんなイイもんじゃないから(AIという表現に問題がある) Q. 「AIを使う人間」もAIに代替されるんじゃないの A. AIに期待しすぎ 人間 ≦ AI <<<<<<<<<「AIを使う人間」 (※2023年11月現在,能力の拡張等の一部用途)
73. 72 主要参考文献 Atlas,“ChatGPT for Higher Education and Professional Development: A Guide to Conversational AI”, COLLEGE OF BUSINESS FACULTY PUBLICATIONS,548,https://digitalcommons.uri.edu/cba_facpubs/548/,2023 Dwivedi et al,“Opinion Paper: “So what if ChatGPT wrote it?” Multidisciplinary perspectives on opportunities, challenges and implications of generative conversational AI for research, practice and policy”, International Journal of Information Management,Volume 71,2023 戸田市,「自治体業務における ChatGPT 等の生成 AI 活用ガイド（本編）」,2023, https://www.city.toda.saitama.jp/uploaded/attachment/62855.pdf 木村弘志,”大学職員人事異動制度の実証的研究 職務遂行高度化への効果検証”,東信堂,2023 @ot12,“【完全保存版】OpenAIが教えるChatGPTからより良い結果を得るためのプロンプトのコツ”,2023,https://qiita.com/ot12/items/e3270c89a7368d96e4d5 OpenAI,” GPT best practices”,2023,https://platform.openai.com/docs/guides/gpt-best-practices 深津,”行政のためのプロンプト・エンジニアリング入門”,2023,https://note.com/akihisa_shiozaki/n/n4c126c27fd3d Benjamin Clavié, Alexandru Ciceu, Frederick Naylor, Guillaume Soulié, Thomas Brightwell（2023）「Large Language Models in the Workplace: A Case Study on Prompt Engineering for Job Type Classification」CoRR,https://arxiv.org/abs/2303.07142 野村研究所（2023）「プロンプトエンジニアリング」,https://www.nri.com/jp/knowledge/glossary/lst/ha/prompt_engineering 森木銀河,「大学の事務業務における生成AI導入のための思考的枠組みに関する考察」,大学行政管理学会研究集会,2023 一般社団法人日本ディープラーニング協会「生成AIの利用ガイドライン」,2023,https://www.jdla.org/document/ 福岡真之介・松下外,『生成AIの法的リスクと対策』,2023,日経BP 金田將克,『ChatGPT産業革命』「システム構成の基礎を学ぶ」,日経BP,2023 gArtist,“Make Langchain Agent Actually Work With Local LLMs (Vicuna, WizardLM)”,2023, https://betterprogramming.pub/make-langchain-agent-actually-works-with-local-llms-vicuna-wizardlm-etc-da42b6b1a97
74. 付録 73
75. 74 生成AI時代のDX推進に必要な人材・スキル カテゴリ 内容 マインド・スタンスやリテラシー 生成AIをビジネススキルと組み合わせ、 生産性向上やビジネス変革に利用する姿勢 生成AIの利用における著作権侵害、情報漏えい、 倫理的問題への理解と注意 生成AIの影響を理解し、 変化に適応しながら学習を続ける姿勢 指示（プロンプト）の習熟、 言語化能力、対話力 生成AIとの対話やプロンプトの習熟、言語化能力 技術進展に対応し、 プロンプトの自動化や改良を考慮する能力 経験による能力の培養 AI利用の場面分析、問いの立て方、 生成物の評価、批判的思考能力 実践的なトレーニングを通じた 経験の蓄積とスキル向上 経済産業省,「生成AI時代のDX推進に必要な人材・スキルの考え方」,2023. https://www.meti.go.jp/press/2023/08/20230807001/20230807001-b-1.pdf
76. 75 「ChatGPT」の認知率・利用率 TesTeeLab.,「チャット型AIに関する調査【2023年版】」,2023. https://lab.testee.co/chat_ai2023/#wp_dl_thanks
77. 76 職場におけるAI活用に関する意識調査(BCG) BCG,「職場におけるAI活用に関する意識調査」,2023, https://web-assets.bcg.com/8f/21/2149edd1427094555369fc6aa419/bcgx-ai-at-work-slideshow-jpn.pdf
78. 77 職場におけるAI活用に関する意識調査(BCG) BCG,「デジタル/生成AI時代に求められる人材育成のあり方」,第9回デジタル時代の人材政策に関する検討会,2023, https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/009_03_00.pdf
79. 78 職場におけるAI活用に関する意識調査(BCG) BCG,「デジタル/生成AI時代に求められる人材育成のあり方」,第9回デジタル時代の人材政策に関する検討会,2023, https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/009_03_00.pdf
80. 79 生成AI関連サービスカオスマップ2023(Bocek) Bocek,国内初、国内外の生成AI関連サービス207社をまとめた「生成AI関連サービスカオスマップ 2023」を公開, https://bocek.co.jp/media/feature/10307/
81. 80 全国自治体生成AI導入カオスマップ(Bocek) 株式会社Bocek、全88箇所の全国自治体の生成AI導入状況をまとめた【生成AI自治体導入状況カオスマップ】を公開, https://prtimes.jp/main/html/rd/p/000000004.000114457.html
82. △ 定型的な作業を効率化できる(その場限りの有効性) △ ChatGPTという一つのサービス・ツールに限られたノウハウである × 指示や生成物を自分で改善・評価できない × 「注意を要するべき点」の程度を自分で認識できない 生成AIをどのように使うべきか 81 生成AIの利用方法や指示(プロンプト)の暗記は 短期的な有効性しか得られず、安全な利用が困難になる ChatGPT 利用者 指示 出力 生成物 ChatGPTにログインして 例のテンプレ指示を投げれば 生成物できてヨシ！！！ 生成AIの実効性を得るために、 教員-学生、教員-職員、組織-構成員の間で認識の共有が必要
83. 入力時の課題 82 テキスト 生成AI 利用者 指示 出力 生成物 AIモデルの学習や改善に使用される 個人情報保護法に抵触する 可能性がある 入力は
84. 83 入力時の課題 個人情報等の機密情報は入力しない AIモデルの学習や改善に使用される可能性がある 個人情報保護法に抵触する可能性がある ✓ WebサービスとしてのChatGPTに入力されたデータは サービスの開発・改善に使用される可能性がある ✓ APIを経由 / 一部機能を使用すれば開発・改善に利用されない ※ ただし不正行為の防止等の目的でデータを監視される可能性がある OpenAI,”Terms of use”,https://openai.com/policies/terms-of-use ✓ 入力する指示が個人情報か、利用目的の範囲内か、等の利用状況により 個人情報保護法に抵触する可能性がある 杉浦,”生成AIへのプロンプト入力時における個人情報保護法上の論点まとめ（前編）”, https://storialaw.jp/blog/10005
85. 生成物の課題 84 生成物は 著作権法等によって保護されている 事実と異なる 可能性がある テキスト 生成AI 利用者 指示 出力 生成物
86. 85 生成物の課題 生成物の正確性と誠実性には注意する 著作権法等によって保護されている可能性がある ✓ 生成物が著作権侵害に係る判断は、「人がAIを利用せず絵を描いた場合などの、 通常の場合と同様に判断」される ⇒類似性かつ依拠性を満たすかどうか ➢ 類似性：「他人の著作物の「表現上の本質的な特徴を直接感得できること」」 ➢ 依拠性：「既存の著作物に接して、それを自己の作品の中に用いること」 文化庁,”AIと著作権”,https://www.bunka.go.jp/seisaku/chosakuken/pdf/93903601_01.pdf 文部科学省,”初等中等教育段階における生成AIの利用に関する暫定的なガイドライン”, https://www.mext.go.jp/content/20230710-mxt_shuukyo02-000030823_003.pdf 事実と異なる可能性がある ✓ 「事実と全く異なる内容や、文脈と無関係な内容などが出力される」 いわゆる幻覚（ハルシネーション＝Hallucination）
87. 86 生成AIサービスの利用パターン(他にもあるよ) 独自開発orOSSのLLMを 使用した対話型AIを 整備・利用 https://twitter.com/tka0120/status/1671512617276375049/photo/4 を参考に作成 システム 入力 出力 LLM API呼出 API返値 利用者＋組織内環境 LLMサービス ④