大学業務における生成AI活用の現在地 -基本編-

Slide 1

Slide 1 text

大学業務における生成AI活用の現在地 -基本編- 2024年6月20日九州大学大学教職員職能開発FD 「⽣成AIを大学の教育・学習・業務にどのように組み込むか？」九州大学IR室学術推進専門員森木銀河

Slide 2

Slide 2 text

はじめに 1 ChatGPT,Copilot等のテキスト生成AIサービスを「生成AI」と呼称します技術的知見の詳細は扱いません • 基盤モデル・大規模言語モデルに使用されているアーキテクチャ • 基盤モデル・大規模言語モデルの学習・推論過程(トークナイズ含) • 画像・動画・音声等に関するAIサービス • プロンプトエンジニアリング

Slide 3

Slide 3 text

2 森木銀河モリキギンガ生成AI関連 2019年4月東京都市大学総務部管理課専任事務職員 2021年11月九州大学 IR室学術推進専門員 2022年7月-8月画像生成AI Midjourney/Stable Diffusionを使い始める歌詞を元に画像を生成・画像を元にMV作成 2023年1月-3月 ChatGPTを使い始める架空の大学職員を生成して実験したり業務への影響を考えたり 2024年4月(兼任) 愛媛大学教育・学生支援機構教育企画室プロジェクトフェロー 2023年4月大学が公表した生成AIポリシーをデータベース化・公開(継続) 大学教職員向け講演・研修・ワークショップに多数登壇その他…個人開発、プロンプトガイド構築(P4Us)、調査、執筆 @gmoriki @pogohopper8 • 佐賀県佐賀市出身 • 修士[教育学] • クジラとゾウが好き「大学職員風味のなにか」です

Slide 4

Slide 4 text

主な個人プロダクト 3 大学職員のためのプロンプトガイドを構築自律エージェント用プロンプトを開発 https://promptforus.com/ 大学の生成AIポリシー・データベースを公開

Slide 5

Slide 5 text

4 大学教職員(AI利用者)が身につけるべきリテラシーを理解する今日のねらい AI利用者 AI提供者 AI開発者 AI システムを開発する事業者（AIを研究開発する事業者を含む） AI システムをアプリケーション、製品、既存のシステム、ビジネスプロセス等に組み込んだサービスとしてAI利用者（AI Business User）、場合によっては業務外利用者に提供する事業者事業活動において、AIシステム又はAIサービスを利用する事業者例：OpenAI社(GPT-4開発) 例：Microsoft社(Copilot提供) 例：大学職員(Copilot利用) AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 次回：2024年８月20日に「実践編」を予定しています

Slide 6

Slide 6 text

5 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する大学業務における生成AI活用の現在地-基本編-

Slide 7

Slide 7 text

6 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する大学業務における生成AI活用の現在地-基本編-

Slide 8

Slide 8 text

7 AIとは何か AI 人間と同様の知識を実現させようという取り組みやその技術 ※確立された定義は存在しない = 定義はさまざま「生成AI時代の人材育成」「AI用語の包含関係」 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf

Slide 9

Slide 9 text

8 これまでのAI AI 機械学習深層学習人間と同様の知識を実現させようという取り組みやその技術特定のタスクやトレーニングにより実行できるようになるAI 人が特徴を定義「生成AI時代の人材育成」「AI用語の包含関係」に基づき作成 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf ※確立された定義は存在しないマシンが特徴を自動定義例：スパムメール判定器（識別）売り上げ予測（回帰）

Slide 10

Slide 10 text

9 これまでのAI AI 機械学習深層学習人間と同様の知識を実現させようという取り組みやその技術特定のタスクやトレーニングにより実行できるようになるAI 人が特徴を定義マシンが特徴を自動定義 ◼ インターネットの普及により AIが学習可能なデータが増えたこと ◼ ハードウェアの進展によりコンピュータの処理性能が向上したこと「生成AI時代の人材育成」「AI用語の包含関係」に基づき作成 https://www.meti.go.jp/shingikai/mono_info_service/digital_jinzai/pdf/008_05_00.pdf 本当にわかりやすいAI入門,https://speakerdeck.com/segavvy/ben-dang-niwakariyasuiairu-men?slide=55 ルール自体を考えることまでコンピュータが実行人間が考えたルールをコンピュータが実行 ※確立された定義は存在しない機械学習発展の背景

Slide 11

Slide 11 text

10 AIの活用事例国立大学協会,2021, 「「ＡＩチャットボット」、「RPA」などによる業務プロセスの変革と働き方改革」『国立大学』, 62号. AIは大学業務に活用されてきた

Slide 12

Slide 12 text

11 AIの活用事例自治体におけるAI活用・導入ガイドブック＜導入手順編＞(2022),「主要なAI導入分野における機能別分類」 https://www.soumu.go.jp/main_content/000820109.pdf 予測実行画像や動画の特徴認識手書きや活字の認識数値予測需要と供給の調整行動パターンの提案非定形業務の自動化識別 AIは自治体業務に活用されてきた AIの機能別分類

Slide 13

Slide 13 text

生成AI 12 AIの発展と「⽣成AI」の普及 AI 機械学習深層学習誰でも・気軽に AIの恩恵を享受できる生成AIサービスの普及 AI技術の進展 2022年11月 OpenAI社がChatGPTをリリース社会

Slide 14

Slide 14 text

13 ⽣成AIとは何か文章、画像、プログラム等を生成できるAIモデルにもとづくAIの総称 (AIモデル…入力データ又は情報にもとづいて推論（inference）又は予測を生成する数学的構造) 画像・音楽・動画を生成するAI、入力可能なAIもある AIモデル入力生成物入力された文章をもとに、文章を生成するAIの場合日本の首都は？東京都です AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html

Slide 15

Slide 15 text

14 補足：AIモデルの作り方入力生成物日本の首都は？東京都です AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AIモデル (チューニング前) 事前にAI開発者がインターネット上の文書等を大量に学習・調整させている学習用データセット＋ハイパーパラメータ AIモデル (チューニング済み) 学習調整 (アライメント) ※ GPT-3を訓練してInstruct GPTを作る過程を簡略化して説明しています文章、画像、プログラム等を生成できるAIモデルにもとづくAIの総称 (AIモデル…入力データ又は情報にもとづいて推論（inference）又は予測を生成する数学的構造) ChatGPT の内部で使用中

Slide 16

Slide 16 text

15 ChatGPTとは何か ▍対話型テキスト生成AIサービス LLM = Large Language Model GPT = Generative Pretrained Transformer ⚫ 自然言語処理タスクに特化したLLM(大規模言語モデル)、GPTファミリーを使用している ⚫ GPTは「入力されたテキストのコンテキストに基づいて、次に来る単語の確率分布を生成し、その確率に基づいて次の単語を予測する」AIモデル ⚫ 日常会話、レポートの作成、思考の整理、テーブル化…汎用的にタスクを遂行可能対話翻訳文書作成 …etc. 日本の首都は？東京都ですね通奏低音を英語に翻訳にして basso continuo メール文書いてお世話になって…

Slide 17

Slide 17 text

16 映画と劇の違いを 3点に要約して AIモデル (LLM) 利用者生成AIサービス生成物指示(プロンプト) ChatGPTとは何か ChatGPTに指示(プロンプト)を入力する 1. 制作過程と技術：映画はフィルムやデジタルメディアに録画され、編集や特殊効果を含む後処理が行われます。… 2. 視覚的体験：… 3. 観客との関わり：… 事前に大量の学習用データセット、ハイパーパラメータを使用して学習済みモデルを作成しています

Slide 18

Slide 18 text

17 ChatGPTを使う ① 指示(プロンプト)を入力する ② 回答(生成物)が返ってくる ③ 続けて指示を出すことも可 (新しいチャットを開始する) (AIモデルを選択する) (ファイルを添付する) GPT-3.5 GPT-4 GPT-4o <<< ≒ 選択可能なAIモデルの性能

Slide 19

Slide 19 text

18 GPT-4oを使う Webページの内容を表形式に書き出す写真に写っている大学の場所を尋ねる

Slide 20

Slide 20 text

19 GPT-4oを使うでもお高いんでしょ？💸 無料ユーザーでも使えますメッセージ数に制限有。およそ10回/5h?? ▍主なメリット • GPT-3.5よりも性能が高いGPT-4クラスのAIを利用できる • Web検索機能を利用できる • コードインタプリタ機能(Pythonのサンドボックス,実行環境)を利用できる • 写真や画像、各種ファイルを入力することができる • GPTs(ChatGPTのカスタマイズ版)を利用・共有できる

Slide 21

Slide 21 text

20 Copilotとは何か ▍Web検索等が可能な対話型テキスト生成AIサービス Copilot in Bingを想定して説明しています.Microsoftが言うCopilot概念はクラウドソリューションの総称だったりします. ⚫ OpenAI社のAIモデル(GPTファミリーや画像生成モデルのDALL・E)を使用している ⚫ Web検索を介したテキストの生成、画像生成や作曲が可能 ⚫ みんな大好きMiorosoft製。Office製品やブラウザ、OSにも組み込まれている Web検索画像生成 …etc.

Slide 22

Slide 22 text

21 Copilotとは何か Copilotに指示(プロンプト)を入力する生成AIサービス生成物 Web検索実際はバックエンドプログラム(オーケストレータ)が検索システムとLLMを仲介し、指示の検索クエリ化、回答生成等を担当明日の福岡市の天気は？利用者指示(プロンプト) 「福岡の天気明日」 AIモデル (LLM) 明日の福岡市の天気予報によると、天気は「ほとんど晴れ」で、最高気温は30度、最低気温は21度となる見込みです。どういった予定でも、… 回答の根拠となるWebサイト検索結果をもとに回答を生成 [明日の天気情報] 検索結果をインプット検索クエリを生成

Slide 23

Slide 23 text

22 Copilotを使う日本のニュース記事等を参照ハーバード大学HPを参照✅ ハーバード大学の生成AI利用方針について調査してくださいハーバード大学の…(中略) ### 条件 ### - searchクエリは英語で作成すること ▍ハーバード大学の公式情報を調査する

Slide 24

Slide 24 text

23 いろいろあるよ⽣成AI サービス名長所短所 ChatGPT 汎用性↑↑ とりあえずこれ選んどけ筆頭初見に厳しいセキュリティ↓ Copilot in Bing 検索性能↑ データ保護↑ 入力の柔軟性↓ Claude 日本語表現↑ in context learning↑ 回答の厳密さ↓ Gemini 長文(long context)入力↑ Googleアプリ連携↑ 回答の信頼度↓ ※ 私見です.評価指標を用いた厳密な性能比較ではありません

Slide 25

Slide 25 text

24 補足：いろいろありすぎるよ⽣成AI https://theresanaiforthat.com/ 12,829個のAIアプリケーションが公開中 (2024年6月19日現在,主要なGPTs含む) 14,921個：AIを活用可能なタスク 4,803個：AIを活用可能な仕事毎日1個、試用しても約35年かかる

Slide 26

Slide 26 text

25 ⽣成AIの意味も数も広範かつさまざま職員自身や組織の目的に合う生成AIを選ぼう生成AI ＝文章、画像、プログラム等を生成できる AIモデルにもとづくAIの総称

Slide 27

Slide 27 text

26 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する大学業務における生成AI活用の現在地-基本編-

Slide 28

Slide 28 text

使いましょう 27 😱 AIがあるから〇〇はもう不要！ 😱 AIに仕事を奪われちゃう！ 🙂 よくわからないから知らない 😉 どうやって使おうかな… 🤩 AIは革命！人間の仕事の自動化！ 🙂 どっちでもいいや

Slide 29

Slide 29 text

なぜ「使ってみる」必要があるのか 28 AI技術の進展環境・リスク分析 AIサービスの普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者使ってみることが環境・リスク分析の前提だから

Slide 30

Slide 30 text

29 AI技術の進展分野に特化したAIではなく汎用的な知能を持つAIが開発され続けている (汎用技術になりうるAI) https://wandb.ai/wandb-japan/llm-leaderboard/reports/Nejumi-LLM-Neo--Vmlldzo2MTkyMTU0 anthropic.claude-3-opus-20240229-v1:0 [商用] gpt-4-turbo-2024-04-09 [商用] gemini-pro [商用] meta-llama/Meta-Llama-3-70B-Instruct [オープン] MT-bench-jp Rader Chart ▍大規模言語モデルの開発・改善 • OpenAIが2023年3月に「GPT-4」をリリース米国司法試験に合格する実力を持つ(受験者の中で上位10%相当の成績) • ChatGPTがライティングタスクの生産性向上に貢献(e.g. NOY&Zhang,2023) ライティングの平均所要時間が40%減少・出力品質が18%向上 • 既にGPT-4に比肩するモデルが開発されている「Claude 3 Opus」「Llama3 70B」等 AI利用者 AI提供者 AI開発者

Slide 31

Slide 31 text

30 AIサービスの普及 • 指示をもとに対話するサービス • リンク先情報を要約・表示する (確率的に推論を出力する)モジュール Arcブラウザ ChatGPT 対話型生成AI 対話型じゃない生成AI • 誰でも使えるがゆえに目的の言語化や明文化が必要 • ブラウザが持つ機能の一部なのでユーザーが指示を書く必要はない AI利用者がAIと明示的に対話する場面、気づいたらAIを利用している場面が増える ※Arc Max(スライド作成時点でMacのみ対応) AI利用者 AI提供者 AI開発者

Slide 32

Slide 32 text

31 環境・リスク分析総務省,インターネットの誕生, https://www.soumu.go.jp/hakusho-kids/life/what/what_12.html ▍AIを取り巻き変化する社会の環境・リスクを分析する ◼ AI利用による便益とリスクを理解する ◼ AIの社会的な受容を理解する ◼ 大学組織のAIの習熟度を理解する ▍生成AIはただの便利ツールでも一過性の話題でもない • 電気やインターネットのような「汎用技術」である可能性が高い(!!) • CUI的なインターフェースであり、汎用的だが確率的に推論を出力するモジュール ✓ 今までは専門家が提供した特化型AIが多かったが、今後は容易に利用できる汎用型AIが増え、AI利用者も責任を負う可能性がある使ってみて、議論を重ねて、 AIに対応できる大学組織になる AI利用者 AI提供者 AI開発者環境・リスク分析のためには「使ってみる」しかない

Slide 33

Slide 33 text

まずは、使ってみる 32 世界が変わるヤバい AI革命 AI時代の生き方業務は自動化人間不要 AIは人間の仕事を奪う AIは人間の思考力を奪う AIは嘘つきで使えない AIは人間社会の鏡思考を拡張してくれる効率化できる部分もある極端な過小評価極端な過大評価中庸な等身大の評価 AI AI AI ここが生成AIの「現在地」

Slide 34

Slide 34 text

33 業務に活用する使ったことがある使ってみて、業務に活用する嘘つくけんあんまい使えんね生成AIが得意なことは何か予算の管理資金の調達入学手続きの管理学生データの管理カリキュラムの調整教授陣のサポート研究助成金の管理学術イベントの企画留学生支援キャリア支援卒業式の準備施設の管理安全対策の実施図書館の運営 ITサポート学内広報学生相談部活動の支援環境対策の推進外部評価の対応生成AIをどのように活用できそうか

Slide 35

Slide 35 text

⽣成AIが得意なことは何か 34 岩橋,生成AIの活用方法 - 2024年現在、結局どのように使えばいいのだろうか？ https://speakerdeck.com/nttcom/how-to-use-generative-ai-in-2024?slide=27 (本スライド中の◆は発表者の意見です) ▍生成AIならではの効用があるもの ◆ 必要とされる要件やデータ（具象）に対して整理・変換（抽象）を行うこと • アウトプットを人間に分かるように出力できる • ルールを定義することにより類似したものを大量に生成できる • 非構造データから特徴・傾向をあぶり出し整理する ▍生成AIにできることに過度な期待が含まれるもの • 顧客接点などにおける人の完全代替・直接顧客対応 • 生成AIの応答精度が100%を前提とした業務・使い方 • 過去の学習からは導き出せない内容の自動生成 ▍そもそも生成AIではないもの • 構造化データを用いた機会学習の出力（統計解析・定量予測・各種の産業最適化問題など） • 予め定めたルールに従った出力（ルールベースチャットボット、定型文作成など）

Slide 36

Slide 36 text

35 業務の効率化・自動化生成AIによる能力の拡張⽣成AIをどのように活用できそうか

Slide 37

Slide 37 text

36 業務の効率化・自動化あなたは、プロの編集者です。下記文章について、誤字・脱字及び語尾の言い回しに気を付け、より適切な表現に修正してください。 #文章これまで4月にプロジェクトチームを設置して、そのプラス面、マイナス面を見極めながら、この導入について検討してまいりました。全曲展開するにあたり、デジタルサービス局内で6月からですね。この ChatGPTの試行環境を提供致しまして、その状況についてのアンケート結果でございます。前提として、文章生成AIを利用できる業務というのはもちろん、職員の業務の全体の中の業務の中で限られるものと認識をしています。生成AIに入力するプロンプト例東京都,都職員のアイデアが詰まった文章生成AI活用事例集, https://www.digitalservice.metro.tokyo.lg.jp/documents/d/digitalservice/ai_prompt/ 既存の業務やタスクを補助・代替するツールとしての運用業務利用者生成AI 指示(プロンプト) 回答要請回答の活用

Slide 38

Slide 38 text

37 能力の拡張利用者の思考や能力を伸ばす(拡張)するツールとしての運用利用者生成AI 回答プログラミングを勉強したい Excelの関数を作ってほしいなぜ働かないといけないのか企画や仮説を改善したい回答の活用思考利用者の頭の中指示(プロンプト) 次の2ステップで、私の仮説を改善してください。 ### 仮説 ### 大学業務が問題を抱えるの全ての原因は〇〇である ### ステップ ### - 仮説の特長を批判的かつ建設的に分析する - 明るい未来をつくるための提言に言い換える生成AIに入力するプロンプト例 IPアドレスとは何ですか？その技術の目的と解決したい技術的課題を踏まえて回答してください無条件に褒めてくれ〜〜でも無理に頑張れと言って私を鼓舞させるのではなく、ありのままの私を認めてほしい。あなたの回答の一言一句が私の労働生産性に直結します。

Slide 39

Slide 39 text

なぜ「使ってみる」必要があるのか 38 AI技術の進展環境・リスク分析 AIサービスの普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者使ってみることが環境・リスク分析の前提だから

Slide 40

Slide 40 text

39 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する大学業務における生成AI活用の現在地-基本編-

Slide 41

Slide 41 text

40 尽きぬ懸念 Q. 先生や学生が生成AIで論文を書いたらどうするんだ Q. AIを使ったせいで機密情報が漏洩したらどうするんだ Q. AIを使って研究能力や思考力が低下したらどうするんだ Q. AIが生成した文章と人が書いた文章を確実に見分ける方法を教えて

Slide 42

Slide 42 text

41 尽きぬ懸念 Q. 先生や学生が生成AIで論文を書いたらどうするんだ A. そもそも剽窃はダメ運用ガイドラインや環境を整備する Q. AIを使ったせいで機密情報が漏洩したらどうするんだ A. そもそも機密情報の漏洩はダメ運用ガイドラインや環境を整備する Q. AIを使って研究能力や思考力が低下したらどうするんだ A. 低下させないようなAIリテラシーを身につける環境を整備する Q. AIが生成した文章と人が書いた文章を確実に見分ける方法を教えて A. そんなものはない既知の問題を増長させるリスクと AI特有のリスクがある

Slide 43

Slide 43 text

⽣成AIのリスクを理解する 42 生成AIの限界と課題適切な利用方法

Slide 44

Slide 44 text

3種類のリスク 43 総じて、LLM(大規模言語モデル)の限界と課題を説明します ※ 検索システムによってリスクを改善・抑制できる場合もあります入力生成AI 生成物生成AIの仕様入力の課題生成物の課題日本の首都は？東京都です

Slide 45

Slide 45 text

入力の課題 44 入力は AIモデルの学習や改善に使用される個人情報保護法に抵触する可能性がある入力生成AI 生成物

Slide 46

Slide 46 text

45 入力の課題個人情報等の機密情報は入力しない ▍AIモデルの学習や改善に使用される可能性がある • ChatGPTに入力されたデータはAIの開発・改善に使用される可能性がある • APIを経由 / 一部機能を使用すれば開発・改善に使用されない ※ ただし不正行為の防止等の目的でデータを監視される可能性がある OpenAI,”Terms of use”,https://openai.com/policies/terms-of-use ▍個人情報保護法に抵触する可能性がある • 個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。個人情報保護委員会,”生成AIサービスの利用に関する注意喚起等”,https://www.ppc.go.jp/news/careful_information/230602_AI_utilize_alert/

Slide 47

Slide 47 text

⽣成AIの仕様 46 生成AIは学習に使用されたデータに影響を受ける再現性が低い指示(プロンプト)に影響を受ける可能性がある入力生成AI 生成物

Slide 48

Slide 48 text

47 ⽣成AIの仕様 ▍再現性が低い可能性がある • 「ある単語や文章の次に来る単語や文章を推測し、「統計的にそれらしい応答」を生成する」AIであり、原則として再現性は保証されない文部科学省,”初等中等教育段階における生成AIの利用に関する暫定的なガイドライン”, https://www.mext.go.jp/content/20230710-mxt_shuukyo02-000030823_003.pdf ▍学習に使用されたデータ等に影響を受ける可能性がある • 回答は学習用データセットやアライメント(調整)の傾向に依存する例：「結婚式」に関する回答が「教会式の結婚式」に偏る傾向にある OpenAI,” Models”, https://platform.openai.com/docs/models/overview ▍プロンプトに影響を受ける可能性がある • 「結果の品質は提供する情報の量とそのクオリティ(=プロンプトの書き方) によって異なる」 ”Prompt Engineering Guide”, https://www.promptingguide.ai/jp/introduction/basics 使用する生成AIの仕様を把握する

Slide 49

Slide 49 text

著作権法等によって保護されている事実と異なる⽣成物の課題 48 生成物は可能性がある入力生成AI 生成物

Slide 50

Slide 50 text

49 ⽣成物の課題 ▍著作権法等によって保護されている可能性がある • 生成物が著作権侵害に係る判断は、「人がAIを利用せず絵を描いた場合などの、通常の場合と同様に判断」される ⇒類似性かつ依拠性を満たすかどうか • 類似性：「他人の著作物の「表現上の本質的な特徴を直接感得できること」」 • 依拠性：「既存の著作物に接して、それを自己の作品の中に用いること」文化庁,”AIと著作権”,https://www.bunka.go.jp/seisaku/chosakuken/pdf/93903601_01.pdf 文化庁,AI と著作権に関する考え方について,https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf ▍事実と異なる可能性がある • 「事実と全く異なる内容や、⽂脈と無関係な内容などが出⼒される」いわゆる幻覚（ハルシネーション＝Hallucination）が生じる。 • 現時点で明確な原因はわかっておらず、完全に無くす方法も無い文部科学省,”初等中等教育段階における生成AIの利用に関する暫定的なガイドライン”, https://www.mext.go.jp/content/20230710-mxt_shuukyo02-000030823_003.pdf 生成物の正確性と誠実性には注意する • 弁護士がChatGPTを使って架空の判例を引用した民事訴訟資料を作成・提出した • 大学教員がChatGPTに「学生がChatGPTを使って課題を解いたかどうか」を判断させた https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/ https://www.nbcnews.com/tech/chatgpt-texas-college-instructor-backlash-rcna84888 過去に生じたインシデント事例

Slide 51

Slide 51 text

50 補足：Hallucination(ハルシネーション) 教えて.AI, https://oshiete.ai/workspace 「日本で一番古い大学」を6つの異なる生成AIモデルに訊いてみたかろうじて一部正解 [GPT-4o] 一部正解 [Claude 3 Opus] ※ 出力の正確さだけが生成AIモデルの評価基準ではない

Slide 52

Slide 52 text

3種類のリスク 51 入力生成AI 生成物生成AIの仕様入力の課題生成物の課題人間中心安全性公平性プライバシー保護セキュリティ確保透明性アカウンタビリティ AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AI事業者ガイドライン「共通の指針」より

Slide 53

Slide 53 text

52 補足：AI事業者ガイドラインにおける「共通の指針」 AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 人間中心安全性公平性プライバシー保護セキュリティ確保透明性アカウンタビリティ教育・リテラシー公正競争確保イノベーション AI利用者にとって特に重要となる事項

Slide 54

Slide 54 text

⽣成AIのリスクを管理する 53 生成AIの限界と課題適切な利用方法

Slide 55

Slide 55 text

⽣成AIの適切な利用方法 54 生成物を検証する試行錯誤する次回：2024年８月20日に「実践編」を予定しています

Slide 56

Slide 56 text

55 ⽣成物を検証する AIから得られる生成物は「AIの提案」であるため利用者が検証する必要がある指示を出す不適切な利用回答を得る生成物を事実として扱う指示を出す適切な利用回答を得る生成物を検証する生成物を活用する生成物を活用する

Slide 57

Slide 57 text

56 試行錯誤する回答内容の不確実性、AI発展の不確実性を理解し、自分の目的・意図・期待に合わせて試行錯誤する指示を出す不適切な利用回答を得る生成物を事実として扱う指示を出す適切な利用回答を得る生成物を検証する生成物を活用する生成物を活用する指示の修正指示の改善

Slide 58

Slide 58 text

• 自分の指示・意図の通り？ • リスクは許容できる水準に抑えられるか？ • 利用者は生成物に責任を持てる？…etc. ⽣成AIの利用から⽣成物の活用までのチャート 57 生成物生成物の検証責任を持つ試行錯誤 • 文章案・構成案 • 修正されたプログラム • 思考の整理…etc. 企画案考えて生成AIの利用生成物の活用ケーススタディ生成AI フィードバック

Slide 59

Slide 59 text

58 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する大学業務における生成AI活用の現在地-基本編-

Slide 60

Slide 60 text

「使ってみる」の次は「組織的に活用する」 59 AI技術の進展環境・リスク分析 AIサービスの普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者 AIリテラシーの醸成技術検証

Slide 61

Slide 61 text

組織的に活用する 60 AI利用者のためのガイドラインを策定する生成AIサービスを活用できる人材を育成する生成AIサービスを運用する生成AIサービスを導入する AIを活用できる業務を特定する AIリテラシーの醸成技術検証ギャップを埋める

Slide 62

Slide 62 text

組織的に活用する 61 とりあえず他大学の事例を見てみよう長文スライドが続きます

Slide 63

Slide 63 text

62 ⽣成AIの導入事例 https://utelecon.adm.u-tokyo.ac.jp/notice/2024/0327-ai-service https://utelecon.adm.u-tokyo.ac.jp/notice/2023/10-aichat ▍生成AIポリシーの公表（2023年4月） • 生成AIツールの利用を一律に禁止せず、教育・研究等における活用可能性を積極的に探る方針 • 生成AIの利用にあたっては適切な利用を促している ▍全学構成員向けの生成AIサービスの提供（2023年10月～） • 情報システム本部では、全学の構成員が利用できる生成AIサービスの提供に取り組んでいる • 2024年4月より当面は、運用負担・費用負担が小さい Microsoft Copilotによる生成AIチャットの提供を中心に位置付ける。 ▍生成AIに関するノウハウの共有と高度なサービスの検討 • 学内で生成AIに関するノウハウが共有できる環境の整備を続ける。 • より高度な生成AIサービス（Copilot for Microsoft 365など）の導入や学内情報を簡単に引き出せるサービスの開発について検討を続ける。東京大学

Slide 64

Slide 64 text

63 ⽣成AIの導入事例 https://miibo.jp/chat/0acdbfa2-551a-4e80-84b1- d79da9dd25f718e02f9b53822a?name=%E6%9D%B1%E5%8C%97%E5%A4%A7%E5%AD%A6%E3%83%81%E3%83%A3%E3%83%83%E3%83%88% E3%83%9C%E3%83%83%E3%83%88 ▍生成AIポリシーの公表（2023年3月） • 学内のAI専門家や理事と意識合わせの上、学生・教職員向けに表明 ▍生成AIサービス「法人GAI」を導入（2023年5月発表） • 業務のためにギブリー社の「法人GAI」を導入 • 試験的に約200人の教職員にアカウントを発行 • 「どのような業務にどのように活用できるかを実証的に確認する」ために生成AIサービスを導入・試行しており、「通知文等の日本語・英語の校正」に最も活用されている • 将来的にはを「事務のスペシャリスト」として活用し、業務の効率化を目指す。 ▍大学HPへ生成AIチャットボットを導入（2024年4月） • 業務外利用者向けにChatBotを導入(miibo製) • 従来のチャットボット運用が抱える課題を生成AIが解消することを目指している東北大学

Slide 65

Slide 65 text

64 ⽣成AIの導入事例 ▍生成AIポリシーの決定（2023年6月～7月） • ChatGPTがもたらすプライバシー、アクセシビリティなどの問題を認識した • 一方で、研究大学としてAIツールを学生や研究者に提供する必要性も理解した • 生成AI諮問委員会が報告書を発表し、安全で公平にアクセス可能な独自のAIツールの開発を提言した。 ▍カスタムAIツールの開発（2023年7月～8月） • 大学のニーズに合わせたカスタムAIツールの開発に着手 • マイクロソフトと提携し、プライバシーを保護する方法を採用した • 8月21日までに、Q&Aツール（U-M GPT）、ノーコードプラットフォーム（U- M Maizey）、開発者向けツールキット（U-M GPT Toolkit）の3つのツールを完成させた ▍ツールの活用と今後の展望（2023年8月～） • リリース後も更新を続け、学生や教職員によって日常的にツールが活用されている • 他大学からの問い合わせも多数あり、ミシガン大学は知見を共有している • 今後は、パーソナルなAIの提供や、医療分野向けツールの改良を計画している • AIを責任を持って適切に使いこなすスキルを学生に身につけさせることを目指す https://er.educause.edu/articles/2024/2/how-and-why-the-university-of-michigan-built-its-own-closed-generative-ai-tools https://www.detroitnews.com/story/news/local/michigan/2023/08/21/university-of-michigan-to-provide-custom-ai-tools-to- school/70643140007/ ミシガン大学

Slide 66

Slide 66 text

「使ってみる」の次は 57 AI技術の進展環境・リスク分析 AIサービスの普及 AIを取り巻き変化する社会 [過渡期] AI利用者 (大学組織) AI提供者 AI開発者大学の事例を確認してわかること 65 (国内大学を散見する限り…)導入報告や実施報告はあれど、そのプロセスや成果はなかなか公表されない一部の大学では公表されています具体的なプロセスは？ 🤔 ✅ 技術検証の実施に絡めて教職員のAIリテラシーを育成している

Slide 67

Slide 67 text

66 ⽣成AIの導入事例 [技術検証のプロセスまるわかり編] 府省庁・地方自治体の職員を対象とした技術検証・伴走 (2023年12月-2024年3月) 2023年度デジタル庁・行政における生成AIの適切な利活用に向けた技術検証, https://www.digital.go.jp/news/19c125e9-35c5-48ba-a63f-f817bce95715 デジタル庁

Slide 68

Slide 68 text

67 ⽣成AIの導入事例 [技術検証のプロセスまるわかり編] 生成AIを実際の業務に使ってみて、生成AIの活用可能性を検証 2023年度デジタル庁・行政における生成AIの適切な利活用に向けた技術検証, https://www.digital.go.jp/news/19c125e9-35c5-48ba-a63f-f817bce95715 デジタル庁

Slide 69

Slide 69 text

68 ⽣成AIの導入事例 [技術検証の成果まるわかり編] 1. 時間の削減だけでなく品質向上も狙える 2. 業務を工程に分解し、生成AIを使うべきでない箇所を意識する 3. 「書く」だけでなく「読む」も得意 4. 活用用途をチャットインターフェースに限定しない 5. 「業務改善」だけでなく「システム改善」のためにもテキスト生成AIの検証環境は重要 6. 初心者向けにコピペで使える状態が重要 7. 作文に不慣れな人や、一般的な業務知識に乏しい人はテキスト生成AIの恩恵を受けやすい 8. 繰り返し発生し、工程が切り出しやすい業務はテキスト生成AIの恩恵を受けやすい 9. ソースコードの作成業務はテキスト生成AIの恩恵を受けやすい 10. 情報検索機能は個別具体のニーズに応じた特化開発の余地があるデジタル庁2023年度事業行政での生成AI利活用検証から見えた10の学び (1/3),https://digital-gov.note.jp/n/n606cde8cc73e 行政での生成AI利活用検証から見えた10の学びデジタル庁

Slide 70

Slide 70 text

組織的に活用する 69 AI利用者のためのガイドラインを策定する生成AIサービスを活用できる人材を育成する生成AIサービスを運用する生成AIサービスを導入する AIを活用できる業務を特定する AIリテラシーの醸成技術検証ギャップを埋める

Slide 71

Slide 71 text

70 AIを活用できる業務を特定する生成AIが得意なこと課題の重要度申請書受領台帳への登録過去の事例調査決裁・完了報告申請書受領台帳への登録過去の事例調査決裁・完了報告活用できるタスクを探す活用できる業務を探す ▍活用できる業務を探す • 優先して解決すべき課題や困難かつ、生成AIが価値を発揮できる領域を探す • 生成AIが得意なことはさまざま具体的な情報の抽象化回答スタイルの個別最適化非構造化データの特徴・傾向の整理 ▍活用できるタスクを探す • 業務をタスクに分解し、 AIを活用できる領域を探す • AIを前提とする業務フローを構築する (言うは易く行うは難し)

Slide 72

Slide 72 text

71 ⽣成AIサービスを運用する AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AIを取り巻き変化する社会における AI利用者のためのAIガバナンスを確立する ▍AIガバナンス ◼ AIのリスクを受容可能な水準で管理しつつ、AIの便益を最大化する設計並びに運用リスクを管理する便益を最大化する外部環境の変化透明性等の確保 AI利用者をリスクから守る必要があるが、AIの便益もリスクも発展しているため「一度決めたルールを守り抜く」運用は困難であり、現実的ではない羽深(2023),『ＡＩガバナンス入門──リスクマネジメントから社会設計まで』,ハヤカワ新書

Slide 73

Slide 73 text

72 ⽣成AIサービスを運用する AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html AIガバナンスのためにアジャイル・ガバナンスを実践する AI利用者 (大学組織) AI提供者 AI開発者 AIシステム・サービスの開発・提供・利用に関わる全ての主体が実施する ▍PDCAサイクルとの主な違い • Plan(システムデザイン)の前提となる「環境・リスク分析」や「ゴール設定」を継続的に見直すプロセス • ステークホルダーへのアカウンタビリティの確保を不可欠の要素としていること

Slide 74

Slide 74 text

組織的に活用する 73 AI利用者のためのガイドラインを策定する生成AIサービスを活用できる人材を育成する生成AIサービスを運用する生成AIサービスを導入する AIを活用できる業務を特定する AIリテラシーの醸成技術検証ギャップを埋める AIのリスクを受容可能な水準で管理し、 AIの便益を最大化するための取り組み

Slide 75

Slide 75 text

74 補足：AI導入に取り組むと、必ず「AI以外」の問題にぶつかる業務プロセスの壁組織・カルチャーの壁ビジネスモデルの壁 AI導入で企業が挫折するのはなぜ？―AI「以外」の壁にどう立ち向かうか, https://note.com/dory111111/n/na817a0544da3 • 既存業務の中でAIを導入できる部分を特定する • 業務そのものを組み替える • 「AIを使えない人」をケアする • AIを活用するインセンティブの設定 • そもそも大学はAI導入に適した組織モデルなのか？ • 経営層のコミットメントが求められる他業種における正解や前例は少ないため、大学としてAI導入を進める必要がある

Slide 76

Slide 76 text

まとめ 75

Slide 77

Slide 77 text

76 2. まずは、自分が使う 1. 生成AIを理解する 3. 気をつけるべきポイントをおさえる 4. 組織的に活用する大学業務における生成AI活用の現在地-基本編-

Slide 78

Slide 78 text

まとめ 77 ⽣成AIを使ったうえで長所と短所と可能性を議論しようリスクを適切に管理しよう組織的に活用する準備を始めよう⽣成AIは文章、画像、プログラム等を⽣成できる AIモデルにもとづくAIの総称である

Slide 79

Slide 79 text

今後の展望 78 AIの事前・事後学習に使用できるデータを整備する業務知識の蓄積がAI利用体験の質を左右する組織的な取り組みを公表し、議論する・批評される内部に閉じた取り組みはガラパゴス化するリスクがある餅は餅屋…AI開発者やAI提供者への相談は必須餅は餅屋… 経営層が音頭を取らないとAI導入は頓挫する法務コンプラ部門や情報部門に任せっぱなしにしない

Slide 80

Slide 80 text

さいごに 79 本研修の実施主体は九州大学、「基幹教育院次世代型大学教育開発センター」「未来人材育成機構」です ▍「生成AIを大学の教育・学習・業務にどのように組み込むか？」シリーズ • 第4弾：教育現場における生成AIの導入事例 -隣の教室の授業法-（7月10日） • 第5弾：大学業務における生成AI活用の現在地 -実践編-（8月20日） ▍ご意見・ご相談・ご連絡、大歓迎です（返信は遅いかも） • [email protected] • 学内からでも学外からでもどうぞ

Slide 81

Slide 81 text

ご清聴いただきありがとうございました 80 Q. 要するに何が言いたいの？ A. 私たち大学職員がAIに囲まれてAIを利用している社会が訪れているかもしれないので現在地を把握しておきましょう Q. あんま使ってないけどよくわからんから規制してもいいか A. まず使わないと規制も推進も始まらないので全員使ってみてください Q. 心構えはいいから使えるプロンプトを教えてくれ A. プロンプトガイドを運用しています：https://promptforus.com/ Q. 業務が忙しくてそんなに暇じゃない A. ぶっちゃけ現場の実態はそうだと感じます(私もそうです) 手垢がついた表現ですが、できるところからやりましょう Q. n年後はどうなっている？ A. この手の未来予測にあまり意味はないので今現在使えるAIを使ってみてください

Slide 82

Slide 82 text

付録

Slide 83

Slide 83 text

82 補足：⽣成AIのユースケースを特定する個人業務プロセスの改善新しい価値の創出定型業務の自動化非定型業務の高度化組織効率化高度化

Slide 84

Slide 84 text

勉強の最適化思考の壁打ち 83 補足：⽣成AIのユースケースを特定する個人業務プロセスの改善新しい価値の創出定型業務の自動化非定型業務の高度化組織効率化高度化議事録の作成文章の翻訳課題の体系化分掌の整理シーズの発掘戦略の策定

Slide 85

Slide 85 text

84 ポリシーからガイドラインへの発展ポリシーコンパス • 組織の方針や基本原理を示す • 基準としての機能を果たすガイドライン地図 • より具体的な道筋を示す • 状況に応じた機動的対応を果たす

Slide 86

Slide 86 text

85 AI利用者のためのガイドラインを策定する生成AI社内ガイドラインのメリット (福岡ら,2023) 1. 正しい利用の促進 2. 法的・倫理的リスクの回避 3. 基準の明確化による安心感 4. 企業内の一貫性の確保 5. 社内コミュニケーションの促進組織的活用のために必要従来のツールと異なる点を理解する福岡真之介・松下外,『生成AIの法的リスクと対策』,2023,日経BP

Slide 87

Slide 87 text

86 補足：ガイドラインの項目例項目番号項目名概要 1 生成AIに対する基本方針組織としてどのように利用することを考えているか 2 生成AIの利用目的どのような目的で利用できるか(業務効率化、翻訳等) 3 ガイドラインの対象者業務内容や職種による違いはあるか 4 ガイドラインの対象行為どのような利用行為を対象とするか 5 誤情報への注意喚起利用における留意点は何か 6 機密情報の取り扱いどのような場合に機密情報を利用できる/できないか 7 知的財産権への対応利用における留意点は何か 8 個人情報・パーソナルデータの取り扱いどのような場合に個人情報を利用できる/できないか 9 不適切利用の禁止どのような利用行為を禁止とするか 10 倫理的な利用法律以外の観点から何を検討する必要があるのか 11 生成AIの利用制限どのような場合に利用できないか 12 利用する生成AIやデータの利用規約の順守どの利用規約を順守すべきか 13 透明性と説明責任利用者が果たすべき責任は何か 14 学習データの正確性どのような指針を掲げているか 15 対象会社の範囲 (グループ会社等がある場合)どの組織が対象か 16 利用の手続利用のためにどのような手続きを取るべきか 17 問い合わせ先・相談窓口問い合わせ先・相談窓口はどこか福岡真之介・松下外,『生成AIの法的リスクと対策』,2023,日経BP

Slide 88

Slide 88 text

87 ⽣成AIサービスを活用できる人材を育成する AI開発者・提供者ではなくAI利用者の人材育成 • 事務職員全員がAI技術を研究・開発・提供できる必要はない（むり） • AI利用者として、いま誰もが利用できるサービスを、有効に使えることが大切 • 現在、AI利用者同士で議論できる機会が少なすぎる⽣成AIの特性を理解したうえで利用し、教育・研究・業務の効率化・品質向上・最適化を目指す人材従来のデジタル人材に求められる要件と酷似している：本研修の取り組みそのものです

Slide 89

Slide 89 text

88 ⽣成AIサービスを導入する ChatGPT等の Webサービスを利用 LLM APIを組み込んだ社内サービスを整備・利用 https://twitter.com/tka0120/status/1671512617276375049/photo/4 を参考に作成 ⇒セキュアかつ利用ログの取得・分析が可能 ③ システム入力出力 API呼出 API返値生成AIサービスシステム入力出力 API呼出 API返値生成AIサービス (画面) システム入力出力 API呼出 API返値利用者＋組織内環境 ② ① LLMを組み込んだ Webサービスを利用 LLM LLM LLM 利用パターン

Slide 90

Slide 90 text

89 ⽣成AIサービスを導入する金田(2023)「システム構成の基礎を学ぶ」日経クロステックを参考に作成レベル0 OpenAIアプリ等をそのまま使うレベル1 セキュアかつガバナンスを効かせた構成で使うレベル2 他システムと連携させて使う活用レベル

Slide 91

Slide 91 text

90 ⽣成AIサービスを導入する活用レベル0 活用レベル1 活用レベル2 利用パターン1 使用する利用パターン2 使用する利用パターン3 組織的環境を構築するもっと活用する生成AI活用のための組織体制の整備とは、利用パターンを理解し、生成AIを組織として運用・活用すること例：ヘルプデスク(武蔵野大学) 例：チャットサービス(東京大学) 活用レベル利用パターン

Slide 92

Slide 92 text

91 補足：いきなり高い活用レベルを整備する必要はない活用レベル0 活用レベル1 活用レベル2 利用パターン1 使用する利用パターン2 使用する利用パターン3 組織的環境を構築するもっと活用する生成AI活用のための組織体制の整備とは、利用パターンを理解し、生成AIを組織として運用・活用すること最初は活用レベル0の無料版を利用し、普及を図り、学内の理解を得る/小さな成果を出す積極的な活用が見込めてから活用レベルを上げる(生成AI導入による効果を財務責任者へ説明) ➢ アクションプラン例

Slide 93

Slide 93 text

92 補足：AIガバナンスとアジャイルガバナンス AI の利活用によって生じるリスクをステークホルダーにとって受容可能な水準で管理しつつ、そこからもたらされる正のインパクト（便益）を最大化することを目的とする、ステークホルダーによる技術的、組織的、及び社会的システムの設計並びに運用。 AI事業者ガイドライン（第1.0版）(2024), https://www.meti.go.jp/press/2024/04/20240419004/20240419004.html 事前にルール又は手続が固定されたAIガバナンスではなく、企業・法規制・インフラ・市場・社会規範といった様々なガバナンスシステムにおいて、「環境・リスク分析」「ゴール設定」「システムデザイン」「運用」「評価」といったサイクルを、マルチステークホルダーで継続的かつ高速に回転させていく、「アジャイル・ガバナンス」の実践が重要となる。