生成AIの活用方法 - 2024年現在、結局どのように使えばいいのだろうか？ / How to use Generative AI in 2024

by NTT Communications

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Slide 4

Slide 4 text

4 ● 岩瀬義昌 (@iwashi86) / Yoshimasa Iwase ● 所属 ○ イノベーションセンターテクノロジー部門 ■ Generative AI PJ Leader ○ 生成AIエバンジェリスト ● 兼業 ○ AI SaaS startup の Co-VPoE、 ○ 非常勤講師（モバイルプログラミング） ○ Podcaster (fukabori.fm) ○ 翻訳者

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

© NTT Communications Corporation All Rights Reserved. 10 よくあるストーリー  ● ChatGPTが流行った（2022年11月〜）  ● 経営層から鶴の一声が！（つかってみろ）  ● 調べてみると OpenAI の ChatGPT はセキュリティ観点からそのまま使えない  ● だからAzure OpenAI で社内向けChatGPTを作る  →社内に使い方を周知してリリース！ 

Slide 11

Slide 11 text

© NTT Communications Corporation All Rights Reserved. 11 よくあるストーリー  ● ChatGPTが流行った（2022年11月〜）  ● 経営層から鶴の一声が！（つかってみろ）  ● 調べてみると OpenAI の ChatGPT はセキュリティ観点からそのまま使えない  ● だからAzure OpenAI で社内向けChatGPTを作る  →社内に使い方を周知してリリース！    ● しばらくしてみると……全体として使われる割合は低め？  ○ よくみると使う人と使わない人で二極化している

Slide 12

Slide 12 text

© NTT Communications Corporation All Rights Reserved. 12 よくあるストーリー  ● ChatGPTが流行った（2022年11月〜）  ● 経営層から鶴の一声が！（つかってみろ）  ● 調べてみると OpenAI の ChatGPT はセキュリティ観点からそのまま使えない  ● だからAzure OpenAI で社内向けChatGPTを作る  →社内に使い方を周知してリリース！    ● しばらくしてみると……全体として使われる割合は低め？  ○ よくみると使う人と使わない人で二極化している ○ やがて……

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

© NTT Communications Corporation All Rights Reserved. 15 やがて……　こんな状況に  ● 「社内に生成AIを入れたけど、これ本当に効果あるの？？？」  と経営層から問われるようになる  ● 経営層に説明するべく、先行指標として利用率をKPIとして定め  成果や価値ではなく、その数値を高めるための施策が生まれる  ● それでも、なお導入・推進チームは孤軍奮闘している  （が、息切れ寸前。Worstな場合には退職へ） 

Slide 16

Slide 16 text

Slide 17

Slide 17 text

© NTT Communications Corporation All Rights Reserved. 17 『行政における生成 AIの適切な利活用に向けた技術検証の環境整備』 https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/19c125e9-35c5-48ba-a63f-f817bce95715/e03a8092/20240510_resources_ai_r5mainresults.pdf

Slide 18

Slide 18 text

© NTT Communications Corporation All Rights Reserved. 18 『行政における生成 AIの適切な利活用に向けた技術検証の環境整備』 https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/19c125e9-35c5-48ba-a63f-f817bce95715/e03a8092/20240510_resources_ai_r5mainresults.pdf

Slide 19

Slide 19 text

© NTT Communications Corporation All Rights Reserved. 19 『行政における生成 AIの適切な利活用に向けた技術検証の環境整備』 https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/19c125e9-35c5-48ba-a63f-f817bce95715/e03a8092/20240510_resources_ai_r5mainresults.pdf

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Slide 24

Slide 24 text

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Slide 31

Slide 31 text

Slide 32

Slide 32 text

© NTT Communications Corporation All Rights Reserved. 32 考えるべき観点  ● どれぐらいの間違え（ハルシネーション）を許容できるか？  ○ 人間の誤り率はどれぐらいか？ ■ e.g. 自動運転 vs 手動運転 ● 自動化（生成AI）によって業務プロセス全体として  ○ 価値が得られるか？ ○ コストが削減できるか？例：LLMが10%ミスったとしても、一人で確認・修復できるなら　　組織総体として業務生産性が上がるかもしれない → なので、業務プロセス自体をLLMに合わせることも考慮すべき  　 

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

Slide 36

Slide 36 text

© NTT Communications Corporation All Rights Reserved. 36 まず、何ができて何ができないのかを理解する  ● 生成AIは不向きな領域が一定存在  ○ 一方で、メディアではさも何でもできるかのように取り上げられることが多い → これを見て経営陣が高すぎる期待値を持つことも ● 現実はそんなに簡単ではなく  地に足のついた運用・改善プロセスが必要  → だから、まずは正しい知識を身につけてもらうのが有効。  　そのために、専門の担当者が一人でもいると良い  　（自社で採用・育成が難しければ、外部に頼っても良い） 

Slide 37

Slide 37 text

Slide 38

Slide 38 text

Slide 39

Slide 39 text

© NTT Communications Corporation All Rights Reserved. 39 特にすり合わせておくべき観点  ● 「誰の」「何の課題」を解決したいのか？  ○ なぜ生成AIが必要なのか？　他の解決法が適していないか？  ○ （再掲だが）無理やり使おうとしていないか？  ● どのぐらいの期間を想定しているのか？  ○ 課題によっては、息の長いプロジェクトになる ● 予算感はあっているか？  ○ セキュリティ要件などから、Dedicated クラウドやオンプレで環境を構築する場合、高額になることもある

Slide 40

Slide 40 text

Slide 41

Slide 41 text

Slide 42

Slide 42 text

Slide 43

Slide 43 text

© NTT Communications Corporation All Rights Reserved. 43 「背中を見せる」  ● リーダや上司が、自ら使っている姿を見せるということ  ● なぜか？  ○ 部下は上司らを見ている ○ 「上司がやっていないことは、やらなくて良い」と学ぶ ○ リーダーら率先して活用していくのが重要 ■ NTT Comの例：情シス系の組織長がフル活用 → 詰まるところ、組織文化を変えることに他ならない

Slide 44

Slide 44 text

Slide 45

Slide 45 text

Slide 46

Slide 46 text

Slide 47

Slide 47 text

© NTT Communications Corporation All Rights Reserved. 47 RAG※ のコンセプト (※ retrieval augmented generation)   👤「社内の旅費清算方法について調べたい」（プロンプト）  社内経費ルールが  集まっている  データベース  RAG用のアプリ  旅費  ルール  旅費ルール +   プロンプト  （結果）  旅費精算方法は、  Aシステムで・・・ 

Slide 48

Slide 48 text

Slide 49

Slide 49 text

Slide 50

Slide 50 text

Slide 51

Slide 51 text

Slide 52

Slide 52 text

Slide 53

Slide 53 text

© NTT Communications Corporation All Rights Reserved. 53 © NTT Communications Corporation All Rights Reserved. 53 © NTT Communications Corporation All Rights Reserved. Part3: tsuzumi および NTT Com の提供ソリューション 