実践！生成AIのビジネス活用 / How to utilize Generative AI in your own business

Slide 1

Slide 1 text

実践！生成AIのビジネス活用 Oracle AI Jam Session #21 中村岳日本オラクル株式会社ソリューションアーキテクト部 2025年1月23日

Slide 2

Slide 2 text

Copyright © 2025, Oracle and/or its affiliates 2 中村岳 X（Twitter）、はてなブログ：@gakumura • 現職：ソリューションエンジニア@日本オラクル • 担当：Oracle Blockchain Platform、 Blockchain Table、AI関連サービス • 前職：金融決済系SIerでパッケージ開発 • SWIFT、CLS、日銀ネット関連の銀行間決済システム • ひとこと：ジークアクス観ました！！

Slide 3

Slide 3 text

Copyright © 2025, Oracle and/or its affiliates 3 Oracle Cloud Infrastructure（OCI）の利用は広がってきています！が、「OCIは情報が少ない」というお声をしばしばいただきます… 弊社でも情報発信は力を入れていますが、社外の方にもブログや記事を書いていただけると大変ありがたいです！ QiitaやZenn、はてなブログ、自社サイト、Xでのポストなどなんでも歓迎です！！サービス触ってみた／やってみた系、Tips、ちょっとした気づき、などなどなんでもありがたいです！！ぜひお力をお貸しください！！ We want YOU for OCI contributors!! 書いてくれたらみんなで「イイね！」するよ

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Copyright © 2025, Oracle and/or its affiliates 8 • 仕事の場での個々人レベルでの生成AIの活用も急激に浸透 • ChatGPT、Claudeなどの生成AIチャットサービスの無料範囲でも気軽に利用できる • 情報セキュリティ、プライバシーには注意… このセッションで扱わないこと：個人レベルでの生成AIの利用 • ドキュメントやメールなどの文例作成 • ネット上の記事などの要約 • ブレインストーミング、アイディア出しの壁打ち相手 • テキストで指示しイメージ画像を生成

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Copyright © 2025, Oracle and/or its affiliates 12 生成AI（Generative AI、GenAI）とは • テキストや画像など、さまざまなコンテンツ（情報）を生成（創造）できるAI技術を指す総称 • ※あくまで総称であり厳密な定義はない • 従来型AIとの違いは？ • 従来型AIが入力された情報の整理、解析、判断、また、そこからの予測に重きを置いていたことに対して、生成AIは新しい情報を生成することに重点がある、とする説明がある • ※が、実際にはわりと境界は曖昧な気も… そもそも生成AIってなんだっけ？出典：野村総合研究所

Slide 13

Slide 13 text

Copyright © 2025, Oracle and/or its affiliates 13 • ChatGPT、Claudeなど、生成AIをもとにしたWebサービスが無料で誰でも使えるのでとりあえずいろいろやらせてみよう • 基本的なことから解説したOraJam過去回「生成AI、LLMのいまさら聞けないキホンのキ！」のスライドも参照百聞は一見に如かず；使ってみたほうが理解が早い ChatGPTで生成： “「百聞は一見に如かず」を表すポップなイラストを生成してください”

Slide 14

Slide 14 text

Copyright © 2025, Oracle and/or its affiliates 14 • 生成AIをビジネスに活用したユースケースも、すでに様々な先行事例が出てきている • 既存の社内の業務プロセスに適用し、業務効率、生産性の向上といった効果を狙ったもの • 既存の自社サービス、アプリなどに適用し、ユーザー体験を向上するもの • 生成AIをコアとした新しいサービスを提供するものビジネスでは何に使えるの？出典：LeewayHertz

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Slide 17

Slide 17 text

Copyright © 2025, Oracle and/or its affiliates 17 • LLMは「文書から特定の項目を抽出する」、「抽出した項目を決まったフォーマットに整形する」も得意 • 例： • 手書きのメモをAI-OCRでテキスト化 →LLMがテキストを処理し、顧客の名前、対応記録などをデータ化 • 会議音声をAI音声認識で書き起こし →LLMで議事録を作成 • 決まったフォーマット（また、構造化データ）にすることでその後のデータ活用が容易に定型フォーマットへの抽出や非構造化データの構造化出典：AI inside AI-OCRとLLMを組み合わせた業務効率化・高度化出典：エス・アンド・アイ顧客応対音声の要約

Slide 18

Slide 18 text

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Copyright © 2025, Oracle and/or its affiliates 20 • 様々なかたちでプログラミングをLLMに補助させ開発生産性を向上 • コードそのもの、コメントやテストの生成 • LLMに仲介させることで自然言語でデータベースから欲しいデータを取得でき、 SQLを扱えないひともデータを扱いやすくなるプログラム、データ活用出典：@ksonoda on Qiita 出典：GitHub

Slide 21

Slide 21 text

Copyright © 2025, Oracle and/or its affiliates 21 • 生成AIの分野は無料の範囲でも試せることが多い • この事例の真似して同じようなことをやってみたらどうなるかな？どうやったらできるのかな？をとりあえず試してみよう • 例：模擬議事録を作成させてみる、自分が好きな商品の宣伝イラストや動画を生成してみる • 複数の同等ツール（例：ChatGPTとClaude）を併せて試すとより立体的な感触が得られる試せるものは試そう ChatGPTにカスタマーサポートのロールプレイを依頼

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Copyright © 2025, Oracle and/or its affiliates 23 • 先行事例をベースに、自社でどう活用するか？のアイディアを出していく • この段階で生成AI活用だからどうこうというのは特にないので、アイディア出しとして一般的な方法で； • ブレインストーミング、マインドマップ、KJ法、デザインシンキング、etc.. • 現場メンバーを巻き込む、ユーザーにヒアリングをする、etc.. 自社のビジネスのどのあたりに生成AIを活用できそうか？アイディア出しには生成AIも使えるよ！

Slide 24

Slide 24 text

Copyright © 2025, Oracle and/or its affiliates 24 • 解決、実現することに価値がある、リアルな課題や目標に生成AIを活用しよう • 「お試しだから」とあまりに小規模／些末なことに適用すると、コストと成果が見合わない • ROI（投資対効果）で評価できるのが理想 • 効果測定の例： • 生成AI導入で削減できる作業にどのくらい時間がかかっているか？ • どの程度お客様満足度を向上したか？ • 将来的な取り組みの展開、拡大なども加味して検討チェック：解くべき価値のある課題か？

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Copyright © 2025, Oracle and/or its affiliates 26 • 例：社内ナレッジの活用を促進したい！！→生成AI＋RAG…ではなく； • 置き場所の整理 + ルールの明文化、周知で良いかも • 全文検索やベクトル検索だけで良いかも • 「生成AIの導入」より以前のところに、少ないコストで大きな成果が挙げられる課題、優先的に取り組むべき課題があるかも； • 紙の資料のデジタル化 • データの収集、整備 • 業務プロセスの整理、効率化最適なソリューションは生成AIではないかもしれない

Slide 27

Slide 27 text

Copyright © 2025, Oracle and/or its affiliates 27 Q. 「生成AIを使ってみる」を目的にしてはいけないの？ A. ぜんぜんOK • 実際にやってみないとわからないことはたくさんある • 新しい技術の理解や習熟はそれ自体とても重要 • 一方、モチベーションがそれだけだと漠然とした理解で終わってしまいがちでもったいない • やってみた→なんとなくうまくいった／なんとなくうまくいかなかった→勉強になったね… で終わってしまう • 実際の課題の解決に使えるか？をベンチマークとすると、具体的な不足点なども見えてきてより深い理解が得られる • 今回は～～をやろうとしたが～～がうまくいかなかった • ～～をすることで精度が改善するかもしれない • 生成AIツールの～～が改善されれば今度はうまくいくかもしれない • 別の～～でなら使えるかもしれない

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Copyright © 2025, Oracle and/or its affiliates 30 • 提供／公開されているモデルには汎用的な能力が備わっている（基盤モデル） • 文章を理解し、幅広い分野の「常識」に基づいて自然な応答を行える • 一方、ビジネスの場で生成AIを用いる際、ほとんどの場合には、AIになんでもさせたいわけではなく、特定のタスクを担わせたい • また、基盤モデルが学習しているデータには、当然その学習時点以降に発生した情報や、自社で持っている独自の情報は含まれていない • 生成AIに担わせたい特定のタスクには、多くの場合そうした情報が必要 →ファインチューニングやRAGの必要性提供されるモデル、サービス、ツールを単体でそのまま使用で済むのは一部

Slide 31

Slide 31 text

Slide 32

Slide 32 text

Copyright © 2025, Oracle and/or its affiliates 32 • LLMに、外部の情報源から検索したデータを取得させ、その情報をもとに回答の文章を生成させる技法 • 学習済のデータには含まれないが、タスクに必要となる情報を参照させることで補完する • 例：今日の天気や株価、経営情報やFAQなど自社の独自データ • モデルに情報を追加で獲得させるという意味では同じくファインチューニングがあるが： • 追加学習には時間もコストも大量にかかる • 「最新の情報を踏まえて回答する」「頻繁に更新がかかる情報と整合するように回答する」ような用途には適さない • RAGで参照する外部の情報源をナレッジベースと呼ぶ RAG（Retrieval-Augmented Generation、検索拡張生成） RAG アプリナレッジベースユーザー ①質問 ②質問に関連する情報を検索し取得 ③質問＋関連情報 LLM ④関連情報を踏まえた回答

Slide 33

Slide 33 text

Copyright © 2025, Oracle and/or its affiliates 33 • ファインチューニングには学習用データが、RAGには検索して取得するためのデータが必要 • それらのデータを（継続して）収集、蓄積する必要がある • 個人情報、機微情報などが含まれる場合、扱いには注意が必要 • また、生成AIが利用しやすいかたちになっている必要もある • 前処理としてデータの変換、変形、結合などを行うことになる場合もデータはどこにある？利用できるかたちになっている？データの継続的な収集、蓄積データインテグレーション

Slide 34

Slide 34 text

Copyright © 2025, Oracle and/or its affiliates 34 • 生成AIの利用にあたり、以下はモデルに渡す（入力する）ことになる • プロンプトに入力するテキストや画像などのデータ • ファインチューニングを行う場合、その学習に使用するデータ • RAGを行う場合、検索してきたデータ • 他のアプリやサービスなどを利用する場合と同様に、「どのような情報を渡すか」、「渡した先でどのように扱われるか」には要注意 • LLMをベースとしたサービスも、ものによっては取得した情報の利用範囲や方法が明確でなかったり、セキュリティが担保されているか不安だったり生成AIとセキュリティ＆プライバシーユーザー情報を入力情報を二次利用不正に情報を窃取攻撃者提供元や第三者サービス

Slide 35

Slide 35 text

Copyright © 2025, Oracle and/or its affiliates 35 • 生成AIベースのWebサービスは非常に便利で、個人レベルでの利用でも生産性の拡大などに大いに寄与する • しかし／それ故に、野放図に利用を許していると機密情報の流出や、個人情報の漏洩などにつながる恐れがある • こうした事態を防ぐため、社として生成AI活用に取り組まない場合であっても、全社的なルールやガイドラインの整備と啓蒙は必要 • ディープラーニング協会のガイドラインは参考になる https://www.jdla.org/document/#ai-guideline セキュリティ＆プライバシー保護のため、個人レベルでの利用についてもルールやガイドラインは必要社員不用意に機微情報、個人情報などを入力 Web上のサービス

Slide 36

Slide 36 text

Slide 37

Slide 37 text

Copyright © 2025, Oracle and/or its affiliates 37 • LLMからの回答には事実にもとづかない情報（嘘、でたらめ）が含まれることがある • まるでAIが幻覚（hallucination）を見ているかのように自然に嘘をつくため、ハルシネーションと呼ばれる • 事実を回答するときと同様に、もっともらしく回答してくるので非常に判別しづらい • LLMは確率的な振る舞いで文章を生成するため、「同じ質問に対してたまに嘘が返ってくる」ようなことも起きる • LLMの改良の中でもハルシネーション低減が目指されているが、LLMを用いる側でもプロンプトの工夫やファインチューニング、RAGなどで低減を試みることが必要となるハルシネーション日本一高い山は富士山です！ 2番目は北岳です！ 3番目は霧峰岳です！それっぽい名前の架空の山 …事実に嘘が混ざるハルシネーション日本の山で標高の上位3つは？

Slide 38

Slide 38 text

Copyright © 2025, Oracle and/or its affiliates 38 • 人間のチェックが入るか、後のプロセスでリカバリができる用途かは確認しよう • 生成AIは提案はするが採用するかは人間の判断 • AIチャットボットで解決しなければ人間のオペレーターが控えている • “謝って済まないところには使わない” 「間違えると取り返しのつかないことが起きる」ところに使わない ChatGPTで生成： “生成AIの回答精度が低いことを謝っている担当者のポップなイラストを生成してください” この画像もSorryのスペルが変だし申し訳なさそう感がぜんぜんない

Slide 39

Slide 39 text

Slide 40

Slide 40 text

Copyright © 2025, Oracle and/or its affiliates 40 • 生成AIへのプロンプトを入力するのはまあまあ手間 • 「わざわざ聞く」と回答への期待のハードルも上がる →回答精度への不満も生じやすい • すでにある入力が自然にプロンプトになっているとよい • 例：Googleなどの検索サービス既存の検索フィールドに入力すると、通常の検索と同時に生成AIへのプロンプトも構成され、生成AIによる検索結果要約も自動的に表示される生成AIに「わざわざ聞く」のはけっこうめんどくさい

Slide 41

Slide 41 text

Slide 42

Slide 42 text

Copyright © 2025, Oracle and/or its affiliates 42 • 一般的なユーザーは裏側でどのような技術が使われているかに特に関心はない • ITエンジニアや生成AIに関心がある層は例外的な存在 • 「生成AIを使っていること」をアピールすると、最初は物珍しさで使ってくれるかもしれない • が、ユーザー体験がよくないとそのうち使ってくれなくなる • 既存のプロセスの中に負荷のかからないかたちで組み込まれているか、回答へのハードルを無用に上げるつくりになっていないかは考慮しよう「生成AI使ってます！」は継続的にはユーザー体験を向上しない

Slide 43

Slide 43 text

Slide 44

Slide 44 text

Copyright © 2025, Oracle and/or its affiliates 44 • いきなり大規模に本番での活用を図る、製品やサービスのコアに導入するのではなく、PoC（Proof of Concept）から始めるのが主流の取り組み方 • 新規の技術領域であり、現場や上層部も理解、習熟しながら進めていく必要がある • また、AI分野は特に実際にやってみないとわからない、結果の予想がつかない要素が多い小規模にPoC→その後展開が王道

Slide 45

Slide 45 text

Copyright © 2025, Oracle and/or its affiliates 45 • PoC一般に共通して、できるだけ具体的な目標を定めていたほうがよい（量：回答精度n％、ユーザーでのA/Bテスト結果、質：実際の現場メンバーによる利用可否判断） • 特に回答精度……；どこまでも高めたい、はゴールにならない • 高くなるほど改善するためのコストも高くなる（例：80％→90％に上げるコスト＜90％→91％に上げるコスト） • とはいえ「実際にやってみるまでわからない」部分が多く、量的な目標よりは質的な目標のほうが設定しやすいかもチェック：PoCでの目標をどう設定するか？

Slide 46

Slide 46 text

Copyright © 2025, Oracle and/or its affiliates 46 機能面以外で特に意識したいこと：運用、管理性 • インフラ自体の運用、管理に手がかからないか • 新しい領域であり、スキルをもった技術者はなかなか調達しづらいなかで人手がかからないことは重要コスト • 価格／構成的にスモールスタートできる製品／サービスか • PoCがうまくいかなかった場合のダメージを抑える • その後拡大でスケールしていったときに価格体系がサステイナブルか • お試し的用途では安く済むものの本格的に使おうとすると、、、というものも散見その他 • 領域として技術の進化が速く、競争、淘汰も激しい状況なので乗り換え可能性も考慮 • クラウドサービスやプラットフォーム利用による省力化とそれによって生じるロックイン要素とはバランスを検討利用する製品、サービス、ツールの選定

Slide 47

Slide 47 text

Copyright © 2025, Oracle and/or its affiliates 47 • ごく一般的なユースケースで汎用的なツールを導入するだけでOKというようなパターン（例：会議音声の文字起こし →議事録の生成）以外では、単発のPoCや本格導入で最初から目指した結果を達成できるケースはそれほど多くはなさそう • 回答精度が思ったように上がらない • 実装したはいいが使ってもらえない • 稀ではあるが問題のある回答をしてしまう • 多段階のPoC、あるいは導入後の継続的な改善が必要ということを織り込んで取り組んでおくと期待とのズレからの失敗、中止、頓挫を防げる PoC、導入は多段階を想定しておくとベター

Slide 48

Slide 48 text

Copyright © 2025, Oracle and/or its affiliates 48 • 生成AI技術は適用可能な領域が広く、ほとんどの企業ではなんらかのかたちで活用可能性がある • 一方で、実現性、難易度はユースケースによって様々であり、チャレンジングなものになるケースもままある • 生成AI技術、およびその周辺のエコシステムが急速な発展をしばらくは続けていくことを前提に； • 実現性が高く、難易度が低いユースケースにまず手を付け、技術の理解、習熟を深めておく • 難易度が高いものは前提条件を整備しつつ段階的、長期的プロジェクトとして建て付けていく • 現時点での実現性が低いが、実現した場合の効果が高いものはマイルストーンを描いておき、技術の進歩をウォッチし実現可能となったタイミングを逃さず始動させるというかたちで進めておくと取りこぼし、機会損失が少ない • 乗り遅れず、しかし焦らず適切に活用を進めよう！まとめ出典：野村総合研究所