実践！生成AIのビジネス活用 / How to utilize Generative AI in your own business

2025/1/23 Oracle AI Jam Session #21 で喋った内容
ビジネスの場への生成AI活用を実践するために、ユースケースの典型例や、アイディア出し～検討までのプロセスのポイント、自社ビジネスへの落とし込み時の実践的なTips、システム化にあたっての検討、考慮事項などを交え、ひととおりのガイドをコンパクトにまとめて紹介

Transcript

1. 実践！生成AIのビジネス活用 Oracle AI Jam Session #21 中村 岳 日本オラクル株式会社 ソリューションアーキテクト部 2025年1月23日
2. Copyright © 2025, Oracle and/or its affiliates 2 中村 岳 X（Twitter）、はてなブログ：@gakumura • 現職：ソリューションエンジニア@日本オラクル • 担当：Oracle Blockchain Platform、 Blockchain Table、AI関連サービス • 前職：金融決済系SIerでパッケージ開発 • SWIFT、CLS、日銀ネット関連の銀行間決済システム • ひとこと：ジークアクス観ました！！
3. Copyright © 2025, Oracle and/or its affiliates 3 Oracle Cloud Infrastructure（OCI）の利用は広がってきています！ が、「OCIは情報が少ない」というお声をしばしばいただきます… 弊社でも情報発信は力を入れていますが、 社外の方にもブログや記事を書いていただけると大変ありがたいです！ QiitaやZenn、はてなブログ、自社サイト、Xでのポストなどなんでも歓迎です！！ サービス触ってみた／やってみた系、Tips、ちょっとした気づき、などなどなんでもありがたいです！！ ぜひお力をお貸しください！！ We want YOU for OCI contributors!! 書いてくれたらみんなで 「イイね！」するよ
4. 1. Introduction 2. ユースケースを知ろう 3. 適用領域を考えよう 4. 突き当たりがちな「壁」を知ろう 5. 実証と拡大、深化の道のりを描こう このセッションの内容 Copyright © 2025, Oracle and/or its affiliates 4
5. Copyright © 2025, Oracle and/or its affiliates 5 Introduction
6. 「生成AIのビジネス活用」とは… Copyright © 2025, Oracle and/or its affiliates 6 既存業務 既存サービス 新規ビジネス AI Support • 効率化、コスト削減 • 人的リソースの配置転換 • ユーザー体験の向上 • 新たな価値の提供 • 市場の創出 • イノベーション AI Powered
7. Copyright © 2025, Oracle and/or its affiliates 7 • 「生成AIブーム」：2022年12月のChatGPT登場以来の2年余 • 企業での生成AI活用は、これまでの他の新規IT技術トレンドに比べて急速に進む 生成AIの活用は（意外と？）急速に進んでいる 出展：PwC Japan 生成AIに関する実態調査2024 春 米国との比較
8. Copyright © 2025, Oracle and/or its affiliates 8 • 仕事の場での個々人レベルでの生成AIの活用も急激に浸透 • ChatGPT、Claudeなどの生成AIチャットサービスの無料範囲でも気軽に利用できる • 情報セキュリティ、プライバシーには注意… このセッションで扱わないこと：個人レベルでの生成AIの利用 • ドキュメントやメールなどの文例作成 • ネット上の記事などの要約 • ブレインストーミング、アイディア出しの壁打ち相手 • テキストで指示しイメージ画像を生成
9. 生成AI周辺でのビジネス このセッションで扱わないこと：生成AI自体の開発やその周辺でのビジネス Copyright © 2025, Oracle and/or its affiliates 9 AIモデルの構築、 販売 周辺ツールの開発、 販売 コンサルティング システム インテグレーション インフラの提供
10. Copyright © 2025, Oracle and/or its affiliates 10 • 生成AIの基本を抑える • 先行するユースケースを知る • 自社のビジネスに適用できる可能性のある領域を考える • 実現可能性を検討する • PoCする • 適用領域を拡大、深化する このセッションでは特に生成AIのビジネス活用ならではのポイントを紹介 生成AIのビジネス活用、どう進めればいい？
11. Copyright © 2025, Oracle and/or its affiliates 11 ユースケースを知ろう
12. Copyright © 2025, Oracle and/or its affiliates 12 生成AI（Generative AI、GenAI）とは • テキストや画像など、さまざまなコンテンツ（情報）を生成（創造）できるAI技術を指す総称 • ※あくまで総称であり厳密な定義はない • 従来型AIとの違いは？ • 従来型AIが入力された情報の整理、解析、判断、また、そこからの予測に重きを置いていたことに対して、 生成AIは新しい情報を生成することに重点がある、とする説明がある • ※が、実際にはわりと境界は曖昧な気も… そもそも生成AIってなんだっけ？ 出典：野村総合研究所
13. Copyright © 2025, Oracle and/or its affiliates 13 • ChatGPT、Claudeなど、生成AIをもとにしたWebサービスが無料で誰でも使えるのでとりあえずいろいろやらせてみよう • 基本的なことから解説したOraJam過去回 「生成AI、LLMの いまさら聞けないキホンのキ！」のスライドも参照 百聞は一見に如かず；使ってみたほうが理解が早い ChatGPTで生成： “「百聞は一見に如かず」を表すポップなイラストを生成してください”
14. Copyright © 2025, Oracle and/or its affiliates 14 • 生成AIをビジネスに活用したユースケースも、すでに 様々な先行事例が出てきている • 既存の社内の業務プロセスに適用し、業務効率、 生産性の向上といった効果を狙ったもの • 既存の自社サービス、アプリなどに適用し、ユーザー 体験を向上するもの • 生成AIをコアとした新しいサービスを提供するもの ビジネスでは何に使えるの？ 出典：LeewayHertz
15. Copyright © 2025, Oracle and/or its affiliates 15 • LLMベースのチャットボットは従来のものよりも 自然かつ柔軟な会話が可能 より高度なチャットボットによる顧客対応 出典：PC Watch 肌の写真などをもとに適した美容商品のアドバイスをくれるチャットボット 出典：KDDI より親切に困りごとの解決まで導いてくれるチャットボット
16. Copyright © 2025, Oracle and/or its affiliates 16 • 社内向けのチャットボットや、 Slackに統合したプロンプトなどから FAQや各種社内ナレッジを検索したり、 ヘルプデスクにリクエストを上げられる仕組みを構築 社内知識の活用の加速、効率化 出典：クラスメソッド
17. Copyright © 2025, Oracle and/or its affiliates 17 • LLMは 「文書から特定の項目を抽出する」、 「抽出した項目を決まったフォーマットに整形する」 も得意 • 例： • 手書きのメモをAI-OCRでテキスト化 →LLMがテキストを処理し、 顧客の名前、対応記録などをデータ化 • 会議音声をAI音声認識で書き起こし →LLMで議事録を作成 • 決まったフォーマット（また、構造化データ）にすることで その後のデータ活用が容易に 定型フォーマットへの抽出や非構造化データの構造化 出典：AI inside AI-OCRとLLMを組み合わせた業務効率化・高度化 出典：エス・アンド・アイ 顧客応対音声の要約
18. Copyright © 2025, Oracle and/or its affiliates 18 • サービスやアプリに組み込み、 ユーザーのコンテンツ作成をアシスト ユーザーの作成するコンテンツのアシスタント／アドバイザ 出典：はてな 出典：メルカリ 出典：ビズリーチ レジュメ（職務経歴書）作成のAIアシスト機能
19. Copyright © 2025, Oracle and/or its affiliates 19 • テキスト、キャラクター画像などのアセット、 音楽、さらには動画などを生成させてゲームやブランドで利用 クリエイティブなコンテンツの生成 出典：Ascii 出典：日本経済新聞
20. Copyright © 2025, Oracle and/or its affiliates 20 • 様々なかたちでプログラミングをLLMに補助させ 開発生産性を向上 • コードそのもの、コメントやテストの生成 • LLMに仲介させることで 自然言語でデータベースから欲しいデータを取得でき、 SQLを扱えないひともデータを扱いやすくなる プログラム、データ活用 出典：@ksonoda on Qiita 出典：GitHub
21. Copyright © 2025, Oracle and/or its affiliates 21 • 生成AIの分野は無料の範囲でも試せることが多い • この事例の真似して同じようなことをやってみたらどうなるかな？どうやったらできるのかな？をとりあえず試してみよう • 例：模擬議事録を作成させてみる、自分が好きな商品の宣伝イラストや動画を生成してみる • 複数の同等ツール（例：ChatGPTとClaude）を併せて試すとより立体的な感触が得られる 試せるものは試そう ChatGPTにカスタマーサポートのロールプレイを依頼
22. Copyright © 2025, Oracle and/or its affiliates 22 適用領域を考えよう
23. Copyright © 2025, Oracle and/or its affiliates 23 • 先行事例をベースに、自社でどう活用するか？のアイディアを出していく • この段階で生成AI活用だからどうこうというのは特にないので、アイディア出しとして一般的な方法で； • ブレインストーミング、マインドマップ、KJ法、デザインシンキング、etc.. • 現場メンバーを巻き込む、ユーザーにヒアリングをする、etc.. 自社のビジネスのどのあたりに生成AIを活用できそうか？ アイディア出しには 生成AIも使えるよ！
24. Copyright © 2025, Oracle and/or its affiliates 24 • 解決、実現することに価値がある、リアルな課題や目標に生成AIを活用しよう • 「お試しだから」とあまりに小規模／些末なことに適用すると、コストと成果が見合わない • ROI（投資対効果）で評価できるのが理想 • 効果測定の例： • 生成AI導入で削減できる作業にどのくらい時間がかかっているか？ • どの程度お客様満足度を向上したか？ • 将来的な取り組みの展開、拡大なども加味して検討 チェック：解くべき価値のある課題か？
25. Copyright © 2025, Oracle and/or its affiliates 25 • 生成AIは（もちろん）万能のツールではない • 加えて、本格的に使う場合にはツールとして安価なわけでもない • 使いどころを間違えると、コストと成果が見合わない チェック：課題とソリューション（生成AI）はマッチしているか？ “ハンマーを持つ人にはすべてが釘に見える”
26. Copyright © 2025, Oracle and/or its affiliates 26 • 例：社内ナレッジの活用を促進したい！！→生成AI＋RAG…ではなく； • 置き場所の整理 + ルールの明文化、周知 で良いかも • 全文検索やベクトル検索 だけで良いかも • 「生成AIの導入」より以前のところに、少ないコストで大きな成果が挙げられる課題、優先的に取り組むべき課題があ るかも； • 紙の資料のデジタル化 • データの収集、整備 • 業務プロセスの整理、効率化 最適なソリューションは生成AIではないかもしれない
27. Copyright © 2025, Oracle and/or its affiliates 27 Q. 「生成AIを使ってみる」を目的にしてはいけないの？ A. ぜんぜんOK • 実際にやってみないとわからないことはたくさんある • 新しい技術の理解や習熟はそれ自体とても重要 • 一方、モチベーションがそれだけだと漠然とした理解で終わってしまいがちでもったいない • やってみた→なんとなくうまくいった／なんとなくうまくいかなかった→勉強になったね… で終わってしまう • 実際の課題の解決に使えるか？をベンチマークとすると、具体的な不足点なども見えてきてより深い理解が得られる • 今回は～～をやろうとしたが～～がうまくいかなかった • ～～をすることで精度が改善するかもしれない • 生成AIツールの～～が改善されれば今度はうまくいくかもしれない • 別の～～でなら使えるかもしれない
28. Copyright © 2025, Oracle and/or its affiliates 28 突き当たりがちな「壁」を知ろう
29. Copyright © 2025, Oracle and/or its affiliates 29 • AI活用はデータ活用 • ビジネスユースケースの多くは、データがないと何もできない • データを収集したり、整備したりするところで実現が頓挫しがち データ取得、整備の壁
30. Copyright © 2025, Oracle and/or its affiliates 30 • 提供／公開されているモデルには汎用的な能力が備わっている（基盤モデル） • 文章を理解し、幅広い分野の「常識」に基づいて自然な応答を行える • 一方、ビジネスの場で生成AIを用いる際、ほとんどの場合には、AIになんでもさせたいわけではなく、特定のタスクを担 わせたい • また、基盤モデルが学習しているデータには、当然その学習時点以降に発生した情報や、自社で持っている独自の情 報は含まれていない • 生成AIに担わせたい特定のタスクには、多くの場合そうした情報が必要 →ファインチューニングやRAGの必要性 提供されるモデル、サービス、ツールを単体でそのまま使用で済むのは一部
31. Copyright © 2025, Oracle and/or its affiliates 31 • モデルにデータを追加で学習させることによって、担当させたいタスクに必要な情報を獲得させたり、あるタスクに特化さ せた能力に仕立てていくことをファインチューニングと呼ぶ ファインチューニング 出典：@ksonoda on qiita
32. Copyright © 2025, Oracle and/or its affiliates 32 • LLMに、外部の情報源から検索したデータを取得させ、その情報をもとに回答の文章を生成させる技法 • 学習済のデータには含まれないが、タスクに必要となる情報を参照させることで補完する • 例：今日の天気や株価、経営情報やFAQなど自社の独自データ • モデルに情報を追加で獲得させるという意味では同じくファインチューニングがあるが： • 追加学習には時間もコストも大量にかかる • 「最新の情報を踏まえて回答する」「頻繁に更新がかかる情報と整合するように回答する」ような用途には適さない • RAGで参照する外部の情報源をナレッジベースと呼ぶ RAG（Retrieval-Augmented Generation、検索拡張生成） RAG アプリ ナレッジベース ユーザー ①質問 ②質問に関連する情報を検索し取得 ③質問 ＋関連情報 LLM ④関連情報を踏まえた回答
33. Copyright © 2025, Oracle and/or its affiliates 33 • ファインチューニングには学習用データが、RAGには検索して取得するためのデータが必要 • それらのデータを（継続して）収集、蓄積する必要がある • 個人情報、機微情報などが含まれる場合、扱いには注意が必要 • また、生成AIが利用しやすいかたちになっている必要もある • 前処理としてデータの変換、変形、結合などを行うことになる場合も データはどこにある？利用できるかたちになっている？ データの継続的な収集、蓄積 データインテグレーション
34. Copyright © 2025, Oracle and/or its affiliates 34 • 生成AIの利用にあたり、以下はモデルに渡す（入力する）ことになる • プロンプトに入力するテキストや画像などのデータ • ファインチューニングを行う場合、その学習に使用するデータ • RAGを行う場合、検索してきたデータ • 他のアプリやサービスなどを利用する場合と同様に、 「どのような情報を渡すか」、 「渡した先でどのように扱われるか」には要注意 • LLMをベースとしたサービスも、 ものによっては取得した情報の利用範囲や 方法が明確でなかったり、 セキュリティが担保されているか不安だったり 生成AIとセキュリティ＆プライバシー ユーザー 情報を 入力 情報を二次利用 不正に情報を窃取 攻撃者 提供元や 第三者 サービス
35. Copyright © 2025, Oracle and/or its affiliates 35 • 生成AIベースのWebサービスは非常に便利で、個人レベルでの利用でも生産性の拡大などに大いに寄与する • しかし／それ故に、野放図に利用を許していると機密情報の流出や、個人情報の漏洩などにつながる恐れがある • こうした事態を防ぐため、社として生成AI活用に取り組まない場合であっても、全社的なルールやガイドラインの整備と 啓蒙は必要 • ディープラーニング協会のガイドラインは参考になる https://www.jdla.org/document/#ai-guideline セキュリティ＆プライバシー保護のため、 個人レベルでの利用についてもルールやガイドラインは必要 社員 不用意に機微情報、 個人情報などを入力 Web上の サービス
36. Copyright © 2025, Oracle and/or its affiliates 36 • 生成AIは間違う • 回答精度（回答がユーザーにとって期待通りのもの、望ましいものになっている割合）は100％にはならない • 精度への高すぎる期待、要求があると実現できず失敗に終わる 回答精度の壁
37. Copyright © 2025, Oracle and/or its affiliates 37 • LLMからの回答には事実にもとづかない情報（嘘、でたらめ）が含まれることがある • まるでAIが幻覚（hallucination）を見ているかのように自然に嘘をつくため、ハルシネーションと呼ばれる • 事実を回答するときと同様に、もっともらしく回答してくるので非常に判別しづらい • LLMは確率的な振る舞いで文章を生成するため、「同じ質問に対してたまに嘘が返ってくる」ようなことも起きる • LLMの改良の中でもハルシネーション低減が目指されているが、LLMを用いる側でもプロンプトの工夫やファインチュー ニング、RAGなどで低減を試みることが必要となる ハルシネーション 日本一高い山は 富士山です！ 2番目は北岳です！ 3番目は霧峰岳です！ それっぽい名前の架空の山 …事実に嘘が混ざるハルシネーション 日本の山で 標高の上位3つは？
38. Copyright © 2025, Oracle and/or its affiliates 38 • 人間のチェックが入るか、後のプロセスでリカバリができる用途かは確認しよう • 生成AIは提案はするが採用するかは人間の判断 • AIチャットボットで解決しなければ人間のオペレーターが控えている • “謝って済まないところには使わない” 「間違えると取り返しのつかないことが起きる」ところに使わない ChatGPTで生成： “生成AIの回答精度が低いことを謝っている 担当者のポップなイラストを生成してください” この画像もSorryのスペルが変だし申し訳なさそう感がぜんぜんない
39. Copyright © 2025, Oracle and/or its affiliates 39 • 実現はしたのに期待された効果をあげられないケース→作ったはいいものの使われない • だいたい生成AIを使った機能のユーザー体験がイマイチなのが原因 ユーザー体験の壁
40. Copyright © 2025, Oracle and/or its affiliates 40 • 生成AIへのプロンプトを入力するのはまあまあ手間 • 「わざわざ聞く」と回答への期待のハードルも上がる →回答精度への不満も生じやすい • すでにある入力が自然にプロンプトになっているとよい • 例：Googleなどの検索サービス 既存の検索フィールドに入力すると、通常の検索と 同時に生成AIへのプロンプトも構成され、生成AIに よる検索結果要約も自動的に表示される 生成AIに「わざわざ聞く」のはけっこうめんどくさい
41. Copyright © 2025, Oracle and/or its affiliates 41 ふつうに記事を書く→AIタイトルアシストボタンに気づく→押す →記事内容をインプットとしてタイトル案を提案してくれる →提案内容をそのまま受け入れてもよいし、自身で修正してもよいし、無視してもよい 個人的に試してみて体験が良かった例：はてなブログ
42. Copyright © 2025, Oracle and/or its affiliates 42 • 一般的なユーザーは裏側でどのような技術が使われているかに特に関心はない • ITエンジニアや生成AIに関心がある層は例外的な存在 • 「生成AIを使っていること」をアピールすると、最初は物珍しさで使ってくれるかもしれない • が、ユーザー体験がよくないとそのうち使ってくれなくなる • 既存のプロセスの中に負荷のかからないかたちで組み込まれているか、回答へのハードルを無用に上げるつくりに なっていないかは考慮しよう 「生成AI使ってます！」は継続的にはユーザー体験を向上しない
43. Copyright © 2025, Oracle and/or its affiliates 43 実証と拡大、深化の道のりを描こう
44. Copyright © 2025, Oracle and/or its affiliates 44 • いきなり大規模に本番での活用を図る、製品やサービスのコアに導入するのではなく、PoC（Proof of Concept）か ら始めるのが主流の取り組み方 • 新規の技術領域であり、現場や上層部も理解、習熟しながら進めていく必要がある • また、AI分野は特に実際にやってみないとわからない、結果の予想がつかない要素が多い 小規模にPoC→その後展開 が王道
45. Copyright © 2025, Oracle and/or its affiliates 45 • PoC一般に共通して、できるだけ具体的な目標を定めていたほうがよい （量：回答精度n％、ユーザーでのA/Bテスト結果、 質：実際の現場メンバーによる利用可否判断） • 特に回答精度……；どこまでも高めたい、はゴールにならない • 高くなるほど改善するためのコストも高くなる（例：80％→90％に上げるコスト＜90％→91％に上げるコスト） • とはいえ「実際にやってみるまでわからない」部分が多く、量的な目標よりは質的な目標のほうが設定しやすいかも チェック：PoCでの目標をどう設定するか？
46. Copyright © 2025, Oracle and/or its affiliates 46 機能面以外で特に意識したいこと： 運用、管理性 • インフラ自体の運用、管理に手がかからないか • 新しい領域であり、スキルをもった技術者はなかなか調達しづらいなかで人手がかからないことは重要 コスト • 価格／構成的にスモールスタートできる製品／サービスか • PoCがうまくいかなかった場合のダメージを抑える • その後拡大でスケールしていったときに価格体系がサステイナブルか • お試し的用途では安く済むものの本格的に使おうとすると、、、というものも散見 その他 • 領域として技術の進化が速く、競争、淘汰も激しい状況なので乗り換え可能性も考慮 • クラウドサービスやプラットフォーム利用による省力化とそれによって生じるロックイン要素とはバランスを検討 利用する製品、サービス、ツールの選定
47. Copyright © 2025, Oracle and/or its affiliates 47 • ごく一般的なユースケースで汎用的なツールを導入するだけでOKというようなパターン（例：会議音声の文字起こし →議事録の生成）以外では、単発のPoCや本格導入で最初から目指した結果を達成できるケースはそれほど多くは なさそう • 回答精度が思ったように上がらない • 実装したはいいが使ってもらえない • 稀ではあるが問題のある回答をしてしまう • 多段階のPoC、あるいは導入後の継続的な改善が必要ということを織り込んで取り組んでおくと期待とのズレからの失 敗、中止、頓挫を防げる PoC、導入は多段階を想定しておくとベター
48. Copyright © 2025, Oracle and/or its affiliates 48 • 生成AI技術は適用可能な領域が広く、ほとんどの企業ではなんらかのかたちで活用可能性がある • 一方で、実現性、難易度はユースケースによって様々であり、チャレンジングなものになるケースもままある • 生成AI技術、およびその周辺のエコシステムが急速な発展をしばらくは続けていくことを前提に； • 実現性が高く、難易度が低いユースケースにまず手を付け、技術の理解、習熟を深めておく • 難易度が高いものは前提条件を整備しつつ段階的、長期的プロジェクトとして建て付けていく • 現時点での実現性が低いが、実現した場合の効果が高いものはマイルストーンを描いておき、技術の進歩をウォッ チし実現可能となったタイミングを逃さず始動させる というかたちで進めておくと取りこぼし、機会損失が少ない • 乗り遅れず、しかし焦らず適切に活用を進めよう！ まとめ 出典：野村総合研究所
49. Thank you 49 Copyright © 2025, Oracle and/or its affiliates