LLM活用の現在とこれから：LayerXにおける事例とともに 2025/1 ver. / layerx-llm-202501

2025年01月24日 DBSJ学生企画会 (https://db-event.jpn.org/dbsj_students/records.html) における講演資料です。

Transcript

1. © LayerX Inc. LLM活⽤の現在とこれから LayerXにおける事例とともに 2025/1 ver. 2025/01/22 DBSJ学⽣企画会 株式会社LayerX Yuya Matsumura(@yu-ya4)
2. © LayerX Inc. 2 バクラク事業部 AI / 機械学習グループ マネージャー 経歴 • 2018/3 ◦ 京都⼤学⼤学院 情報学研究科 修⼠課程修了 • 現在 ◦ 株式会社LayerX AI / 機械学習グループマネージャー ◦ ウォンテッドリー株式会社 機械学習領域 技術顧問 ◦ NewsPicks プロピッカー(AI) ◦ ⼤学にて⾮常勤講師やスタートアップの技術⽀援等 画像を入れてね ⾃⼰紹介 松村 優也（Yuya Matsumura） @yu__ya4
3. 3 © LayerX Inc. 「すべての経済活動を、デジタル化する。」をミッションに、AI SaaSとAI DXの事業を展開 事業紹介 バクラク事業 企業活動のインフラとなる業務を 効率化するクラウドサービス Fintech事業 ソフトウェアを駆使したアセットマネジ メント‧証券事業を合弁会社にて展開 AI‧LLM事業 社内のナレッジやノウハウをデータ ベース化するAIプラットフォーム AI SaaSドメイン AI DXドメイン
4. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
5. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
6. 6 © LayerX Inc. はじめに みなさん、LLM（⽣成AI）活⽤してますか？
7. © LayerX Inc. 7 はじめに 海外と⽐べても⾮常に低い⽔準と⾔える ⽇本における⽣成AIの利⽤経験は 9.1% 程度 総務省 令和6年版情報通信⽩書 第5章 デジタルテクノロジーの浸透 図表Ⅰ-5-1-1 ⽣成AIの利⽤経験
8. 8 © LayerX Inc. はじめに 思っていたより低いですかね？ 観測バイアスってすごいですね、、、
9. © LayerX Inc. 9 はじめに 「既に利⽤している」⼈は少ないが、使ってみたいとは思っている 「ぜひ利⽤してみたい」「条件によっては利⽤を検討する」が6〜7割程度 総務省 令和6年版情報通信⽩書 第5章 デジタルテクノロジーの浸透 図表Ⅰ-5-1-3 ⽣成AIの利⽤意向
10. 10 © LayerX Inc. はじめに ではなぜ利⽤しないのか？🧐
11. © LayerX Inc. 11 はじめに 「魅⼒的なサービスがない」「利⽤環境が整っていない」などは⽐較的少ない 使わないのは「使い⽅がわからない」「⾃分の⽣活には必要ない」から 総務省 令和6年版情報通信⽩書 第5章 デジタルテクノロジーの浸透 図表Ⅰ-5-1-2 ⽣成AIを使わない理由
12. 12 © LayerX Inc. はじめに ⾃分の⽣活に即した使い⽅を知ればいいんだ！ 💡
13. © LayerX Inc. 13 はじめに LayerXや私⾃⾝の活⽤事例などを紹介することで、みなさまの⽣活（学⽣⽣活、研究活動、 プロダクト開発、etc.）でLLMを活⽤するヒントを持って帰っていただくこと 本⽇の趣旨
14. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
15. © LayerX Inc. 15 LLMとは より詳細に正確LLMの技術的背景等を知るには以下のスライドなどがおすすめです。 ⚠本講演ではLLMの技術的詳細などには触れません LLMの現在
16. © LayerX Inc. 16 LLMとは AI検索エンジン Perplexity (https://www.perplexity.ai/) を開いて⼿元で検索してみてください せっかくなのでLLMアプリケーションで調べてみましょう！
17. © LayerX Inc. 17 LLMとは
18. 18 © LayerX Inc. LLMとは これで確実に9.1%側の⼈間になれました🧠
19. © LayerX Inc. 19 prompt: LLM(⽣成AI)に与える⾃然⾔語で記述した指⽰や質問。具体的な⼯夫は「プロンプトエンジニアリング」で検索！ LLMとは 入力：こんにちは、を英語では？ Hello. 大規模言語モデル　 　 あくまでもっともらしいテキストを生成しているだ けであるが、大規模化したことで世界中のあらゆ る文書やプログラミングコードを学習し、予想を超 える幅のタスクがこなせるようになった。 • 対話 • プログラミング • 情報抽出 • 要約 • …etc 続きを予想する。 （この場合は英訳を生成する） ⼊⼒したテキスト(prompt)に対し、もっともらしい続きのテキストを⽣成するAI
20. © LayerX Inc. 20 LLMがもたらしたもの • ChatGPTなどを利用することで機械学習の知識や実装なしで文書要約や情報 抽出、質問応答など代表的な自然言語処理タスクを解くことができる。 • OpenAI APIなどを利用することで簡単な機械学習の知識と実装のみで自然 言語処理を活用した機能開発を行うことができる。 ◦ 文書要約、情報抽出, etc. ◦ チャットボット ◦ 文書の埋め込み表現を利用した検索システム AI‧機械学習の⺠主化：誰でも容易に⾼性能なAIモデルを活⽤できるように 実装: ここではいわゆるプログラミングを指します。プロンプト エンジニアリングは別途必要になることが多いです。
21. © LayerX Inc. 21 LLMがもたらしたもの すごいところ：⼈間が「（⾃然）⾔語」で機械に実現したいタスクや意図を伝えられるよう になり、アプリケーションのインターフェースのあり⽅がどんどん変化している。 実現したいタスク ・ 人の意図 これまで 実現したいタスク ・ 人の意図 アプリケーションが理解 （入力）できる形にタスク や意図を人が “翻訳” 必要に応じて複数の専 用アプリケーションを 組み合わせて人が作業 タスク・意図をそのまま AIアプリケーションに入力 （複数の）アプリケーション を利用した 人間によるタスクの遂行 AIアプリケーションよる タスクの遂行 例：「受信したメールに対して、Googleカレンダーの予定を参照 した上で出席・欠席の返答を作成して送付してください。」という タスクがPromptを与えるだけで実現できる（かもしれない） こうなるかもしれない未来 人がアプリケーションを利用するためにコストをかけて、や りたいことを実現してきた。
22. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
23. © LayerX Inc. 23 社内活⽤事例 MLエンジニア以外でもAI機能のPoC開発を⾼速に これまでは独⾃モデルを作る必要があった開発をAPI + プロンプトエンジニアリングで
24. © LayerX Inc. 24 社内活⽤事例 エンジニア以外でもデモアプリの作成が容易に (v0 by Vercel) 作りたいものを⾃然⾔語で伝えるだけで、コードが⾃動⽣成されて⼀瞬でデモアプリが
25. © LayerX Inc. 25 社内活⽤事例 いくつかの観点で具体的な利⽤事例とともに紹介 今回の講演のようなアウトプット作成にもフル活⽤ アイデア出し アウトライン 作成 異なる視点の 獲得 コードや数式の 理解 難解な文書の 理解 スライド構成作 成 文章作成 フィードバック の獲得
26. © LayerX Inc. 26 アイデア出し 何をアウトプットするのか。ターゲットやテーマなど決まっているとヒントを得やすい 社内活⽤事例 - アウトプット作成
27. © LayerX Inc. 27 アイデア出し 同じ内容について異なる抽象度で回答させることでイメージを膨らませるのもコツ 社内活⽤事例 - アウトプット作成
28. © LayerX Inc. 28 アウトライン作成 決まったテーマについてアウトラインの叩きを作成してもらう 社内活⽤事例 - アウトプット作成
29. © LayerX Inc. 29 異なる視点の獲得 どれだけしつこく聞いてもAIは嫌がらない 社内活⽤事例 - アウトプット作成
30. © LayerX Inc. 30 難解な⽂書の理解 与えた⽂書に基づいて対話的に理解を深められる https://speakerdeck.com/yuya4/iccv2023-doctr 社内活⽤事例 - アウトプット作成
31. © LayerX Inc. 31 コードや数式の理解 コードや数式について解説してもらう。「お気持ち」も。 https://speakerdeck.com/yuya4/iccv2023-doctr 社内活⽤事例 - アウトプット作成
32. © LayerX Inc. 32 スライド構成作成 アウトラインに基づいたスライド構成の叩きを作成してもらう 社内活⽤事例 - アウトプット作成
33. © LayerX Inc. 33 ⽂章作成 アウトラインを箇条書きで与えて⽂章の叩きを作成してもらう https://tech.layerx.co.jp/entry/aiocr-in-llm-2023 社内活⽤事例 - アウトプット作成
34. © LayerX Inc. 34 フィードバックの獲得 (⼈に⾔われるよりかは⼼を強く保てる) https://tech.layerx.co.jp/entry/aiocr-in-llm-2023 社内活⽤事例 - アウトプット作成
35. © LayerX Inc. 35 社内活⽤事例 - アウトプット作成 注意：LLMの出⼒には抜け漏れや間違いがある前提で利⽤する アイデア出し アウトライン 作成 異なる視点の 獲得 コードや数式の 理解 難解な文書の 理解 スライド構成作 成 文章作成 フィードバック の獲得 特に、⾃⾝があまり詳しくない領域に適⽤する際には精査すること
36. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
37. LayerX AI‧LLM事業部 Ai Workforce 紹介資料 企業がAIを使いこなすためのプラットフォーム
38. © LayerX Inc. 38 Ai Workforceとは プロダクト活⽤事例 - Ai Workforce LLMの⼒を通じて機械向きでないファイルを構造化し、整理し、管理する これらを通じてAIと⼈の⽣産性の向上を実現する
39. © LayerX Inc. 39 Ai Workforceでできること プロダクト活⽤事例 - Ai Workforce
40. © LayerX Inc. 40
41. © LayerX Inc. 41 例：AI-OCR機能と内訳推薦機能による経費精算の⾃動⼊⼒ バックオフィスに特化したAI機能群の開発を⾏っています やっていること
42. © LayerX Inc. 42 契約・購買稟議項目 ・・・ 購買理由 契約書情報 契約先情報 購買金額 契約期間 締結方法 予算コード 前回稟議 得意先コード 郵送先住所 押印有無 印鑑種別 LLMを⽤いた複数の書類からの任意の項⽬の情報抽出 契約書 見積書 前回稟議情報 LLMが任意の稟議 項目を自動抽出 「⽀払⾦額」や「取引先」など汎⽤的な項⽬はデータ量も多いことから従来の機械学習モデルを利⽤ 機械学習ベースの AI-OCRで自動読取 プロダクト活⽤事例 - Bakuraku AI ※開発‧検証中の機能を含みます。現時点でお客様がご利⽤できるわけではありません。
43. © LayerX Inc. 43 領収書以外の様々な情報を参照したLLMによる経費精算の⾃動化 経費精算時必要となる情報 立て替えをした日 立て替えした金額 立て替え先のお店情報 社内ルールに基づいた区分 飲食の場合、出席者情報 ・・・ 機械学習ベースの AI-OCRで自動読取 社内の支出ルール（勘定科目等） 機械学習やLLMにより 入力補完 過去の申請履歴データ 社内マスタやカレンダーなど経費精算サービス外の情報も参照 プロダクト活⽤事例 - Bakuraku AI 立替に関連するカレンダーデータ ※開発‧検証中の機能を含みます。現時点でお客様がご利⽤できるわけではありません。
44. © LayerX Inc. 44 プロダクト活⽤事例 - ⼤切にしていること AIが間違えることを前提とした体験を提供する 確認しやすい‧気づきやすい：抽出箇所の⾊塗りや読み取り内容に応じたアラート 修正しやすい：プルダウンで他の抽出候補を提⽰することで、数クリックでの修正を実現
45. © LayerX Inc. 45 プロダクト活⽤事例 - ⼤切にしていること （できるだけ）自動でAIをより賢くするプロセスの組み込み
46. © LayerX Inc. 46 AIは正しくオンボーディングされていない LLMを利⽤したプロダクトを導⼊していきなり成果が出ないのは当たり前 ⼈間は様々な情報を経験として蓄積 現状LLMに渡されるデータはわずか たった数百⽂字の プロンプト 5〜20年かけて ⾊々な経験 プロダクト活⽤事例 - ⼤切にしていること
47. © LayerX Inc. 47 AIにどう仕事を学んでもらうか 学び⽅のパターン マニュアル型 • 標準化された業務の⼿続 きを習得 事例分析型 • インプット‧アウトプッ トの事例から⼀般的なプ ロセスを発掘 フィードバック型 • ⼈のレビュー‧修正に基 づき改善 内省型 • ⾃分で試⾏錯誤して改善 AI⾃⾝がやった事例から学ぶ ⼈がやった事例から学ぶ AI⾃⾝で学習する ⼈間から教わる プロダクト活⽤事例 - ⼤切にしていること
48. © LayerX Inc. 48 詳細はブログもぜひご覧ください！ https://note.com/nrryuya/n/nc03ba3c806e3 「AIオンボーディング」で検索 プロダクト活⽤事例 - ⼤切にしていること
49. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
50. © LayerX Inc. 50 今後 これからはAIエージェント（要定義）の時代へ
51. © LayerX Inc. 51 今後 AI エージェントの重要ユースケース：“SaaSを動かすAI”
52. © LayerX Inc. 52 今後 【再掲】すごいところ：⼈間が「（⾃然）⾔語」で機械に実現したいタスクや意図を伝えら れるようになり、アプリケーションのインターフェースのあり⽅がどんどん変化している。 実現したいタスク ・ 人の意図 これまで 実現したいタスク ・ 人の意図 アプリケーションが理解 （入力）できる形にタスク や意図を人が “翻訳” 必要に応じて複数の専 用アプリケーションを 組み合わせて人が作業 タスク・意図をそのまま AIアプリケーションに入力 （複数の）アプリケーション を利用した 人間によるタスクの遂行 AIアプリケーションよる タスクの遂行 例：「受信したメールに対して、Googleカレンダーの予定を参照 した上で出席・欠席の返答を作成して送付してください。」という タスクがPromptを与えるだけで実現できる（かもしれない） こうなるかもしれない未来 人がアプリケーションを利用するためにコストをかけて、や りたいことを実現してきた。 ここの能⼒がさらに上 がっていく（はず）！
53. © LayerX Inc. 53 出張予定をカレンダーに登録さえすればすべてが終わる世界がくるかも、、、？ 出張予定がカレンダーに登録される 登録された期間や場所、業務‧イベント内容などから事前の出張申請をAIが⾃動で作成 ⾜りない情報はAIが聞いてくれるので⼈間はそれに答えるだけ ホテルや⾶⾏機を、過去の出張履歴なども参照しつつ社内規定に沿ったものをAIがレコメンド レコメンド結果を⼈間が承認すれば、⾃動で予約‧決済が⾏われ、経費精算申請もAIが⾃動で作成 出張中の経費や社内規定に沿った⽇当に関する申請もAIが⾃動で作成 ⼈間は出張に⾏って帰ってくるだけ。本来やるべきことに集中できる！ たとえばAIエージェント in 出張業務 今後
54. ⽬次 Agenda • はじめに • LLMとは • 社内活⽤事例 • プロダクト活⽤事例 • 今後 • さいごに
55. © LayerX Inc. 55 さいごに • AIの出⼒が正しいかどうかを判断する専⾨性を⾝につけよう！ ◦ 専⾨性を⾼めるためにもAIをフル活⽤する • 今後のAIの進化への肌感覚を養おう！ ◦ 様々なAIツールをとりあえず使ってみる。「こんなもんか」でも良い。今、どれ ほどのものができるのか、それがどう進化していくのかを体感しておく。 ◦ プロンプトエンジニアリングも⾃分でどんどん試さないと⾝につかない。思って いるよりも奥が深いです。 ◦ たとえば、とりあえず今⽇からググる前にPerplexityで検索してみる。 • （就活など⽬線）AIを正しく戦略に⼊れられている会社を探そう！ ◦ 過去の⼤きな時代の節⽬の例を挙げると、スマホ/アプリの普及に対応できなかっ た会社はどうなった、、、？逆の会社は、、、？ さらに進む With AI な時代に備えよう！