Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
LayerXにおけるLLMプロダクト開発の今までとこれから
Search
LayerX
PRO
April 25, 2024
Technology
4
1.9k
LayerXにおけるLLMプロダクト開発の今までとこれから
篠塚 史弥 (@shinofumijp)
生成AI Conf 生成AI革命期に挑んだ一年間の軌跡
2024-04-25
LayerX
PRO
April 25, 2024
Tweet
Share
More Decks by LayerX
See All by LayerX
LLMプロダクト事業の立ち上げにおける挑戦
layerx
PRO
8
2.1k
ビジネスドメインの拡大を実現する バクラクシリーズでのモノレポ開発
layerx
PRO
1
490
新しい資産運用サービスALTERNA(オルタナ)の伝え方の工夫
layerx
PRO
0
1.1k
LayerX羅針盤_ver 2.1
layerx
PRO
40
680k
PrivacyTech事業説明会「データ分析×プライバシー」とは?
layerx
PRO
2
14k
LayerX Company Deck
layerx
PRO
11
380k
バクラクビジネスカード 記者発表会資料(2022/7/26開催)
layerx
PRO
2
43k
開発速度が速い #とは(LayerX社内資料)/ How fast is the development speed
layerx
PRO
20
38k
LayerX Labs 紹介資料
layerx
PRO
0
800
Other Decks in Technology
See All in Technology
AWS Observability ベストプラクティス 大紹介
o11yfes2023
0
150
Step by Stepで学ぶ、ADT(代数的データ型)、モナドからEffect-TSまで
leveragestech
1
2.9k
AI JIMY - 登壇(インストール編)
hanacchi
0
150
From here to resilience - a travel guide
ufried
1
160
データ分析力を高めるSQL研修サービス『SQL Everyone』
hikarut
1
380
AWS Observability 関連最新アップデート
o11yfes2023
0
100
Taking Flight with Tailwind CSS
opdavies
0
4.3k
The depthes of profiling Ruby - RubyKaigi 2024
osyoyu
0
130
エムスリーQAチーム紹介資料 / Introduction of M3 QA Team
m3_engineering
1
320
Cloudflare WorkersがPythonに対応したので試してみた
miura55
0
190
汎用ポリシー言語Rego + OPAと認可・検証事例の紹介 / Introduction Rego & OPA for authorization and validation
mizutani
1
130
Google Cloudを組織(企業)で運用する時のベストプラクティス × 健康の環境分離戦略 #まるクラ勉強会
yasumuusan
0
170
Featured
See All Featured
The Pragmatic Product Professional
lauravandoore
26
5.9k
The Invisible Side of Design
smashingmag
294
49k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
23
1.7k
How to train your dragon (web standard)
notwaldorf
75
5.2k
Optimizing for Happiness
mojombo
370
69k
What the flash - Photography Introduction
edds
64
11k
Imperfection Machines: The Place of Print at Facebook
scottboms
261
12k
The MySQL Ecosystem @ GitHub 2015
samlambert
244
12k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
9
1.3k
How GitHub (no longer) Works
holman
305
140k
Thoughts on Productivity
jonyablonski
60
3.9k
A Modern Web Designer's Workflow
chriscoyier
689
190k
Transcript
© LayerX Inc. LayerXにおけるLLMプロダクト開発の今までとこれから 篠塚 史弥 (@shinofumijp) 生成AI Conf 生成AI革命期に挑んだ一年間の軌跡
2024-04-25
© LayerX Inc. 2 LayerX AI・LLM事業部エンジニアリングマネージャー LLMプロダクト開発のリードを担当 元FiNC Technologies, CTO
X: @shinofumijp 篠塚 史弥
© LayerX Inc. 3 LayerXの事業概要 LayerXのご紹介 * 資本準備金含む 会社名 代表取締役
創業 資本金* 関連会社 株主一覧 取得認証 | 株式会社LayerX(レイヤーエックス) | 代表取締役CEO 福島 良典 代表取締役CTO 松本 勇気 | 2018年 | 132.6億円 | バクラク事業、Fintech事業、AI・LLM事業 | 三井物産デジタル・アセットマネジメント 三井物産、LayerX、三井住友信託銀行、SMBC日興証券、JA三井リースによる合弁会社 | | 情報セキュリティマネジメントシステム、 JIIMA認証 提供プロダクト 企業や行政のLLMを用いた 業務効率化・データ活用を支援 バクラク事業 企業活動のインフラとなる 法人支出管理(BSM)SaaSを 開発・提供 Fintech事業 ソフトウェアを駆使したアセットマネジメント 証券事業を合弁会社にて展開 AI・LLM事業 IS 747702 / ISO 27001
© LayerX Inc. 4 LayerXのLLM事業 LayerXのご紹介 例: 三井物産デジタル・アセットマネジメントでの取組 エンタープライズ企業の業務のリデザイン 様々なファンドにまつ
わる契約書 • LLMだからこそできるDX • 単に自動化するのではなく、業務を LLMネイティブな形に変える • 特に、長文の文書処理業務 ファンド管理DB 登記簿等の公的書類 投資サービスへの連携 ファンド運営の 効率化・自動化 LLM
© LayerX Inc. 5 例: 非構造的な長文の文書の整理 LLMの現状とLayerXのアプローチ {会社名: 株式会社LLM} xxx契約書
第6条(責任の免除) 甲は、本契約に基づくサービスの提供において、故意 または重大な過失がない限り、いかなる間接的損害に 対しても責任を負わない。 乙による本サービスの利用に関連して発生したデータ の損失または損害について、甲は責任を負わない。 会社名 株式会社LLM {責任制限条項: 間接的損害, データの損失ま たは損害} 長文の文書の意味を汲み取り、ファイルからデータを取得して整理(構造化) デジタル化を阻んでいた 見た目(フォーマット)の違いを吸収 LLM
現在のプロダクト像までの意思決定
7 2022 2023 2024 OpenAI LayerX 11/30 3月 11月 2月
7月 12月 4月 LLM Lab 立ち上げ 2月 AI・LLM事業部 設立 PoC Microsoft Meta Google 9月 3月 Llama公開 Llama2公開 Llama3公開 Microsoft365 Copilot発表 サムアルトマン 参画発表 Bard公開 Gemini公開 VideoPoet 発表 ScreenAI 発表 日本法人設立 GPT-4 Turbo公開 Sora 発表 サムアルトマン復 帰 GPT-4 公開 ChatGPT 公開 GPT-4V 公開 生成AI革命期1年間の軌跡 MSP開発 MVP開発
© LayerX Inc. 8 意思決定①: 事業にする LLMの現状とLayerXのアプローチ R&D、既存事業のEnablingにとどまらず単独の事業にする 仮説 LLMにより新しい市場が拓ける
© LayerX Inc. 9 意思決定②: プロダクトにする LLMの現状とLayerXのアプローチ ソフトウェアとしての再利用性を高め、大きな固定費を抱えない事業にする 仮説 ロングテール業務がエンタープライズのLLMユースケースの一丁目一番地
多様な領域に機械学習が使えるように 機械学習モデルとアプリケーションの関係 これまでの機械学習 生成AI(LLM)
© LayerX Inc. 10 意思決定③: チャットプロダクトから始めない LLMの現状とLayerXのアプローチ AIを前提とする理想の体験(=AI UX)を追求 仮説
お客様業務の効率化を実現するのは単体のLLM品質の外側 - 顧客業務全体の体験設計 - 文書特性に応じた前処理、検索 - 適切なタスク計画
行ってきた活動とこれから
© LayerX Inc. 12 マーケット探索 LLMの現状とLayerXのアプローチ • マーケット調査 x 意志
• 見込み顧客との接点づくり • 専門家へのヒアリング 行ってきた活動 • 現在のプロダクトの新規ユースケース開拓 • LLMにより拓かれる新しいマーケットの探索 「プロダクトを開発した先に市場はあるか」の検証 これから
© LayerX Inc. 13 PoC LLMの現状とLayerXのアプローチ • 顧客業務、ドメインの深い理解 • 顧客の実データを利用したLLM実験
• 顧客事例でのサクセス 行ってきた活動 • 組織的なスケーラビリティ向上 • R&Dによるケイパビリティ獲得 • LLM Opsの改善 「LLMで解決可能な再現性のある課題か」の検証 これから
© LayerX Inc. 14 LLMの現状とLayerXのアプローチ • MVP開発 • 顧客からのフィードバックと改善の繰り返し 行ってきた活動
• MSP開発 • プロダクト開発の本格化 「実際に顧客業務が効率化されるか」を検証 これから プロダクト開発
© LayerX Inc. 15 LLMの現状とLayerXのアプローチ 「仮説検証」と言えば聞こえはいいが... 目の前の1つ1つの機会を着実に成果にするべく活動をしてきた
© LayerX Inc. 16 より詳しい話は5/8の「生成AIカンファレンス2024」にて LLMの現状とLayerXのアプローチ LayerXからは事業部長の中村が16:25より登壇します 事例を元に、ターゲットユースケースについて話す予定です https://gen-ai-conf.org/
© LayerX Inc. 17 カジュアル面談の依頼もお気軽にXから! @shinofumijp LayerXのAI・LLM事業部の「最初の10人」になりませんか! SWE、SRE、PM、PdM その他ポジションも積極採用中! •
経験豊富なメンバーとの事業立ち上げ ◦ 経営陣に上場企業役員経験者が9人在籍 • 0→1フェーズだが、会社はそれなりに成熟 ◦ 約133億円の資金調達 ◦ オフィスも綺麗です! • スタートアップでは通常開拓しにくい業界での取り 組み実績