AI-ready"のための"データ基盤 〜 LLMOpsで事業貢献するための基盤づくり

LLMをアプリケーション内に組み込むソフトウェアが市場に出始めているが、その基盤はまだ盤石ではない。プロンプト・コンテキストエンジニアリングは未成熟で性能は些細なことで変動する。

プロンプトはBizサイドも手を入れてしまうことがありオーナーシップが揺れ、結局いま性能はどんなだっけ？と迷子になってしまう。

このソリューションはデータ・AIエンジニア主導でLLMの適切なログを取り、現状を計測可能にすることでBizとの架け橋を作りOpsを安定させることである。弊社の取り組み事例(一部計画中)を紹介する。

Transcript

1. A I を ” 事 業 を リ ー ド す る 存 在 ” に す る た め に  %BUB
   &OHJOFFSJOH
   4VNNJU
   ʲެืηογϣϯʳ"*SFBEZͳσʔλج൫ߏஙࣄྫ
2. γχΞσʔλΤϯδχΞ ɾ೔ຊͷ͋ΒΏΔ૊৫ͱਓ෺ͷ৘ใΛΠϯαΠτʹܨ͛ΔσʔλύΠϓϥΠϯߏங ɾ--.
   "*
   "HFOU
   ͷՁ஋Λ͍ͪૣ͘Ϣʔβʔʹಧ͚ΔαʔϏε։ൃ ೇ ༙ເ *[VNV
   ,VTVOPLJ ɾ࠷ۙ͸ʮ:VNFʯͱݺ͹ΕΔ͜ͱ͕ଟ͍Ͱ͢ ɾؔ৺ྖҬ
   σʔλ"* 
   ελʔτΞοϓ 
   άϩʔεϋοΫ 
   σβΠϯ ɾ9 5XJUUFS 
   !FOHJY@EFW
3. © Sales Marker Co., Ltd. 3 コンパウンドプロダクトによる営業マーケティング⽀援 成約 商談 アポ獲得 リードジェネレーション 認知・ブランディング インテントシグナル • インテントジェネレーション • パーソナライズアプローチ • 商談録画・インテントの検知 • クロージングアクション⾃動化 • リクルートシグナル • インテントスカウト • インテントシグナルの検知 • マルチチャネルアプローチ 商談数を増やす 成約数を増やす 市場ニーズを⾼める 採⽤数を増やす 魅⼒度診断AIを⽤いたサービス説明のパーソナライズ 顧客インテント起点のソリューションを提供しており、営業〜組織課題を幅広く解決可能です
4. 2025年7⽉
5. © Sales Marker Co., Ltd. 5
6. © Sales Marker Co., Ltd. 6 Orchaが⽬指す世界 ・第⼀弾：AI スライド ・第⼆弾：AI ミーティング ・AI コンテンツ ・AI 広告 ・AI ⾯接 ・AI ソーシング ・AI リサーチ ・AI 計画 ・AI モックアップ ・AI コーディング ・AI バリュエーション ・AI ファンドレイズ
7. ɾ঎ஊղੳ ɾจষੜ੒ ɾ෼ྨʢۀछɾن໛ͳͲʣ ɾܾࢉ৘ใ੔ཧ プロダクトの多くの場面で 構造化・要約・生成タスクを実行 している …ビジネス的には大きな価値を提供できているが、その裏のオペレーションは大変😭 ɾ"*ιʔγϯάػೳ ɾ֤छ࠾༻ϝοηʔδੜ੒ ɾ"*εϥΠυ"*ϛʔςΟϯά ɾಈըੜ੒"* ɾΤʔδΣϯτػೳ
8. ɾϢʔβʔͷظ଴͕ߴ͍΄Ͳɺੜ੒݁Ռʹݫ͍͠ϑΟʔυόοΫ͕ฦͬͯ͘Δ ɾސ٬͝ͱʹʮ͍͍݁Ռɺظ଴͢Δ"*ͷಇ͖ʯͷఆ͕ٛඍົʹҟͳΔ ɾϓϩϯϓτͷΦʔφʔγοϓ͕༳ΕΔʢ#J[αΠυ͔Β΋खΛೖΕ͍ͨʣ ݁Ռͱͯ͠ى͜Δ͜ͱ ໰୊ͷຊ࣭͸ʜ ཁٻͷ༳Ε͕ൃੜ͢Δʢॳߘ WT
   ސ٬9ͷͨΊͷఆٛ WT
   #J[վળҊ WT
   ʜʣ ˠ
   ධՁͷ༳Ε ˠ
   վળ͕ʮ౰ͯצʯԽɻࠓͷੑೳ͕Ͳ͏ͳ͍ͬͯΔ͔Θ͔Βͳ͘ͳΔ😭
9. جຊํ਑
   ݱঢ়ΛܭଌՄೳʹ͠ɺվળΛ؍ଌϧʔϓͰճ͢ ˠ
   σʔλج൫ STEP 1 Observe ݱঢ়ͷ--.ੑೳΛܭଌ STEP 2 Decide σʔλʹج͍ͮͯҙࢥܾఆ STEP 3 Design ϓϩϯϓτΤʔδΣϯτ ઃܭΛվળ STEP 4 Ship ৽όʔδϣϯΛϦϦʔε ɾצʹཔΒͳ͍࠶ݱՄೳͳվળϓϩηεΛߏங͍ͨ͠ ɾ1E.#J[ ͱΤϯδχΞ͕ಉ͡ࢦඪΛݟͯձ࿩Ͱ͖ΔΑ͏ʹ͍ͨ͠ ま だ 道 半 ば で す が 、 現 在 の 取 り 組 み と こ れ か ら の 理 想 を 紹 介
10. --.
    ݺͼग़͠ΛΞϓϦέʔγϣϯɾύϑΥʔϚϯεɾϞχλϦϯά "1. ͷจ຺ʹ৐ͤΔ σʔλϑϩʔ ΞϓϦέʔγϣϯ τϨʔεର৅ྫ τϨʔεऩूɾσʔλॲཧ σʔλՄࢹԽɾ෼ੳ ɾೖྗϓϩϯϓτͱग़ྗ݁Ռ ɾίετʢτʔΫϯ਺ Y
    ୯Ձʣ ɾϨΠςϯγ ɾΤϥʔൃੜঢ়گ
11. બఆཧ༝ ࣗಈτϨʔεػೳ͕ศར ɾೖग़ྗͷه࿥ ɾτʔΫϯ਺ͷࣗಈूܭ ɾϨΠςϯγܭଌ ɾΤϥʔݕ஌ ɾίετܭࢉ ɾ#6*-%
    Ͱ͸ͳ͘ #6: ɾ଎౓࠷༏ઌͰࣄۀߩݙ ɾ࢑ఆσʔλج൫ͱͯ͠׆༻ طଘ1ZUIPOؔ਺ʹ σίϨʔλΛ෇͚Δ͚ͩͰɺ "1.τϨʔεͱಉ༷ʹ --.
    JOQVUPVUQVUΛ อଘՄೳ
12. )VNBOJOUIF-PPQ
    ઓུ #BE/FHBUJWF
    TBNQMF
    ͚ͩΛޮ཰తʹर͏࢓૊ΈͰܧଓతվળΛ࣮ݱ ϑΟʔυόοΫϑϩʔߏ૝ ΞϓϦέʔγϣϯ্ͷϢʔβʔϑΟʔυόοΫ👍👎ʢ΋͘͠͸ߦಈͷ཭୤ࢦඪʹΑΔෛྫࣔࠦʣ ˠ
    ੜ੒݁Ռͱ TFTTJPO
    *%
    Λಥ͖߹Θͤͯෛྫͷ݁Ռऩू ˠ
    ϓϩϯϓτվળʹܨ͛Δ
13. ߏ૝
    τϨʔεΛ%8)σʔλϨΠΫʹྲྀ͠ɺධՁϩάͱ౷߹ ɾGBDU@MMN@JOWPDBUJPO
    τϨʔεϩάཻ౓ ɾEJN@QSPNQU
    --.ଆ৘ใ ɾEJN@VTF@DBTF
    ධՁϩάଆ 😰 ؾ෇͔ͳ͍͏ͪʹτʔΫϯ͕ංେԽͯͨ͠ ˠ
    τʔΫϯ਺ɾίετɾϨΠςϯγ؂ࢹ Ͱ༧๷ 🤔 ͲΜͳϓϩϯϓτ͕͍͍Μ͚ͩͬʁ ˠ Ϣʔβʔ͔ΒͷϑΟʔυόοΫ͕ྑ͍΋ͷ ΛબͿʂ ͨͱ͑͹͜Μͳ͜ͱ͕Ͱ͖ΔΑ͏ʹ
14. /08 ݱࡏ ɾ%%
    --.
    0CTFSWBCJMJUZ
    Ͱͷ؍ଌج൫ ɾجຊతͳτϨʔεऩूͱ'#ఆྫ ɾखಈͰͷϓϩϯϓτվળ /&95 ࣍ͷεςοϓ -"5&3 কདྷߏ૝ ɾධՁηοτ؅ཧͷڧԽ ɾΦϑϥΠϯධՁͷࣗಈԽ ɾϢʔβʔϑΟʔυόοΫͷ࣮૷ͱ౷߹ ɾ"#ςετͷମܥԽ ɾίετ࠷దԽͷࣗಈԽ ɾ%41Z౳ʹΑΔࣗಈվળମ੍ ɾϓϩϯϓτςϯϓϨʔτͷ࠷దԽ ɾ҉໧ཁ݅ͷ໌֬Խ ɾίετ඼࣭ͷଟ໨త࠷దԽ ɾΨʔυϨʔϧʢ҆શɾίϯϓϥʣڧԽ צͰ͸ͳ͘؍ଌϧʔϓͰճ͢ "1.తτϨʔεͰൺֱՄೳʹ͢Δ 1E.ͱಉ͡ࢦඪΛݟͯҙࢥܾఆ͢Δ    ؍ଌ ˠ
    ҙࢥܾఆ ˠ
    վળ ͷϧʔϓΛ૊৫ʹΠϯετʔϧ こ れ が A I - r e a d y ” の た め の ” デ ー タ 基 盤
15. Culture Book Culture Book Welcome to Sales Marker JOIN US! 募集詳細はこちら
16. ほ し い と 出 会 え る イ ン テ ン ト セ ー ル ス