検索APIとFunction callingによるレポート生成

Slide 1

Slide 1 text

Slide 2

Slide 2 text

自己紹介

Slide 3

Slide 3 text

Slide 4

Slide 4 text

LayerXとLayerX LLM Laｂｓ

Slide 5

Slide 5 text

Slide 6

Slide 6 text

© 202３ LayerX Inc. 6 LayerX LLM Labsについて LayerXでの大規模言語モデル専任チーム今後の取り組み・LayerXおよび三井物産デジタル・アセットマネジメントにおけるLLM活用のフィードバック・LayerXが展開する支出管理サービス「バクラク」へのLLMの導入検証・LLMを活用した新規事業の検討・探索・LLMに関する勉強会コミュニティの運営・ブログや論文などを通じた情報発信　等

Slide 7

Slide 7 text

Function callingと検索APIを使ったレポート生成

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

© 2023 LayerX Inc. 10 仕組み: Function callingで前処理してから生成「Palantirのビジネスの歴史と戦略について教えて」検索クエリレポートタイトルレポート章タイトル群検索結果 Index Function calling レポートの各章中身 ① ② ③ ④ レポート Function callingによる取得 { “query”: “Palantir business history”, “title”: “Palantirのビジネスの歴史と戦略”, “chapters”: [ “Palantirの創業と初期の歴史”, “Palantirのビジネスモデルと主要な製品 ”, “Palantirの成長戦略とその実行”, “Palantirの将来展望と課題”, ], }

Slide 11

Slide 11 text

© 2023 LayerX Inc. 11 仕組み: Function callingで前処理してから生成「LayerXのビジネスの歴史と戦略について教えて」検索クエリレポートタイトルレポート章タイトル群検索結果 Index Function calling レポートの各章中身 ① ② ③ ④ レポート Function callingによる取得 { “query”: “LayerX ビジネス歴史戦略”, “title”: “LayerXのビジネスの歴史と戦略”, “chapters”: [ “LayerXの会社概要”, “LayerXのビジネスモデルと主要な事業 ”, “LayerXのビジネスの歴史”, “LayerXの戦略とその展望”, ], }

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

Slide 16

Slide 16 text

© 2023 LayerX Inc. 16 展望 ① HybridSearchなど複数の情報源 + レポート生成 Google検索 + 社内ポータル検索を組み合わせたレポート生成で向上できる可能性。検索エンジン、Embedding などをどう組み合わせるか？ ② リファレンスの粒度を細かくする文章ごとに何のサイトのどのテキスト(Chunk)を参照したのか？Function callingを活用できるかも検索クエリを変えて参照増やしたり、特定の章だけ修正したり、別の章を加えたり、一回で完璧を求めずにコンポーネントごとに更新可能にする。 ③ 生成・修正・加筆サイクルを回せるUI/UX Agentでタスク計画させて、検索やレポート内容の深掘り、関連テーマでのレポート執筆などをさせる。 Tableデータ作成、グラフ化なども加える。 ④ Agentとの組み合わせ