間違いが許されなくてもLLMが使えるユースケースとは @GenAI Playground Meetup #01

by Ryuya Nakamura

Slide 1

Slide 1 text

Slide 2

Slide 2 text

自己紹介・会社紹介

Slide 3

Slide 3 text

© 2024 LayerX Inc. 3 中村龍矢機械学習エンジニア東京大工学部 ● データサイエンスと出会う Gunosy データ分析部 ● 推薦システム開発等セキュリティ研究者（現在）事業責任者 LayerX 創業時からR&D ● プログラムの形式検証 ● ブロックチェーン ○ Ethereumへのコントリビューション ● LayerX 部門執行役員 AI・LLM事業部長 ● IPA 未踏スーパークリエータ ● 2020年度電子情報通信学会インターネットアーキテクチャ研究賞最優秀賞 (共著) ● Forbes JAPAN 30 UNDER 30 2023 「世界を変える30 歳未満」 LayerXの新規事業 ● プライバシーテック ● 大規模言語モデル自己紹介

Slide 4

Slide 4 text

© 2024 LayerX Inc. 4 LayerXの事業概要 LayerXのご紹介 * 資本準備金含む会社名　　　　代表取締役　創業　　　　　資本金* 関連会社株主一覧　取得認証｜株式会社LayerX（レイヤーエックス）｜　代表取締役CEO 福島良典　　代表取締役CTO 松本勇気｜　2018年｜　132.6億円｜　バクラク事業、Fintech事業、AI・LLM事業｜　三井物産デジタル・アセットマネジメント　　三井物産、LayerX、三井住友信託銀行、SMBC日興証券、JA三井リースによる合弁会社｜　｜　情報セキュリティマネジメントシステム、　　　　 JIIMA認証提供プロダクト企業や行政のLLMを用いた業務効率化・データ活用を支援バクラク事業企業活動のインフラとなる法人支出管理（BSM）SaaSを開発・提供 Fintech事業ソフトウェアを駆使したアセットマネジメント証券事業を合弁会社にて展開 AI・LLM事業 IS 747702 / ISO 27001

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

LLMと人間によるレビュー

Slide 9

Slide 9 text

© 2024 LayerX Inc. 9 「間違いが許されないユースケース」でLLMを使いたい「LLMはミスをするので、ミスが許容される仕事の方が向いている」は本当か？ ● 例: ブレインストーミングに使う ● しかし、業務活用を考えると、インパクトが小さい、ライトなユースケースになってしまうのでは ● 間違いが許されない「本格的な」ユースケースの方が、インパクトが出ることも多い ○ 当社の金融業界での取り組み: 稟議書作成や決算書分析

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

レビューの手間を挟んでも価値のあるユースケース

Slide 14

Slide 14 text

© 2024 LayerX Inc. 14 ユースケースによっては、レビューのために人間が作業をやり直すような形になってしまう ● 例: 重要な契約書について、全ての条文のリスクをチェックする ○ LLMの指摘に限らず、結局法務担当者に全部レビューしてもらうのでは？ ● 文書のリスクチェックや、情報抽出のユースケースは、「取りこぼし」が問題になるツッコミ: 人間がレビューするならLLMを使わなくても一緒では？インプットアウトプット結局、全部読むのか、、、「叩き台」が無いよりマシ、かもしれないが...

Slide 15

Slide 15 text

Slide 16

Slide 16 text

© 2024 LayerX Inc. 16 既に普及しそうな「間違いが許されない」ユースケース「ゼロからやるより叩き台があった方がはるかに楽」かつ「間違いを局所的に確認できる」もの ● GitHub Copilot等のコード生成（バグが許されない開発で使うとして） ○ コードを書くのは時間がかかる ○ バグはテスト・QAで検知できる ● 出版物の外国語への翻訳（正確性が求められる書籍だとして） ○ 翻訳した文書を執筆するのは時間がかかる ○ 文法・語彙がわかれば修正できる ● etc.

Slide 17

Slide 17 text

Slide 18

Slide 18 text

© 2024 LayerX Inc. 18 前提知識に基づいて、アウトプットが効率的に検証できるケース “最大1つしかない” などの前提が既知なら、その結果だけを見れば、インプット全体を見なくても良い ● 例: 長文の決算資料から「連結のB/S」を抽出する ○ 「連結のB/S」の表は通常一箇所しかない、などの前提をおける ○ 一つ発見できれば、他の箇所は見なくても良い ● これに限らず、同様の「出力を検証する条件」が既知であれば良い

Slide 19

Slide 19 text

Slide 20

Slide 20 text

最後に

Slide 21

Slide 21 text

Slide 22

Slide 22 text

© 2024 LayerX Inc. 22 ビジネス・エンジニアの垣根なく、一丸となって事業を立ち上げています！ LayerXのAI・LLM事業部の仲間を募集しています！最後に ● 特に採用注力中のポジション（業務委託も歓迎） ○ ソフトウェアエンジニア ○ アルゴリズムエンジニア ○ デザイナー ○ ビジネス側マネージャー ● 応募はこちらから ○ https://open.talentio.com/r/1/c/layerx/homes/3589?group_ids=8132 ● カジュアル面談もお気軽に！ ○ https://t.co/zMlRO4ZBzt