LLM時代におけるAI-OCR機能の開発戦略 / layerx-bakuraku-ocr-llm-lt-2024

2024年1月24日 【オフライン限定開催】注目AIテックカンパニー4社が集うLT新年会〜LLM活用のリアルを語る〜(https://lapras.connpass.com/event/305577/) における発表資料です。

Transcript

1. © 2024 LayerX Inc. LLM時代におけるAI-OCR機能の開発戦略 2024/01/24 注目AIテックカンパニー4社が集うLT新年会〜LLM活用のリアルを語る〜 Yuya Matsumura(@yu-ya4)
2. © 2024 LayerX Inc. 2 バクラク事業部 機械学習グループ マネージャー/機械学習エンジニア 経歴 京都大学大学院情報学研究科修士課程修了。情報検索や情報推薦に関する研究に取り 組む。 2018年ウォンテッドリー株式会社に新卒入社。レコメンドチームの立ち上げに携わる。 その後、機械学習領域のテックリード、プロダクトマネージャー、エンジニアリングマネー ジャーを務める。 2022年9月に株式会社LayerXに入社。機械学習チームにて、法人支出管理SaaSバ クラクのAI-OCR機能をはじめとする機械学習を活用した機能の開発およびマネジメ ントに従事。 その他活動として、ウォンテッドリー株式会社の機械学習領域の技術顧問やスタート アップの技術支援、大学の非常勤講師、書籍の執筆など。 画像を入れてね 自己紹介 松村 優也（Yuya Matsumura） @yu__ya4
3. © 2024 LayerX Inc. 3 ミッション すべての経済活動を、デジタル化する。
4. © 2024 LayerX Inc. 4 ３つの事業 LayerXはミッション実現に向け、３つの事業を運営しています。
5. © 2024 LayerX Inc. 5 本日の発表 せっかくのオフライン限定の機会なのでぜひワイワイしましょう LayerXにおけるLLM活用のこれまでとこれからに関するトピックを広く紹介します。少しでも興味のある トピックがあればお気軽に話しかけてください。詳細の資料も随時紹介しています。
6. LayerXにおけるLLM活用 2023年を振り返る
7. © 2024 LayerX Inc. 7 LayerXにおけるLLM活用 LLMを活用したプロダクトPoCの実施（バクラク事業部） https://speakerdeck.com/yuya4/layerx-poc-with-chatgpt
8. © 2024 LayerX Inc. 8 LayerXにおけるLLM活用 LLMによる文書処理の追求（AI・LLM事業部） https://speakerdeck.com/ymatsuwitter/llm-in-2023-and-2024
9. © 2024 LayerX Inc. 9 LayerXにおけるLLM活用 LLMを活用した社内業務効率化ツールの開発 https://speakerdeck.com/yakipudding/layerx-biz-boost-whisper-plus- gptniyoruyin-sheng-wen-zi-qi-kosiyao-yue-noqu-rizu-mi https://speakerdeck.com/yakipudding/layerx-biz-boost-sekiyuriteitie tukusito-ci-hui-da-noqu-rizu-mi
10. © 2024 LayerX Inc. 10 LayerXにおけるLLM活用 バクラクAI-OCR機能の推論エンジンのLLMリプレイス検討 現時点ではコスト、性能、推論速度、可用性などを総合的に見た上で自前の機械学習モデルの開発・運用を 継続する意思決定
11. LLM時代におけるAI-OCR機能の開発戦略 今後の展望
12. © 2024 LayerX Inc. 12 LLM時代におけるAI-OCR機能の開発戦略 LLMの進化を想定した開発戦略の必要性 先ほど挙げたコスト、性能、推論速度、可用性などの問題が近い未来に解消される可能性は十分にある
13. © 2024 LayerX Inc. 13 LLM時代におけるAI-OCR機能の開発戦略 質の高いデータセットの構築 新しい公開LLMやAPIを利用した独自タスクの性能評価、ファインチューニングによる独自モデルの作成を実 現するためのデータセットの重要性の再認識 - 新しいモデル(LLM)の採用を検討するにあた り、顧客への提供価値を正しく計測できるよう な評価設計およびデータセット構築は必須 - ベースとなるモデルが凄まじいスピードで進化 する世の中において、モデル単体の性能差分は 独自のデータセットによってのみ生まれる世界 が来るかも？ - 人手によるアノテーション作業の効率向上のた めのLLM活用も https://speakerdeck.com/yuya4/data-centric-ai-bakuraku-dataset
14. © 2024 LayerX Inc. 14 LLM時代におけるAI-OCR機能の開発戦略 信頼できるMLOps・LLMOpsの構築 高速に新しいモデルを検証して顧客に安定した価値を届ける仕組み（MLOps・LLMOps）の重要性の再認識 - ファインチューニングや性能検証などモデルの開発、デプロイ、システムへの組み込み、リリース後のモ ニタリングなど一連のワークフローを高速に安定して実現する仕組みがなければ、世の中の進化につ いていけなくなる - LLMという巨大でコストのかかるモデルだからこそ、より効率的なワークフローの構築が求められる - プロンプトの管理やRAGなどLLM特有の（重要性が増した）概念も
15. © 2024 LayerX Inc. 15 LLM時代におけるAI-OCR機能の開発戦略 AI-UX: AIを前提とした理想のUXの追求 AI・LLMの活用が当たり前となった世の中におけるUXの重要性の再認識 - AI・LLMで体験を構築すべき部分とそうでな い部分の見極め - AIの精度が100%ではないという前提で、い かにその間違いを体験でカバーできるのか - AIの精度を上げていくため、データ・正解ラベ ルが自動で収集されるような仕組みの構築 - ユーザーの当たり前レベルも向上 https://comemo.nikkei.com/n/n72374ef7b2d9
16. © 2024 LayerX Inc. 16 LLM時代におけるAI-OCR機能の開発戦略 あえて内製を諦めない 内製の過程で得られた知見や能力、資産は将来的に必ず役に立つであろう。Bet Technology https://tech.layerx.co.jp/entry/2023/10/02/132854 https://speakerdeck.com/shimacos/layerx-jsai-2023-77615b88-120 0-424e-b485-1021b0b7b55e
17. まとめ
18. © 2024 LayerX Inc. 18 まとめ LLMが前提の世界における新しい戦略を立案し実行していく これまでの技術調査やPoC、社内活用の知見・資産を総動員してより大きな価値を届けられる年に - 質の高いデータセットの構築 - 信頼できるMLOps・LLMOpsの構築 - AI-UX: AIを前提とした理想のUXの追求 - あえて内製を諦めない https://tech.layerx.co.jp/entry/aiocr-in-llm-2023
19. © 2024 LayerX Inc. 19 We’re hiring!!!! 全方位、絶賛採用中です！ - 機械学習エンジニア - MLOpsエンジニア - バックエンドエンジニア - フロントエンドエンジニア - ソフトウェアエンジニア(LLM) - DevOpsエンジニア - EM - PdM - デザイナー - … https://jobs.layerx.co.jp/ https://jobs.layerx.co.jp/03086b53925347b08050a240be370ced Open DoorやXのDMなどでお気軽にご連絡ください！もちろん本日の懇親会でも！