Lock in $30 Savings on PRO—Offer Ends Soon! ⏳

LLM時代におけるAI-OCR機能の開発戦略 / layerx-bakuraku-ocr-ll...

LLM時代におけるAI-OCR機能の開発戦略 / layerx-bakuraku-ocr-llm-lt-2024

2024年1月24日 【オフライン限定開催】注目AIテックカンパニー4社が集うLT新年会〜LLM活用のリアルを語る〜(https://lapras.connpass.com/event/305577/) における発表資料です。

Yuya Matsumura

January 24, 2024
Tweet

More Decks by Yuya Matsumura

Other Decks in Technology

Transcript

  1. © 2024 LayerX Inc. 2 バクラク事業部 機械学習グループ マネージャー/機械学習エンジニア 経歴 京都大学大学院情報学研究科修士課程修了。情報検索や情報推薦に関する研究に取り

    組む。 2018年ウォンテッドリー株式会社に新卒入社。レコメンドチームの立ち上げに携わる。 その後、機械学習領域のテックリード、プロダクトマネージャー、エンジニアリングマネー ジャーを務める。 2022年9月に株式会社LayerXに入社。機械学習チームにて、法人支出管理SaaSバ クラクのAI-OCR機能をはじめとする機械学習を活用した機能の開発およびマネジメ ントに従事。 その他活動として、ウォンテッドリー株式会社の機械学習領域の技術顧問やスタート アップの技術支援、大学の非常勤講師、書籍の執筆など。 画像を入れてね 自己紹介 松村 優也(Yuya Matsumura) @yu__ya4
  2. © 2024 LayerX Inc. 13 LLM時代におけるAI-OCR機能の開発戦略 質の高いデータセットの構築 新しい公開LLMやAPIを利用した独自タスクの性能評価、ファインチューニングによる独自モデルの作成を実 現するためのデータセットの重要性の再認識 -

    新しいモデル(LLM)の採用を検討するにあた り、顧客への提供価値を正しく計測できるよう な評価設計およびデータセット構築は必須 - ベースとなるモデルが凄まじいスピードで進化 する世の中において、モデル単体の性能差分は 独自のデータセットによってのみ生まれる世界 が来るかも? - 人手によるアノテーション作業の効率向上のた めのLLM活用も https://speakerdeck.com/yuya4/data-centric-ai-bakuraku-dataset
  3. © 2024 LayerX Inc. 14 LLM時代におけるAI-OCR機能の開発戦略 信頼できるMLOps・LLMOpsの構築 高速に新しいモデルを検証して顧客に安定した価値を届ける仕組み(MLOps・LLMOps)の重要性の再認識 - ファインチューニングや性能検証などモデルの開発、デプロイ、システムへの組み込み、リリース後のモ

    ニタリングなど一連のワークフローを高速に安定して実現する仕組みがなければ、世の中の進化につ いていけなくなる - LLMという巨大でコストのかかるモデルだからこそ、より効率的なワークフローの構築が求められる - プロンプトの管理やRAGなどLLM特有の(重要性が増した)概念も
  4. © 2024 LayerX Inc. 15 LLM時代におけるAI-OCR機能の開発戦略 AI-UX: AIを前提とした理想のUXの追求 AI・LLMの活用が当たり前となった世の中におけるUXの重要性の再認識 -

    AI・LLMで体験を構築すべき部分とそうでな い部分の見極め - AIの精度が100%ではないという前提で、い かにその間違いを体験でカバーできるのか - AIの精度を上げていくため、データ・正解ラベ ルが自動で収集されるような仕組みの構築 - ユーザーの当たり前レベルも向上 https://comemo.nikkei.com/n/n72374ef7b2d9
  5. © 2024 LayerX Inc. 19 We’re hiring!!!! 全方位、絶賛採用中です! - 機械学習エンジニア

    - MLOpsエンジニア - バックエンドエンジニア - フロントエンドエンジニア - ソフトウェアエンジニア(LLM) - DevOpsエンジニア - EM - PdM - デザイナー - … https://jobs.layerx.co.jp/ https://jobs.layerx.co.jp/03086b53925347b08050a240be370ced Open DoorやXのDMなどでお気軽にご連絡ください!もちろん本日の懇親会でも!