Amazon Bedrock で作る未来の開発サイクルとオペレーション戦略 / AWS Summit Japan 2025

Slide 1

Slide 1 text

Slide 2

Slide 2 text

2 © LayerX Inc. 自己紹介中川佳希 / ナカガワヨシキ @yyoshiki41 株式会社 LayerX 執行役員バクラク事業 CTO 自己紹介 2020年6月入社。プロダクトチームのテックリードや開発チーム横断組織であるEnabling Teamを経て、 2024年1月にバクラク事業部CTOに就任。

Slide 3

Slide 3 text

目次 Agenda • 事業紹介 • パーソナライズド AI-OCR • アノテーション基盤における Amazon Bedrock の活用 • 機械学習を支えるエンジニアリング

Slide 4

Slide 4 text

会社紹介

Slide 5

Slide 5 text

5 © LayerX Inc. すべての経済活動を、デジタル化する。会社概要会社名株式会社LayerX（レイヤーエックス）代表取締役代表取締役CEO 福島良典代表取締役CTO 松本勇気創業 2018年 8月1日資本金約132.6億円拠点東京本社〒104-0045 東京都中央区築地1-13-1 銀座松竹スクエア 5階関西支社〒530-0002 大阪府大阪市北区曽根崎新地1-13-22 御堂筋フロントタワー内中部支社〒466-0064 愛知県名古屋市昭和区鶴舞1-2−32 STATION Ai 内九州支社〒810-0801 福岡県福岡市博多区中洲3-7-24 WeWorkゲイツ福岡 11F 内従業員数 385名（2024年10月末時点）

Slide 6

Slide 6 text

6 © LayerX Inc. 「すべての経済活動を、デジタル化する。」をミッションに、AI SaaS / AI DX 事業を展開事業紹介バクラク事業企業活動のインフラとなる業務を効率化するクラウドサービス Fintech事業ソフトウェアを駆使したアセットマネジメント・証券事業を合弁会社にて展開 AI・LLM事業社内のナレッジやノウハウをデータベース化するAIプラットフォーム AI SaaSドメイン AI DXドメイン

Slide 7

Slide 7 text

© LayerX Inc. 7 バクラクバックオフィスから全社の生産性を高める。バクラクは、稟議、経費精算、法人カード、請求書受取、請求書発行、勤怠管理などの業務を効率化するクラウドサービスです。最先端のAIを組み込むことで、手入力や紙の管理などの業務から解放し、従業員一人ひとりがコア業務に集中できる新しい働き方を創造します。中小企業から大企業まで、15,000社を超えるお客様の働きやすい環境づくりと事業成長を支援しています。

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Introduction

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Slide 17

Slide 17 text

パーソナライズド AI-OCR の背景

Slide 18

Slide 18 text

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

AI-OCR を支えるアノテーション基盤

Slide 24

Slide 24 text

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

© LayerX Inc. 30 LLM（大規模言語モデル）の活用アノテーション基盤 ■ アノテーションデータの作成における課題を解消・新たな種類のアノテーション項目でもゼロショットで、値を推論させることが可能・擬似的な正解ラベルとして、アノテーション完了を待たず、早期にモデルトレーニングが可能、リードタイムを短縮できる・アノテーションの方法やモデルの選定の方向性に問題がないかの検証が行える・求めるアノテーションデータを JSON Schemaで定義し、構造化した出力を指示できる・ハルシネーション対策として JSON Schema に意味的なバリデーションの仕組みを導入

Slide 31

Slide 31 text

Amazon Bedrock の活用

Slide 32

Slide 32 text

© LayerX Inc. 32 Amazon Bedrock を用いたアノテーションタスク Amazon Bedrock ■ Amazon Bedrock の特徴・AWS アジアパシフィック (東京) リージョンで処理、海外へのデータ越境がない・LLM モデルプロバイダーの API キー発行が不要、IAM でのリソースアクセス制御が行える・最新の Claude モデルが利用できる・Claude JSON mode により出力フォーマットが指定可能、構造化されたアノテーションデータが得られる

Slide 33

Slide 33 text

Slide 34

Slide 34 text

Slide 35

Slide 35 text

AI-OCR における LLM 活用の今後

Slide 36

Slide 36 text

© LayerX Inc. 36 LLM による推論結果をそのままユーザーに提供するか？ AI-OCR における LLM 活用の今後ユーザーに提供するために取れるアプローチは？ > マルチモーダル? Few-shot prompting? プロンプトエンジニアリング? 現状では、ユーザーにパーソナライズドさせた結果を返す水準に至らない自社ドメインのデータで学習した従来の機械学習モデルの方が、精度の面で高いことが多いまたリクエスト量が多く、レイテンシの速さも求められる ※ 現行 AI-OCR は、最大でも 5秒以内を維持

Slide 37

Slide 37 text

© LayerX Inc. 37 AI-OCR における LLM 活用の課題 AI-OCR における LLM 活用の今後・精度が向上する（可能性を持つ）アプローチが限られている・誤りの修正が困難、どこからその値を抽出したかや座標位置などでの特定出来ない・「帳票内に存在しない値を出力」や「出力スキーマに従っていない」をゼロに出来ない ※ アノテーションタスク実行時は、リトライを行い補正を試みる実装を行っている・LLM モデルプロバイダーによる API レートリミットの制限を受ける・レイテンシ

Slide 38

Slide 38 text

© LayerX Inc. 38 AI-OCR における LLM 活用の展望 AI-OCR における LLM 活用の今後 LLM が得意なユースケースを捉える ■ 日本語以外の帳票での活用  英語以外の外国語帳票のアノテーションは、第一言語にない人では抽出後の意味付けが難しい、暗黙的な慣習も不明（汎用的な言語モデルが活かせる） ■ アノテーションタスクの精度向上のために Fine-tuning させたモデルを利用