AIエージェントの社会実装に向けたステップ

LayerXは、大手企業を中心に生成AIプラットフォーム「Ai Workforce」を提供しています。
DevinやDeepResearchなどの出現によって、AIが自律的にPlanningを行うAIエージェントの有効性が広く知られることになり、スタートアップやエンジニアだけでなく、大手企業からの関心も非常に高まっています。他方でAIエージェントは、Difyなどのようにノード状で処理プロセスを定義するワークフローと比べると結果の不確実性が高く、企業内のユースケースで実際に実装するためにはハードルもあります。
そこで本セッションでは、LayerXが直近支援した導入事例を交えながら、AIエージェントを実際に導入していくまでのステップやプロジェクト設計のポイントを具体的にご紹介します。

Transcript

1. © LayerX Inc.　 1 AIエージェントの社会実装に向けたステップ ― WorkflowからAgentic Workflow、最後にAgentへ 2025年3⽉4⽇、⼩林 誉幸
2. 2 © LayerX Inc. 出所：LayerX「AI‧LLM事業部採⽤特設ページ」 登壇者紹介 AI‧LLM事業部 コンサルティングマネージャー • 東京⼤学法学部卒業後、⽇本銀⾏に⼊⾏し、 経済調査や政府統計の企画‧分析、決済制度 の企画‧実装などに携わる。 • 三菱UFJリサーチ&コンサルティングでの戦略 コンサルタントを経て、弁護⼠ドットコムで はクラウドサイン担当の執⾏役員として事業 戦略やプロダクトマーケティングを管掌。 • 2023年、AI‧LLM事業（当時はLLM Labs）の ⽴ち上げメンバーとしてLayerXに⼊社。 略歴 役職
3. ⽬次 Agenda © LayerX Inc. 1. Ai Workforce と Workflow 2. Agentの実現に向けた途中経過、実例を交えて 3. Agentは All or Nothing ではない
4. © LayerX Inc. Ai Workforce と Workflow
5. AIが⾃動で要約やタグを⽣成、ファイルを整 理しながらデータ登録しナレッジ検索が容易 に。また、マスキング機能で機密情報を含む テキストや画像を除去‧置換し、セキュアな 情報共有を実現。 様々な処理をブロックのように組み合わせ て業務フローを構築可能。処理結果をデー タベースに登録したり、Excel等の様々な形 式で出⼒もでき、様々な業務で活⽤可能 企業と成⻑を共にするAIプラットフォーム。 AIに業務を教えることが簡単になり、ナレッジやデータ活⽤を促進。 LayerXの⽣成AIエキスパートがドキュメン トの種類や業務特性に沿って組み込んだ最 適な前処理を標準搭載。複雑な表や画像が 含まれる⽂書や100ページ以上の⽂書でも ⼗分な精度を担保 Ai Workforceでできること 幅広い業務をAIが代⾏ ナレッジを安全に社内共有 最適な前処理の⼯夫 AI-OCR 表や画像の処理 ⽂書サイズ調整
6. 6 © LayerX Inc. LayerXのAi Workforceも グラフ状のノードを構築するア プローチでは...？ Ai Workforce と Workflow Deep Research開発チームの話 出所：「OpenAI’s Deep Research Team on Why Reinforcement Learning is the Future for AI Agents」  注： NotebookLMで⽂字起こしした後、ChatGPTでfiller wordsなどを除く整形を⾏っている。 「ワークフローを⼈がグラフ状に定義して、各ノードで⾔語モデルを使うという⼿法は、現実の複雑 なケースに対応するのがすごく難しい」という話が先週バズった。 Before open AI was working at a startup and we were dabbling and building agents the way that I see most people describe building agents on the internet, which is essentially you construct this graph of operations and some of the nodes in that graph are language models. And so the language model can decide what to do next, but the overarching logic of the sequence of steps that happen is defined by a human. And what we found is that it's really powerful way of building things to get quickly to a prototype, but it falls down pretty quickly in the real world because it's very hard to anticipate all the scenarios that the model might face and think about all the different branches of the path that you might want to take. このアプローチが有効に機能 する条件を改めて整理するの にちょうど良いタイミング
7. 7 © LayerX Inc. 今日のスコープは、 あくまで大企業顧客に導 入するためのお話 エンジニアやスタートアッ プが社内でAgentを使い こなすとは別の話 Ai Workforce と Workflow ⼤⼿企業に特化したソリューション
8. © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて
9. 9 © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて Workflow と Agent の違い WorkflowとAgentを単純な2分類で考えると、Agentの特徴は⾃律的な判断機能を持っているか、 すなわちPlanning機構の有無となる。 タスクを複数のステップに分解し、 それらをあらかじめ決まった順序で実⾏する 特定の⽬標に対してAI⾃⾝がどんなアクションを どんなステップで⾏うべきかを考え試⾏する 分類 抽出 分類 分類 名寄せ 要約 AI Workflow 指⽰ 終了 判断 ⾏動 結果 AI Agent
10. 10 © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて 単体ツールからAgentまでのグラデーション しかし実際には単純な2分類ではなく、より細かく細分化される 単体ツール Workflow Agentic Workflow Agent Multi Agent 対応範囲：狭い 精度担保：易しい 対応範囲：広い 精度担保：難しい
11. 11 © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて Agentの実装に向けたポイント Agentを細分化して⾒ていくと、以下3点のポイントが⾒えてくる。 データセットの重要性：Agentオンボーディング 精度の不確実性‧予期せぬ挙動：Planningはまだハードルが⾼い Agentが機能する環境づくり：データセットと信頼関係の構築 1 2 3
12. 12 © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて データセットの重要性 : Agentオンボーディング ⼤⼿企業のコンテキストやナレッジは極めて多岐にわたり複雑。 Agentの実装に当たっては、これらをLLMに渡せる形でデータセットとして整備する必要がある。 ⼈間は様々な情報を経験として蓄積 現状LLMに渡されるデータはわずか たった数百⽂字のプロンプト 5〜20年かけて⾊々な経験 • 業務⽬的 • 業務フローの位置づけ • タスクの前後関係 • 例外事象への対応⽅針 • 過去の失敗談 • 担当者の役割‧権限 • 組織⼒学 • 業界知識 • 各種制約（法律 等）
13. 13 © LayerX Inc. • 企業内で機能するAgent を複数用意する必要 • Orchestratorが適切に 使い分けるための情報を付 与する必要もあり、実装 ハードルが高い。 Agentの実現に向けた途中経過、実例を交えて 精度の不確実性‧予期せぬ挙動：Planningはまだハードルが⾼い Agentと⼀⼝に⾔っても、構成要素別に⾒ると実装難易度に違いがある。 特にAgentの中核であるPlanningは、精度や予期せぬ挙動を制御するハードルが⾼い。 Reflection Tool Use Planning Multi Agent • 既に多種多様なツールが LLMから利用されている • 実運用上の課題が話題に されることも少ない • Devin,DeepResearch などでは驚愕の精度 • 他方で企業内ユースケース ではデータ不足から精度が 出ないリスクや、意図せぬ 挙動をするリスクが大きい • Workflowの一部に取り入 れやすい。 • Ai Workforceでも活用 （P15で後述） 信頼性が⾼く、Agentic Workflowに取り⼊れやすい AgentといえばPlanningやMulti Agentであるが、 ⼤⼿企業内では精度不安や実装コストが⼤きい 参考：「What's next for AI agentic workflows ft. Andrew Ng of AI Fund」
14. 14 © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて Agentが機能する環境づくり: データセットと信頼関係の構築 Workflowで実現可能なシンプルな事例でQuick Winを実現することで、 データセットと顧客の信頼を蓄積し、Agentによる完全⾃動運転を実現するための環境を整備。 社会‧⼤企業の 不確実性への受容度 （顧客からの信頼度） データセット の蓄積 Workflow Agentic Workflow Agent Workflowの利⽤ログ等の データを利⽤して⼀部Agent化 Workflowの成功で信頼を獲得し、 Agentの不確実性を⼀定程度許容 Workflow構築過程の 思考プロセスやWorkflow⾃体を データセットとしてAgentを実現 ヒトのレビューを挟まない 完全⾃動運転を顧客も受け⼊れ few shotの世界
15. 15 © LayerX Inc. Agentの実現に向けた途中経過、実例を交えて 具体例：WorkflowにReflection機構を組み込み、例外ルールに対応 LayerXでも例外事象が無限に発⽣する基幹系業務の巨⼤なWorkflow案件がある。 例外事象への対応だけなら、WorkflowにReflection機構を組み込むだけでもかなりの対応が可能。 LLM処理 ルール ベース処理 LLM処理 LLM処理 LLM ルーター ルール ベース処理 LLM処理 LLM処理 LLMの 評価 LLM処理 ルールベースで分岐 LLMの判断で分岐 LLMの 評価 ヒトの 評価 LLMやヒトの評価結果をもとにルーティングを再実⾏ ReflectionなどAgenticなプロセスを必要な箇所に必要な範囲内で組み込む Workflow 選択 現在はヒトがWorkflowを選択 将来的にはOrchestratorが 最適な選択をできる可能性
16. © LayerX Inc. Agentは All or Nothing ではない
17. 17 © LayerX Inc. Agentは All or Nothing ではない まとめ：Agentは All or Nothing ではない ⼀⾜⾶びにAgentに⾶びつくのは難しい。 効果と実現可能性を⾒極め、徐々にAgenticな要素を取り⼊れていくアプローチが現実的。 • 最適な品質・体験となるように、ソフトウェア・LLM・ヒトの誰が何をやるべきか決める。 • ルールベースやWorkflowで十分な部分はそれらでまかなった方が信頼性が高く、 Agenticなアプローチが必要な部分に限ってAgentを取り込むアプローチが現在は有効。 すべてのパーツが LLMである必要はない • Workflowで実現可能なシンプルなユースケースでQuick Winを達成することで、 顧客のAIや自社に対する信頼を獲得し、不確実性の高いAgentの受け入れ準備が整う ワークフローによる Quick Win ワークフローを通してデー タセットを蓄積 • DeepResearchのような精度を出すためには、高品質なデータセットが重要。 しかし検索と異なり、大企業の社内業務でそうしたデータセットは通常存在しない。 • Workflowの利用ログから始まり、将来的にはWorkflowそのものや構築過程の思考プロ セスなどを活用し、LLM活用とデータセット構築を同時に進める。
18. 18 © LayerX Inc. Ai Workforceでは様々なポジションで募集しています 最後に 募集職種（抜粋） • コンサルタント • プロジェクトマネージャー • ソフトウェアエンジニア • LLMエンジニア • SRE • プロダクトマネージャー LayerX AI‧LLM Division Deck - Speaker Deck