現場を動かすAIエージェント#2_製造業現場でのAI活用から見た、ハマる罠と実践知

Transcript

1. 製造業現場でのAI活用から見た、 ハマる罠と実践知 登壇者 野村 宏樹 所属 KINTOテクノロジーズ株式会社 枠 20:10 –（20分） KINTO Technologies
2. CHAPTER 1 自己紹介・会社紹介 2 / 24
3. 自己紹介 CHA P T E R 1 · S P E A K E R GROUP AI First AI Engineering Microsoft MVP for Microsoft Foundry TEAM MVP 略歴・バックグラウンド KINTOテクノロジーズ 野村 宏樹 HIROK I NOMURA しろくま 前職：自動車制御設計領域への生成AI活用案件で、開発リードを経験 2025年8月にKINTOテクノロジーズ入社。AIファーストG所属、生成AIアプリエンジニア 販売店向けAIプロダクト、社内生成AIツール、生成AI研修、トヨタグループのAI活用の伴走支援 コアスキル / CORE STRENGTHS 01 生成AIを含むプロダクト開発 02 Azure Infra / PaaS 03 車両開発ドメイン知識 技術スタック / TECH STACK Azure（インフラ・アプリ全般） Claude Code / GitHub Copilot Microsoft Agent Framework / LangChain 3 / 24
4. KINTOテクノロジーズ株式会社について （グループ組織） CHA P T E R 1 トヨタ自動車株式会社 トヨタファイナンシャルサービス株式会社 海外販売金融会社 世界40以上の国と地域で サービスを展開 トヨタファイナンス 株式会社 販売金融・クレジットカード など KINTOテクノロジーズ 株式会社 株式会社KINTO 4 / 24
5. KINTOテクノロジーズについて CHA P T E R 1 · CO M PA N Y トヨタグループのエンジニア内製組織 1 モビリティサービスの開発・運用 KINTOをはじめとするモビリティサービスを、自ら開発し運用 する。 2 トヨタグループ各社との協働 AI・クラウド領域で、グループ各社を支援する。 今日の話はこちら側。 5 / 24
6. AI活用の支援内容 CHA P T E R 1 · O UR A P P R OACH 6 / 24
7. CHAPTER 2 AI導入で起こりがちなこと 7 / 24
8. AIを使った組織やチームでの業務効率化、 価値は出ていますか？ ツールは入れてるけどさ、、、みたいなことありません？ 8 / 24
9. AI案件が普通のシステム導入と違う3つの性質 CHA P T E R 2 · T HR E E T R A I T S 1 挙動が現場で決まる その現場のデータと業務の癖で挙動が決 まる。 2 非決定性 同じ入力でも出力が揺れる。厄介なの は、間違った出力が一見正しく見えるこ と。静かに業務に紛れ込む。 3 デモ→本番の崖 デモは“うまくいく場面”のお膳立て。本 番では想定外の入力・膨らむコスト・運 用の手間・つなぎ込みが一気に来る。 ここには組織の壁もある。 9 / 24
10. 起こりがちなパターン① 求める価値が人によって違う CHA P T E R 2 · PAT T E R N 0 1 そもそも何の価値を出すかが、組織で合意されていない。 例：「業務文書の作成を支援するエージェント」 何が起きるか LLMは柔軟すぎて「何でもできそう」に 見える 人ごとに違う期待を背負い込む 「書類を自動で生成してくれるんですよね」 期待値とズレた瞬間、 使われなくなる 「多角的にレビューしてくれるんですよね」 10 / 24
11. 起こりがちなパターン② 業務を変えずに、AIだけを乗せる CHA P T E R 2 · PAT T E R N 0 2 既存の業務を変えていないから、組織の数字が変わらない。 既存のフロー・帳票・承認手順（そのまま） その上にAIを乗せる 何が起きるか 「AIを入れたのに、楽にならない」 個人がAIを使う分には速くなった気がする 業務全体のリードタイムは1日も縮 まらない 出力を人が全部チェック ＝ 二重作業 11 / 24
12. 起こりがちなパターン③ 立派なAI基盤から作り始める CHA P T E R 2 · PAT T E R N 0 3 価値が出る前に、一番大きなコストを払ってしまう。 「全社で使うから、まず立派な共通基盤を」 出来上がる頃には、現場の使い勝手や最新のAI活用方法と異なってしま い、敬遠される 何が起きるか 現場は先に別の道具を使い始める 管理外のエージェントが乱立、ガバナンスが効かない 立派な共通基盤ができたときに、代表するユースケースが なく使われない（例：データレイヤー先行） 12 / 24
13. CHAPTER 3 「AIを作る」から「業務を動かす」へ 13 / 24
14. 発想の転換 —「AIを作る」から「業務を動かすシステムの設計」へ CHA P T E R 3 · R E F R A M E 欲しいのは業務の効率化。AIエージェントは、その部品の1つ。 賢いチャットを作る → 業務を動かすシステムを設計する モデルの精度を追いかける → 責任分界と成功の基準を定義する → 改善のループで育てていく PoCで精度を判定して終わり ＝ ループエンジニアリング 14 / 24
15. 進め方の型 CHA P T E R 3 · T HE M A P AI導入計画時、構築時、運用時 それぞれのフェーズでの考え方と便利ツールを活用 Q1 本当にやるべきか Q2 何を作るか Q3 どう作るか AsIs＆ToBe業務フロー 人とAIの協働設計 AI導入ROI PRD AIとツールの分担設計 Q4 どう運用・改善し続ける か 評価セット 資産化・横展開 15 / 24
16. 実践例 CHA P T E R 3 · I N P R ACT I CE AT K TC KTCが実践しているAIエージェント導入時のノウハウ 01 02 03 現場の業務をヒアリングしてフロー図に起 こす作業をSkill化。第1章の「業務フロー の整理」はこれで回る。 AIのためのナレッジは最初に作って終わり だと腐る。利用中の「情報不足」や会議結 果を踏まえた新たな情報を反映する、継続 的なナレッジ運用。 正しさだけでなく、途中でどのツールをど う使ったかという「ふるまい」を評価し、 エージェント、ツール、ナレッジの改善に つなげる。 もの情作成AI 現場ナレッジ 継続運用 AIエージェント 評価 16 / 24
17. 事例①：もの情AI （ものと情報の流れ図） CHA P T E R 3 · I N P R ACT I CE AT K TC AIと人との協働のために、AIエージェントを含めた業務フローを設計すべき 業務設計に AIエージェントも含める 17 / 24
18. 事例②：使われ方も毎週見る （利用状況ダッシュボード） CHA P T E R 3 · I N P R ACT I CE AT K TC 評価ケースの優先順位も、展開先の判断も、実際の利用から決める 見えたこと 部署別の質問回数 生産技術部門（塗装計画） （少人数部署まとめ） 工場A 塗装成形部 塗装課 工場A 機械部 部品課 工場B 塗装成形部 第2塗装課 工場A 塗装成形部 技術員室 302 113 53 23 9 7 週次利用者は、8月下旬の数人から9/21週 に23人へ 質問は週最大159回。新規・継続・復帰が 混在 質問は特定の部門に集中。少人数部署は合 算 使い道 評価ケースを増やす優先順位づけや、展開先の 判断に使う 18 / 24
19. 事例②：ナレッジは、業務とともに育てる CHA P T E R 3 · I N P R ACT I CE AT K TC 人が最終承認を担い、AIが日常の検知・抽出・提案を受け持つ 1 設計者が使う 人とAI 各設計工程で、進め方・注意点の気づき とナレッジ回答を得る 2 気づきが生まれる 人 ベテランのデザインレビューや利用中の 「情報が足りない」から、暗黙知が出て くる 3 AIが変更案を作る AI 人が確認・承認 人 レビュー会議の録音・トランスクリプト から、追加・更新の候補を抽出 使えば使うほど、業務を知り、できることが広がる 6 回答の幅が広がる 人とAI 次の設計では、更新されたナレッジで気 づきを返せる はじまり 5 ナレッジを更新 人とAI 承認された内容を、設計の観点・過去の 不具合事例などに反映 初期ナレッジは、過去のチェックシート・不具合シートから手動でデータ 化。暗黙知は一度では出し切れないので、ループで足し続ける。 仕組み化するかの判断軸 一度きり → 仕組み化は不要 4 正確性・妥当性を確かめ、承認または差 し戻す。ここが品質のゲート 継続的に必要 → 仕組み化が必須 19 / 24
20. 事例③：評価は、現場が回せる形にする CHA P T E R 3 · I N P R ACT I CE AT K TC あらかじめ固定した質問をエージェントに入力し、5点を確認する 正しいナレッジを検索できたか 2 検索した根拠に沿って回答したか 3 根拠のない管理値や薬剤投入量を断定していないか 4 危険な設備操作をAIが直接指示していないか 5 問題があれば、検索と回答生成のどちらで失敗したか 1 ワイヤーハーネス設計での学び（ 2026 年 1 月時点） 標準の評価機能はチャット1往復分しか見られず、人が途中に入る業務では使え ない。まずは会話ログを人が分析するところから始めた。 正しさだけでなく、途中でどのツール・ナレッジをどう使ったか（ふるま い）も見て、改善につなげる。 20 / 24
21. 事例③：実ログ分析 × ゴールデンケース評価で回し続ける CHA P T E R 3 · I N P R ACT I CE AT K TC 使われた実ログから問題を見つけ、改善したエージェントをゴールデンケースで評価する 見つけた問題を、ゴールデンケースに追加 1 現場で使う 設計・判断の業務でエージェント を使う。会話ログが残る 2 実ログを分析 一般論だけ・誤回答の疑い・言い 直しや追い質問から、問題を見つ ける 3 改善する ナレッジ・プロンプト・ツールを 直す。専門的な判断は現場が確認 4 ゴールデンケース評価 改善後のエージェントで固定の質 問を回し、良くなったか・壊れて いないかを確かめる リリースして、現場でまた使う 現場に近い人が回せるように用意したもの ダッシュボード 利用状況と、ログから見つかった問 題を一覧で見られる 使う場面 ① ② スキル 分析・ケース化・評価の手順を型に して、誰でも同じ手順で呼べる 使う場面 ② ③ ④ 専用エージェント ログ分析とゴールデンケースの実行 を任せ、結果を読める形で返す 使う場面 ② ④ エンジニア頼みの運用 ↓ 現場に近い人が、 なるべく内製で回す 21 / 24
22. まとめ：道具を渡して終わりにしない S UM M A R Y 大事なのは、業務にどう価値を生むかを整理し、作ったあとも改善し続けること 作る前に 作ったあとに 業務にどう価値を生むかを整理する 1 2 3 作って終わりにせず、改善し続ける 対象 AIエージェント プロンプト ナレッジ ツール 今の業務を整理する（AsIs） 業務の流れと、どこで詰まっているかを見える化する あるべき姿を描く（ToBe） AIエージェントを含めた業務フローにする 役割と価値を決める AIに任せる所、人が判断・承認する所、成功の基準 進め方の型 AsIs＆ToBe 事例① もの情AI → 1 可視化する 2 評価し続ける 使われ方と、ログから見つかった問題を見える化する 実ログの分析と、ゴールデンケースでの評価を回し続ける 事例② ダッシュボード・ナレッジ 事例③ 評価 22 / 24
23. APPENDIX 付録 23 / 24
24. 業務活用エージェントに当てはめると A P P E N D I X · LO O P E N GI N E E R I N G 成果物 × 仕組み改善 のループ ＝ 学びを蓄積し、エージェントを継続運用する 24 / 24