AIが安心安全に意思決定できる基盤を目指して

Transcript

1. @IVRy Inc. All rights reserved. AIが安⼼安全に意思決定できる基盤を ⽬指して 株式会社IVRy データエンジニア 松⽥ 健司
2. ヤフー株式会社（2014 - 2016） 新卒⼊社し、広告配信システムのDMP開発に従事。 株式会社カケハシ（2016 - 2025）  薬局向けSaaSのスタートアップに6⼈⽬として参画。  ソフトウェア開発を起点に、データエンジニア、  エンジニアリングマネージャーまで、事業の成⻑に  合わせて幅広く経験。 株式会社IVRy（2025-) データエンジニアとして、データ基盤の構築に従事。 松⽥ 健司 (X:@ken_3ba) 2
3. 対話AIプラットフォーム 「アイブリー」 3 プロダクト
4. 4 IVRy Data Hubとは IVRy Data Hubとは 企業が保有するコミュニケーションデータ（通話、メールなど）を一元的に統合・分析し、 AIの力で経営課題の解決を支援します。従来活 用が難しかった非構造なコミュニケーションデータを、 「リスクの予防的検知」「業務プロセスの抜本的な自動化」「顧客価値の戦略的 な最大化」という3つの領域で活用可能なデータに変換します。
5. @IVRy Inc. All rights reserved. 今⽇話すこと 5 データ基盤は「⼈がデータをためて⾒る」ものから、 「⼈やAIが安⼼‧安全に意思決定する」ものへ。 それを⽀えるのが、データガバナンス。 締め付けじゃない、安⼼して使ってもらうためのもの。 今⽇は、IVRyの取り組みや今後を話す。
6. @IVRy Inc. All rights reserved. アジェンダ 6 1. AI Readyなデータ基盤とは 2. AIに安心して「任せる」ための事前のガードレール 3. AIの異常にすぐ「気づく」ための事後モニタリング 4. まとめと今後
7. @IVRy Inc. All rights reserved. 7 Databricksを中⼼にしたデータアーキテクチャ 引用: IVRyを支えるデータ・AIプラットフォーム
8. @IVRy Inc. All rights reserved. 8 AI時代におけるDatabricksのデータ基盤の⾒解は？ Data + AI Summit 2026のKeynoteより、 「AIは⼗分に賢い。ただ、まだ仕事では使えていない」 ⾜りていないのはモデルの賢さではなく、以下の4つの観点 Context(業務⽂脈)、Control(ガバナンス)、Cost(コスト管理)、Choice(モデル選択) 引⽤:Data + AI Summit Keynote 2026 | Day 1
9. @IVRy Inc. All rights reserved. 9 今後のデータ基盤の役割は？ データを貯める場所からAIがビジネスで安⼼‧安全に意思決定するための⼟台へ パイプラインの生成から障害の検知・修正まで、 AIが自 律的に実行する。 出典：Databricks Data + AI Summit 2026 キーノートより整理 データの使い方 保存中心 意思決定支援 ETL開発 手動 自動生成・運用 分析の担い手 人が分析 AIが分析 データ連携 閉じた基盤 オープンな連携 ログ・コスト監視 分散 一元管理 モデルの選択 単一モデル 複数モデル
10. @IVRy Inc. All rights reserved. 10 今回のテーマは Control、Costといったガバナンスとコストについて話します 引⽤:Data + AI Summit Keynote 2026 | Day 1
11. @IVRy Inc. All rights reserved. 11 利⽤を制限したいわけじゃない、最適化したい。 「ガバナンス＝制限」、は誤解。 データエンジニアは、縛りたいんじゃない。 むしろ、もっと使ってほしい。もっと価値を出してほしい。 ただ、セキュリティの事故は許されない。 コストが⾒合わなければ、ROIが合わない。それは利⽤者だって嫌なはず。 利⽤者に何も意識させず、最⼤限使わせて、価値創出に貢献する。 そこがデータエンジニアの腕の⾒せ所。 ⽬指すのは、利⽤者もAIも、何も気にせず使える基盤。 ガバナンスは、その裏で担保しておく。
12. @IVRy Inc. All rights reserved. 12 やることは同じ。むしろ難易度が上がった。 AI登場前も、やっていたのはETL開発とガバナンス。 実装はAIがやる。設計とガバナンスは、⼈間がやる。 むしろ難しくなった。 昔は利⽤者だけ、今はAIも利⽤する。 ガバナンスでやることは、変わらない。予防と検知を、淡々とつくる。 IVRyの実践と、これからについて話す。
13. @IVRy Inc. All rights reserved. アジェンダ 13 1. AI Readyなデータ基盤とは 2. AIに安心して「任せる」ための事前のガードレール 3. AIの異常にすぐ「気づく」ための事後モニタリング 4. まとめと今後
14. @IVRy Inc. All rights reserved. 14 予防的統制:起きる前に防ぐ 不正、コスト超過といった問題が発⽣する前に防ぐための仕組み。 ⽬的 リスクの発⽣⾃体を未然に阻⽌すること 特徴 注意点 事象そのものが起きず、被害‧損失の影響を最⼩化できる • 制限を厳しくしすぎると利⽤者の利便性を損なう • 事前にリスクを予期して設定する必要があり、⾼い知⾒が求 められ、想定外の事態に弱い 具体例 • アクセス管理 • 予算の設定 • データのバリデーションチェック
15. @IVRy Inc. All rights reserved. 15 必要な⼈が必要なデータだけに触れる権限管理 最⼩権限の法則に基づく RBAC + ABAC で権限を管理。 AIは役割に収まらないため、「今この瞬間、何のためにどのデータを触るか」 を絞る必要があるため、今後はよりABACが効いてくる。 https://javascript.plainenglish.io/why-abac-beats-rbac-for-custom- permissions-a-developers-real-world-case-73dbcb1d328b RBAC(ロールベースアクセス制御) 役割で、大枠を絞る ユーザーの役職や職務に基づき データへのアクセス権を付与 ABAC(属性ベースアクセス制御) 属性で、その都度判定 ユーザー・リソース属性、環境条件など 動的な属性情報に基づきアクセス権を付与 RBACを⼟台に、ABACを重ねて条件絞る
16. @IVRy Inc. All rights reserved. 16 個⼈情報はマスキングし、⽣データを露出させずに分析できるようにする。 ⽣データと匿名加⼯情報は分離して管理し、⽣データは利⽤できない場所に配置する。 利⽤者とAIはマスキングされたデータを利⽤して分析 匿名加⼯情報 ⽣データ マスキング 処理 通話ID 電話番号 通話内容 abc-1234 090-1234-5678 佐藤さんの商品が 届いていない 通話ID 電話番号 通話内容 xxx-xxxx 090-xxxx-xxxx XXさんの商品が 届いていない
17. @IVRy Inc. All rights reserved. 17 今後は利⽤者によってAIの回答を変えられるように 利⽤者の権限ロールや利⽤⽬的に応じてAIが返す内容を切り替え。 個⼈情報を必要な⼈や必要な時だけ開⽰し、セキュリティを保ちながら 最⼤限活⽤できる。
18. @IVRy Inc. All rights reserved. 18 意図しない過度な利⽤による⾼額請求を防⽌ 現状は、モデルの利⽤制限を共通、かつ、⼀律に適⽤しています。 今後は、モデルやユーザーの属性に応じた柔軟な個別設定を可能にし、 利⽤者の利便性と安全性の双⽅を両⽴させます。
19. @IVRy Inc. All rights reserved. アジェンダ 19 1. AI Readyなデータ基盤とは 2. AIに安心して「任せる」ための事前のガードレール 3. AIの異常にすぐ「気づく」ための事後モニタリング 4. まとめと今後
20. @IVRy Inc. All rights reserved. 20 発⾒的統制:起きたら気づく すでに発⽣した問題をあとから⾒つけて対処するための仕組み。 ⽬的 発⽣した問題を早期に検知し、是正‧対応につなげること 特徴 注意点 予防で防ぎきれない想定外‧不正も拾える • 検知はあくまで事後で、被害の発⽣⾃体は防げない • 継続的なモニタリングと気づいた後の是正‧対応がセットで 必要 具体例 • 監査ログのモニタリング • 定期的な棚卸し • アラート、異常検知の通知
21. @IVRy Inc. All rights reserved. 21 アクセス‧コストの監視と、利⽤実態の可視化 現状は、コストを可視化し、週次ベースでモニタリングしている。 今後は、監査ログのモニタリングへと対象を広げ、コストについても利⽤⽤途や チーム単位での按分を⾏い、より詳細を可視化する。
22. @IVRy Inc. All rights reserved. 22 データアクセスおよび予算超過における異常検知の強化 現状は、⼤まかな予算超過アラートをSlackで通知している。 今後は、データアクセス、データ品質、予期せぬコスト超過の異常検知に対応 し、分析軸の多⾓化や通知先の拡充を通じて、より緻密で網羅的な検知運⽤へと⾼ 度化を図ります。
23. @IVRy Inc. All rights reserved. 23 まとめと今後 データ基盤は「⼈がデータをためて⾒る」ものから、 「⼈やAIが安⼼‧安全に意思決定する」ものへと変わる。 それを⽀えるのが、予防と検知のデータガバナンス。 ガバナンスは、締め付けじゃない。 利⽤者もAIも、何も気にせず使えるようにし、裏で担保しておく。 そして、ガバナンスは⼀朝⼀⼣ではできない。 ⼈間にしかできないこともある。だから、AIと協働して改善し続ける。