自由度の高いAI導入は AI活用に繋がらない

安全にAI 活用を進めるにはどうすれば良いか、について話しました。
AI 活用を安全にするシステムを導入したい場合や、社内の AI ガバナンス体制を整えたい場合は Elith までお問い合わせください。
https://www.elith.ai/

Transcript

1. イプロスAI 2026 自由度の高いAI導入は AI活用に繋がらない 株式会社Elith 取締役CAIO 下垣内 RULES × GUARDRAILS × EXECUTION HARNESS
2. 会社が認めていないAIを、 仕事でこっそり使ったことは ありますか？ 02
3. シャドーAI は例外ではない 78% のAI利用者が、 自分で選んだAIツールを仕事に持ち込む シャドーAI (BYOAI) は“悪意”ではないが、 会社から見えなければ、データ漏洩に気づけない&防げない。 ©️ 2026 Elith 出典: Microsoft & LinkedIn, 2024 Work Trend Index Annual Report（2024-05-08） https://www.microsoft.com/en-us/worklab/work-trend-index/ai-at-work-is-here-now-comesthe-hard-part/ 3
4. 本日お話しすること AIの活用を止めずに、安全性を高めるには 1. なぜシャドーAIが生まれるのか 2. ルールと教育だけではダメな理由 3. どうすれば活用を進めつつ安全にできるか ©️ 2026 Elith 4
5. 自己紹介 下垣内 隆太 (Ryuta Shimogauchi) Chief AI Officer @ Elith AI R&D: 2016Elith: 2023Modality: @eta1ia @ryuta-shimogauchi @et_a11a Vision/Language ©️ 2026 Elith 5
6. シャドーAIはなぜ 生まれるのか シャドーAIは悪意から 生まれるわけではない • • • • • ©️ 2026 Elith 議事録を早くまとめたいにゃ 顧客への返信を早く作りたいにゃ 分からないことを調べたいにゃ 資料やデータを整理したいにゃ 会社の正式なAIは使いづらいにゃ 6
7. ©️ 2026 Elith 7
8. シャドーAIのリスク AIへ入力した情報はどこに行くのか
9. シャドーAIのリスク 各社の規定 サービス 無料プラン 個人向け有料プラン 法人向けプラン ChatGPT デフォルトで学習オン 無料版と同様 デフォルトで学習不使用 Claude ユーザーが許可した場 合は学習利用 無料版と同様 デフォルトで学習不使用 Gemini Keep Activity オンで学 習利用。Keep Activity は原則オン。 無料版と同様 対象Workspaceでは人手 レビュー・外部モデル学 習なし ©️ 2026 Elith 10
10. 実際に起きていること 事例1: 連鎖的なインシデント 1. Context.ai 従業員の PC がマルウェアに感染 2. Vercel の従業員が Centext.ai のAIツールを無断利用 3. Context.ai への攻撃者が、AI を通じて Vercel の内部情報を盗む ©️ 2026 Elith https://vercel.com/kb/bulletin/vercel-april-2026security-incident 11
11. 実際に起きていること 事例２: AI 生成物や入力が公開されるサービス設計 チャットへ入力した情報が、検索対象になっている時期があった AI サービスが出てから3年以上が経つの で、こういったことはもう起こらない 新たなAI サービスが日々ローンチされてい る。バイブコーディングで作られたクオリ ティの低いものも増えており、従業員がこ れらを利用するリスクはある
12. 実際に起きていること 事例3 : チャットシステムと記事公開の動線が近い ページを作成して、簡単に公開できるサービスがチャットと同じ 画面からアクセスできる (現在はサービス停止中) ChatGPT は共有ボタンを押すと 確認なしに即公開リンクが生成 されてしまう
13. ルールと教育だけでは不十分か 大量の規定を、入力のたびに思い出せますか。 判断が難しい ⚫ 顧客名は個人情報か ⚫ 社内の価格表は機密情報か ⚫ 図表の一部なら入力して良いか ⚫ 匿名化すれば利用できるか → 規定を知っていても、現場では判断がつかない ©️ 2026 Elith 14
14. ルールと教育だけでは不十分か 毎日アップデートされるアプリを管理しきれますか AIサービスの進化が速い 共有機能 公開機能 外部連携 エージェント機能 ファイル アップロード → ルール更新がサービスの変化に追いつかない ©️ 2026 Elith 15
15. ルールと教育だけでは不十分か 間違えたことはないですか 人間は間違えます • 入力先を間違える • ファイル内の個人情報を見落とす ©️ 2026 Elith 16
16. 安全なAI利用のために必要なこと 使える 現場の業務に役立つ、承認済みのAIを用意する 公式な選択肢が使いづらいと、シャドーAIは無くなりません ©️ 2026 Elith 17
17. 安全なAI利用のために必要なこと 迷わない・事故にならない リスクベースで利用範囲がツールご とにわかりやすく整理されている システムなどで検知して、個人情 報・機密情報に関する警告が出る 匿名化処理などが自動で実施される RAG 対象のデータ自体が匿名化済み データ権限の管理がシステム側で 行われる ©️ 2026 Elith 18
18. 従業員体験の Before/After 例) 営業担当者が商談議事録を要約する Before AI に入力して良いか不明 → 上司へ確認 そのまま AI に入れてしまう AI を使わずに手作業でまとめる After AI に要約依頼 → システムが顧客名や 機密情報を検知 → 匿名化処理を行った インプットを提示 → 承認するとAI要約を実行
19. GENFLUX Security 今回解説した概念の実装例
20. GENFLUX Security 今回解説した概念の実装例
21. GENFLUX Security 今回解説した概念の実装例
22. まとめ AI活用を止めずに安全性を高めるには、 「使える環境」と「事故を防ぐ仕組み」が必要 01 使える 現場の業務に役立つ、承認済みのAIを用意する 公式な選択肢が使いづらいほど、シャドーAIは増える 02 迷わない ルールと技術的ガードレールを組み合わせる 入力時の検知・警告、匿名化、権限管理で事故を防ぐ 03 事故にならな い 安全な手順をシステム側で実行する 活用と統制を両立し、業務スピードを落とさない 自由度を広げる前に、安全に使い切れる仕組みをつくる。 ©️ 2026 Elith
23. お問い合わせはこちら https://lp.genflux.jp/genflux-security