[しろおび夏祭り2026] チャットするAIから、作業するAIへ - 使われ方の変化と、その裏側で起きていること

Transcript

1. チャットするAIから、 作業するAIへ 使われ方の変化と、 その裏側で起きていること 2026-08-01 しろおびセキュリティ #3 AIセキュリティセッション 01 kk0n
2. 02 アジェンダ 01 AIの使われ方の変化 02 5つの利用パターン 03 まとめ
3. 03 自己紹介 kk0n（CoWorker株式会社） ・前職はヤフーでサービス間の認証・認可を行う社内基盤を7 年ほど担当 ・いまは CoWorker で、開発・PM・AI活用基盤の推進などを幅 広く担当
4. 04 本セッションのゴール AIが、チャットツールから「社内外の情報に触れて作業する存在」へ変わっていることを理解する AI利用を、セキュリティの観点で捉えるための「基本的な見方」を持ち帰る その「基本的な見方」が、次の6つ 観点1 何を受け取るのか 観点2 どこで処理するのか 観点3 何に接続しているのか 観点4 誰の権限で動くのか 観点5 何を出力するのか 観点6 どこまで実行できるの か 具体的なリスクと対策は、２つ目のセッションで説明します
5. 05 01 AIの使われ方の変化
6. 06 見た目は同じでも、裏側は大きく違う どちらも同じような「チャット画面」に見えるが…
7. 07 見た目は同じでも、裏側は大きく違う どちらも同じような「チャット画面」に見えるが…
8. 08 見た目は同じでも、裏側は大きく違う どちらも同じような「チャット画面」に見えるが… 答えるだけのAI 作業できるAI 入力した文章だけを読む Slack・Drive・Notionを検索できる 回答を返すだけ 社内情報を横断的に参照する 社内データには接続しない チケット更新・メール送信ができる 外部サービスの操作はできない コードを実行できる 違いはチャット画面ではなく、裏側の「何を読めて、何を実行できるか」にある
9. 09 AIの使われ方が変わってきた 「入力に答える存在」から「情報を探し、仕事を進める存在」へ 第1段階 チャットするAI 第2段階 情報を探すAI 第3段階 作業するAI ユーザーの入力を中心に処理する AI自身が必要な情報を集めて回答 を作る ツールを使い分け、複数の処理を 連続で進める 質問に答える ファイルや Webを読む メール送信・チケット更新 文章を作成する 社内ドキュメントを検索する コードやコマンドを実行する 要約・翻訳する Slack・ Notionなどを横断参照 ゴールに向けて処理を続ける
10. 10 5つの利用パターン 1. 外部のチャットAI を使う 2. 会社管理のAIが社 内情報を検索する 3. SaaSに組み込まれ たAIが業務を支援す る 4. ローカル開発環境 で動くAI 5. クラウド上で自律 的に作業するAIエー ジェント
11. 11 利用パターン1: 外部のチャットAIを使う 営業担当者が、打ち合わせ議事録をもとに次回の提案メールを作りたい 「添付した打ち合わせ議事録を要約し、顧客に送る次回提案のメールを作成してください。」 ゴール達成までに起きていること 1 指示文を入力し、議事録PDFをアップロードする 2 入力内容とファイルが外部AIサービスへ送られる 3 サービス事業者の環境で内容が処理される 4 AIが提案メールを生成し、ユーザーへ返す 5 ユーザーが内容を確認し、メールに貼り付けて送る
12. 利用パターン1: 外部のチャットAIを使う 12
13. 13 利用パターン1: 外部のチャットAIを使う 入力・処理・接続先・出力の流れ 外部AIサービス ユーザー環境 ユーザー / PC・スマホ 指示文の入力 議事録PDFの添付 AIモデル 入力とファイルを読み、文章を生成する 会話履歴・ファイルの処理 サービス内に保存される場合がある 事業者のクラウド環境 処理はユーザーのPCの外で行われる 入力した文章だけでなく、添付ファイルもAIサービスへ送られ る 出力 議事録の要約 提案メールの下書き ユーザーへの回答 この時点のAIはメールを作るだけで、送信まではしていない 処理が行われるのは手元のPCではなく、サービス事業者の環境
14. 14 利用パターン2: 会社管理のAIが社内情報を検索する 新しくプロジェクトに参加した社員が、分散した情報から状況を把握したい 「Project Alphaについて、直近1か月のSlackの議論、Notionの仕様書、Google Driveの議事録を確認して、 現在の進捗、決定事項、未解決事項を整理してください。」 ゴール達成までに起きていること 1 ユーザーが会社管理のAIに指示する 2 AIがSlack・Notion・Driveを検索する 3 各サービスから取得した情報を組み合わせる 4 進捗・決定事項・未解決事項を整理する 5 参照元リンクとあわせてユーザーに返す
15. 利用パターン2: 会社管理のAIが社内情報を検索する 15
16. 16 利用パターン2: 会社管理のAIが社内情報を検索する 入力・処理・接続先・出力の流れ 会社管理のAI環境 利用者 社員 会社アカウント AIへの指示 AIアプリ・AIモデル 依頼を解釈し、検索と要約を行う ユーザー認証・アクセス権限 誰の権限で検索するかがここで決まる 回答の生成 進捗・決定事項・未解決事項 + 参照元 ユーザーがファイルを渡さなくても、AI自身が情報を探しに行 く 接続する社内サービス Slack / Teams / Notion Drive / SharePoint 社内Wiki・チケット管理 CRM（顧客管理） AIが読める範囲は、接続設定とアクセス権限で決まる 同じ指示でも、接続先と権限しだいで、AIが集められる情報は変わる
17. 17 利用パターン3: SaaSに組み込まれたAIが業務を支援する サポート担当者が、顧客からの問い合わせ対応にSaaS組み込みAIを使う 「この顧客の過去の問い合わせ履歴と契約内容を確認し、今回の問い合わせへの回答案を作成してくだ さい。」 ゴール達成までに起きていること 1 顧客から問い合わせが届き、システムに保存される 2 担当者がAIに回答案の作成を依頼する 3 AIが問い合わせ本文・履歴・顧客情報・FAQを参照する 4 AIが回答案を作成する 5 担当者が確認し、顧客へ送信する
18. 利用パターン3: SaaSに組み込まれたAIが業務を支援する 18
19. 19 利用パターン3: SaaSに組み込まれたAIが業務を支援する 入力・処理・接続先・出力の流れ 顧客 (社外) メール / フォーム 問い合わせ本文 添付ファイル 問い合わせ管理システム (SaaS) SaaS組み込みAI 問い合わせを読み、回答案を作成する 参照するSaaS内データ 過去の履歴・顧客情報・契約情報・社内FAQ 操作機能 メール送信・ステータス更新・引き継ぎ 社員だけでなく、外部の顧客が書いた文章もAIが読む 出力・操作 回答案の作成 顧客へのメール送信 ステータス更新 回答案の作成だけでなく、送信や更新までできる場合がある 社外の文章を読むところから、送信・更新まで、SaaSの中で一続きに動く
20. 20 利用パターン4: ローカル開発環境で動くAI 開発者が、コーディングAIにリポジトリの修正とテストを任せる 「このリポジトリの構成を確認し、ユーザー登録APIに入力値チェックを追加してください。テストを実 行し、エラーがあれば修正してください。」 ゴール達成までに起きていること 1 開発者がAIに指示する 2 AIがリポジトリ内のコードと設定ファイルを読む 3 関連するコードを編集する 4 テストコマンドを実行し、エラーログを読む 5 Webを調査し、修正を繰り返して報告する
21. 利用パターン4: ローカル開発環境で動くAI 21
22. 22 利用パターン4: ローカル開発環境で動くAI 入力・処理・接続先・出力の流れ AIエージェント 開発者 アクセス対象 コード検索・読み取り コード・設定ファイル ファイル編集 .env・認証情報 コマンド実行 Git・パッケージ管理 Web検索・エラー解析 テスト環境・Web AIへの指示 IDE / ターミナル 実行される操作 コード変更 / テスト実行 / コミット / Pull Request / デプロイ AIの権限は、AIツールの設定だけでなく、起動したユーザーの権限にも左右される ローカルで動くAIは、開発者本人と同じ範囲に手が届く
23. 23 利用パターン5: クラウド上で自律的に作業するAIエージェント 営業チームが、定期的な商談フォローをAIエージェントに任せる 「商談中の顧客を確認し、最終連絡から7日以上経過している顧客を抽出してください。フォローメール を作成し、担当者の承認後に送信してください。送信後はCRMのステータスを更新してください。」 ゴール達成までに起きていること 1 スケジュールによってAIエージェントが自動起動する 2 CRMから対象顧客を検索し、過去の履歴を確認する 3 フォローメールを作成し、担当者へ承認を依頼する 4 承認後にメールを送信し、CRMのステータスを更新する 5 実行結果をログに記録する
24. 利用パターン5: クラウド上で自律的に作業するAIエージェント 24
25. 25 利用パターン5: クラウド上で自律的に作業するAIエージェント 入力・処理・接続先・出力の流れ クラウドAIエージェント 起動条件 AIモデル・タスク計画・ツール選択 ユーザーからの依頼 接続先 CRM・メール・Slack 状態管理・実行履歴 Drive・DB・チケット 定期スケジュール 認証情報 各サービスへの接続に使われる メール受信・チケット 実行される操作 MCP・プラグイン・コネクタ 外部Web・API 情報検索 / メール作成・送信 / CRM・チケット更新 / API実行 / 途中に人間の承認 ユーザーが画面を開いていなくてもAIが動く。人間がどこで確認するかも構成の一部 読み取り・判断・書き込み・送信が一つの流れとしてつながる
26. 26 03 まとめ
27. 27 まとめ 〜AIを見るときの6つの質問〜 サービス名ではなく、構成で見る。同じAIモデルでも、この6つでリスクは大きく変わる 観点1 何を受け取るのか 観点2 入力した文章だけか。ファイル・Web・メール・社内デー タ・ローカルファイルまで読むか 観点3 何に接続しているのか 外部AIサービスか。会社管理のクラウドか。SaaS事業者の 環境か。ローカルPCか 観点4 Slack・Drive・Notion・CRM・DB・GitHub・クラウドなど、 どのサービスを使えるか 観点5 何を出力するのか 回答だけか。ファイル・メール・Slack投稿・チケット・ コード・APIリクエストか どこで処理するのか 誰の権限で動くのか ユーザー本人か。AI専用アカウントか。共通アカウントか 。管理者権限か 観点6 どこまで実行できるのか 読むだけか。下書きか。書き込み・外部送信・更新・削 除・自動実行までか サービス名だけではリスクは判断できない。何を読め、どこに接続し、何を実行できるかで決まる
28. 28 5つの利用パターン × 6つの観点 パターンごとに、6つの観点の答えはこう変わる 1. 外部 チャットAI 2. 社内 横断検索 3. SaaS 内蔵AI 4. ローカル 開発AI 5. クラウド エージェント 観点 1 何を受け取るか 入力・添付 指示＋社内情報 顧客が書いた文章 コード・ ローカルファイル CRM・メール・依頼 観点 2 どこで処理するか サービス側 会社管理の環境 SaaSの中 手元のPC クラウド上 観点 3 何に接続するか Web検索など 社内サービス SaaS内データ ローカル資産・Git 多数のSaaS・API 観点 4 誰の権限か 利用者本人 本人 or 共通 SaaSの権限設定 起動したユーザー AI専用＋認証情報 観点 5 何を出力するか 回答のみ 回答＋参照元 回答案＋送信・更新 コード変更・PR 送信・更新・API 観点 6 どこまで実行するか 作るだけ 読む中心 送信までありうる 実行・デプロイまで 自動実行まで 同じ「AI」でも、パターンが違えば6つの答えは全部違う。リスクは構成で決まる
29. 29 次のセッションへ このセッションで見た5つの概略図に、そのままリスクと対策を重ねていきます どこに情報漏えいや誤操作の可能性があるか どの権限を確認すべきか どこに人間の確認・承認を入れるべきか Session 02「AI利用の脅威とリスク、その対策」