企業データを守りながら最新の生成AIエージェントを活用するには？ ～今話題のMCPを安全に業務で活用しよう～

今、多くの企業が生成AIの導入と活用を積極的に進めています。特に、AIエージェントやMCPといった最新の生成AI技術の登場により、業務効率化や顧客体験の向上、新たなビジネスモデルの創出といった可能性への期待が一段と高まっています。
しかし、その一方で、企業データの保護やセキュリティへの懸念から、導入に踏み切れていない企業も少なくありません。

本セミナーでは、GoogleやAWS、Microsoftなど巨大な影響力をもつIT企業の生成AI領域の動向も踏まえて、生成AIを安全に業務で活用するためのポイントをわかりやすく解説します。社内文書などの独自資料を活かすために不可欠なRAG（検索拡張生成）の構築における課題とその解決策をはじめ、最新技術の動向、セキュリティ課題への具体的な対策まで、深く掘り下げてご紹介します。

主な内容
・企業における生成AI活用やRAGの構築における課題
・AIエージェントやMCPなどの最新の生成AI技術の動向
・最新の生成AI活用におけるセキュリティ課題
・安全にMCPなどの最新の生成AI技術を業務に取り入れるには　　ほか

こんな方におすすめ
・生成AIを業務に活用したいけれどセキュリティ面に不安がある方
・RAGの構築に課題をお持ちの方
・最新の生成AI技術について知りたい方
・生成AI活用、DX推進に取り組んでいる方

Transcript

1. 企業データを守りながら最新の生成AIエージェントを 活用するには？ ～今話題のMCPを安全に業務で活用しよう～ NCDC Online Seminar NCDC株式会社 2025 / 06 / 17
2. 2 茨木 啓太 テクノロジー ディレクター AWS Certified Solutions Architect – Professional AWS Certified DevOps Engineer – Professional Google Certified Professional - Cloud Architect NCDCにて、システムのインフラ構築からWebサービスのバックエンド 開発・モバイルアプリ開発まで、幅広い領域での開発を担当 複数のプロジェクトで、AWSをはじめとしたクラウドを活用したモダンな アプリの設計・開発や、DevOpsやCI/CDの構築・運用の実績を持つ
3. NCDCのご紹介
4. デジタルビジネス立ち上げを一元的にサポート l デジタルビジネスに必要な要素にフォーカスし、⼀元的に提供しています。 l スモールスタートでの検証から、本開発・継続的な改善までサポートします。 4 ワークショップを中⼼とし た合理的なプロセスで、ビ ジネスモデルの検討からUX デザインまで、迅速に⾏い ます。 関係者が多数いる場合の組 織横断、会社横断のファシ リテーションも得意です。 新規性の⾼いプロジェクト ではMVP（Minimum Viable Product）を⽤いた検証を⾏ うなど、⽬的に応じて段階 的な開発を企画します。 早い段階でモックやプロト タイプを⽤意してユーザの 評価を確認します。 ユーザとのタッチポイントとなる各種デバ イスのフロントエンドデザインから、クラ ウドサービスを駆使したバックエンドの開 発まで。多様なテクノロジーをインテグ レーションします。 l AI / IoT l モバイル・ウェブ アプリ開発 l クラウドインテグレーション l システムアーキテクチャコンサルティング など ビジネスモデルのデザイン スモールスタート・PoC システム・インテグレーション ユーザ視点を⼤切にした アイデア・企画 モックやプロトタイプ の開発・検証 システム・アプリ開発 継続的な改善
5. l ⻑期的な視点を持ち、お客さまと⼀緒に考え、そのプロセスも財産としていただく伴⾛型の ⽀援を得意としています。 l システム開発においても、内製化の体制構築⽀援からエンジニア・デザイナーなど専⾨職の スキルトランスファーまで多数の実績があります。 お客さまが主役となるプロジェクト設計 5 お客さま デジタルビジネスを 強みにできる企業を⽬指す 必要なものを⾃らつくり、 改善し続けられる 体制の整備、技術の獲得 ユーザーのインサイトや テクノロジーを理解して 企画できる知識の獲得 外部依存せず、社会の変化や技術の進化に対応し、⾃⾛できるチカラの獲得 コンサルティングや研 修、ワークショップ スキルトランスファー お客さまの⽬的に応じた 伴⾛⽀援のご提案 豊富なDX⽀援経験により 蓄積されたノウハウ DX戦略策定、PoC、 新規デジタルサービス企画、 UX/UIデザイン、 アジャイル開発、DevOps、 システムのモダナイズ…
6. Business 新規事業⽴ち上げからの伴⾛ 業務改⾰やIT改⾰の⽀援 Design ユーザ視点での設計 Technology 技術による課題解決 Innovation Consultant デザイナーやエンジニアと協⼒して、 新規サービス⽴案の⽀援や新規性の⾼ いシステムの要件定義を⾏う。プロ ジェクト全体のマネジメント役も担う。 UX/UI designer UIデザインはもちろん、デザ イン思考やUXデザインのフ レームワークを⽤いて上流⼯ 程（サービス全体のUX設計） を担う。 Engineer モバイルやWeb、クラウド、 IoTやAIなど、新しい領域の技 術に特化。つくるだけでなく 技術コンサルティングができ る知⾒を持つ者も多数在籍。 l AWS サービスパートナー l AWS Lambdaパートナー l 内製化⽀援推進AWSパートナー Tech×Design×Biz 一体でお客さまを支援 l 3領域でサービスを展開 l 各領域のスペシャリスト を社内に揃える体制 6
7. 事例｜生成AIアプリの開発と内製化人材育成 7 Client｜三菱電機株式会社様 Keyword｜ 生成AI , 内製化支援 回答品質の⾼いRAGを⽤いた 社内ナレッジの活⽤ お客さまの課題 | ソフトウェア開発の⽣産性向上 のため、⼤量かつ多様な社内のドキュメントから 情報を検索し回答する独⾃の⽣成AI（RAG）アプ リ開発を検討していた。また、社内のDX⼈財育成 も⽬的としていたため、RAG開発から技術移管ま で⾏える伴⾛パートナーを求めていた。 ソリューション | ①Amazon Bedrockを⽤いた RAGの迅速な開発 ②お客様社内で運⽤、改善を⾏ うためのエンジニア間の技術移管（内製化⽀援） ③NCDCとお客様の開発チームでの並⾏開発（機 能追加や回答精度改善） ーこれらのステップを状 況に応じて柔軟に⾏うことで、実⽤レベルのRAG の開発と⼈財育成を両⽴。 NCDCの役割 | 技術コンサルティング、RAG開発、 回答精度向上策の検討、フロントエンドのUX/UI デザインなど幅広く担当。
8. はじめに
9. はじめに l本セミナーは、以下のような方向けに話します l生成AIに関する、基本的な知識を身につけたい方 l生成AIを業務利用に利用したいと考えている方 lMCPなどの最新の生成AIの動向を知りたい方 l生成AI活用時のセキュリティが気になっている方 9
10. 今日の内容 l 生成AIの分類とセキュリティ l クラウドの活用とプライベートな生成AI l 独自データを生成AIに活用させる「RAG」の説明 l 自律的に動作する生成AIの新たな形態「AIエージェント」 l 生成AIにおけるUSB-Cと言われる「MCP」とは？ l MCPを業務に活用方法の例を紹介(デモあり） 10
11. 生成AIの分類
12. 生成AIの種類 l 「生成AI」といっても様々な種類がありますが、本セミナーでは主に 「大規模言語モデル(LLM)」について話します。 l 主な生成AIの種類 l 大規模言語モデル(LLM) l GPT、Claude、 Gemini、など l マルチモーダル l テキスト + 画像 l GPT、Claude、Gemini、など l 音声生成 l ElevenLabs、VOICEVOX、など l 画像生成モデル l DALL-E、Midjourney、Stable Diffusion 、など l 動画生成モデル l グラフ生成モデル 12 本セミナーの対象
13. 生成AIをユースケースで分類 l 生成AIを業務で使用する場合のユースケースで分けると 次のような分類が考えられます。 l パブリックな生成AIサービスの利用 l 「生成AIをサービスとして利用」するケース l 例えば、ブラウザでChatGPTとチャットする l プライベートな生成AIの活用 l 「事前学習済みモデルを利用」するケース l 例えば、 AWS上にBedrockを使ってRAGを構築する l 「生成AIモデルを自分で作成」したり、 カスタマイズするケース l 例えば、SageMakerを使ってAWS上にAIモデルを作る 13 本セミナーの対象
14. (参考)AWSブログ「生成 AI をセキュアにする」シリーズ l AWSのブログ記事では、より詳しくの生成AI活用の 分類とセキュリティについて述べられています。 l https://aws.amazon.com/jp/blogs/news/securing- generative-ai-an-introduction-to-the-generative-ai- security-scoping-matrix/ 14
15. パブリックな生成AIの活用
16. パブリックな生成AIとは？ l 生成AIをサービスとして利用すること l 例えば、、、 l ブラウザでChatGPTやGeminiで、調べ物をする 16
17. よく使われる生成AIモデル l よく使われる生成AIモデル l GPT (OpenAI) l https://chatgpt.com/ l Gemini (Google) l https://gemini.google.com/ l Claude (Anthropic) l https://claude.ai/ 17
18. パブリックな生成AIのメリット / デメリット • 誰でも気軽に使える • 無料または価格が安い • サービスが自動でアップデートされる • 幅広い分野の学習がされている メリット • 入力したデータをAIプロバイダーに利用されてしまう • ユーザー独自のカスタマイズはできない • 呼び出し回数制限などの制約がある デメリット 18 このページの作成時に生成AI (Claude3 Opus)を使用しています。
19. 会社として決めるべきこと l パブリックな生成AIは「入力したデータを利用されてしまう」 l 会社としては、規約を決めてコントロールできる範囲でのみ 社員に利用させる必要がある l 以下のような内容を規約に盛り込むとよい l 利用可能な生成AIサービス l 入力可能な情報と入力禁止の情報 l 特に、パブリックな生成AIに業務情報（特に個人情報）を入力しないこと l 利用時にユーザーが確認するべきこと l 各サービスの利用規約を読むこと l 著作権の問題ないかを確認する l 結果に誤りがないかの確認をする 19
20. 【注意】 入力したデータがなにに使われるかの確認 l 「入力した情報がAIの学習に使われるか」 を確認する必要があるが、それだけだと不十分 l 「AIの学習」以外に入力データが使われる可能性はある l 個別にサービスの利用規約を確認して、判断する必要がある l 例 l JulesというGoogleのサービスには、人間のレビュアーが会話を確認する旨が 利用規約に記載されている l Googleはすごく分かりやすく書いているので、非常に良心的 20 ※ Julesは2025/06時点でベータ版為、正式版提供の際には規約も変更される可能性が高いです。
21. パブリックな生成AIの業務活用例 l 情報収集・整理 l 文献レビュー: 論文やレポートの要約・重要ポイント抽出 l 市場調査: Web上の情報収集、市場トレンド・競合分析 l 文章作成・編集 l プレゼン資料作成: スライド構成・内容提案、作成効率化 l 校正・推敲: 誤字脱字指摘、表現改善、文章の質向上 l アイデア出し・企画立案 l ブレインストーミング: 新商品・サービスのアイデア出し l マーケティング企画: ターゲット層・プロモーション戦略立案 l コンテンツ企画: ブログ記事・SNS投稿のテーマ・構成提案 l その他 l プログラミング: 汎用的な機能のコード生成、デバッグ、ドキュメント作成 l カスタマーサポート: FAQ作成、チャットボット、多言語対応 l 翻訳、データ分析、教育・研修支援など 21
22. クラウドの活用とプライベートな生成AI
23. プライベートな生成AIとクラウドの活用 l 事前学習済みモデルを利用 l クラウド(AWS, Google Cloud, Azure)が提供する隔離された環境で利用 l 事前に学習済みのモデルを使用するので、モデルのカスタマイズは不要 l 容易に導入が可能で、スケーラビリティも高い l 生成AIモデルを自分で作成 l ニーズにあわせて最適化が可能 l 導入のハードルが高い l 導入までに時間とコストがかかる l 高度な専門技術が必要 l 継続的なメンテナンスも必要 23 比較的容易に使える事前学習済みモデル の業務に活用を考える このページの作成時に生成AI(GPT-4o)を使用しています。
24. 各クラウド上でよく使われる生成AIモデル l よく利用される生成AIモデルと、クラウドサービス l GPT l Azure (Azure AI Service) l Gemini l Google Cloud (Vertex AI) l Claude l AWS (Amazon Bedrock) l Google Cloud (Vertex AI) l 使用するモデル自体はパブリックな生成AIと大きな違いはないが、 クラウド上の閉じた空間で使用できるためセキュリティ面のメリットがある l 使用するクラウドや生成AIモデルは、自社の他のアプリとの連携や 各クラウドのユースケースから総合的に判断して選定するのが良い l 単純なモデルの知名度や性能よりも、どう使うかを考えるのが重要 24
25. クラウドで事前学習済みモデルを使うメリット / デメリット • 比較的導入が容易 • データのセキュリティとプライバシーが確保できる • 大規模なデータを学習済みの為、性能が高い • 提供者が継続的に改良・更新をしてくれる メリット • モデルのカスタマイズができない • 利用量に応じた課金のため、費用が予測困難 デメリット 25 「モデルのカスタマイズなし」でも 独自のデータを扱いたい！ RAGやエージェント、MCPを活用
26. クラウドを活用したRAGの構築
27. RAG (Retrieval Augmented Generation /検索拡張生成) とは？ l RAGは独自のデータを生成AIで活用するために仕組みで、 次の2ステップで構成される l Retrieval (検索) l 入力された問い合わせに関する情報を「独自のデータ」から検索・取得する l Augmented Generation (拡張生成) l 検索で得られた情報を利用して、生成AIが回答を生成する 27
28. クラウドを使ったRAGの構築 l 各クラウドサービスが提供するマネージドサービスを活用することで、 数年前と比べて格段にRAG構築が容易になった l Amazon Bedrockのナレッジベース l Google CloudのVertex AI Search l Azure AI Search 28
29. (参考) 2年前に構築したRAGと最近のRAGの構成の違い l 2年前にAWS上に構築したSlackと連携するRAG l 最近、AWS上に構築したSlackと連携するRAG 29
30. RAGの課題 l RAGの活用が進む中で次のような課題が浮かび上がってきた l 情報検索と回答の一方通行 l RAGは基本的に「質問に対して関連情報を検索し、回答する」という一方通行の プロセス。 l 会話の文脈を踏まえた複数回のやり取りや、状況に応じた判断には限界がある。 l 検索と回答生成の機能に特化 l データ分析やファイル操作、外部システムとの連携など、複合的なタスクの 実行は困難 l ユーザーの手間 l 複数のステップが必要な業務では、各ステップでユーザーが指示を出し続ける必 要がある 30
31. 自律的に動作する生成AIの新たな形態「AIエージェント」
32. AIエージェントの活用とRAGの進化 l AIエージェントは、ユーザーの意図を理解し、複数のツールやシステム を自律的に操作して目的を達成する生成AIの新たな形態 l 従来のRAGとAgentの主な違い 32 従来のRAG Agent 動作の特徴 受動的（質問に答える） 能動的（自ら考え行動する） 使用ツール 主に検索機能のみ 複数の外部ツールを利用可能 作業の複雑さ 単一のタスク 複数ステップの複雑なタスク 自律性 低い 高い
33. RAGとAIエージェントの相乗効果 l AIエージェントがRAGに対して繰り返し問い合わせることで、 次のような事が可能 l ユーザーの曖昧な質問をAIエージェントが最適な検索ワードに変換 l 例えば l 「去年の営業成績を教えて」に対して「2024年度 営業部 売上実績」で検索 l AIエージェントが検索結果を分析し、足りない情報を自動で追加検索 l 業務コンテキストを理解して、検索結果から関連性が高い情報を選別 l 取得結果の矛盾点や不確実性をAIエージェントが検出して、 追加の確認や検証を実施 33
34. (参考) AWS上でのAgentを使ったアプリ開発 l AWS上では、簡単にAIエージェントを構築することができる Amazon Bedrock Agentsを使用可能 l 前述のナレッジベースと組み合わせることで、AIエージェントと RAGを連携した情報検索システムが構築できる 34
35. MCPによる新たな可能性
36. AIエージェント + RAG の課題 l AIエージェントを活用しても、そもそも使えるデータソースが限られている 36 ここで構築した データしか使えない ・メール ・SalesforceなどのCRM ・SlackやTeamsのチャット ・Boxなどのストレージ ・Backlogなどの課題管理 ・勤怠管理システム 連携できない or 個別に開発する 必要がある
37. MCPサーバーとは？ 37 MCP (Model Context Protocol) サーバー AIモデルと外部データソースやツールを接続するためのサーバー オープンプロトコル 仕様が公開されている通信規格により、AIモデ ルと様々なシステムを標準化された方法で接続 軽量サーバー シンプルな実装により、様々な環境で容易に導 入可能 特徴
38. MCPサーバーの利点 l MCPは「AIアプリケーション用のUSB-Cポートのようなもの」 l USB-Cが様々なアクセサリーに接続するための標準化された方法を提供す るように、MCPはAIモデルを異なるデータソースやツールに接続するための 標準化された方法を提供する l 主な利点 l 標準化 l どのAIモデルでも同じ方法で外部システムに接続可能 l 互換性 l 一度実装すれば、様々なAIアプリケーションで再利用可能 l 拡張性 l 新しいデータソースやツールを簡単に追加可能 38
39. RAGとエージェントとMCPサーバーの関係 39
40. MCPサーバーの広がり 40 l MCPは仕様の発表から半年程度の新しい技術ですが、 すでに数多くの多彩なMCPサーバーが公開されています。 l クラウドサービス : AWSやAzure など l ソースコード管理 : GitHubやGitLab など l ストレージサービス : BoxやGoogleドライブ など l コミュニケーションツール : SlackやTeams など l プロジェクト管理ツール : BacklogやJira など l ナレッジ共有 : Notion など
41. (参考) Windows11にMCPを導入するとマイクロソフトが発表 l 2025年5月に開催されたマイクロソフト社のイベントである 「Microsoft Build 2025」にてWindows11がMCPをサポートする旨の 発表があった 41 マイナビニュースより引用 : https://news.mynavi.jp/techplus/article/20250521-3331806/
42. MCP活用の課題 l 業務でMCPを活用するには、現時点では大きく2つの課題があります。 l セキュリティ l 導入ハードルの高さ l 多くのMCPサーバーはGitHub上でソースコードが配布されている l 知識がないと各MCPサーバーの安全性を判断できない l そもそも技術者以外には 導入方法も分かりにくい 42
43. MCP利用時の注意点 l セキュリティに注意 l 特に出どころが怪しいMCPサーバーは使わないようにしましょう l サーバーの管理が複雑になりがち l サーバーが増えすぎると、管理するのが大変 l まだ新しい技術なので、サーバーの更新も頻繁 l 従来のRAGと比べて、精度が上がるわけではない l MCPは基本的に接続するだけなので、特に精度が上がる要素はない l 精度を求めるなら、従来のRAGの作り込みが必要 l レスポンスが遅い l 複数のシステム間で情報のやり取りをするので、時間はかかります l 生成AIのコストがかかる l 生成AIは基本的に使った分だけ費用が発生するので、 使いすぎると大きな金額になる可能性もある 43
44. 安全な環境でMCPを使えるサービスの提案
45. プライベートな環境で動く、企業向け生成AIアシスタントを開発中！ l NCDCにて、MCPサーバーと連携する生成AIアプリを開発中 l セキュリティ的に保護されたクラウド上で動作 l Webアプリなので、認証済のユーザーなら簡単に使える 45
46. メリット① 自社の情報を使用して精度の高い生成AIを利用できる l インターネット上に無い自社独自の高精度な情報を活用して、 生成AIを利用できる。 46 社内 Backlog環境 社内 Box環境 社内 製品マニュア ルサイト 社内 営業管理シス テム 生成AI 自社製品の型番〇〇〇〇の製品仕 様を表示して その製品を直近半年で購入した顧客 を売上の大きい順に表示して △△△社に提出した見積書のファイ ルの場所を教えて
47. メリット② 企業用のガバナンス l 生成AIが利用する連携データは管理者が許可したものの中から利用が可能 l クラウド上の独立した環境のためセキュアな情報の入力や 社内の情報との連携を安心して行えます 47 Backlog用 MCPサーバー 社内 Backlog環境 社内システム 用 MCPサーバー 社内 社内システム 1社専用の独立した環境 生成AI
48. 連携可能なサービス l 企業が使用しているSaaSや、社内システムの情報を使用して、 高い精度でセキュアに生成AIが利用可能です。 l クラウドストレージ：Box / OneDrive / Google Drive l グループウェア：Kintone / Gmail l ソフトウェア開発：GitHub / Backlog l 営業支援：Salesforce / Market l 特定のWebサイト l 社内システム（接続するためのアダプターの開発が必要） 連携先のシステムは今後も追加予定 l 社内システムとの連携や、チャット以外の生成AI活用もカスタマイズ可能 l 社内システムと連携する際のMCPサーバーの開発や、生成AIをチャット以外の 業務システムへの組み込みもNCDCにて支援します 48
49. デモ l 生成AIエージェントにMCPサーバーを通して以下のことをしてもらいます l Googleドライブ上に保存された会議の議事録を読む l Backlog上に議事録に記載内容から課題を作成する l Slackに課題を作成した結果を投稿する 49
50. (参考) アプリのインフラ構成 l デモアプリは、Google Cloud上にコンテナを使って構築 l AWS、Azureにも追って対応予定 50
51. まとめ
52. 本日のまとめ l 生成AIをユースケースで分類すると「パブリックな生成AIサービス」と 「プライベートな生成AIサービス」に分けられる l パブリックな生成AIは手軽に利用できるが、入力データが利用される 可能性がある l 会社を守るために生成AIの利用規約を適切に定める必要がある l プライベートな生成AIの活用方法方法として、RAGが挙げられる l RAGは、生成AIを活用して独自のデータを検索し回答を生成する手法 l AIエージェントやMCPといった新しい技術が急速に広がっている l MCPを使うことで今まで使えなかった各種データと生成AIの連携が 容易になるが、業務で利用する場合はセキュリティなどの課題がある l NCDCにて、セキュアかつ容易に社内ナレッジにアクセスできる ガバナンスと利便性が両立した生成AIアシスタントを開発中 52
53. 最後に 53 l NCDCは、システムの開発だけでなく、ユーザー視点での企画、プロトタイプの検証、 継続的な改善まで、⼀元的なサポートが可能です。 l ⽣成AIに限らず、デジタル領域やUX関連で気になることがあれば、ぜひご相談ください。 ワークショップを中⼼とし た合理的なプロセスで、ビ ジネスモデルの検討からUX デザインまで、迅速に⾏い ます。 関係者が多数いる場合の組 織横断、会社横断のファシ リテーションも得意です。 新規性の⾼いプロジェクト ではMVP（Minimum Viable Product）を⽤いた検証を⾏ うなど、⽬的に応じて段階 的な開発を企画します。 早い段階でモックやプロト タイプを⽤意してユーザの 評価を確認します。 ユーザとのタッチポイントとなる各種デバ イスのフロントエンドデザインから、クラ ウドサービスを駆使したバックエンドの開 発まで。多様なテクノロジーをインテグ レーションします。 l AI / IoT / AR l モバイル・ウェブ アプリ開発 l クラウドインテグレーション l システムアーキテクチャコンサルティング など ビジネスモデルのデザイン スモールスタート・PoC システム・インテグレーション ユーザ視点を⼤切にした 課題抽出・企画 モックやプロトタイプ の開発・検証 開発 継続的な改善