Slide 1

Slide 1 text

MCPを活用したローカルAI知 識応答サーバーを作ってみた ~ 守れ!サンタクロース秘密結社編 ~ KDDIアジャイル開発センター株式会社 名古屋オフィス長 髙谷 2025.4.9

Slide 2

Slide 2 text

名古屋サテライトオフィス長 / スクラムマスター 髙谷 憲司 (@takateeen_knj) 2018年より名古屋市内の大手IoT通信機器メーカーにて 組込開発/スマホアプリのソフトウェアエンジニア/ プロダクトマネージャーとして従事。 2023年よりKAGに転職し、法人向けサイト 開発チームのスクラムマスターを担当。 社内の活動「音KAG(/)部」の立ち上げに関わり、 音楽活動に貢献。Youtubeに作編曲・動画制作したり、 ワクワクコンテンツを発信している。 2025年1月にカラオケjoysoundにて、楽曲が配信された。 2024年7月より名古屋サテライトオフィス長に就任。 自己紹介 KDDI Agile Development Center Corporation 1

Slide 3

Slide 3 text

2 KDDI Agile Development Center Corporation 愛知県…と言えば?

Slide 4

Slide 4 text

3 KDDI Agile Development Center Corporation 愛知県…と言えば? 製造業! ローカル環境!!! ※ 製造業(組込)の開発では、 ネットワークを繋げれない製品が多い。

Slide 5

Slide 5 text

4 KDDI Agile Development Center Corporation お昼休みの方も いらっしゃるので ふざけたエピソードを 交えてMCPを解説します

Slide 6

Slide 6 text

5 KDDI Agile Development Center Corporation とある世界線のお話

Slide 7

Slide 7 text

6 KDDI Agile Development Center Corporation あらすじ この世界では サンタクロース秘密結社 が 存在している。 そこでは、サンタクロースに関する 研究が日々行われている。 情報システム部門は常に多忙を極め ている。

Slide 8

Slide 8 text

7 KDDI Agile Development Center Corporation あらすじ しかしながら、サンタの正体を暴こ うとする子どもも多数存在する。 信じる子どもたちの夢とサンタの正 体を守るため、 機密データの取り扱いには 細心の注意が払われている。

Slide 9

Slide 9 text

8 KDDI Agile Development Center Corporation あらすじ 昨今では生成AIについても学んでお り、DXの一環として 過去のナレッジを集約したAI チャットボットを開発した。 そんなAIと共に進む、静かで穏やかな日常—— それは、まるでプレゼント配り前夜の 静けさのようだった。 しかし、その沈黙は突如破られる――。

Slide 10

Slide 10 text

9 KDDI Agile Development Center Corporation 〜事件〜 ハッカー集団 “アンチサンタチルドレン”、 サンタの機密情報を流出か

Slide 11

Slide 11 text

10 KDDI Agile Development Center Corporation あらすじ サンタクロース秘密結社のメンバー たちは、頭を抱え込んでいた。 しかし、生成AIに関するトレンド ニュースの中に、希望の光が二つ、 確かに存在していた。 サンタたちはその二つの技術を用い、 “アンチサンタチルドレン”に立ち向 かう決意を固めたのである。

Slide 12

Slide 12 text

11 KDDI Agile Development Center Corporation 〜技術①〜 「Ollama」による ローカルLLM

Slide 13

Slide 13 text

12 KDDI Agile Development Center Corporation Ollamaとは? Ollama 大規模言語モデル(LLM)をローカル環境で実行 できるオープンソースのAIツールです。 クラウドに依存せず、自分のコンピュータ上で LLMを利用できます。 アイコンがラマ なので可愛い 軽量なモデルも多数あり • おすすめモデル : Gemma3 • Gemini 2.0 の技術をベースにした高性能モデル • 2025/03/12に発表されました。 トナカイ? 時代はラマ じゃよ。

Slide 14

Slide 14 text

13 KDDI Agile Development Center Corporation 〜技術②〜 MCPを用いた ローカル環境構築

Slide 15

Slide 15 text

14 KDDI Agile Development Center Corporation MCPとは? MCP:(Model Context Protocol) アプリケーションがLLM(大規模言語モデル)に「文脈 (コンテキスト)」を提供するための 標準化されたプロ トコルです。 MCPを使うことで、LLMは外部のデータや機能とやりとり できるようになります。 • stdio方式(ローカル) LLMとMCPサーバーが同一マシン内で動作し、標準入出力を通じてや りとりします。 • SSE方式(インターネット経由) MCPサーバーをHTTPベースのエンドポイントとして立て、LLMが ネットワーク越しにアクセスします。 ~MCPサーバーの役割~ LLMからリクエストを受け取り、 知ってる範囲で探し、 クライアントに返す。

Slide 16

Slide 16 text

15 KDDI Agile Development Center Corporation 第168話 「サンタ、完全 ローカル環境で 無敵の知識応答 サーバを作る」

Slide 17

Slide 17 text

16 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 論文A群 サンタクロースに 会えるかな? 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ

Slide 18

Slide 18 text

17 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 お借りした論文 及び、グループ分け • 論文A群 ・・・ 数学とサンタ • 古瀬祐気 「数理モデルにより感染症伝播を解析-サンタクロースが病気になると、何が起こるのか-」 2019 Medical Journal of Australia • 論文B群 ・・・ 子とサンタ • 富田昌平「子どもはなぜ、サンタクロースを信じ、やがて信じなくなるのか?」 三重大学教育学部研 究紀要 .2014 • 加藤千尋「子どもとファンタジーの世界〜サンタクロースと将来の夢について〜」愛知教育大 学 .2013 • 荒木正見「サンタクロースという親(おや)性:比較論的考察」比較思想学会福岡支部. 2000

Slide 19

Slide 19 text

18 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 論文A群 サンタクロースに 会えるかな? 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ

Slide 20

Slide 20 text

19 KDDI Agile Development Center Corporation 実験① 論文A群 サンタクロースに 会えるかな? 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ サーバーAのみ起動してみた

Slide 21

Slide 21 text

20 KDDI Agile Development Center Corporation 結果① サーバーA(数学とサンタ)のみ、起動した場合 質問:「サンタクロースに会いたいんだけど、会えると思う?」 回答:「残念ながら、提供された論文コンテキストにはサンタクロースに関する 情報が一切含まれていません。この論文は数学的な不等式や感染症の伝播に関す る研究について扱っているようです。」

Slide 22

Slide 22 text

21 KDDI Agile Development Center Corporation 実験② 論文A群 サンタクロースに 会えるかな? 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ サーバーBのみ起動してみた

Slide 23

Slide 23 text

22 KDDI Agile Development Center Corporation 結果② サーバーB(親子とサンタ)のみ、起動した場合 質問:「サンタクロースに会いたいんだけど、会えると思う?」 回答:「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢 によって考え方が異なります。」

Slide 24

Slide 24 text

23 KDDI Agile Development Center Corporation 実験③ 論文A群 サンタクロースに 会えるかな? 自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ A,Bも起動してみた

Slide 25

Slide 25 text

24 KDDI Agile Development Center Corporation 結果③ サーバーA・Bの両方、起動した場合 質問:「サンタクロースに会いたいんだけど、会えると思う?」 回答:「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢 によって考え方が異なります。」

Slide 26

Slide 26 text

25 KDDI Agile Development Center Corporation 結果③ サーバーA・Bの両方、起動した場合 質問:「サンタクロースに会いたいんだけど、会えると思う?」 回答:「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢 によって考え方が異なります。」 ローカル環境!最高!!! 通信環境がない空で トナカイ乗りながらでも使える!

Slide 27

Slide 27 text

26 KDDI Agile Development Center Corporation 今後への期待 • ローカルデータ処理への期待 • ローカル環境でサーバーを建て様々な使い方が できるようになりました。 • 社外秘データの取り扱い、組込製品 での 利用が期待されます。 • (例1)法務、技術、営業向けの生成AI活用 → 取引先データ、特許情報への扱い。 • (例2)監視カメラにおける動画・画像解析 → 動画や画像はプライバシーのため、サーバーにアップロードが できない事例が度々ある。欧州のGDPRは特に厳しい。

Slide 28

Slide 28 text

27 KDDI Agile Development Center Corporation おわり こうして、 サンタクロース秘密結社の セキュリティは日々進化していく のであった。 子どもの夢を守ってくれて、 ありがとう。

Slide 29

Slide 29 text

28 KDDI Agile Development Center Corporation 告知 • イベントやります #nagoya_llm • https://kinto-technologies.connpass.com/event/348766/ • 名古屋LLM 1周年記念です! in なごのキャンパス & オンラインもあるよ

Slide 30

Slide 30 text

Be a Change Leader. アジャイルに力を与え 共に成長し続ける社会を創る