Share
Embed
MCPを活用したローカルAI知識応答サーバーを作ってみた ~ 守れ!サンタクロース秘密結社編 ~
話題のMCPとOllamaを触ってみたぜ!!!
Kenji Takatani
April 08, 2025
Transcript
30 slides
-
名古屋サテライトオフィス長 / スクラムマスター 髙谷 憲司 (@takateeen_knj) 2018年より名古屋市内の大手IoT通信機器メーカーにて 組込開発/スマホアプリのソフトウェアエンジニア/ プロダクトマネージャーとして従事。 2023年よりKAGに転職し、法人向けサイト
開発チームのスクラムマスターを担当。 社内の活動「音KAG(/)部」の立ち上げに関わり、 音楽活動に貢献。Youtubeに作編曲・動画制作したり、 ワクワクコンテンツを発信している。 2025年1月にカラオケjoysoundにて、楽曲が配信された。 2024年7月より名古屋サテライトオフィス長に就任。 自己紹介 KDDI Agile Development Center Corporation 1 -
3 KDDI Agile Development Center Corporation 愛知県…と言えば? 製造業! ローカル環境!!! ※
製造業(組込)の開発では、 ネットワークを繋げれない製品が多い。 -
6 KDDI Agile Development Center Corporation あらすじ この世界では サンタクロース秘密結社 が
存在している。 そこでは、サンタクロースに関する 研究が日々行われている。 情報システム部門は常に多忙を極め ている。 -
7 KDDI Agile Development Center Corporation あらすじ しかしながら、サンタの正体を暴こ うとする子どもも多数存在する。 信じる子どもたちの夢とサンタの正
体を守るため、 機密データの取り扱いには 細心の注意が払われている。 -
8 KDDI Agile Development Center Corporation あらすじ 昨今では生成AIについても学んでお り、DXの一環として 過去のナレッジを集約したAI
チャットボットを開発した。 そんなAIと共に進む、静かで穏やかな日常—— それは、まるでプレゼント配り前夜の 静けさのようだった。 しかし、その沈黙は突如破られる――。 -
10 KDDI Agile Development Center Corporation あらすじ サンタクロース秘密結社のメンバー たちは、頭を抱え込んでいた。 しかし、生成AIに関するトレンド
ニュースの中に、希望の光が二つ、 確かに存在していた。 サンタたちはその二つの技術を用い、 “アンチサンタチルドレン”に立ち向 かう決意を固めたのである。 -
12 KDDI Agile Development Center Corporation Ollamaとは? Ollama 大規模言語モデル(LLM)をローカル環境で実行 できるオープンソースのAIツールです。
クラウドに依存せず、自分のコンピュータ上で LLMを利用できます。 アイコンがラマ なので可愛い 軽量なモデルも多数あり • おすすめモデル : Gemma3 • Gemini 2.0 の技術をベースにした高性能モデル • 2025/03/12に発表されました。 トナカイ? 時代はラマ じゃよ。 -
14 KDDI Agile Development Center Corporation MCPとは? MCP:(Model Context Protocol)
アプリケーションがLLM(大規模言語モデル)に「文脈 (コンテキスト)」を提供するための 標準化されたプロ トコルです。 MCPを使うことで、LLMは外部のデータや機能とやりとり できるようになります。 • stdio方式(ローカル) LLMとMCPサーバーが同一マシン内で動作し、標準入出力を通じてや りとりします。 • SSE方式(インターネット経由) MCPサーバーをHTTPベースのエンドポイントとして立て、LLMが ネットワーク越しにアクセスします。 ~MCPサーバーの役割~ LLMからリクエストを受け取り、 知ってる範囲で探し、 クライアントに返す。 -
16 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 論文A群 サンタクロースに 会えるかな?
自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ -
17 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 お借りした論文 及び、グループ分け •
論文A群 ・・・ 数学とサンタ • 古瀬祐気 「数理モデルにより感染症伝播を解析-サンタクロースが病気になると、何が起こるのか-」 2019 Medical Journal of Australia • 論文B群 ・・・ 子とサンタ • 富田昌平「子どもはなぜ、サンタクロースを信じ、やがて信じなくなるのか?」 三重大学教育学部研 究紀要 .2014 • 加藤千尋「子どもとファンタジーの世界〜サンタクロースと将来の夢について〜」愛知教育大 学 .2013 • 荒木正見「サンタクロースという親(おや)性:比較論的考察」比較思想学会福岡支部. 2000 -
18 KDDI Agile Development Center Corporation 完全ローカル環境でMCPサーバーを実装 論文A群 サンタクロースに 会えるかな?
自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ -
19 KDDI Agile Development Center Corporation 実験① 論文A群 サンタクロースに 会えるかな?
自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ サーバーAのみ起動してみた -
20 KDDI Agile Development Center Corporation 結果① サーバーA(数学とサンタ)のみ、起動した場合 質問:「サンタクロースに会いたいんだけど、会えると思う?」 回答:「残念ながら、提供された論文コンテキストにはサンタクロースに関する
情報が一切含まれていません。この論文は数学的な不等式や感染症の伝播に関す る研究について扱っているようです。」 -
21 KDDI Agile Development Center Corporation 実験② 論文A群 サンタクロースに 会えるかな?
自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ サーバーBのみ起動してみた -
23 KDDI Agile Development Center Corporation 実験③ 論文A群 サンタクロースに 会えるかな?
自作サーバーA 論文B群 回答 自作サーバーB ・テキスト抽出 ・テキストをチャンク ・SentenceTransformers(文章ベクトル化) ・データのソート ・論文のPDFデータ 数学とサンタ 子とサンタ A,Bも起動してみた -
25 KDDI Agile Development Center Corporation 結果③ サーバーA・Bの両方、起動した場合 質問:「サンタクロースに会いたいんだけど、会えると思う?」 回答:「論文コンテキストによると、サンタクロースに会えるかどうかは、年齢
によって考え方が異なります。」 ローカル環境!最高!!! 通信環境がない空で トナカイ乗りながらでも使える! -
26 KDDI Agile Development Center Corporation 今後への期待 • ローカルデータ処理への期待 •
ローカル環境でサーバーを建て様々な使い方が できるようになりました。 • 社外秘データの取り扱い、組込製品 での 利用が期待されます。 • (例1)法務、技術、営業向けの生成AI活用 → 取引先データ、特許情報への扱い。 • (例2)監視カメラにおける動画・画像解析 → 動画や画像はプライバシーのため、サーバーにアップロードが できない事例が度々ある。欧州のGDPRは特に厳しい。 -
27 KDDI Agile Development Center Corporation おわり こうして、 サンタクロース秘密結社の セキュリティは日々進化していく
のであった。 子どもの夢を守ってくれて、 ありがとう。 -
28 KDDI Agile Development Center Corporation 告知 • イベントやります #nagoya_llm
• https://kinto-technologies.connpass.com/event/348766/ • 名古屋LLM 1周年記念です! in なごのキャンパス & オンラインもあるよ