ローカルAIでMCPを呼び出して動作検証する

Transcript

1. AI丸投げでローカルAIとMCPサーバーを建てる NCDC株式会社 片桐 佑理 2026 / 1 / 21
2. 1.自己紹介 ⚫ 名前：片桐 佑理 ⚫NCDCでバックエンドのシステ ムエンジニアをしています。 ⚫エージェントは今の案件に入っ た4ヶ月ぐらい前に使い始めま した。 ⚫ 神奈川県出身、31歳 2
3. 2.背景 ⚫ MCPサーバーを利用するようになったけど、自分で構築したりしていない ので理解が曖昧。 ⚫ 実際に作って動かしてみればよくわかるのでは？ ⚫ わからないことはCaludeが教えてくれるだろう。 3 { "servers": { "PostgreSQL": { "command": "docker", "args": [ "run", "-i", "--rm", "-e", "DATABASE_URI", ”crystaldba/postgres-mcp", "--access-mode=restricted" ], "envFile": "${workspaceFolder}/.env" } } }
4. 3.構成 ⚫ PC:会社支給のMacBook Pro ⚫ AIアプリケーションサーバー:llama cpp ⚫ mcpサーバー:mcp公式チュートリアル ⚫ 呼び出しクライアント:postman ⚫ エディタ:Antigravity 4
5. 4.Llama cppって何？ ⚫ Llama.cppは、Llamaモデルを含む大規模言語モデル（LLM）をC/C++で 実装した推論エンジンです。GitHubで公開されています。 ⚫ Llama以外も使えるとのことで、今回はgemma3を使うことにしました。 5 //hugging faceからモデルを引っ張って来てcliで対話する場合 llama-cli -hf ggml-org/gemma-3-1b-it-GGUF //ファイルをそのまま利用してサーバーを建てる場合 llama-server -hf ggml-org/gemma-3-1b-it-GGUF --port 8080
6. 4.Llama cppって何？ 6
7. 5 hugging face? GGUF? ⚫ hugging face ⚫ AI（人工知能）開発のためのオープンソースライブラリ、事前学習済みモデル、 データセットなどを共有・利用できるプラットフォームで、「AI版GitHub」とも呼 ばれます。 ⚫ GGUF(Generic GPT Unified Format) ⚫ AIモデルの保存形式の一つです。パラメーターの精度を犠牲にしてノートPC のような環境でもモデルを動かすことができるように調整されています。 ⚫ モデルの調整に関するパラメータなどもファイルの中に含まれているため、 細かい設定ができない反面簡単に動かすことができます。 7
8. 6.mcpサーバー 公式チュートリアルから天気予報のMCP サーバーのコードをそのまま利用していま す。 ローカルMCPサーバーはPostman起動時 にコマンドを実行するため、控えておきま す。 8 //nodeでサーバーを実行 node /Users/katagiriyuuri/code/mcpStudy/we ather/build/index.js
9. 7. Postman ⚫ Postmanとは ⚫ Postmanは、APIの設計、テスト、配布、ドキュメント作成、監視のための統合 プラットフォームです。開発者が既に使い慣れているプラットフォームに、企 業が求めるガバナンス機能を提供し、API開発全体を通してチームがシーム レスに連携できるようにします。 9
10. 8. 単体動作確認 10
11. 8. 単体動作確認 11
12. 8. 単体動作確認 12
13. 9. デバッグ 13
14. 9. デバッグ 14
15. 9. デバッグ 15
16. 9. デバッグ 16
17. 9. デバッグ 17 --中略--
18. 9. デバッグ 18
19. 9. デバッグ 19
20. 10. 良かったこと ⚫ MCPサーバーの設定やAI、クライアントとのつながり方がなんとなくわ かった。 ⚫ MCPサーバーはREST APIサーバーがあれば作るのは簡単。 ⚫ 概念としては異なるものですが、もともとREST APIサーバーがある場合はそ れをラップすることで簡単に作成ができます。ステートフルであるなど一部違 いはあります。 ⚫ Postmanは自社で収集しているAPIサーバーについてMCPを生成するツール を公開しています。 ⚫ AIサーバーを立ち上げるのがすごい簡単になった。 ⚫ しばらく前にAIアプリを作ろうと思うと、フレームワークを学習したり外部の サービスのAPI登録をしたりするのが必要でしたが、Llama cppで簡単にロー カルサーバーが建てられました。今回の発表内容の検証も構想から実施ま で半日で終わりました。簡単なMCPやAIの動作確認であればPostmanも使え そう。 20
21. 11. イマイチだったこと ⚫ Llama cppでgemma-3-12b-itを動かすとPCがカクカクになる。 ⚫ 今後もコード生成をローカルリソースでやるのは厳しそう。 ⚫ 問題の原因特定には正しい情報を与える必要がありました。 ⚫ ローカルのAIでMCPを利用するのは一般的なClaudeやChatGPTを使うのに 比べて珍しいことであるためか、最初にAntigravityに質問した時点ではコード 側の問題を指摘する回答が返ってきました。 ⚫ 補足情報としてLlama cppを使っていることを教えたところ、正しい原因を知る ことができました。 ⚫ 思ったよりスムーズすぎてAntigravityの機能を使い倒す形にはならな かった。 21