AIエージェントでのJava開発がはかどるMCPをAIを使って開発してみた / java mcp for jjug

2025-11-15に開催された「JJUG CCC 2025 Fall」での登壇資料です
https://ccc2025fall.java-users.jp/

Transcript

1. AIエージェントでのJava開発がはかどるMCPを AIを使って開発してみた 2025-11-15 JJUG CCC 2025 Fall LINEヤフー きしだ なおき #jjug_ccc #jjug_ccc_c
2. 2025/11/15 2 自己紹介 • きしだ なおき • LINEヤフー • X(twitter): @kis • blog: きしだのHatena • (nowokay.hatenablog.com) • 「プロになるJava」というJavaの本を書いてます
3. 3 Agenda • MCPとは • Spring BootでのMCPサーバー開発 • 実際につくったもの • 効果は？ • より効果を出すには？
4. MCPとは • リモートJSON-RPCをLLMから呼び出す仕組み • Function Callingをリモートで呼び出す • コマンド呼び出し(stdio型)とHTTP呼び出し(SSE型)がある • JavaだとHTTP呼び出し • 既存サービスをMCP化することが多そう • Spring Bootでコマンド呼び出しは重い
5. Function CallingとMCP • LLMから関数を呼び出す仕組み • LLMが呼び出し用JSONを生成 • チャットプログラムに埋め込む必要がある • MCPはこれをリモート化
6. Pros & Cons • Function Calling • チャットまで作る必要がある • 対象のLLMを限定できる • MCP • 機能だけでいい • どのAIサービスから使われるかわからない
7. Spring BootでのMCPサーバー • プロジェクト作成 • ツールサービスの作成 • ツールの登録 • 起動 • 実際にチャットから使う • Function Callingとして使う • テスト
8. MCPの作り方はgihyo.jpで解説してます • 「MCPサーバーとMCPクライアントを作る」 • https://gihyo.jp/article/2025/08/start-java-ai-programming-04
9. プロジェクト作成 • プロジェクト作成時にModel Context Protocol Serverを選ぶ • HTTP呼び出しの場合はSpring WebかReactive Webを選ぶ <dependency> <groupId>org.springframework.ai</groupId> <artifactId> spring-ai-starter-mcp-server-webmvc </artifactId> </dependency>
10. ツールサービスの作成 • MCP化するメソッドに@Toolをつける
11. ツールの登録 • ToolCallbackProviderを返すメソッドを用意
12. 起動 • SSE型の場合は起動が必要 • stdio型はコマンド呼び出しが行われる • McpServerAutoConfigurationのRegistered Toolsを確認
13. チャットから使う • LM Studioでの例 • MCPサーバーを登録
14. 実際にチャットから使う • 実際に使ってみる
15. 実際にチャットから使う • 実際に使ってみる
16. 簡単にためせるようにする • ツール定義はFunction Callingとして使える • 組み込みで試せる画面をつくっておくと便利
17. 簡単にためせるようにする • application.propertiesに接続情報を書く • ChatModelとToolをインジェクションする • ChatClientで接続 spring.ai.ollama.chat.options.model=gpt-oss:20b spring.ai.openai.base-url=http://localhost:8123/ spring.ai.openai.api-key=dummy spring.ai.openai.chat.options.model=openai/gpt-oss-20b
18. 簡単にためせるようにする • application.propertiesに接続情報を書く • ChatModelとToolをインジェクションする • ChatClientで接続 spring.ai.ollama.chat.options.model=gpt-oss:20b spring.ai.openai.base-url=http://localhost:8123/ spring.ai.openai.api-key=dummy spring.ai.openai.chat.options.model=openai/gpt-oss-20b
19. テスト • 機能的なテスト • ちゃんとLLMから呼び出されるかのテスト • チャット機能として使えるかのテスト
20. 機能的なテスト • ツール単体は通常のコンポーネント • LLMを意識しない普通のテスト • ツール単体を普通にSpringBootのコンポーネントとしてテストす ればいい
21. ちゃんとLLMから呼び出されるかのテスト • LLMから呼び出されるかだけ確認したい • 疎通テスト • 課金LLMを使うのは心が痛い • ローカルLLMを使おう • Ollama + Qwen3 4Bがベスト
22. ローカルLLM環境 • ローカルLLMのホスト • ローカルLLMのサイズ • ローカルLLMのモデル
23. ローカルLLMのホスト • LM Studio • llama.cpp • Ollama • vLLM
24. LM Studio • LLM統合環境 • 便利 • しかしSpring AIから接続できない • HTTP2で最初に接続しようとして静止 • LM StudioがHTTP2 upgradeに対応してない • Spring AIがプロトコル(HTTP 1.1)を指定できない • プロキシを立てればいけるけどおおげさ
25. llama.cpp • LLM実行エンジン • LM StudioもOllamaも内部で使う • サーバー機能を持っている • Spring AIから接続できる • 軽量でプログラムから使いやすい • 30MBくらい(+モデルが3GBくらい) • しかしFunction Callingがうまく動かない
26. Ollama • 個人用LLM実行サーバー • あまり便利ではない • Spring AIから接続できる • Function Callingもちゃんと動く • 現実的に唯一の解決策
27. vLLM • サービス向け実行サーバー • テストに組み込むにはおおげさ • Windowsに対応してない • WSLで動かす • Macに対応してない • 動くけどApple Silicon未対応なので遅い
28. ローカルLLMを使うテストを書く • 設定の切り替え • Ollamaの起動
29. 設定の切り替え • モデルや接続先などを切り替える @SpringBootTest(classes = DemoMcpApplication.class) @TestPropertySource(properties = { "spring.ai.ollama.chat.options.model=qwen3:4b", "spring.ai.ollama.base-url=http://localhost:11432" }) public class DemoControllerTest {
30. Ollamaの起動 • OLLAMA_HOSTでポートなどの指定 • “inference compute”が来たら起動完了ということにする var builder = new ProcessBuilder(OLLAMA_CMD, "serve"); builder.environment().put("OLLAMA_HOST", "http://localhost:11432"); builder.redirectErrorStream(true); var proc = builder.start(); var reader = new BufferedReader(new InputStreamReader(proc.getInputStream())); var ret = reader.lines() .dropWhile(s -> !(s.contains("inference compute"))) .limit(1) .findAny();
31. LLMのサイズは？ • 4Bあたりがベスト • 1.6Bは性能が足りない • 8Bは単に呼び出すだけとしては重い
32. どのLLM？ • Qwen3 4Bが性能が高い • Gemma 3 4BはFunction Callingに対応してない • Llama 3.2 3Bは性能が低い • Qwen3が使えないなら候補 • Phi4-miniは性能が悪い • 「関数あるの知ってるけど呼び出せませんね」みたいな対応する
33. 実際に作ったもの • ファイル操作 • LSP • Maven操作 • Spring Bootイニシャライザ • GitHub操作
34. ファイル操作 • フォルダ作成 • ファイル一覧 • ファイル検索 • ファイル作成 • ファイル取得 • Apache tikaを使ってPDFなどなんでも読めるようにした • diffの適用
35. LSP • Eclipseのエディタ機能を使えるようにする • import補完 •
36. Maven操作 • dependency確認 • dependency追加 • 標準ライブラリが使えて楽
37. Spring Bootイニシャライザ • プロジェクト生成 • ライブラリがあると思ったけど使えなかったのでふつうにURL呼 び出し
38. GitHub操作 • GitHubのPRコメントをとりあえずみてみる • 川口さんのgithubライブラリを試しただけ org.kohsuke.github.GitHub
39. 開発でのAI利用 • Qwen Codeでほぼ完了 • ファイル操作 • 難しいAPIなし • ChatGPTに聞いてコピペ • Maven / Spring Boot • APIの使い方に迷いが • ChatGPT / Claude Codeに聞いたあとほぼ手書き • LSP • うまくAPIを制御してくれない
40. 開発でのAI利用 • なかなかスレッドを気にするコードを書いてくれない • 適当に5秒とか待ちがち
41. 効果は？ • 大きいAIモデルはMCPに頼らずうまくやる • 小さいAIモデルはMCPをうまく使えない • いずれにせよMCPの使い方を知らない • モデルのチューニングと一緒にやらないとあまり意味がなさそ う・・・ • チャットで使うと少し便利
42. そうだ、ファインチューニングしよう • ファインチューニングの分類 • CPT(継続事前学習) • 知識を教える • SFT(教師ありファインチューニング) • よいやりとりを教える • RLHF(人間の評価による強化学習) • 出力結果に点をつける • DPO(直接的な選考最適化) • 質問に対してよい応答とよくない応答を教える • プロジェクト知識を与えてみる → CPT
43. プロジェクト知識を与えてみる • Tomcatのソースコードで継続事前学習(CPT)してみる • Gemma 3 12Bで試してみる • Google Colabで試す • Unslothフレームワークを使う • ノートブックがたくさんあるのでツギハギする • 1000円課金して試す • 無料で使えるT4で4Bのファインチューンが終わったら量子化の準備で 落ちた • ちょっと大きいL4で2時間半くらい、50円くらいで学習 • 60 epoch
44. 実行した • wandbでグラフを可視化
45. 動かしてみた • よくわからない・・・ • Tomcatのような有名OSSはすでにかなり学習している • ちょっと知識が増えたかも？そう思いたい • 日本語下手になった
46. 自作AIエージェントを作りたい • 小さいモデルで動くエージェント • Function Callingでよさそう • MCP(Function Calling)を多く使うとコンテキストを圧迫する • 自力解析でもよさそう • コンテキストがより少ない • MiniMax M2やDevstralのように Function Callingが下手なモデルでも 動かせる • リアルタイムにコード出力を表示できる
47. まとめ • いろいろ勉強になる • 楽しい • 実用はたいへん • たぶん他のMCPも同じ問題をもちがち • みんなつくりましょう