LangChain4jとは一味違うLangChain4j-CDI

by Kenji Kazumura

Embed

Start on current slide

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited AIの分類 Predictive Generative Artificial Intelligence Machine Learning Deep Learning 未来を予想例：天気予報実用で使われているAI のほどんどはこっち期待は大きいが。。。創発例：Chat GPT、 Stable Diffusion 5

Slide 6

Slide 6 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited AIとOSS 主流AIの開発はOSSではない周辺技術はOSSもある Linux FoundationではLandscapeとしてまとめているが、 Javaに関するものは、ほぼない AIソフト開発はデータサイエンティスト向けに先行「AI & Data」でまとめているように、アプリケーション開発者向けではない 6

Slide 7

Slide 7 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited (参考) OSAID 1.0 Open Source AI Definition OSIによるオープンソースAIの定義 https://opensource.org/ai Validationフェーズをパスしたものライセンスを変えればパスしそうなものパスしないもの Pythia(Eleuther AI), OLMo(AI2), Amber and CrystalCoder(LLM360), T5(Google) BLOOM(BigScience), Starcoder2(BigCode), Falcon(TII) Llama2(Meta), Grok(X), Phi-2(Microsoft), Mixtral(Mistral) 7

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited バランスの取れた互換性とイノベーション戦略 AIシステムを構築サポートするフレームワークの提供ベクトルDBやGPUをサポートする現実のユースケース・システムで実証標準化により企業が安心して使える Javaの仕様と実装を提供 Step1 実践的インテグレーション Step2 プロトタイプでの実証 Step3 AIの標準化 10

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Java X AI 関連技術 Landscape 2025年版メモリアクセス・GPU制御 RAG利用 AIフレームワークネイティブラッパートレーニング MCP / A2A / ACP利用 AIクラウドネイティブ化 AIリモートアクセス Vector API HAT Babylon Valhalla JCuda TensorFlow for Java FFM Deep Java Library Visual Recognition Jakarta Agentic AI MicroProfile REST Client LangChain4j Jakarta Messaging Quarkus AI Spring AI LangGraph4j Embabel Jakarta Transactions Jakarta Query Jakarta Data Jakarta Security Jakarta Restful Web Services Jakarta RPC MicroProfile Fault Tolerance MicroProfile Telemetry MicroProfile Config Jakarta Websocket Jakarta Config Agentic AI

Slide 14

Slide 14 text

Slide 15

Slide 15 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited LangChain4j AI-Infused Java アプリケーションを構築するツールキット多数のLLM/SMLとのインテグレーションを提供一般的パターン(RAG、関数呼出し)のビルディングブロックを提供プロンプト・メッセージ・メモリ・トークンなどの抽象化多種多様なベクトルストアとドキュメントデータの統合 15

Slide 16

Slide 16 text

Slide 17

Slide 17 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited LangChain4j-CDI LangChain4jをCDI指向プログラミング化するもの AI-Infused Jakarta EE アプリケーションの作成メリット宣言的なサービス作成柔軟な設定 (MP Config) オブザーバビリティ (MP Telemetry) 信頼性 (MP Fault Tolerance) ポータビリティ 17

Slide 18

Slide 18 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited (参考) LangChain4j-CDIの歴史 2023年頃 LangChainにインスパイアされてLC4Jプロジェクト作成 Java版LangChainではない(LangChainとは無関係) 2024年3月頃 MicroProfile AIの議論が浮上する 2024年5月頃 LC4J-CDIの前身となるsmallrye-llmプロジェクト作成 2026年1月 LangChain4j-CDI 1.0のリリース 18

Slide 19

Slide 19 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited LangChain4j コード例 var apiKey = System.getenv("GOOGLE_API_KEY"); ChatModel model = GoogleAiGeminiChatModel.builder() .apiKey(apiKey) .modelName("gemini-2.5-flash-lite") .build(); var svc = AiServices.create(ChatService.class, model); var response = svc.chat("Tell me a joke."); ビルダーパターンで、モデルやキーを指定 19

Slide 20

Slide 20 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited AI Service (LC4j-CDI) @RegisterAIService(chatModelName="chat-model") public interface ChatService { String chat(@UserMessage String userMessage); } RegisterAIServiceでAI Serviceを定義 @Inject private ChatService svc; ・・・ var response = svc.chat("Tell me a joke.") 作成したAI ServiceをInjectして使うモデルやキーは外出し可能 20

Slide 21

Slide 21 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited AI Service 設定 dev.langchain4j.cdi.plugin.chat-model.class= dev.langchain4j.model.googleai.GoogleAiGeminiChatModel dev.langchain4j.cdi.plugin.chat-model.config.api-key= ${GOOGLE_API_KEY} dev.langchain4j.cdi.plugin.chat-model.config.model-name= gemini-2.5-flash-lite META-INF/microprofile-config.properties (*) 紙面の都合上キーとバリューが改行されてます MicroProfile Configで設定 21

Slide 22

Slide 22 text

Slide 23

Slide 23 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited MicroProfile Telemetry トレース用リスナー dev.langchain4j.cdi.telemetry.SpanChatModelListener メトリクス用リスナー dev.langchain4j.cdi.telemetry.MetricsChatModelListener LC4j-CDIでは二つのリスナーを提供 MP Configでリスナーを指定 dev.langchain4j.cdi.plugin.chat-model.config.listeners= lookup:@all (*) 紙面の都合上キーとバリューが改行されてます 23

Slide 24

Slide 24 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited AI メトリクス gen_ai.client.token.usage gen_ai.client.operation.duratioin gen_ai.server.request.duration gen_ai.server.time_per_output_token gen_ai.server.time_to_first_token OpenTelemetryセマンティック規約でAI関連メトリクスが定義 https://opentelemetry.io/docs/specs/semconv/gen-ai/gen-ai-metrics/ LC4j-CDIで出力 24

Slide 25

Slide 25 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited Fault Tolerance @RegisterAIService(chatModelName="chat-model") public interface ChatService { @Retry(maxRetries=2) @Fallback(fallbackmethod="chatFallback") String chat(@UserMessage String userMessage); default String chatFallback(String userMessage) { return "something wrong." } } MP FTを使う場合は、LC4jのリトライ機能はオフにしておく方がよい 25

Slide 26

Slide 26 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited RAG @RegisterAIService(chatModelName="chat-model", contentRetrieverName = "rag-ret") public interface ChatService { RegisterAIServiceでretriever名を指定使用するretrieverは、MP Configで dev.langchain4j.cdi.plugin.rag-ret.class= dev.langchain4j.rag.content.retriever.EmbeddingStoreContentRetriever dev.langchain4j.cdi.plugin.rag-ret.config.embeddingStore= lookup:@default dev.langchain4j.cdi.plugin.rag-ret.config.embeddingModel= lookup:@default (*) 紙面の都合上キーとバリューが改行されてます 26

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited スコープ Jakarta EE ランタイムで動作するエージェントの共通パターン LLMにアクセスする最小限のインターフェスを定義実装は、LangChain4j や Spring AIなど好みのものを使うワークフローは、ランタイム時にJavaのAPIを通じて動的に変更可能 Jakarta EE の各種APIと統合 Validation, REST, JSON Binding, Persistence, Data, Transactions, NoSQL, Concurrency, Security, Messaging 設定は、Jakarta Config または MicroProfile Config OpenTelemetry をサポート https://github.com/jakartaee/agentic-ai/blob/main/README.md#scope 29

Slide 30

Slide 30 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited コード例 (1/3) @Agent public class FraudDetectionAgent { @Inject private LargeLanguageModel model; @Inject private EntityManager entityManager; @Trigger private void processTransaction( @Valid BankTransaction transaction) { } 30

Slide 31

Slide 31 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited コード例 (2/3) @Decision private Result checkFraud (BankTransaction transaction) { String output = model.query( "Is this a fraudulent transaction?" + "If so, how serious is it?", transaction); boolean fraud = isFraud(output); Fraud details = null; if (fraud) details = getFraudDetails(output); return new Result (fraud, details); } 31

Slide 32

Slide 32 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited コード例 (3/3) @Action private void handleFraud (Fraud fraud, BankTransaction transaction) { if (fraud.isSerious()) alertBankSecurity(fraud); Customer customer = getCustomer(transaction); alertCustomer(fraud, transaction, customer); } @Outcome private void markTransaction(BankTransaction transaction) { } } 32

Slide 33

Slide 33 text

© 2026 Fujitsu Limited © 2026 Fujitsu Limited Version 1.0 @Agent CDI Beanとしてエージェントの定義ワークフローAPI等から名前でlookup可能 @Trigger エージェントワークフローを開始 @Decision エージェントの判断ポイント @Action エージェントの実行ステップ @Outcome エージェントワークフローの終わり 33