Quarkus et Langchain4j - les clés pour intégrer les LLMs dans vos applications Java

Dans la jungle émergente de l’intelligence artificielle, intégrer des Large Language Models (LLMs) dans les applications est un enjeu majeur pour les développeur·euse·s. Bien que de nombreuses initiatives aient émergé pour faciliter l’intégration des LLM, le monde du Java n’a pas vu beaucoup d’options.

Voici où entre Langchain4j, une bibliothèque puissante conçue pour intégrer les applications Java avec les LLMs.

Quarkus est conçu pour construire des applications Cloud-Native en Java, optimisées pour les environnements Kubernetes et offrant des démarrages rapides et une consommation de mémoire réduite par rapport aux applications Java traditionnelles.

Lorsque Quarkus rencontre Langchain4j, le processus de création d’une application Java puissante avec des LLMs devient une expérience agréable. Dans cette présentation, nous allons nous plonger dans la création d’applications AI puissantes avec des LLMs, en utilisant Quarkus et Langchain4j.

Transcript

1. Quarkus and Langchain4j : Build your own LLM-powered application Zineb Bendhiba - Open Source Experience 2024
3. Zineb Bendhiba Principal Software Engineer at Red Hat Apache Camel PMC International Speaker 17+ years software development experience https://zinebbendhiba.com @ZinebBendhiba @zinebbendhiba.com
4. Components of LangChain4j Prompt Templates Language Models Output Parsers Memory Document Splitters Document Loaders Embedding Models Embedding Stores Basics RAG Image Models Chains AI Services Tools
5. • Build time ◦ Build time warnings ◦ Compile to native with GraalVM • Production Enhancements ◦ Unified Configuration ◦ Metrics, Tracing, Auditing • Programming Model ◦ Seamless integration with CDI ◦ Simpler declarative AI Services (@RegisterAiService) • Developer Joy ◦ 'quarkus dev' enables iterative testing and Prompt tuning. ◦ Dev UI allows to view AI services, tools, config, add/search embeddings, test prompts, generate images • Performance Enhancements ◦ Optimized Quarkus REST/JSON libs ◦ Reduced library footprint Why LangChain4j with Quarkus? +
6. Demo
7. Use your Super Powers to do Good!
8. - Quarkus Langchain 4j documentation - Quarkus Langchain4j samples - Apache Camel project - Quarkus project - Langchain4j project - Feeding LLMs efficiently: data ingestion to vector databases with Apache Camel - My long version of this talk - Apache Camel and AI talk Links
9. Thank you Zineb Bendhiba - Red Hat @ZinebBendhiba @zinebbendhiba.com