Java + AI : Desatando el poder de la IA con LangChain4j y otros frameworks

Explicaremos y daremos un overview de los frameworks en Java como LangChain4j, Spring AI, Semantic Kernel y como puede ayudarnos a crear aplicaciones sorprendentes soportados por un LLM de AI. Hablaremos de las diferentes tecnicas de uso tanto on-premise como en Cloud.

Finalmente, utilizaremos LangChain4j para hacer ejemplos prácticos y demostraremos como crear aplicaciones inteligentes impulsada por IA en un ecosistema de Java.

Transcript

1. Java + AI Desatando el poder de IA en Java con LangChain4j y otros frameworks Carlos Zela @czelabueno @c_zela
2. Overview – chat client @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno Source: Spring AI
3. Language/chat model Ollama - Basic Source: Spring AI @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
4. Language/chat model OpenAI - Complex Source: Spring AI @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
5. Vectores Understanding Source: Spring AI @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
6. Embeddings AWS Bedrock - Cohere Source: Spring AI @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
7. PG Vector - Sample @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
8. Vectors Similarity Search Source: Spring AI @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
9. Multimodelos @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
10. LLM-powered application @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
11. Java frameworks al rescate! LangChain4j Spring AI Semantic Kernel LLM Language Chat Model OpenAI, HuggingFace, Google Gemini Pro, AWS Bedrock, MistralAI, Ollama, etc OpenAI, HuggingFace, Google VertexAI, AWS Bedrock, Ollama, etc OpenAI, Azure OpenAI 14 8 2 Embedding Model OpenAI, AWS Bedrock, Azure OpenAI, MistralAI, Google VertexAI, etc OpenAI, AWS Bedrock, Azure OpenAI, Google VertexAI, etc OpenAI, Azure OpenAI 10 8 2 Image Generation OpenAI, Google Gemini Pro, Azure Open AI OpenAI, StabilityAI OpenAI, Azure OpenAI 3 2 2 Vector Stores Pinecone, Chroma, Cassandra, Elastic Search, Azure Search, Milvus, PG vector, Open Search, etc Pinecone, Chroma, Azure AI Search, PGVector, Milvus, etc Azure AI Search 14 8 1 RAG Ingestor Data Source: Pdf, Doc/Docx, Ppt/Pptx, HTML, AWS S3, Azure Storage, Github Data Source: Pdf, Doc/Docx, Ppt/Pptx, HTML Data Source: Pdf, Doc/Docx, HTML, Text Plain Basic RAG Parsers, Transformer, Loaders, etc ETL Func Skills Advance RAG Yes No No Actualizado a inicios de Febrero 2024 @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
12. Java Ecosystem LangChain4j Spring AI Semantic Kernel JDK 8, 11, 17, 21 17 17, 21 GraalVM Yes (partial) No No Release GA Experimental Alpha Frameworks Spring Starter Quarkus Starter Spring - Actualizado a inicios de Febrero 2024 @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
13. LangChain4j - Componentes @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
14. LangChain4j – RAG Ingestion @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
15. LangChain4j – RAG Retrieval @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
16. Demo @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
17. Advanced RAG No mas alucinaciones! @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
18. Advanced RAG No mas alucinaciones! @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
19. Necesitas más inspiración? @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
20. Predicciones de Gartner Source: https://www.gartner.com/en/articles/what-s-new-in- artificial-intelligence-from-the-2023-gartner-hype-cycle @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
21. Recomendaciones para empezar: • Articulo: https://kindgeek.com/blog/post/experiments-with-langchain4j-or-java-way-to-llm- powered-applications • LangChain4j Examples: https://github.com/langchain4j/langchain4j-examples • Spring AI: https://docs.spring.io/spring-ai/reference/getting-started.html • My Repo, muchos muchos casos de uso ya resueltos! https://github.com/czelabueno/javagenai-frontend @c_zela Carlos Zela Bueno [gh, linkedin, etc]/czelabueno
22. Gracias! Carlos Zela czelabueno @c_zela