Langchain4j: Integrando LLMs con programas Java @ OpenSouthCode 2024

Slides de la charla que realicé el 21/6/2024 sobre "Langchain4j: Integrando LLMs con programas Java" dentro de la conferencia OpenSouthCode 2024.
El código con todos los ejemplos se encuentra aquí: https://github.com/deors/workshop-langchain4j
La grabación de la charla puede verse aquí: https://www.youtube.com/watch?v=HAbFCgX8nsc

Transcript

1. Copyright © 2024 Accenture. All rights reserved. Langchain4j Integrando LLMs con programas Java 1 21 Junio 2024 – OpenSouthCode Málaga
2. Copyright © 2024 Accenture. All rights reserved. Director Asociado – Ingeniería del Software – Accenture Co-responsable de la Comunidad de Práctica Java Global Responsable de DevOps para España y Portugal Responsable de Arquitectura, DevOps y Plataformas en el Centro de Tecnología Avanzada para España y Portugal Activo en las comunidades: Coordinador en MálagaJUG / Málaga Scala / BoquerónSec Codemotion Ambassador @deors314 in/deors Jorge Hidalgo
3. Copyright © 2024 Accenture. All rights reserved. 1 TL;DR sobre IA generativa 3 Copyright © 2024 Accenture. All rights reserved.
4. Copyright © 2024 Accenture. All rights reserved. IA generativa en 5 minutos… bueno 10 4 IA generativa (Generative AI / Gen AI) Crea contenido nuevo, como texto, imágenes o música, aprendiendo de grandes cantidades de datos existentes para generar salidas que no existían previamente Modelo grande de lenguaje (Large language model / LLM) Sistema de IA diseñado para entender, generar y manipular lenguaje humano, aprendiendo de extensos conjuntos de datos textuales para realizar tareas como traducción, resumen, y respuesta a preguntas. Modelo de difusión (Difussion model) Es un tipo de red neuronal que genera contenido realista como imágenes, sonidos u otros tipos de datos. Aprende a crear muestras transformando los contenidos de entrenamiento introduciendo ruido aleatorio y luego revirtiendo la difusión hasta generar estructuras estables y coherentes. Generación aumentada por recuperación (Retrieval augmented generation / RAG) Enfoque en el procesamiento del lenguaje natural donde un sistema de generación de texto se mejora mediante la recuperación de información relevante de una base de datos o conjunto de documentos, que luego se utiliza para informar o guiar la generación de texto.
5. Copyright © 2024 Accenture. All rights reserved. 2 Langchain4j & Ollama 5 Copyright © 2024 Accenture. All rights reserved.
6. Copyright © 2024 Accenture. All rights reserved. Langchain4j 6 https://github.com/langchain4j/langchain4j https://docs.langchain4j.dev/ Librería para simplificar la integración de LLMs(*) en programas Java (*) ¡Y no solo LLMs!
7. Copyright © 2024 Accenture. All rights reserved. Ollama 7 https://github.com/ollama/ollama https://ollama.com/ Plataforma para gestionar y ejecutar (*) modelos de lenguaje (*) ¡También en local!
8. Copyright © 2024 Accenture. All rights reserved. 3 Show me the code! 8 Copyright © 2024 Accenture. All rights reserved.
9. Copyright © 2024 Accenture. All rights reserved. ¿Alguna pregunta? 9 Copyright © 2024 Accenture. All rights reserved.
10. Copyright © 2024 Accenture. All rights reserved. Copyright © 2024 Accenture. All rights reserved. 10