RAG to the future : comment garder son IA à jour

Suite au boom de l'IA, de nombreuses entreprises ont commencé à développer des chatbots. La plupart d'entre elles ont eu recours au Retrieval Augmented Generation (RAG) pour économiser de l'argent sur l'entrainement de leurs propres modèles. Cela permet aux entreprises de personnaliser les réponses de l'IA en fonction de leurs propres besoins et d'intégrer leur propre base de connaissances. Cependant, pour ce faire, vous devez être en mesure d'ingérer un grand nombre de documents avec leurs différentes contraintes et de maintenir à jour les embeddings qui en résultent.

Des frameworks tels que Spring AI et LangChain4j fournissent des solutions riches pour intégrer l'IA et le RAG dans votre application Java. Mais l'ingestion efficace de documents et la maintenance de l'intégration nécessitent un plannnificateur de tache fiable. JobRunr, une puissante bibliothèque de background processing, vous permet de simplifier ces tâches en automatisant et en optimisant les workflows de traitement des documents.

Dans cette session, vous découvrirez des stratégies pour améliorer votre système RAG. Apprenez comment JobRunr peut vous aider à automatiser les mises à jour d'intégration, en veillant à ce que votre chatbot reste précis, réactif et aligné sur l'évolution des besoins en matière de données.

Transcript

1. RAG < TO THE FUTURE Loïc Magnette
2. Loïc Magnette @LoMagnette lmagnette
6. Vector DB RAG Embedding model
7. Vector DB RAG Embedding model
8. Vector DB RAG Embedding model [43, 16, … , 19]
9. [43, 16, … , 19] Vector DB RAG Embedding model
10. Vector DB RAG Embedding model split
11. Vector DB RAG Embedding model chunks
12. Vector DB RAG Embedding model Vector embeddings
13. Vector DB RAG Embedding model
14. Vector DB RAG Embedding model
15. LLM Vector DB RAG Embedding model
16. Source: Stephan Janssen
18. Keeping embeddings up-to-date
19. Cleaning documents
20. Enriching the data
21. Determining a good chunking strategy
22. Fine-tuning retrieval process
23. Evaluating model accuracy
25. User request App thread Embedding generation Database update Response Naive approach
26. Application startup Embedding generation Database update Application ready Naive approach
28. Scalability issues
29. Missed jobs
30. Debugging headaches
32. Handles tasks without interrupting your app
33. Automatic retries for failed jobs
34. Easy job tracking
35. Schedules regular updates
36. Handles big workloads
37. Source: Jobrunr
42. Conclusion
43. CODE www.oniryx.be @LoMagnette lmagnette
44. SLIDES www.oniryx.be @LoMagnette lmagnette