L'art de maîtriser l'imprévisible: façonner une solution IA Gen

Replay : https://www.youtube.com/watch?v=WVWbzqvdN-s

Depuis la sortie de ChatGPT, tout le monde veut faire de l'IA, et surtout de l'IA Générative. Tout le monde veut réussir à prendre la vague et se hisser parmi les meilleurs.

Cette course contre la montre combinée à la hype mondiale vient avec son lot de challenges et problématiques.
D'une part, tout est à faire ! Framework, architecture, cas d'usages, méthodologie, sécurité.

De l'autre, tout le monde veut tout faire ! Mais :
- Est-ce que votre produit est testé ?
- Est-ce que votre produit est sécurisé ?
- Est-ce que votre produit est monitoré ?
- Est-ce que votre produit est scalable ?
- Est-ce que votre produit est résilient aux innovations constantes ?

Vous remarquerez que ce sont des questions que l'on se posait déjà avant le buzz de l'IA Générative. Mais comment faire avec un nouvel outil si imprévisible et difficile à contrôler ?

Dans cette conférence, nous verrons comment regagner le contrôle sur nos solutions utilisant l'IA Générative.
La clé : Les LLMs ne sont qu'une partie de votre solution, ce n'est pas la solution.

Les concepts et méthodes dont nous discuterons sont fondés sur différents projets clients.

Transcript

1. L’art de maîtriser l’imprévisible : façonner une solution IA Gen Raphaël Anjou - @Orange Business Google DevFest 2024 Sophia Antipolis – 28/11
2. Qu’allez-vous obtenir de cette présentation ?
3. Qui suis-je ?
4. Pourquoi avons-nous besoin de maîtriser l’imprévisible ?
5. Un LLM est une boîte noire.
6. Le plus de responsabilités on donne, le moins de contrôle on a.
7. Comment les humains partagent-ils les responsabilités ? Outil Usine Équipe
8. Dans l’IA Gen ça ressemble à quoi ? GPT wrappers LLM chaining Système multi-agents
9. Où mettre le curseur ?
10. 1 job 1 responsabilité + de contrôle
11. Est-ce que j’ai vraiment besoin d’IA Gen ? La question qui fâche…
12. Les LLMs sont juste de nouveaux outils. Lire, regarder, écrire « Comprendre » « Réfléchir »
13. Un outil doit être bien utilisé. Libre à vous d’en faire autre chose.
14. Un LLM est une partie de la solution, ce n’est pas LA solution.
15. Infrastructure Modèles Intelligence Données Les briques de notre solution Transverse
16. Infrastructure Je veux mon GPU. Je ne veux pas savoir. Je veux le GPU d’un autre. (GPUaaS) Cloud vs On-Premise ? Besoin d’être souverain ?
17. Infrastructure Modèles Intelligence Données Les briques de notre solution Transverse Je veux mon GPU. Je ne veux pas savoir. Je veux le GPU d’un autre. (GPUaaS)
18. Modèles Open-source vs Propriétaire ? Large LM vs Small LM ? Finetuné, ou pas ?
19. Infrastructure Modèles Intelligence Données Les briques de notre solution Transverse Large LM vs Small LM ? Open-source vs Propriétaire ? Finetuné, ou pas ? Je veux mon GPU. Je ne veux pas savoir. Je veux le GPU d’un autre. (GPUaaS)
20. Intelligence LLM chaining Prompt engineering Système multi-agents
21. Infrastructure Modèles Intelligence Données Les briques de notre solution Transverse Large LM vs Small LM ? Open-source vs Propriétaire ? Finetuné, ou pas ? Je veux mon GPU. Je ne veux pas savoir. Je veux le GPU d’un autre. (GPUaaS) LLM chaining Prompt engineering Système multi-agents
22. Données Retrieval Augmented Generation API Database Document Internet
23. Infrastructure Modèles Intelligence Données Les briques de notre solution Transverse Large LM vs Small LM ? Open-source vs Propriétaire ? Finetuné, ou pas ? Retrieval Augmented Generation API Database Document Internet Je veux mon GPU. Je ne veux pas savoir. Je veux le GPU d’un autre. (GPUaaS) LLM chaining Prompt engineering Système multi-agents
24. Transverse Sécurité Gouvernance des données DevOps, MLOps, LLMOps Impact Business et ROI Éthique et responsabilité
25. Infrastructure Modèles Intelligence Données Les briques de notre solution Transverse Large LM vs Small LM ? Open-source vs Propriétaire ? Finetuné, ou pas ? Je veux mon GPU. Je ne veux pas savoir. Je veux le GPU d’un autre. (GPUaaS) LLM chaining Prompt engineering Système multi-agents Retrieval Augmented Generation API Database Document Internet Sécurité Gouvernance des données DevOps, MLOps, LLMOps Impact Business et ROI Éthique et responsabilité
26. Une architecture plus détaillée Réalisé par Ali Arsanjani
27. Et mes utilisateurs ?
28. Que devez-vous retenir ? Le succès d’une solution IA Gen, repose sur l’alignement entre : • les utilisateurs, • la complexité du problème, • les données, • l’intelligence, • l’infrastructure.
29. Merci de m’avoir écouté ! Des questions ? Raphaël Anjou - @Orange Business Google DevFest 2024 Sophia Antipolis – 28/11