Construire la plateforme IA Native

Transcript

1. Construire la plateforme IA-native. Pendant dix ans, nous avons cherché à rendre l’infrastructure invisible. L’IA remet cette infrastructure au centre du jeu — aidée désormais par des AI Agents.
2. Construire la plateforme IA-native LE NOUVEAU CONTRAT Intentions Capacités Des ressources aux intentions exécutables Contraintes De Kubernetes caché à un système qui traduit les besoins en actions sûres.
3. 02 / LE SPEAKER Michel Hubert Architecte Solutions · Auteur · Conférencier Platform Engineering · IA · DevX Auteur et speaker sur les plateformes cloud, l’expérience développeur et l’IA. linkedin.com/in/hubertmichel/
4. 02 / LE CHOC Un agent IA n'est pas une application web. APPLICATION CLASSIQUE AGENT IA Requête → calcul → réponse Prompt → modèle → outils Prompt Latence en millisecondes Coût CPU et mémoire Comportement déterministe → LLM → Tool → Retry… Latence en secondes ou minutes Coût en tokens et appels d’outils Résultats probabilistes O n ne p eut p as sim p lem ent red im ensio nner l'infrastructure. Il faut la rep enser. Les indicateurs et les mécanismes d’exploitation doivent évoluer.
5. 03 / LE CONTRAT La plateforme expose des capacités HIER : DES RESSOURCES CPU Mémoire Stockage Réseau Runtime DEMAIN : DES INTENTIONS Modèle Données Contexte Outils Budget Qualité Sécurité Contrat : « Je veux fournir ce service, sous ces contraintes. »
6. 04 / SIGNAUX CPU ne raconte plus toute l’histoire SIGNAUX CLASSIQUES CPU Mémoire SIGNAUX IA Latence et TTFT Tokens / s Files et concurrence Requêtes / s Instances Coût / requête Qualité et évaluations Succès des outils
7. 05 / GOLDEN PATH Le Golden Path devient un produit IA Golden Path Classique Repo › Build › Conteneur › Deploy › Observe Golden Path IA Code Modèle Données Agent Outils Évals Déployer et observer avec identité, sécurité, coût et politiques intégrés Donnez un produit aux équipes IA, pas un cluster brut.
8. 06 / CONTROL PLANE Le plan de contrôle arbitre les contraintes INTENTION Un service IA fiable pour un usage donné AI CONTROL PLANE Identité Politique Sécurité Coût Modèles · Données · Outils · Observabilité EXÉCUTION Kubernetes Serverless GPU Cloud AI Edge
9. 07 / OBSERVABILITÉ Observer aussi le comportement de l’IA 01 Comportement IA 02 Application 03 Infrastructure Qualité · évaluations · décisions Tokens · appels d’outils · reprises · dérive Latence · erreurs · traces Débit · journaux · parcours CPU · GPU · mémoire · réseau Saturation · files · démarrages à froid Un système parfaitement disponible peut être parfaitement faux.
10. 08 / FINOPS Le coût se décide au runtime UNE REQUÊTE AGENT Utilisateur + Modèle + Outil + Relance MESURES À EXPOSER € / requête € / tenant € / agent Tokens / requête GPU / heure Budget / équipe C haque décision log icielle peut désorm ais avoir un coût marginal immédiat.
11. 09 / LES CONSOMMATEURS Votre prochain utilisateur ne sera peut-être pas humain. 01 02 03 Portail Portail + API Interfaces d’agent Développeur consommateur Développeur et agent IA Agents capables d’agir sur la plateforme Une plateforme doit exposer ses capacités aux humains et aux agents.
12. 10 / AUTONOMIE Des règles vers des objectifs AUTOMATISATION AGENT Si CPU > 80 % Alors +1 réplique Tenir le SLO sous un budget défini Une règle connue déclenche une action. Observer · raisonner · agir · vérifier L’objectif donne la direction. Les contraintes bornent les actions.
13. 11 / DÉLÉGATION Choisir l’autonomie selon le risque A0 A1 A2 A3 A4 Manuel Assiste Recommande Agit Autonome L’humain agit Analyse Propose une action Sous contraintes Optimise et vérifie Human Operated Human Governed
14. 12 / LE MÉTIER Le rôle du Platform Engineer évolue AUJOURD’HUI DEMAIN Opérer l’infrastructure Architecte du système d’autonomie Provisionner · configurer Déployer · surveiller · réagir Définir les intentions et les SLO Encadrer, exposer, superviser
15. 13 / ARCHITECTURE Blueprint d’une plateforme IA-native CONSOMMATEURS : HUMAIN + AGENT 01 Expérience Portail · API · CLI · Interface agent 02 Capacités IA Modèles · RAG · Agents · Données · Évaluations 03 Control Plane Identité · Politiques · Coût · Sécurité · Observabilité 04 Exécution Kubernetes · Serverless · GPU · Cloud 05 Ops autonomes Observer · Raisonner · Agir · Vérifier
16. 14 / CONCLUSION Trois idées pour concevoir la plateforme 01 02 03 Platform the AI Platform the constraints Platform the agents Offrir un Golden Path IA Rendre sécurité, coût et qualité exécutables Servir les agents comme les humains Transformer une intention en action sûre.
17. L’infrastructure à l’heure de l’IA Architecturer le futur intelligent Merci pour vos feedbacks !