De l’ADN au produit : coder mieux grâce au réglementaire

Transcript

1. De l’ADN au produit Coder mieux grâce au réglementaire Alexandra Bonnet Montaine Marteau 07/11/2025
2. Quelle maladie provoque une douleur entre 7 et 10 pendant plusieurs jours ?
3. ... qui met en moyenne 7 ans à être diagnostiquée ...
4. ... qui revient tous les mois ...
7. LE BIOMARQUEUR
8. Collecte des données Entrainement du modèle Utilisation dans la vraie vie Validation
10. ce talk
11. -“Désolé, on ne retrouve plus le résultat de votre test.” - “Comment ça, perdu ? “
12. “Clean Code parle de qualité. La 62304 parle de confiance.”
13. -“Votre test est négatif.” - “Et vous savez pourquoi ?” - “Non. Mais l’IA, elle, est sûre à 100 %.”
14. “Là où le MLOps veut rendre les modèles fiables, l’AI Act veut les rendre responsables.”
15. “Bonjour Madame, on vous rappelle. Finalement, on a refait tourner l’algorithme… et le résultat est positif.”
16. “Là où le TDD donne la certitude technique, la 62304 en fait une preuve auditable.”
17. - “Bonjour, je suis de votre assurance. En consultant notre base, j’ai vu que vous aviez passé un test récemment.” - “Pardon ? Comment vous savez ça ?”
18. “Dans le médical, la sécurité n’est pas qu’une mesure technique, c’est une promesse de confiance.”
19. - “Le modèle marchait très bien au début.” - “Je sais… mais là, il a raté des cas qu’on n’aurait jamais dû rater.” - “Comment ça, raté ?” -“Des patientes sont passées à côté du diagnostic.”
20. Le produit cherche l’efficacité. Le réglementaire cherche la sécurité. Les deux exigent la même maturité : mesurer pour maîtriser.
21. Les bonnes pratiques de dev sont vos meilleurs arguments réglementaires.
22. Bonne pratique de dev Équivalence réglementaire Texte / norme Versionner les modèles, les données, les dépendances Obligation de traçabilité et d’archivage pour auditabilité AI Act Art. 12.2, MDR Annexe II, ISO 13485 §4.2.5 Logger tous les événements critiques du système Journalisation obligatoire pour analyse, traçabilité, responsabilité AI Act Art. 12, ISO 14971 §7.4 Implémenter des tests automatisés (unitaires, intégration, système) Validation et vérification du logiciel exigées IEC 62304 §5.5–5.7, MDR Annexe I §17 Mettre en place un monitoring en production (performance, erreurs, dérives) Surveillance post-market obligatoire MDR Annexe III, AI Act Art. 61 Mettre en œuvre des mécanismes de supervision humaine (human oversight) Obligation de contrôle humain sur les systèmes IA critiques AI Act Art. 14 Détecter et suivre les dérives du modèle (drift detection) Exigence de robustesse et de suivi des performances dans le temps AI Act Art. 15.2, ISO 42001 §8.5 Valider la qualité des données d’entrée (data validation) Obligation de gouvernance des données d'entraînement et de fonctionnement AI Act Art. 10.3, ISO 42001 §8.4.1 Fournir des explications interprétables (SHAP, LIME, etc.) Transparence obligatoire vis-à-vis des utilisateurs et auditeurs AI Act Art. 13 Documenter le fonctionnement du système (README, API, usage) Documentation technique obligatoire pour la conformité AI Act Art. 11, MDR Annexe II Gérer les droits d’accès et les rôles (RBAC) Sécurisation des accès, limitation des responsabilités AI Act Art. 9, RGPD Art. 32 Archiver les configurations logicielles et modèles déployés Conservation obligatoire à des fins de traçabilité et audit AI Act Art. 12.2, ISO 13485 §4.2.5 Mettre en place des mesures de cybersécurité (SAST, fuzzing, patching) Robustesse et protection contre les attaques requises AI Act Art. 15.6, ISO/IEC 27001 §6.1 Suivre les erreurs et incidents remontés par les utilisateurs Exigence de traitement des incidents via le plan de PMS MDR Annexe III §1, AI Act Art. 62 Implémenter une gestion du changement (rollback, contrôle de version) Traçabilité et gestion documentée des modifications ISO 13485 §4.2, MDR Chap. VII Réaliser des revues de code (PR, pair programming) Double contrôle, minimisation du risque de défaut critique ISO 13485 §7.3.4, IEC 62304 §5.1
23. Et sinon, la bonne nouvelle ....
24. Le ministère de la santé a lancé une expérimentation majeure avec le test salivaire Endotest® qui est désormais pris en charge par l’Assurance maladie dans le cadre d’un forfait innovation. Une expérimentation possible pour 25 000 patientes mise en place dans 100 hôpitaux répartis sur le territoire. basé sur le séquençage de nouvelle génération et l’intelligence artificielle
25. Alexandra Bonnet Montaine Marteau De l’ADN au produit Coder mieux grâce au réglementaire 07/11/2025 MERCI !!!