Le côté obscur des IA génératives

Support de ma présentation à Nantes Craft 2025, dans laquelle j'explique les aspects des IA génératives que leurs promoteurs ne mentionnent pas voire dissimulent délibérement.

Transcript

1. Pascal Le Merrer - Nantes Craft - 2 Octobre 2025 1
2. 2 « Vous ne connaissez pas le pouvoir du côté obscur » Dark Vador, le Retour du Jedi
4. Avertissements • Quand je dis « IA », if faut comprendre « IA Générative » • A charge, et c’est assumé • Les opinions exprimées sont les miennes, 
 pas celles de mon employeur • Les liens vers les sources sont à la fi n du support de présentation 4
5. 1. Impact environnemental 5
6. Le discours des géants du cloud • Amazon : « neutre en carbone d'ici 2040 » • Google : « neutre en carbone depuis 2007 » • Microsoft : « carbone négatif en 2030 » Sources : Amazon, Google, Microsoft 6
7. Des objectifs non tenus • Microsoft +30% de 2020 à 2023 • Google +48% depuis 2019 Source : Bon Pote, Google 7
8. Ce qu’on trouve dans leurs rapports 8 Source : 
 Financial
 Times
9. La réalité • Les GAFAM émettent 8 fois plus que ce qu'ils avouent Source : The Guardian 9
10. Et ça ne va pas s'arranger • Triplement des émissions CO2 d'ici 2030 • Puissance requise pour l’entrainement double tous les 6 mois Source : Morgan Stanley, Epoch.ai 10
11. Consommation d'eau • +60% pour les datacenters de Virginie entre 2019 et 2023 • Doublement d’ici 2030 : 1200 Milliards de litres / an Sources : Agence International de l’Énergie, Financial times 11
12. Localisation des datacenters L'eau utilisée par les datacenters provient : • à 42% de zones en stress hydrique (Microsoft) • à 16% de zones en pénurie (Google) • à 15% de zones en forte pénurie (Google) Sources : Novethic, SourceMaterial, Bon Pote, Techie + Gamers, et The Guardian 12
13. Matériel • Datacenters • Infrastructures d’alimentation • GPUs 13
14. 2. Impact sur le web ouvert 14
15. Déni de service • Interruptions de service à cause des scrapers Source : Drew Devault 15
16. Impact sur Wikipedia • +50% de tra fi c sur Wikimedia Commons depuis janvier 2024 • 65% du tra fi c coûteux vient de bots Source : Wikimedia Foundation 16
17. Mise en danger de sites scienti fi ques • Sites de partages d’études et de données scienti fi ques • 190 Millions d’IP bloquées par mois sur Discover Life… • … et ça ne su ff i t pas Source : Next Ink 17
18. Quel avenir pour le web ouvert ? • AI overview • Le web ouvert est en déclin rapide Source : Search Engine Roundtable 18
19. 3. Pourrissement du Web 19
20. Articles non fi ables • De plus en plus d’articles au contenu erroné • Exemple : les nouveautés de Postgresql 18 Source : The Build 20
21. Baisse de qualité des études scienti fi ques • Augmentation exponentielle des études bidons Source : The Register 21
22. E ff ondrement de modèle • Perte d’e ff i cience en cas d’entrainement récursif • Premiers symptômes ? Sources : Wikipedia et Kenneth Wolters
 22
23. 4. IA et développement logiciel 23
24. Impact sur les mises en production • +10% de problèmes lors des déploiements Source : DORA Research 24
25. Sécurité • 10 fois plus de failles dans le code généré Source : Apiiro 25
26. Promesses non tenues • Pas de gain de productivité, voire une diminution Source : Mike Judge et METR 26
27. L'IA résout le mauvais problème • Les développeurs passent de 58% à 70% de leur temps
 à lire et comprendre du code Sources : • Jetbrains • Measuring program comprehension: a large-scale fi eld study with professionals (Xin Xia, Lingfeng Bao, David Lo, Zhenchang Xing, Ahmed E. Hassan, Shanping Li) • I Know What You Did Last Summer — An Investigation of How Developers Spend Their Time (Roberto Minelli, Andrea Mdcci and Michele Lanza) 27
28. Dépendance « Nous ne deviendrons pas des développeurs 10x plus performants grâce à l'IA. Nous devenons 10 fois plus dépendants de l'IA »
 Source : “AI is Creating a Generation of Illiterate Programmers” — Namanyay 28
29. Remplacer le Pair-programming par l'IA • Déconseillé • Pas les avantages du pair-programming Thoughtworks Tech Radar #32, Avril 2025 29
30. Génération de code • Mise en garde de Thought works • review fatigue • complaisance Thoughtworks Tech Radar #32, Avril 2025 30
31. Conséquences de l'usage des IA génératives • dépendance excessive • diminution de l'esprit critique • capacité diminuée à résoudre les problèmes sans IA Source : Microsoft Research 31
32. 5. Problèmes éthiques 32
33. Idéologie • Transhumanisme • Long-termisme • Altruisme e ffi cace
 
 Les prophètes de l'IA, Thibault Prévost 33
34. Propriété intellectuelle • Pillage systématique • Danger pour les créateurs de contenu 34
35. Solution au changement climatique • IA ==> solutions au changement climatique (Microsoft) • Holly Alpine, lanceuse d'alerte • Deal ExxonMobil + 50 000 barils / jour
 
 Source : The Atlantic 35
36. Intelligence Arti fi cielle Générale • ~ un programme qui raisonnerait comme un humain • Le Graal pour les créateurs d'IA • Présenté comme imminent à chaque progrès signi fi catif en IA • Irréaliste à ce jour Source : kennethwolters.com 36
37. Société de surveillance « Un vaste système de surveillance piloté par l'IA 
 peut amener les citoyens à un meilleur comportement » Larry Ellison Sources : developpez.com et Le Grand Continent 37
38. Biais idéologiques 38 • Grok véri fi e ce qu’Elon Musk pense d’un sujet avant de répondre • La Maison Blanche veut interdire la représentation et l’inclusion des minorités • Meta suit ces consignes • Deepseek produit 2 fois plus de bugs dans certains pays • 2 fois plus de désinformation relayée en un an • Conseils médicaux de moins bonne qualité pour les femmes et minorités ethniques Sources : Le Monde, Mashable, Numérama, Blog du Modérateur, Korben, Ars Technica
39. Data workers • L'entrainement est en grande partie manuel • 150 à 430 millions de data workers en 2023 Estimation de la Banque Mondiale
 
 Source : Les sacri fi és de l’IA 39
40. Exploitation des data workers • pays en crise ou prisons • mal payés • travail pénible • visionnage de contenus atroces • NDA • virés si syndication Source : Les sacri fi és de l'IA 40
41. 6. Conclusion 41
42. Que faut-il en retenir ? • Promesses non tenues • Conséquences multiples et néfastes • sur l’environnement • pour les utilisateurs réguliers • sur les data workers • sur la di ff usion de la connaissance et de l’information • Danger pour la démocratie • Néocolonialisme 42
43. Le futur • Large Concept Models • Klarna embauche à nouveau 43
44. Quoi faire ? • Limiter aux usages vraiment pertinents • Utiliser une IA éthique (Lumo, par Proton) • Utiliser des outils sans IA, comme noai.duckduckgo.com • Désactiver l’autorisation d’usage pour l’entrainement (Linkedin, Meta…) • Désactiver Copilot dans Github • Migrer de Github vers un autre service • … 44
45. J'aurais aussi pu parler.. • des problèmes de sécurité • des fausses failles de sécurité soumises lors de bug bounties • de la réécriture de l’histoire • des navigateurs dopés à l’IA • de la bulle fi nancière 45
46. En savoir plus • Les sacri fi és de l'IA, en replay sur France TV podcast Trench Tech • Les prophètes de l'IA, par Thibault Prévost • Intelligence arti fi cielle : le vrai coût environnemental de la course à l’IA, sur bonpote.com 46
47. Références - Impact Environnemental • The Climate Pledge (Amazon) • Carbon neutrality by end of 2007 (Google) • Environmental Sustainability Report 2025 (Microsoft) • 2024 Environmental Report (Google) • Big Tech’s bid to rewrite the rules on net zero (Financial Times - accès payant) • Data center emissions probably 662% higher than big tech claims. Can it keep up the ruse? (The Guardian) • Investing at the Intersection of AI and the Energy Transition (Morgan Stanley) • Compute Trends Across Three Eras of Machine Learning (Epoch.ai) • ChatGPT now has over 300 million weekly users (The Verge) • Comment l’intelligence arti fi cielle et ses data centers s’accaparent l’eau (Basta) • Avec leurs data centers, Amazon, Microsoft et Google s'accaparent l’eau des régions les plus sèches du monde (Novethic) • Big Tech’s data centre push will take water from the world’s driest areas (SourceMaterial) • Revealed: Big tech’s new datacentres will take water from the world’s driest areas (The Guardian) • AI Data Centers in Texas Used 463 Million Gallons of Water, Residents Told to Take Shorter Showers (Techie + Gamers) • Annonce d’Elon Musk (X) • Building the 1.2 Gigawatt xAI Data Center in 2025 (nextBig Future) • Meta unveils new plans for multi-gigawatt datacenter clusters the size of Manhattan (TechRadar Pro) • Inside OpenAI’s Stargate Megafactory: Abilene, Texas Becomes the Heart of the AI Revolution (FutureTekNow) 47
48. Références - Impact sur le web ouvert • Please stop externalizing your costs directly into my face • FOSS infrastructure is under attack by AI companies • AI bots are destroying Open Access • How crawlers impact the operations of the Wikimedia projects (Wikimedia) • Les crawlers des IA menacent les sites scienti fi ques (Next Ink) • AI-Generated Fake Vulnerability Submissions Overrunning Bug Bounty Platforms (Cyber Press) • New Google Court Doc: Open Web Is In Rapid Decline (Search Engine Roundtable) 48
49. Références - Pourrissement du Web • Bo ff i ns warn that AI paper mills are swamping science with garbage studies (The Register) • E ff ondrement de modèles d'intelligence arti fi cielle (Wikipedia) • AI models collapse when trained on recursively generated data (Nature) • No AGI in Sight: What This Means for LLMs (Kenneth Wolters) • Lies, Damn Lies, and LLM Output (The Build) 49
50. Références - IA et développement logiciel • The real value isn’t in the code (John Ayre) • 2025 DORA State of AI-assisted Software Development report (DORA Research) • Where's the Shovelware? Why AI Coding Claims Don't Add Up (Mike Judge) • Measuring the Impact of Early-2025 AI on Experienced Open-Source Developer Productivity (METR) • In the Age of AI, is Code Literacy Your Superpower? (Peter Mbanugo) • Measuring program comprehension: a large-scale fi eld study with professionals (Xin Xia, Lingfeng Bao, David Lo, Zhenchang Xing, Ahmed E. Hassan, Shanping Li) • I Know What You Did Last Summer — An Investigation of How Developers Spend Their Time (Roberto Minelli, Andrea Mdcci and Michele Lanza) • Linkedin Poll on time developers spend understanding code (Jetbrains) • AI is Creating a Generation of Illiterate Programmers (Namanyay) • Thoughtworks Tech Radar (Thoughtworks) • The Impact of Generative AI on Critical Thinking (Microsoft Research)
 50
51. Références - Problèmes éthiques • Microsoft Is Luring Fossil-Fuel Companies With AI (The Atlantic) • The GenAI Divide STATE OF AI IN BUSINESS 2025 (MIT) • Larry Ellison pourrait devenir l’homme le plus riche du monde... (Le Monde) • « Un vaste système de surveillance piloté par l'IA peut amener les citoyens à un meilleur comportement » (developpez.com) • Dominer la société avec l'IA (Le grand continent) • Intelligence arti fi cielle : les économistes s’inquiètent d’un risque de bulle fi nancière (Le Monde) • Donald Trump lance son plan pour accélérer le développement de l’intelligence arti fi cielle… (Le Monde) • Meta hires far-right in fl uencer to help end 'Woke AI' (Mashable) • Le nouveau Grok véri fi e ce que pense Elon Musk d'un sujet avant de vous répondre (Numérama) • DeepSeek - L'IA chinoise qui livre du code pourri aux ennemis du régime (Korben) • Désinformation, erreurs : les IA de moins en moins fi ables ? (Blog du modérateur) • AI medical tools found to downplay symptoms of women, ethnic minorities (Ars Technica) • OpenAI Says Its Business Will Burn $115 Billion Through 2029 (Slashdot citant The Information) • Antonio CASILLI - Les sacri fi és de l’IA : le scandale méconnu des data workers (Trench Tech)
 51
52. Références - Sécurité • 2025 GenAI Code Security Report (Veracode) • Votre fond d'écran peut pirater votre ordinateur (Techno science) • 52