Künstliche Intelligenz: Technologie der Zukunft – und warum Open Source die Karten neu mischt

Heise KI-Woche 2025: Wie sich KI in Zukunft in Europa entwickeln könnte - und warum Open Source die Karten neu mischt: Deep Seek hat vor einigen Wochen mit aufsehenerregenden Benchmarks den KI-Markt durcheinandergewirbelt. Ist das ein Vorbildmodell für Europa und wo entwickelt sich KI, vor allem Open Source, möglicherweise hin?

Transcript

1. Ines Montani Explosion Technologie der Zukunft – und warum Open Source die Karten neu mischt
2. Ines Montani Gründerin und CEO von Explosion explosion.ai
3. Ines Montani Gründerin und CEO von Explosion Open-Source-Bibliothek für Natural Language Processing spacy.io 340m+ Downloads explosion.ai
4. Ines Montani Gründerin und CEO von Explosion Open-Source-Bibliothek für Natural Language Processing spacy.io 340m+ Downloads Modernes Annotationstool für Machine-Learning-Entwickler prodigy.ai 10.000+ Nutzer explosion.ai
6. Wie sich Menschen 1900 das Jahr 2000 vorstellten
7. Wie sich Menschen 1900 das Jahr 2000 vorstellten
9. “Knocker-Uppers”
10. “Knocker-Uppers” vs. Wecker
11. “Knocker-Uppers” vs. Wecker Entwickelst du eine Fensterklopfmaschine oder einen Wecker? ines.io/blog/window-knocking-machine-test
12. ines.io/blog/window-knocking-machine-test Hallo, ich bin Tonis virtueller Assistent und helfe bei der Terminbuchung. Hast du Montag um 13 : 00 Zeit? Nein, aber Dienstag würde passen. Okay, bitte bestätige: Dienstag um 13 : 00? 13 Uhr ist schlecht, aber 15 Uhr geht. Toni hat leider keine Zeit um 15 : 00, aber ich könnte dir einen Slot um 16 : 00 oder 17 : 30 anbieten. Moment, welche Zeitzone ist das? Ich bin in CET.
13. ines.io/blog/window-knocking-machine-test Hallo, ich bin Tonis virtueller Assistent und helfe bei der Terminbuchung. Hast du Montag um 13 : 00 Zeit? Nein, aber Dienstag würde passen. Okay, bitte bestätige: Dienstag um 13 : 00? 13 Uhr ist schlecht, aber 15 Uhr geht. Toni hat leider keine Zeit um 15 : 00, aber ich könnte dir einen Slot um 16 : 00 oder 17 : 30 anbieten. Moment, welche Zeitzone ist das? Ich bin in CET. Calendly
14. ines.io/blog/window-knocking-machine-test Hallo, ich bin Tonis virtueller Assistent und helfe bei der Terminbuchung. Hast du Montag um 13 : 00 Zeit? Nein, aber Dienstag würde passen. Okay, bitte bestätige: Dienstag um 13 : 00? 13 Uhr ist schlecht, aber 15 Uhr geht. Toni hat leider keine Zeit um 15 : 00, aber ich könnte dir einen Slot um 16 : 00 oder 17 : 30 anbieten. Moment, welche Zeitzone ist das? Ich bin in CET. Calendly “Fensterklopfmaschine” “Wecker”
15. 2024 Jahr Services Kategorie ACME Inc. FooBar GmbH NLPCorp XKCD Ltd. Python AG 432.032 82.000 1.500 193.000 91.320 2.625.032 € Kunden (28) Umsatz Was ist der Gesamtumsatz für Services in 2024? 2.923.531 € Wie viele Kuden sind das insgesamt? 29
16. 2024 Jahr Services Kategorie ACME Inc. FooBar GmbH NLPCorp XKCD Ltd. Python AG 432.032 82.000 1.500 193.000 91.320 2.625.032 € Kunden (28) Umsatz Was ist der Gesamtumsatz für Services in 2024? 2.923.531 € Wie viele Kuden sind das insgesamt? 29 Modell Datenbank Agents Abfrage Retrieval-Augmented Generation (RAG)
17. 2024 Jahr Services Kategorie ACME Inc. FooBar GmbH NLPCorp XKCD Ltd. Python AG 432.032 82.000 1.500 193.000 91.320 2.625.032 € Kunden (28) Umsatz Was ist der Gesamtumsatz für Services in 2024? 2.923.531 € Wie viele Kuden sind das insgesamt? 29 Modell Datenbank Agents Abfrage Retrieval-Augmented Generation (RAG) KI braucht nach wie vor Produktentscheidungen!
18. explosion.ai/blog/history-web-future-ai DECKE BODEN
19. lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz explosion.ai/blog/history-web-future-ai DECKE BODEN
20. To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz explosion.ai/blog/history-web-future-ai DECKE BODEN
21. Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz explosion.ai/blog/history-web-future-ai DECKE BODEN
22. Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer Hotelbuchungsplattform verbessert Empfehlungssystem +0.5% Click-Through-Rate, +1 Mio. € Umsatz To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz explosion.ai/blog/history-web-future-ai DECKE BODEN
23. Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer Hotelbuchungsplattform verbessert Empfehlungssystem +0.5% Click-Through-Rate, +1 Mio. € Umsatz To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz explosion.ai/blog/history-web-future-ai DECKE BODEN hohe Verbreitung
24. Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer Hotelbuchungsplattform verbessert Empfehlungssystem +0.5% Click-Through-Rate, +1 Mio. € Umsatz To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz explosion.ai/blog/history-web-future-ai hoher Wert DECKE BODEN hohe Verbreitung
25. Warum eigentlich?
26. Warum eigentlich? transparent
27. Warum eigentlich? transparent kein Lock-In
28. Warum eigentlich? transparent kein Lock-In erweiterbar
29. Warum eigentlich? transparent kein Lock-In erweiterbar läuft intern
30. Warum eigentlich? transparent kein Lock-In erweiterbar läuft intern einfacher Start
31. Warum eigentlich? transparent kein Lock-In erweiterbar Community-geprüft läuft intern einfacher Start
32. Warum eigentlich? transparent kein Lock-In programmierbar erweiterbar Community-geprüft läuft intern einfacher Start
33. Warum eigentlich? transparent kein Lock-In stets aktuell programmierbar erweiterbar Community-geprüft läuft intern einfacher Start
34. Warum eigentlich? transparent kein Lock-In stets aktuell programmierbar erweiterbar Community-geprüft läuft intern einfacher Start und gratis!
35. OPEN-SOURCE MODELLE
36. OPEN-SOURCE MODELLE aufgabenspezifische Modelle
37. OPEN-SOURCE MODELLE aufgabenspezifische Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning
38. OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezifische Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning
39. OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezifische Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning relativ klein und schnell, erschwinglich zu hosten, generalisieren gut, benötigen Daten zum Finetuning
40. OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezifische Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning relativ klein und schnell, erschwinglich zu hosten, generalisieren gut, benötigen Daten zum Finetuning große generative Modelle Falcon MIXTRAL
41. OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezifische Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning relativ klein und schnell, erschwinglich zu hosten, generalisieren gut, benötigen Daten zum Finetuning große generative Modelle Falcon MIXTRAL sehr groß, meist langsamer, teuer zu hosten, generalisieren sehr gut, benötigen keine oder kaum spezifische Daten
42. ECONOMIES OF SCALE Größenvorteile Produktion Kosten spacy.fyi/ai-revolution
43. ECONOMIES OF SCALE Größenvorteile Produktion Kosten OpenAI Google spacy.fyi/ai-revolution
44. ECONOMIES OF SCALE Größenvorteile Produktion Kosten OpenAI Google Zugang zu Fachkräften, Rechenleistung etc. spacy.fyi/ai-revolution
45. ECONOMIES OF SCALE Größenvorteile Produktion Kosten OpenAI Google Zugang zu Fachkräften, Rechenleistung etc. Batch-Verarbeitung von API-Anfragen spacy.fyi/ai-revolution
46. ECONOMIES OF SCALE Größenvorteile Produktion Kosten OpenAI Google Zugang zu Fachkräften, Rechenleistung etc. Batch-Verarbeitung von API-Anfragen hoher Tra ff ic niedriger Tra ff ic Batch … spacy.fyi/ai-revolution
47. ECONOMIES OF SCALE Größenvorteile Produktion Kosten OpenAI Google du Zugang zu Fachkräften, Rechenleistung etc. Batch-Verarbeitung von API-Anfragen hoher Tra ff ic niedriger Tra ff ic Batch … spacy.fyi/ai-revolution
48. explosion.ai/blog/history-web-future-ai
49. statische Seiten WEB explosion.ai/blog/history-web-future-ai
50. statische Seiten WEB dynamische Seiten explosion.ai/blog/history-web-future-ai
51. statische Seiten WEB dynamische Seiten statische Seiten explosion.ai/blog/history-web-future-ai
52. statische Seiten WEB dynamische Seiten statische Seiten kompiliere statische Daten im Build-Prozess explosion.ai/blog/history-web-future-ai
53. statische Seiten WEB eigene Modelle KI dynamische Seiten statische Seiten kompiliere statische Daten im Build-Prozess explosion.ai/blog/history-web-future-ai
54. statische Seiten WEB eigene Modelle KI dynamische Seiten statische Seiten vortrainierte Modelle kompiliere statische Daten im Build-Prozess explosion.ai/blog/history-web-future-ai
55. statische Seiten WEB eigene Modelle KI dynamische Seiten statische Seiten eigene Modelle vortrainierte Modelle kompiliere statische Daten im Build-Prozess explosion.ai/blog/history-web-future-ai
56. statische Seiten WEB eigene Modelle KI dynamische Seiten statische Seiten eigene Modelle destilliere Modelle in kleinere, schnellere und private Komponenten vortrainierte Modelle kompiliere statische Daten im Build-Prozess explosion.ai/blog/history-web-future-ai
57. LLM explosion.ai/blog/human-in-the-loop-distillation DESTILLATION “human-in- the-loop”
58. kontinuierliche Evaluation Baseline LLM explosion.ai/blog/human-in-the-loop-distillation DESTILLATION “human-in- the-loop”
59. kontinuierliche Evaluation Baseline LLM Prompting explosion.ai/blog/human-in-the-loop-distillation DESTILLATION “human-in- the-loop”
60. kontinuierliche Evaluation Baseline LLM Prompting explosion.ai/blog/human-in-the-loop-distillation DESTILLATION “human-in- the-loop”
61. kontinuierliche Evaluation Baseline LLM Prompting Transfer Learning explosion.ai/blog/human-in-the-loop-distillation DESTILLATION “human-in- the-loop”
62. kontinuierliche Evaluation Baseline LLM Prompting Transfer Learning destilliertes Modell explosion.ai/blog/human-in-the-loop-distillation DESTILLATION “human-in- the-loop”
63. kontinuierliche Evaluation Baseline LLM Prompting Transfer Learning destilliertes Modell explosion.ai/blog/human-in-the-loop-distillation DESTILLATION Produktion “human-in- the-loop”
64. S&P Global: Extraktion von strukturierten Attributen aus Commodities-Trading-Insights in Echtzeit 6mb Dateigröße 16k+ Wörter/Sek. 99% F-Score explosion.ai/blog/sp-global-commodities
65. S&P Global: Extraktion von strukturierten Attributen aus Commodities-Trading-Insights in Echtzeit Hochsicherheitsumgebung 6mb Dateigröße 16k+ Wörter/Sek. 99% F-Score explosion.ai/blog/sp-global-commodities
66. S&P Global: Extraktion von strukturierten Attributen aus Commodities-Trading-Insights in Echtzeit Hochsicherheitsumgebung Lösung nutzt LLMs für Annotation 6mb Dateigröße 16k+ Wörter/Sek. 99% F-Score explosion.ai/blog/sp-global-commodities
67. S&P Global: Extraktion von strukturierten Attributen aus Commodities-Trading-Insights in Echtzeit Hochsicherheitsumgebung Lösung nutzt LLMs für Annotation 10× schnellere Datenentwicklung mit Hilfe von Menschen und Modell 6mb Dateigröße 16k+ Wörter/Sek. 99% F-Score explosion.ai/blog/sp-global-commodities
68. S&P Global: Extraktion von strukturierten Attributen aus Commodities-Trading-Insights in Echtzeit Hochsicherheitsumgebung Lösung nutzt LLMs für Annotation 10× schnellere Datenentwicklung mit Hilfe von Menschen und Modell 6mb Dateigröße 16k+ Wörter/Sek. 99% F-Score explosion.ai/blog/sp-global-commodities
69. DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
70. modular DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
71. modular kein Lock-In DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
72. modular testbar kein Lock-In DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
73. modular testbar kein Lock-In erweiterbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
74. modular testbar flexibel kein Lock-In erweiterbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
75. modular testbar flexibel kein Lock-In erweiterbar programmierbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
76. modular testbar flexibel kein Lock-In günstig zu hosten erweiterbar programmierbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
77. modular testbar flexibel kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
78. modular testbar flexibel berechenbar kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
79. modular testbar flexibel berechenbar transparent kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
80. modular testbar flexibel berechenbar transparent kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar DESTILLIERTE AUFGABENSPEZIFISCHE MODELLE
82. Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen!
83. Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. LLM Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen!
84. Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. LLM Bleib ehrgeizig. Es gibt keinen Grund für Kompromisse bei Best Practices, E izienz und Privatsphäre. NLP Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen!
85. Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. LLM Bleib ehrgeizig. Es gibt keinen Grund für Kompromisse bei Best Practices, E izienz und Privatsphäre. NLP Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen! Wir sind nach wie vor am Anfang!
86. Explosion spaCy Prodigy Bluesky Mastodon explosion.ai spacy.io prodigy.ai @inesmontani.bsky.social @ines@sigmoid.social LinkedIn