Tweet
Tweet

Slide 1

Slide 1 text

KÜNSTLICHE INTELLIGENZ Ines Montani Explosion zwischen Freiheit und Kontrolle The AI revolution will not be monopolized

Slide 2

Slide 2 text

No content

Slide 3

Slide 3 text

Ines Montani Gründerin und CEO von Explosion

Slide 4

Slide 4 text

Open-Source- Bibliothek für Natural Language Processing spacy.io SPACY 360 Mio.+ Downloads Ines Montani Gründerin und CEO von Explosion

Slide 5

Slide 5 text

Open-Source- Bibliothek für Natural Language Processing spacy.io SPACY 360 Mio.+ Downloads Modernes Annotationstool für Machine-Learning- Entwickler prodigy.ai PRODIGY 10.000+ Nutzer Ines Montani Gründerin und CEO von Explosion

Slide 6

Slide 6 text

Wie sich Menschen 1900 das Jahr 2000 vorstellten

Slide 7

Slide 7 text

Wie sich Menschen 1900 das Jahr 2000 vorstellten

Slide 8

Slide 8 text

No content

Slide 9

Slide 9 text

“Knocker-Uppers”

Slide 10

Slide 10 text

“Knocker-Uppers”

Slide 11

Slide 11 text

ines.io/blog/window-knocking-machine-test FENSTERKLOPF- MASCHINEN- TEST Der Entwickelst du eine Fensterklopfmaschine oder einen Wecker? “Knocker-Uppers”

Slide 12

Slide 12 text

ines.io/blog/window-knocking-machine-test Hallo, ich bin Tonis virtueller Assistent und helfe bei der Terminbuchung. Hast du Montag um 13 : 00 Zeit? Nein, aber Dienstag würde passen. Okay, bitte bestätige: Dienstag um 13 : 00? 13 Uhr ist schlecht, aber 15 Uhr geht. Toni hat leider keine Zeit um 15 : 00, aber ich könnte dir einen Slot um 16 : 00 oder 17 : 30 anbieten. Moment, welche Zeitzone ist das? Ich bin in CET.

Slide 13

Slide 13 text

ines.io/blog/window-knocking-machine-test Hallo, ich bin Tonis virtueller Assistent und helfe bei der Terminbuchung. Hast du Montag um 13 : 00 Zeit? Nein, aber Dienstag würde passen. Okay, bitte bestätige: Dienstag um 13 : 00? 13 Uhr ist schlecht, aber 15 Uhr geht. Toni hat leider keine Zeit um 15 : 00, aber ich könnte dir einen Slot um 16 : 00 oder 17 : 30 anbieten. Moment, welche Zeitzone ist das? Ich bin in CET. Calendly

Slide 14

Slide 14 text

ines.io/blog/window-knocking-machine-test Hallo, ich bin Tonis virtueller Assistent und helfe bei der Terminbuchung. Hast du Montag um 13 : 00 Zeit? Nein, aber Dienstag würde passen. Okay, bitte bestätige: Dienstag um 13 : 00? 13 Uhr ist schlecht, aber 15 Uhr geht. Toni hat leider keine Zeit um 15 : 00, aber ich könnte dir einen Slot um 16 : 00 oder 17 : 30 anbieten. Moment, welche Zeitzone ist das? Ich bin in CET. Calendly “Fensterklopfmaschine” “Wecker”

Slide 15

Slide 15 text

2024 Jahr Services Kategorie ACME Inc. FooBar GmbH NLPCorp XKCD Ltd. Python AG 432.032 82.000 1.500 193.000 91.320 2.625.032 € Kunden (28) Umsatz Was ist der Gesamtumsatz für Services in 2024? 2.923.531 € Wie viele Kunden sind das insgesamt? 29 ⏺ ⏺ ⏺

Slide 16

Slide 16 text

2024 Jahr Services Kategorie ACME Inc. FooBar GmbH NLPCorp XKCD Ltd. Python AG 432.032 82.000 1.500 193.000 91.320 2.625.032 € Kunden (28) Umsatz Was ist der Gesamtumsatz für Services in 2024? 2.923.531 € Wie viele Kunden sind das insgesamt? 29 ⏺ ⏺ ⏺ Retrieval Augmented Generation (RAG) 🔮 Modell 📚 Datenbank 🤖 Agents ⚙ Abfrage

Slide 17

Slide 17 text

2024 Jahr Services Kategorie ACME Inc. FooBar GmbH NLPCorp XKCD Ltd. Python AG 432.032 82.000 1.500 193.000 91.320 2.625.032 € Kunden (28) Umsatz Was ist der Gesamtumsatz für Services in 2024? 2.923.531 € Wie viele Kunden sind das insgesamt? 29 ⏺ ⏺ ⏺ KI braucht nach wie vor Produktentscheidungen! Retrieval Augmented Generation (RAG) 🔮 Modell 📚 Datenbank 🤖 Agents ⚙ Abfrage

Slide 18

Slide 18 text

DECKE BODEN explosion.ai/blog/history-web-future-ai

Slide 19

Slide 19 text

🛍 lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz DECKE BODEN explosion.ai/blog/history-web-future-ai

Slide 20

Slide 20 text

🤖 To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum 🛍 lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz DECKE BODEN explosion.ai/blog/history-web-future-ai

Slide 21

Slide 21 text

📺 Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer 🤖 To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum 🛍 lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz DECKE BODEN explosion.ai/blog/history-web-future-ai

Slide 22

Slide 22 text

📺 Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer 💰 Hotelbuchungsplattform verbessert Empfehlungssystem +0.5% Click-Through-Rate, +1 Mio. € Umsatz 🤖 To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum 🛍 lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz DECKE BODEN explosion.ai/blog/history-web-future-ai

Slide 23

Slide 23 text

📺 Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer 💰 Hotelbuchungsplattform verbessert Empfehlungssystem +0.5% Click-Through-Rate, +1 Mio. € Umsatz 🤖 To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum 🛍 lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz DECKE BODEN hohe Verbreitung explosion.ai/blog/history-web-future-ai

Slide 24

Slide 24 text

📺 Streaming-Anbieter macht Web-Player 1ms schneller +3% Zeit in der App pro Nutzer 💰 Hotelbuchungsplattform verbessert Empfehlungssystem +0.5% Click-Through-Rate, +1 Mio. € Umsatz 🤖 To-Do-Listen-App fügt automatische Übersetzung mit Hilfe von API hinzu +5% internationales Nutzerwachstum 🛍 lokales Geschäft richtet eigenständig Webseite ein +10% Kunden und Umsatz hoher Wert DECKE BODEN hohe Verbreitung explosion.ai/blog/history-web-future-ai

Slide 25

Slide 25 text

PEN SOURCE Warum eigentlich?

Slide 26

Slide 26 text

PEN SOURCE Warum eigentlich? transparent

Slide 27

Slide 27 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In

Slide 28

Slide 28 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In erweiterbar

Slide 29

Slide 29 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In erweiterbar läuft intern

Slide 30

Slide 30 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In erweiterbar läuft intern einfacher Start

Slide 31

Slide 31 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In erweiterbar Community- geprüft läuft intern einfacher Start

Slide 32

Slide 32 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In programmierbar erweiterbar Community- geprüft läuft intern einfacher Start

Slide 33

Slide 33 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In stets aktuell programmierbar erweiterbar Community- geprüft läuft intern einfacher Start

Slide 34

Slide 34 text

PEN SOURCE Warum eigentlich? transparent kein Lock-In stets aktuell programmierbar erweiterbar Community- geprüft läuft intern einfacher Start und gratis!

Slide 35

Slide 35 text

OPEN-SOURCE MODELLE

Slide 36

Slide 36 text

OPEN-SOURCE MODELLE aufgabenspezi fi sche Modelle

Slide 37

Slide 37 text

OPEN-SOURCE MODELLE aufgabenspezi fi sche Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning

Slide 38

Slide 38 text

OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezi fi sche Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning

Slide 39

Slide 39 text

OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezi fi sche Modelle klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning relativ klein und schnell, erschwinglich zu hosten, generalisieren gut, benötigen Daten zum Finetuning

Slide 40

Slide 40 text

OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezi fi sche Modelle große generative Modelle Falcon MIXTRAL klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning relativ klein und schnell, erschwinglich zu hosten, generalisieren gut, benötigen Daten zum Finetuning

Slide 41

Slide 41 text

OPEN-SOURCE MODELLE Encoder-Modelle ELECTRA T5 aufgabenspezi fi sche Modelle große generative Modelle Falcon MIXTRAL klein, meist schnell, günstig zu hosten, generalisieren nicht immer gut, benötigen Daten zum Finetuning relativ klein und schnell, erschwinglich zu hosten, generalisieren gut, benötigen Daten zum Finetuning sehr groß, meist langsamer, teuer zu hosten, generalisieren sehr gut, benötigen keine oder kaum spezifische Daten

Slide 42

Slide 42 text

ECONOMIES OF SCALE Produktion Kosten Größenvorteile spacy.fyi/ai-revolution

Slide 43

Slide 43 text

ECONOMIES OF SCALE Produktion Kosten OpenAI Google Größenvorteile spacy.fyi/ai-revolution

Slide 44

Slide 44 text

ECONOMIES OF SCALE Produktion Kosten OpenAI Google Zugang zu Fachkräften, Rechenleistung etc. Größenvorteile spacy.fyi/ai-revolution

Slide 45

Slide 45 text

ECONOMIES OF SCALE Produktion Kosten OpenAI Google Zugang zu Fachkräften, Rechenleistung etc. Batch-Verarbeitung von API-Anfragen Größenvorteile spacy.fyi/ai-revolution

Slide 46

Slide 46 text

ECONOMIES OF SCALE Produktion Kosten OpenAI Google Zugang zu Fachkräften, Rechenleistung etc. Batch-Verarbeitung von API-Anfragen Größenvorteile spacy.fyi/ai-revolution hoher Tra ff ic niedriger Tra ff ic Batch …

Slide 47

Slide 47 text

ECONOMIES OF SCALE Produktion Kosten OpenAI Google du Zugang zu Fachkräften, Rechenleistung etc. Batch-Verarbeitung von API-Anfragen Größenvorteile spacy.fyi/ai-revolution hoher Tra ff ic niedriger Tra ff ic Batch …

Slide 48

Slide 48 text

explosion.ai/blog/history-web-future-ai

Slide 49

Slide 49 text

explosion.ai/blog/history-web-future-ai statische Seiten WEB

Slide 50

Slide 50 text

dynamische Seiten explosion.ai/blog/history-web-future-ai statische Seiten WEB

Slide 51

Slide 51 text

dynamische Seiten statische Seiten explosion.ai/blog/history-web-future-ai statische Seiten WEB

Slide 52

Slide 52 text

dynamische Seiten statische Seiten explosion.ai/blog/history-web-future-ai kompiliere statische Daten im Build-Prozess statische Seiten WEB

Slide 53

Slide 53 text

eigene Modelle KI dynamische Seiten statische Seiten explosion.ai/blog/history-web-future-ai kompiliere statische Daten im Build-Prozess statische Seiten WEB

Slide 54

Slide 54 text

eigene Modelle KI dynamische Seiten statische Seiten vortrainierte Modelle explosion.ai/blog/history-web-future-ai kompiliere statische Daten im Build-Prozess statische Seiten WEB

Slide 55

Slide 55 text

eigene Modelle KI dynamische Seiten statische Seiten eigene Modelle vortrainierte Modelle explosion.ai/blog/history-web-future-ai kompiliere statische Daten im Build-Prozess statische Seiten WEB

Slide 56

Slide 56 text

eigene Modelle KI dynamische Seiten statische Seiten eigene Modelle destilliere Modelle in kleinere, schnellere und private Komponenten vortrainierte Modelle explosion.ai/blog/history-web-future-ai kompiliere statische Daten im Build-Prozess statische Seiten WEB

Slide 57

Slide 57 text

DESTILLATION “Human-in-the-loop” LLM explosion.ai/blog/human-in-the-loop-distillation

Slide 58

Slide 58 text

DESTILLATION “Human-in-the-loop” Evaluation Baseline LLM explosion.ai/blog/human-in-the-loop-distillation

Slide 59

Slide 59 text

DESTILLATION “Human-in-the-loop” Evaluation Baseline LLM Prompting explosion.ai/blog/human-in-the-loop-distillation

Slide 60

Slide 60 text

DESTILLATION “Human-in-the-loop” Evaluation Baseline LLM Prompting explosion.ai/blog/human-in-the-loop-distillation

Slide 61

Slide 61 text

DESTILLATION “Human-in-the-loop” Evaluation Baseline LLM Prompting Transfer Learning explosion.ai/blog/human-in-the-loop-distillation

Slide 62

Slide 62 text

DESTILLATION “Human-in-the-loop” Evaluation Baseline LLM Prompting Transfer Learning destilliertes Modell explosion.ai/blog/human-in-the-loop-distillation

Slide 63

Slide 63 text

DESTILLATION “Human-in-the-loop” Evaluation Baseline LLM Prompting Transfer Learning destilliertes Modell explosion.ai/blog/human-in-the-loop-distillation 🚀 Produktion

Slide 64

Slide 64 text

CASE STUDY explosion.ai/blog/sp-global-commodities 6mb Dateigröße 16.000+ Wörter/Sek. 99% F-Score S&P Global

Slide 65

Slide 65 text

Extraktion von strukturierten Attributen aus Commodities- Trading-Insights in Echtzeit CASE STUDY explosion.ai/blog/sp-global-commodities 6mb Dateigröße 16.000+ Wörter/Sek. 99% F-Score S&P Global

Slide 66

Slide 66 text

Extraktion von strukturierten Attributen aus Commodities- Trading-Insights in Echtzeit Hochsicherheitsumgebung CASE STUDY explosion.ai/blog/sp-global-commodities 6mb Dateigröße 16.000+ Wörter/Sek. 99% F-Score S&P Global

Slide 67

Slide 67 text

Extraktion von strukturierten Attributen aus Commodities- Trading-Insights in Echtzeit Hochsicherheitsumgebung Lösung nutzt LLMs für Annotation CASE STUDY explosion.ai/blog/sp-global-commodities 6mb Dateigröße 16.000+ Wörter/Sek. 99% F-Score S&P Global

Slide 68

Slide 68 text

Extraktion von strukturierten Attributen aus Commodities- Trading-Insights in Echtzeit Hochsicherheitsumgebung Lösung nutzt LLMs für Annotation 10× schnellere Datenentwicklung mit Hilfe von Menschen und Modell CASE STUDY explosion.ai/blog/sp-global-commodities 6mb Dateigröße 16.000+ Wörter/Sek. 99% F-Score S&P Global

Slide 69

Slide 69 text

Extraktion von strukturierten Attributen aus Commodities- Trading-Insights in Echtzeit Hochsicherheitsumgebung Lösung nutzt LLMs für Annotation 10× schnellere Datenentwicklung mit Hilfe von Menschen und Modell CASE STUDY explosion.ai/blog/sp-global-commodities 6mb Dateigröße 16.000+ Wörter/Sek. 99% F-Score S&P Global

Slide 70

Slide 70 text

AUFGABENSPEZIFISCHE MODELLE Destillierte

Slide 71

Slide 71 text

AUFGABENSPEZIFISCHE MODELLE modular Destillierte

Slide 72

Slide 72 text

AUFGABENSPEZIFISCHE MODELLE modular kein Lock-In Destillierte

Slide 73

Slide 73 text

AUFGABENSPEZIFISCHE MODELLE modular testbar kein Lock-In Destillierte

Slide 74

Slide 74 text

AUFGABENSPEZIFISCHE MODELLE modular testbar kein Lock-In erweiterbar Destillierte

Slide 75

Slide 75 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel kein Lock-In erweiterbar Destillierte

Slide 76

Slide 76 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel kein Lock-In erweiterbar programmierbar Destillierte

Slide 77

Slide 77 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel kein Lock-In günstig zu hosten erweiterbar programmierbar Destillierte

Slide 78

Slide 78 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar Destillierte

Slide 79

Slide 79 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel berechenbar kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar Destillierte

Slide 80

Slide 80 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel berechenbar transparent kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar Destillierte

Slide 81

Slide 81 text

AUFGABENSPEZIFISCHE MODELLE modular testbar flexibel berechenbar transparent kein Lock-In günstig zu hosten erweiterbar laufen intern programmierbar Destillierte

Slide 82

Slide 82 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL

Slide 83

Slide 83 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL

Slide 84

Slide 84 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie UI / UX Marketing Anpassungen KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL

Slide 85

Slide 85 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie austauschbare Komponenten basierend auf Forschung mit quantifizierbaren Auswirkungen UI / UX Marketing Anpassungen KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL

Slide 86

Slide 86 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie austauschbare Komponenten basierend auf Forschung mit quantifizierbaren Auswirkungen UI / UX Marketing Anpassungen Schnelligkeit Genauigkeit Latenz Kosten KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL

Slide 87

Slide 87 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie austauschbare Komponenten basierend auf Forschung mit quantifizierbaren Auswirkungen UI / UX Marketing Anpassungen Schnelligkeit Genauigkeit Latenz Kosten Aber was ist mit den Daten? KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL

Slide 88

Slide 88 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie austauschbare Komponenten basierend auf Forschung mit quantifizierbaren Auswirkungen UI / UX Marketing Anpassungen Schnelligkeit Genauigkeit Latenz Kosten Aber was ist mit den Daten? KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL Nutzerdaten sind ein Vorteil für Produkte, nicht für die Grundlage von Maschinen- orientierten Aufgaben.

Slide 89

Slide 89 text

Menschen-orientierte Systeme ChatGPT Maschinen-orientierte Modelle GPT-4 die wichtigste Di ff erenzierung liegt im Produkt, nicht nur in der Technologie austauschbare Komponenten basierend auf Forschung mit quantifizierbaren Auswirkungen UI / UX Marketing Anpassungen Schnelligkeit Genauigkeit Latenz Kosten Aber was ist mit den Daten? KI-PRODUKTE SIND MEHR ALS NUR EIN MODELL Nutzerdaten sind ein Vorteil für Produkte, nicht für die Grundlage von Maschinen- orientierten Aufgaben. Man braucht keine spezifischen Daten, um allgemeines Wissen zu erlangen.

Slide 90

Slide 90 text

Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen! 1

Slide 91

Slide 91 text

Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. 2 Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen! 1

Slide 92

Slide 92 text

Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. 2 Sei wachsam. Regulierung muss Produkte und Handlungen in den Mittelpunkt stellen, nicht Softwarekomponenten. 3 Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen! 1

Slide 93

Slide 93 text

Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. 2 Sei wachsam. Regulierung muss Produkte und Handlungen in den Mittelpunkt stellen, nicht Softwarekomponenten. 3 Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen! 1 Bleib ehrgeizig. Es gibt keinen Grund für Kompromisse bei Best Practices, E izienz und Privatsphäre. 4

Slide 94

Slide 94 text

Entwickle selbst. Der Entwicklungsprozess gibt uns die Kontrolle zurück. 2 Sei wachsam. Regulierung muss Produkte und Handlungen in den Mittelpunkt stellen, nicht Softwarekomponenten. 3 Denke weiter. KI kann mehr als nur Chatbots. Vorsicht vor Fensterklopfmaschinen! 1 Bleib ehrgeizig. Es gibt keinen Grund für Kompromisse bei Best Practices, E izienz und Privatsphäre. 4 The AI revolution will not be monopolized!

Slide 95

Slide 95 text

Explosion spaCy Prodigy Bluesky Mastodon explosion.ai spacy.io prodigy.ai @inesmontani.bsky.social @[email protected] DANKE! LinkedIn