BiPRO-Tag 2026: KI zieht aus der Cloud aus – und bei uns ein: Local AI in der Praxis

Nach dem großen Generative-AI-Hype folgt nun der nächste Schritt: KI wird lokal. Zunehmend zeigt sich, dass Cloud-basierte und geschlossene Modelle nicht in allen Szenarien die beste Lösung sind – sei es im Hinblick auf Datenschutz, Integration, Geschwindigkeit oder Kosten.
Doch was bedeutet es, wenn KI-Modelle direkt in unseren eigenen Umgebungen laufen – effizient, sicher und unter voller Kontrolle? Christian Weyer zeigt, wie Local AI in der Praxis funktioniert und warum jetzt vielleicht genau der richtige Zeitpunkt dafür ist, sich damit zu beschäftigen.
Er erläutert, welche technologischen Entwicklungen diesen Wandel ermöglichen und demonstriert anhand von ausgewählten Usecases und Live-Beispielen, was heute geht, um KI sinnvoll, transparent und souverän einzusetzen.

Transcript

13. embeddings.search(query) tools=[sql_query, calc] plan → step → step → answer prompts/intent.md scenarios/lisacloud.json sql_builder.py · regex
14. # Echte Komponenten — die deterministischen 35 % intent_classifier_logreg.LogRegIntentClassifier # Embed + LogReg, ~10 ms total query_decomposer.MULTI_STEP_PATTERNS # 16 Regex — ein Schritt oder zwei? query_decomposer.decompose # JSON-Parse-Fallback (Zeile 130) intent_classifier.looks_like_injection # 30 Regex — Prompt-Injection-Schutz sqlite3.execute # 1 ms — kein Modell schlägt stdlib
15. Δ
19. ✓
22. scripts/benchmark.py