Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Digitale Souveränität 
im Zeitalter von ChatGPT

Digitale Souveränität 
im Zeitalter von ChatGPT

Die Frage, ob man KI im Unternehmen einsetzen sollte, ist längst überholt. Viel entscheidender ist heute: Wie können kleine und mittlere Unternehmen KI verantwortungsvoll, effizient und vor allem souverän nutzen, ohne dabei sensible Unternehmensdaten aus der Hand zu geben?

Denn so hilfreich Dienste wie ChatGPT auch sein mögen – sie bringen erhebliche Risiken mit sich: Vertrauliche Informationen wandern oft unbemerkt auf US-Server, selbst wenn sie nicht zur Modellverbesserung verwendet werden. Große Konzerne bauen deshalb längst eigene, abgeschottete KI-Infrastrukturen auf. Aber auf welche Lösung können KMUs zurückgreifen?

Auf Basis von Open-Source-Technologien und EU (Deutschland-)Hosting hat Open Elements eine souveräne, lokal betreibbare KI-Plattform entwickelt. Diese Lösung bietet vollen Funktionsumfang ohne dass unkalkulierbare Lizenzkosten entstehen. Dabei werden bekannte Modelle von Meta und Google genutzt. Ihre Daten bleiben dabei immer geschützt und verlassen nie die Unternehmen. Dieser Vortrag zeigt praxisnah, wie sich KI-Lösungen auch in KMUs datenschutzkonform und kosteneffizient betreiben lassen.

Ein Vortrag für alle, die bei KI nicht auf Kontrolle, Datenschutz und Zukunftsfähigkeit verzichten wollen und echte Alternativen zu „Blackbox“-Clouds suchen.

Avatar for Hendrik Ebbers

Hendrik Ebbers

September 07, 2025
Tweet

More Decks by Hendrik Ebbers

Other Decks in Technology

Transcript

  1. Java Champions Follow us on LinkedIn | http://bit.ly/47hxCCT Hendrik Ebbers

    •Eclipse Foundation Board •Linux Foundation TAC •CEO of Open Elements
  2. Follow us on LinkedIn | http://bit.ly/47hxCCT About •Focus auf Open

    Source & Digitale Soveränität •Weiterentwicklung und Support von (kritischer) Open Source Software (OSS) •P fl ege von kritischer OSS durch Gelder des Wirtschaftsministeriums
  3. Follow us on LinkedIn | http://bit.ly/47hxCCT About •Weiterentwicklung & kommerzieller

    Support von Apache Maven (ca. 2 Milliarden Downloads / Jahr) •Mitarbeit & kommerzieller Support von Eclipse Adoptium (ca. 20 Millionen Downloads / Monat)
  4. Follow us on LinkedIn | http://bit.ly/47hxCCT Was ist künstliche Intelligenz?

    •„Schlaue“ Computer Programme Künstliche Intelligenz
  5. Follow us on LinkedIn | http://bit.ly/47hxCCT Was ist künstliche Intelligenz?

    •„Schlaue“ Computer Programme •Selbstständig lernende Programme Künstliche Intelligenz Maschinelles Lernen
  6. Follow us on LinkedIn | http://bit.ly/47hxCCT Was ist künstliche Intelligenz?

    •„Schlaue“ Computer Programme •Selbstständig lernende Programme •Künstliche Neuronale Netze Künstliche Intelligenz Maschinelles Lernen Deep Learning
  7. Follow us on LinkedIn | http://bit.ly/47hxCCT Deep Learning •Recheneinheiten (Neuronen)

    de fi nieren einfache mathematische Operationen •Zusammen können solche Recheneinheiten eine komplexe Funktion abbilden
  8. Follow us on LinkedIn | http://bit.ly/47hxCCT Deep Learning •Recheneinheiten (Neuronen)

    de fi nieren einfache mathematische Operationen •Zusammen können solche Recheneinheiten eine komplexe Funktion abbilden •Datensatz besteht aus Eingabedaten x und zugehörigen Ausgaben y x y
  9. Follow us on LinkedIn | http://bit.ly/47hxCCT KI Modelle (Wie ich

    sie 2020 vor der Veröffentlichung von ChatGPT vorgestellt habe)
  10. Follow us on LinkedIn | http://bit.ly/47hxCCT KI Modelle (Wie ich

    sie 2020 vor der Veröffentlichung von ChatGPT vorgestellt habe) Ausschnitt aus Vorheriger Folie GPT-3 175 Milliarden Parameter
  11. Follow us on LinkedIn | http://bit.ly/47hxCCT Das Problem mit AI

    •AI wird vor allem als Chat genutzt •Wird als Ersatz für Google verwendet •Nutzung geht deutlich über Google hinaus •Daher "erzählt" man der AI auch mehr
  12. Follow us on LinkedIn | http://bit.ly/47hxCCT Technik von AI Benutzer:in

    AI Model US Konzern Wir speichern und benutzen sehr gerne alle deine Anfragen um unsere Produkte noch besser zu machen
  13. Follow us on LinkedIn | http://bit.ly/47hxCCT Technik von AI Benutzer:in

    AI Model US Konzern Keine Angst, eure Daten sind bei uns gut aufgehoben. Eure hochgeladenen Bilanzen werden unser nächstes Model noch besser machen! EU hat zu strenge Regeln. Ihr müsst leider draußen bleiben, sorry
  14. Follow us on LinkedIn | http://bit.ly/47hxCCT Souveräne AI •Wir "erzählen"

    der AI so viel, vielleicht ist es besser, wenn diese A) direkt InHouse betrieben wird B) auf einem in Deutschland betriebenen Server läuft C) innerhalb der EU betrieben wird
  15. Follow us on LinkedIn | http://bit.ly/47hxCCT AI Modelle selber betreiben?

    •Enterprise-fähige Lösungen zum Betrieb von Modellen sind vorhanden •Open Source Standards sind vorhanden und werden immer beliebter •AI Modelle lassen sich immer einfacher auf eigener Hardware betreiben
  16. Follow us on LinkedIn | http://bit.ly/47hxCCT AI Modelle selber betreiben!

    •Open Source Standards werden von allen großen Herstellern unterstützt •Goggle, Facebook, Microsoft, ... •Seit 5 August 2025 bietet OpenAI auch GPT als OSS Modell an •Viele Modelle gibt es in unterschiedlichen Größen je nach Hardware und Usecase
  17. Follow us on LinkedIn | http://bit.ly/47hxCCT AI Modelle selber betreiben!

    •Zur Anbindung von Modellen gibt es OSS Standards •Chat Ober fl ächen analog zu ChatGPT vorhanden •Einfache Anbindung in Produkte und Individualsoftware dank standardisierter und offener Schnittstellen
  18. Follow us on LinkedIn | http://bit.ly/47hxCCT In EU gehostete AI

    Modelle •Dank standardisierter und offener Schnittstellen leicht integrierbar •Nutzung in Chat Anwendung genau so möglich wie in Indivudalsoftware •Verschiedene DSGVO komforme Anbieter vorhanden
  19. Follow us on LinkedIn | http://bit.ly/47hxCCT Eigene Wissensquelle anbinden •Durch

    lokalen Betrieb kein Risiko beim Zugriff auf eigene Dokumente •Offener Schnittstellen zum Zugriff auf eigene Wissenquellen vorhanden •Durch Retrieval-Augmented Generation (RAG) können beliebige Quellen angebunden werden
  20. Follow us on LinkedIn | http://bit.ly/47hxCCT Unsere Lösung •Wir haben

    eine offene, auf Standards und OSS basierte Lösung für Open Elements aufgebaut •Lösung basiert auf einer auf OSS basierten Cloud und DSGVO komformen Software- as-a-Service (SaaS) Lösungen
  21. Follow us on LinkedIn | http://bit.ly/47hxCCT Unsere Lösung •AI Modelle

    liegen auf Server bei Hetzner oder werden von Dienstleistern in Deutschland betrieben •Je nach Use-Case können wir auf verschiedene Modelle zugreifen
  22. Follow us on LinkedIn | http://bit.ly/47hxCCT Unsere Lösung •Wir integrieren

    die Modelle in mehr und mehr Services (Programmierung, Übersetzung, Zusammenfassungen erstellen, ...) •Moderne Chat-Ober fl äche mit individuellen User Accounts vorhanden
  23. Follow us on LinkedIn | http://bit.ly/47hxCCT Unsere Lösung •Kosten des

    Hostings bzw. der SaaS Modelle sind transparent •Es wird nur das bezahlt was wirklich genutzt wird
  24. Follow us on LinkedIn | http://bit.ly/47hxCCT Unser Angebot •Wir glauben

    an die Vorteile von offenem Wissen •Wir teilen unsere Erfahrungen und Lösungen gerne mit allen •Wir helfen anderen eine souveräne Lösung aufzubauen
  25. Follow us on LinkedIn | http://bit.ly/47hxCCT Wir helfen euch eine

    sichere AI Lösung aufzubauen Wir helfen für euch die richtigen Tools zu wählen und einen Vendor-Login zu vermeiden Wir helfen die Lösung in vorhande Umgebungen zu integrieren
  26. BVMW Fachkreis •Verschiedene Dortmunder arbeiten zusammen zur Förderung von digitaler

    Souveränität •Wir haben ein volles Programm am Freitag auf der DiWoDo